NTT DATA: ИИ-чат для сотрудников, по их оценке около 30 минут экономии в неделю

После появления ChatGPT в NTT DATA ждали от генеративного ИИ практической помощи каждому сотруднику в повседневной работе: подготовке отчётов, ответах на письма, поиске информации. Отдельной задачей компания называет поиск по разрозненным внутренним материалам — регламентам и руководствам, размещённым на нескольких корпоративных сайтах. По словам NTT DATA, сотрудники тратят много времени на выяснение того, где искать ответ и к кому обратиться. Компания поставила цель внедрить генеративный ИИ во всей организации и в перспективе применять его на всех этапах работы: при получении информации, её обработке и подготовке результата.

NTT DATA развернула два собственных сервиса. Первый — универсальный чат на генеративном ИИ, построенный на приложениях с открытым кодом и сервисах Microsoft Azure; в нём есть шаблоны промптов, которые сотрудники сохраняют сами или получают от разработчиков для типовых офисных задач. Второй — поиск по внутренней базе знаний на архитектуре RAG: модель отвечает на вопросы на естественном языке, опираясь на собранные внутренние документы. Сбор данных выполняет собственный краулер NTT DATA LITRON Generative Assistant: он учитывает расположение данных в таблицах, изображения и содержимое документов по ссылкам, сам находит изменения и обновляет данные ежедневно. Параллельно компания использует Copilot и Copilot for Microsoft 365.

Чат-сервис проектировали с расчётом на всех 12 000 сотрудников NTT DATA без дочерних компаний. Пилотное использование началось в июле 2023 года, во всей компании сервис запущен в октябре 2023 года; команда отслеживает число пользователей и частоту обращений и по этим данным дорабатывает функции. Поиск по базе знаний работает в пилоте с февраля 2024 года и с апреля открыт для всех 12 000 сотрудников. Через четыре месяца после запуска чата компания опросила пользователей: в среднем они обращаются к сервису около раза в неделю и оценивают экономию времени примерно в 30 минут в неделю, более 9 из 10 хотят продолжать работу с ним. Компания планирует опробовать модель tsuzumi, разработанную NTT.