LY Corporation: RAG-ассистент SeekAI, около 98% верных ответов в тесте

LY Corporation — японская интернет-компания. Сотрудникам приходится искать сведения в большом массиве внутренних материалов: регламенты и правила, контакты ответственных подразделений, технический стек для разработки, историю переписки с клиентами и партнёрами, протоколы встреч. Компания поставила задачу сократить время, которое уходит на такие проверки и запросы коллегам. Обычная большая языковая модель отвечает на основе собственных данных и даёт общие ответы, поэтому для внутренних вопросов нужен инструмент, опирающийся на корпоративные данные.

SeekAI — собственный инструмент LY Corporation на генеративном ИИ, построенный на технологии RAG: он извлекает из базы внутренних документов информацию, подходящую под запрос, и формирует краткий ответ на вопрос сотрудника. Источниками служат страницы внутренних рабочих пространств и корпоративные данные, которые подразделения и проектные команды регистрируют в базе. Данные приводятся к удобной для модели разбивке и формату с помощью фреймворка и процесса, разработанных в компании; профильное подразделение по генеративному ИИ помогает сотрудникам готовить и регистрировать материалы.

На этапе тестового внедрения SeekAI работал на базе технической вики и внутренних вопросов и ответов: инженерам он сократил время на поиск и выбор технического стека при написании кода. В поддержке клиентов рекламного бизнеса доля верных ответов на тесте составила около 98%. 11 июля 2024 года компания объявила о внедрении SeekAI для всех сотрудников и обновила настройки, чтобы подразделения и проекты могли подключать собственные источники. На ту же дату генеративный ИИ применялся в компании в 22 внутренних процессах и сервисах. Компания ставит цель сократить за счёт инструментов генеративного ИИ 700–800 тыс. часов работы в год.