Kraken: генеративный ИИ Magic Ink помогает писать около 35% писем клиентам

Kraken — технологическая платформа, на которой работает Octopus Energy; по данным компании, через лицензиатов она обслуживает 54 млн клиентских счетов по всему миру. Сотрудникам клиентской поддержки приходится изучать историю счёта клиента и составлять подходящий ответ. Запросы разнообразны, от вопросов по счетам до технической поддержки, поэтому ответы требуют много ресурсов и могут задерживаться. Задача состояла в том, чтобы сократить нагрузку на операторов и ускорить ответы клиентам, оставив людям сложные обращения и телефонные звонки.

Magic Ink — инструмент Kraken на основе GPT-подобных моделей. Сотрудники поддержки используют его, чтобы суммировать все взаимодействия с клиентом, генерировать автоматические ответы и предлагать действия, например запросить показания счётчика. Инструмент встроен в платформу Kraken и получает непрерывный контекст об истории клиента и характеристиках продуктов. Ответы формируются в тоне пользователя. Против галлюцинаций Kraken использует систему проверки: она помечает подтверждённые факты ссылкой на источник и выделяет текст, который проверить не удалось. Операторы остаются в контуре и проверяют все тексты.

Компания описывает три барьера: галлюцинации, обучение пользователей и осторожность клиентов в юридических вопросах. Сотрудников обучают проверять каждый текст Magic Ink; примерно треть сгенерированных сообщений уходит с нулевыми или минимальными правками. Kraken тестирует инструмент на собственных командах и клиентах. По состоянию на август 2024 года около 35% клиентских писем пишется с помощью инструмента. За время работы Magic Ink суммировал 6 239 087 звонков общей длительностью 695 379 часов разговоров и создал ещё 9 415 901 сообщение.