Нейросеть YandexGPT научилась поддерживать контекст беседы

YandexGPT (YaLM 2.0) теперь запоминает реплики и отвечает на уточняющие вопросы. Это позволяет общаться с ней, как с человеком, который следит за нитью разговора. Нейросеть нового поколения работает в режиме Алисы «Давай придумаем». Она поддерживает беседу длиной до тысячи слов. 

Благодаря поддержке контекста общаться с Алисой стало удобнее: можно уточнить свой запрос, не повторяя его целиком. По просьбе пользователя Алиса может дать совет, выступить в роли делового партнера или соавтора. Например, с ней можно обсудить бизнес-план, сравнить все «за» и «против» покупки машины или подготовиться к собеседованию. Она будет вместе с вами придумывать слоганы, идеи для стартапов и десятки вариантов постов для разных аудиторий.

Поддержка контекста — это технически сложная задача. Нужно было научить нейросеть понимать, когда следует учитывать предыдущие реплики, а когда нет.  Для этого ее дообучили на эталонных примерах  обезличенных диалогов. Менее чем за три недели пользователи задали Алисе десятки тысяч вопросов, требующих контекстного ответа, а AI-тренеры научили модель давать на такие запросы максимально релевантный ответ. Также команда Яндекса использовала диалоги из опенсорсного датасета Open Assistant. 

Новым режимом «Давай придумаем» уже воспользовались два миллиона человек. Сначала он был доступен в Яндекс Браузере, приложении Яндекс, Станциях и телевизорах с Алисой, а затем появился на главной странице Яндекса (ya.ru). К запуску поддержки контекста чат с Алисой на ya.ru стал еще удобнее: теперь в нем можно видеть историю переписки.  

YandexGPT была запущена 17 мая 2023 года. Яндекс первым в мире внедрил большую языковую модель нового поколения в виртуального помощника. Нейросеть обучали на суперкомпьютерах Яндекса, самых мощных в России и Восточной Европе. Подробнее о том, как её создавали, команда Яндекса рассказала на Хабре.

Примеры диалогов можно найти здесь.