10 сентября в Москве прошла первая в России конференция для ИИ-тренеров — специалистов, которые участвуют в обучении и проверке нейросетей. Организатором мероприятия стал «Яндекс».
Одной из главных тем стала роль профессиональной экспертизы в повышении качества ответов искусственного интеллекта. По данным компании, примерно каждый пятый запрос к Алисе AI сейчас требует участия специалиста с профессиональными знаниями.
В общей массе запросов чаще всего встречаются темы медицины и образования — на каждую приходится около 15%. Право и компьютерные науки занимают примерно по 10%.
ИИ-тренеры помогают моделям не просто получать новые данные, но и учиться работать со сложными вопросами. Специалисты отбирают источники для обучения, составляют эталонные ответы и объясняют, чем правильный вариант отличается от ответа, который только выглядит убедительно. Кроме того, они формулируют правила для сложных профессиональных ситуаций и проверяют модели на новых типах задач.
На конференции отмечалось, что для заметного улучшения современных нейросетей уже недостаточно просто увеличивать объем обучающих данных. Особенно востребована экспертиза в областях, где ошибка может иметь серьезные последствия: медицине, праве, финансах, инженерии, химии, бизнесе и образовании.
Еще одной темой стала так называемая «эпидемия слопа» — распространение большого количества низкокачественного контента, созданного с помощью ИИ. По мере развития моделей отличать такой текст от написанного человеком становится сложнее. При этом, как отметила филолог-лингвист и руководитель команды ИИ-тренеров «Яндекса» Карина Беридзе, у нейросетевых текстов все еще встречаются характерные штампы, клише, кальки с английского и одинаковые фрагменты, которые появляются сразу на разных сайтах.
Отдельное внимание уделили проверке самих ИИ-тренеров. Сначала оценивается профессиональная подготовка кандидата, а затем специалисты внутри команд проверяют, насколько согласованно они оценивают ответы моделей. Если эксперты приходят к разным выводам, спорные вопросы обсуждают вместе с руководителями направления и сотрудниками продукта.
При этом цель не всегда состоит в том, чтобы добиться единственного правильного ответа. Если в определенной области нет единой научной позиции, нейросеть должна уметь показывать несколько существующих точек зрения.
Сейчас с нейросетями «Яндекса» работают 2085 тренеров и экспертов. В 2026 году компания планирует направить на их привлечение около 3,5 млрд рублей — против 2 млрд рублей годом ранее и 1 млрд в 2024 году. К концу года число специалистов рассчитывают увеличить примерно до 2500.
Читайте также:
Пользователи «Яндекса» направили более 2 млрд рублей на благотворительность
NVIDIA научила гуманоидного робота двигаться по командам из VR, видео и текста