Центр ИИ МГУ планирует устранять галлюцинации больших языковых моделей

Боков объяснил, что галлюцинации ИИ – это искажение информации, которую предоставляет нейронная сеть. Он уточнил, что это могут быть изображения несуществующих объектов или информация, которая может ввести пользователей в заблуждение и косвенно воздействовать на психику человека.

"Один из ключевых проектов нашего центра направлен на устранение недостатков больших языковых моделей. Все мы пользуемся "Госуслугами", пользуемся банковскими помощниками, но так или иначе мы не можем в полной мере доверять этим инструментам, потому что все-таки это те программы, суть черных ящиков которых мы не до конца понимаем. <...>. Устранение таких заведомо плохих особенностей больших языковых моделей – это ключевая востребованная задача на сегодняшний день", – сказал Григорий Боков.

Как отметил Боков, проект по устранению галлюцинаций больших языковых моделей будет реализовываться с помощью гранта, полученного центром в результате победы в третьей волне конкурса правительства России.

Ранее глава Минцифры Максут Шадаев заявил, что российские сервисы на основе искусственного интеллекта, разрабатываемые "Яндексом" и Сбером, по качеству сопоставимы с ChatGPT.