Хай-тек Машины будут судить людей

Рубрика Николая Гринько на "Вестях ФМ".

Американский стартап DoNotPay ("Не плати") разработал первый в мире чат-бот с искусственным интеллектом, способный защищать интересы обвиняемых в реальном суде. В основе бота лежит нейросеть, обученная на миллионах судебных дел и юридических данных. Алгоритм взаимодействия с программой достаточно прост. Ответчик прямо в зале суда должен надеть наушники и запустить на своем смартфоне голосовой чат, собеседником в котором будет искусственный интеллект. Нейросеть будет следить за ходом слушания дела, выделяя из окружающих звуков голоса судьи и обвинителей. Когда ответчику будет предоставлено слово, ИИ будет подсказывать человеку, что тому следует говорить. Пользователю остается всего лишь повторять слова, звучащие в его наушниках. На сегодняшнем уровне развития чат-бот способен участвовать только в делах о штрафах за превышение скорости за рулем, и скоро состоится первое такое заседание. Но зато разработчики настолько уверены в собственном детище, что обещают полностью выплатить назначенный судом штраф, если нейросеть все-таки проиграет дело.

Коллектив редакции нашей программы знает, что в подавляющем большинстве судов во время заседаний запрещено использовать наушники, смартфоны и вообще какие-либо средства связи. Однако представители компании сообщают, что нашли как минимум один город, в котором наушники в зале заседаний не то чтобы разрешены, но, по крайней мере, "не категорически запрещены". Причем штрафами за нарушения правил дорожного движения DoNotPay ограничиваться не планирует. Генеральный директор компании официально пообещал миллион долларов любому адвокату, который согласится использовать чат-бот в Верховном суде, в точности повторяя то, что ему будет подсказывать нейросеть. Риск, несомненно, оправдан: если искусственный интеллект действительно сможет выиграть серьезное дело, то лучшей рекламы для стартапа придумать будет просто невозможно.

Если же ненадолго отрешиться от юридических тонкостей, то можно предположить, что рано или поздно нейросети действительно смогут защищать людей в судах. Но стоит помнить и об обратной стороне медали: в таком случае ничто не помешает нейросетям стать и обвинителями, а со временем – и судьями. Мир, в котором машины судят людей и выносят им приговоры, описан не в одной антиутопии, и ничего хорошего в этой ситуации, скорее всего, нет. Будем надеяться, что до этого не дойдет. Хотя…