Взгляд Максима Кононенко Кто ответит за ошибки искусственного интеллекта?

Реплика Максима Кононенко на «Вестях FM».

Человечество пребывает в эйфории от перспектив использования искусственного интеллекта. Стартапы, обещающие внедрение нейронных сетей и машинного обучения в любые сферы, плодятся как грибы после дождя. Инвесторы радостно вкладывают в эти стартапы свои миллионы. Государства одно за другим принимают национальные программы по развитию соответствующих технологий. И только отдельные скептически настроенные футурологи и въедливые юристы нет-нет да и задают сакраментальный вопрос: а кто, извините, будет отвечать за всё это безобразие в том случае, если что-то пойдет как-то не так? Их, конечно, не слышит никто.

Произошедший год назад случай с беспилотным автомобилем компании Uber, сбившим велосипедистку в Аризоне, закончился ничем: полиция сказала, что робот не виноват, потому что даже если бы на его месте был человек, он все равно бы не смог среагировать на внезапно выехавшую на проезжую часть велосипедистку. Критерий, конечно, интересный. Но совершенно непонятно, как применить его к новой ситуации.

В ней, к счастью – без жертв. Полиция Нью-Йорка задержала студента по имени Усман Бах. И обвинила его в серии краж из фирменных магазинов компании Apple. Причем в ордере на арест была фотография совсем другого человека. Но система распознавания лиц в Нью-Йорке указала именно на студента. У студента оказалось железное алиби — он был на выпускной вечеринке в Нью-Йорке в то время, когда очередная кража произошла в Бостоне. Вскоре выяснилась и возможная причина конфуза: студент потерял водительские права, которые могли быть использованы вором в качестве удостоверения личности в Apple Store. Не спрашивайте меня, зачем вору предъявлять в магазине удостоверение личности. Я не знаю. Но следите за руками: искусственный интеллект нашел не того, кто предъявлял это удостоверение, а того, на кого оно выписано. Вот кто виноват в этом случае? Искусственный интеллект? Программист, реализовавший странный алгоритм? Ведь задержание полицией и обвинение в краже — серьезный моральный ущерб.

Впрочем, американский студент, не будь дурак, уже знает, кто виноват. И подал иск к компании Apple. На сумму, внимание, в 1 миллиард долларов США.

Конечно, миллиарда ему не дадут. Но вот досудебное урегулирования с выплатой какой-нибудь серьезной компенсации – вполне возможное дело.

А вот кто во всем этом виноват — всё равно не понятно.