Взгляд Максима Кононенко Автомобили с автопилотом – там, где нет людей

Реплика Максима Кононенко на “Вестях FM”.

Пока инженеры и маркетологи продолжают радовать нас очередными достижениями в создании автономных транспортных средств, а также доказательствами их безусловной выгоды и безопасности, философы и футурологи задумываются над вопросами, которые, в общем случае, инженерно решить невозможно. И один из главных подобных вопросов: как научить компьютер, управляющий автопилотом, сделать правильный выбор в ситуации, когда оба выбираемых варианта плохие. Давить пешехода на дороге или уходить с дороги, убивая тех, кто в машине? И то и другое решение противоречит первому из законов робототехники, который гласит, что робот не может причинить вреда человеку. Но выбрать-то надо.

И вот один из главных в мире научных журналов Nature публикует результаты работы одного из главных в мире научных центров — Массачусетского технологического института. Два года исследований, миллионы респондентов в 233 странах. Обработаны 40 миллионов ответов. Ради кого жертвовать собой и пассажирами? И кем можно пожертвовать ради себя? Чтобы научить робота, надо хотя бы понять, как поступил бы в такой ситуации человек.

Крайние позиции, в общем, понятны: практически все готовы пожертвовать собой, только бы не наезжать на детскую коляску. Но никто не согласен жертвовать собой ради кошки. А вот внутри этого широкого спектра уже интереснее. Девочку, например, жальче, чем мальчика. Но вот доктора-мужчину жальче, чем доктора-женщину. Зато женщина атлет или женщина госслужащий имеют преимущество перед мужчинами тех же занятий. Не знаю, как определяется на дороге женщина-госслужащий, но пространство для феминистических интерпретаций богатое. С бодипозитивизмом, правда, не очень. Полных людей согласны давить без разбора. Им уступают разве что старики. Но, что интересно, полную женщину жальче, чем полного мужчину. А вот старушку, наоборот — менее жалко, чем старика.

Многое зависит и от региона. В Азии традиционно ценят людей старшего возраста. В то время как в Латинской Америке готовы давить стариков ради молодых. Но вообще у пешехода больше шансов, чем у водителей. Особенно у тех, кто переходит дорогу на зеленый, нежели на красный. Впрочем, в бедных странах особенной разницы в отношении к нарушителям нет. И еще множество, множество разных нюансов.

Понимаете? Да мы сами не знаем, как будем вести себя в той или иной ситуации. Потому что количество факторов, которые надо учесть в момент выбора, не определено однозначно. Как и не формализуемо такое понятие, как интуиция.

И чем больше мы видим исследований, тем ближе мы к окончательному принятию неизбежного: да, автомобили с автопилотом возможны. Но только в том случае, если на дороге будут только одни автомобили с автопилотами. И совершенно не будет людей.