Железная логика Страшен не искусственный разум, а человек

Цифровые технологии в России: проблемы создания искусственного интеллекта и цифровая экономика. Гость Сергея Михеева и Сергея Корнеевского в студии "Вестей ФМ" - разработчик искусственного интеллекта и систем анализа соцсетей Игорь Ашманов. 

АШМАНОВ: У этих технологий, на самом деле, сроки внедрения от 2-3-х лет до 5-10 лет, то есть, на самом деле, опоздать никуда нельзя. Мое вообще мнение такое, что мы здесь опоздать и не можем, потому что единственное, где нас беспокоит хоть какое-то так называемое опоздание – это вооруженные силы. Если у нас в смысле обороны все хорошо, наши ПВО сбивают ракеты и никто на нас  напасть не может, то внутри мы можем делать все, что захотим. Можем ходить голыми, можем не внедрять никакие цифровые технологии, то есть мы можем, по крайней мере, сесть и подумать: а надо нам их внедрять или нет. Я приведу простой пример таких дилемм, над которым надо думать. Например, вы могли слышать, вот искусственный интеллект заработает и он начнет вытеснять людей, нам придется увольнять миллионы людей. Значит, вот нам надо решить, что с ними делать, их наверно надо переориентировать либо  просто платить безусловный базовый доход и так далее.

КОРНЕЕВСКИЙ: Тут пишут: опасно, выйдет из-под контроля. Это трезвый сценарий, а есть вот такой панический.

 АШМАНОВ: Нетрезвый сценарий я даже не хочу рассматривать, потому что я про это тоже сейчас пару слов скажу. Суть в чем? Что я просто привожу пример ложной дилеммы, которую навязывают. Вот, искусственный интеллект, он делает вещи лучше, и часто лучше человека, поэтому надо уволить миллионы людей, поставить вместо них искусственный интеллект или роботов, робототехнику. Значит, вообще говоря, искусственный интеллект никого не увольняет. Увольняют кадровики по приказу владельца корпорации. И это означает, что если мы живем в мире, где допустимо людей ради экономии увольнять, то это просто проблема строя социального, а вовсе не искусственного интеллекта.

МИХЕЕВ: То есть, социальных механизмов?

АШМАНОВ: Конечно, да. Хотим ли мы полстраны превратить в трутней? Вообще говоря, я думаю, что мы не хотим. И, вообще-то, про это уже давно написана книжка Стругацких "Хищные вещи века" о том, что бывает, когда у людей есть деньги, и им абсолютно нечем заняться.  Начинаются ужасы. Вообще, это просто пример, что сначала надо сесть и подумать: а что мы хотим делать с этим искусственным интеллектом? Мы хотим вытеснять людей или нет? Например, некоторое предприятие может сэкономить 20 процентов расходов, если уволить там 10 тысяч человек. Это правильно вообще? Вообще правильно увольнять людей ради экономии 20 процентов?

КОРНЕЕВСКИЙ: По бизнес-логике правильно.

АШМАНОВ: Нужна ли нам такая бизнес-логика?

МИХЕЕВ: И что важней – бизнес-логика или люди?

АШМАНОВ: Дело не в этом, дело в том, что я говорю "мы" про нацию и государство, а вовсе не про тех, кто хочет сэкономить 20%. У бизнесменов может быть своя логика, но если бы не было ФАС и законов, ограничивающих их бизнес, они бы нас всех сожрали бы уже давно, мы это все понимаем, потому что там бизнес склонен слипаться в монополии и потом всех сжирать. То есть, бизнес все равно приходится ограничивать некой логикой, которая стоит выше, интересами нации, интересами общества. И там таких проблем довольно много.  

Полностью слушайте в аудиоверсии.