Авторские материалы Чем опасны мертвоботы

В мире на волне развития возможностей искусственного интеллекта появились так называемые мертвоботы – цифровые копии ушедших из жизни людей, которые имитируют их речевые обороты и черты характера при помощи загруженной информации. Чем ее больше, тем достовернее цифровой двойник. Однако, по мнению экспертов, подобные симуляторы могут быть опасны с точки зрения психологии и использованы злоумышленниками для манипуляций с пользователями. В теме разбирался корреспондент "Вестей ФМ" Олег Яхонтов.

В последние годы на важнейший философский вопрос "есть ли жизнь после смерти", похоже, получен положительный ответ. На смену мемориальным алмазам, изготавливаемым путём синтеза из волос и праха ушедшего из жизни человека, деревьев, в ДНК которых вносятся гены покойного, пришли т.н. мертвоботы – цифровые копии умерших. Их создает ИИ на основе загруженной в него информации – переписки в соцсетях, телефонных разговоров, фотографий и других цифровых данных. В итоге происходит процесс некого воскрешения человека, поскольку с ним можно переписываться и даже разговаривать. По мнению эксперта по кибербезопасности Владимира Ульянова, технически это несложно.

УЛЬЯНОВ: Все инструменты для этого уже имеются. И вопрос о точности модели – он больше лежит в плоскости обучения и той исходной информации, которую мы можем скормить для того, чтобы сделать максимально похожим на того человека, которого мы хотим имитировать. При должном старании и стремлении, и при должном количестве ресурсов времени на обучение можно вполне такую копию сделать.

Именно так поступил американский программист Джеймс Влахос. Узнав, что у отца – рак четвёртой стадии, он стал ежедневно записывать его голос на диктофон. Во время продолжительных интервью отец рассказывал о жизни и семье, вспоминал места, где побывал, шутил и пел песни. Всего было записано около 100 тыс. слов. После того, как Влахос-старший скончался, появился его цифровой двойник в виде чат-бота, который способен вести диалог от имени отца и даже узнавать членов семьи. Во время пандемии коронавируса подобные чат-боты стали называть терапевтическими сервисами, помогающими людям пережить изоляцию и потерю близких, а детям – общаться с умершими родителями.

Однако психологи предупреждают, что, наравне с эмоциональной поддержкой и сохранением памяти о близких, мертвоботы порождают серьезные этические и психологические вопросы. Например, дети в силу своего возраста могут привыкнуть к общению с виртуальными покойными родственниками. Они не будут видеть разницы между цифровой и реальной жизнью, что в будущем создаст для них массу проблем. Взрослые могут также эмоционально привязаться к цифровому двойнику, а после отказа от использования мертвобота они фактически переживут вторую смерть близкого человека. По мнению эксперта по кибербезопасности Владимира Ульянова, главные риски от использования таких сервисов – психологические расстройства, спровоцированные нездоровой привязанностью или блокировкой мертвоботов.

УЛЬЯНОВ: Каждый человек должен для себя принимать это решение. Для кого-то это может стать палочкой-выручалочкой для того, чтобы пережить утрату, и спасением, но в целом, наверное, это не совсем правильный путь. И где-то на дальней дистанции это, наоборот, может сказаться негативным образом. Вот такая привязанность к боту, не к человеку, а уже к бездушной программе, она может быть негативной.

Помимо этих рисков, цифровые симуляторы покойных людей могут использовать злоумышленники для манипуляции пользователями и даже вполне легальные компании для скрытой рекламы со стороны ушедших из жизни медийных личностей. Поэтому компании, занимающиеся ИИ, рекомендуют разработать протоколы, которые не позволят использовать мертвоботов в неуважительных целях, например, для рекламы или активного присутствия в социальных сетях.

Пока эти сомнительные с точки зрения этики сервисы не получили распространения в России, где к теме смерти всегда относились по-особому, бережно, не принимая инноваций, а отдавая дань традициям.