Авторские материалы Кто в ответе за нейро-порно

Школьники "раздевают" людей с помощью искусственного интеллекта. Сгенерированные сетью порно-картинки с лицами одноклассников и даже учителей становятся поводом для буллинга. В Госдуме призывают к блокировке «обнажающих» онлайн-сервисов. Подробности – в материале Екатерины Косинец.

«Красная плёнка» – фантазия советских подростков о чудо-разработке, на которой сфотографированные люди как будто бы получались абсолютно голыми, сегодня практически становится реальностью. Правда, обнажённые тела на фото на самом деле не принадлежат тем, с чьими лицами они смонтированы. Это – фантазия нейросети. Такие картинки школьники создают в онлайн-сервисах, загружая туда фото одноклассников. А потом контент 18+ сливают в классные чаты, откуда они разлетаются по более крупным пабликам.

Реклама таких ботов утверждает, единственное, что нужно сделать – это выбрать подходящую фотографию объекта. Требования к исходнику – минимальные, а значит, подойдёт практически любое фото из соцсетей.

"Выбери кадр, на котором девушка повёрнута к камере. Обрежь, чтобы тело было в центре. Всё остальное сделает бот. Попробуй сам".

Особо предприимчивые пытаются зарабатывать на подобных дипфейках. В обмен на обещание не публиковать обнажённые фото требуют у жертвы выкуп. А некоторые даже умудряются продавать сгенерированные картинки или «сдавать в аренду».

"Она была в слезах, расстроенная, очень сильно плакала. На телефоне были фотографии – обнажённое её тело. И рядом была ещё девочка, тоже обнажённая. Я начала у неё спрашивать – что это такое? Почему эти фотографии находятся у тебя в телефоне? Это как понимать?! Она мне: "Мамочка! Я ничего этого не делала. Эти фотографии – вот, посмотри, у меня такие, я вот стою такая же в одёже. Вот дома я фотографировалась. Эти фотографии сделал путём какого-то там чат-бота раздевания людей. Путём этого чат-бота распространял фотографии. Продавал, оказывается, их по 50 – по 100 рублей. Ну даже давал "на затяжку".

Девушке пришлось долго работать с психологами, чтобы вернуться после инцидента к нормальной жизни и продолжить учёбу.

В Великобритании подобная «шалость» вынудила учителя уволиться из школы. Восьмилетняя ученица загрузила в нейросеть портреты учителей со страницы школьного сайта. На выходе получилось видео с групповой оргией, которое молниеносно распространилось среди учеников и… родителей. Администрация учебного заведения встала на защиту девочки.

Проблема ещё и в том, что отделить настоящее фото от сгенерированного искусственным интеллектом практически невозможно, как и вычислить цифровой след создателя фейка, говорит президент Консорциума "Инфорус", эксперт по кибербезопасности Андрей Масолович.

МАСОЛОВИЧ: На программном уровне это возможно, но это сложно и дорого. Слово «дипфейк» от слова «фейк» отличается тем, что дипфейк пройдёт и человеческую экспертизу, и экспертизу программную. Технически – можно, но это гораздо дороже и сложнее, чем либо просто блокировать интернет так, чтобы этого не было – те программы, те инструменты, которые позволяют эти дипфейки делать. А самый простой путь – это юридический. На планете уже были такие задачи и их решали. Если технически не решается, решается юридически.

Эксперт приводит в пример повальное увлечение фоторедакторами, когда изображения популярных артистов без их разрешения помещали на рекламные плакаты. Тогда за дело взялись адвокаты, и те, кто рассчитывал заработать на лицах звёзд, быстро поняли, что это очень дорого обходится.

Сегодняшнее законодательство действительно не делает различий между порно, снятым на камеру и сгенерированным искусственным интеллектом. Ответственность за виртуальную порнографию – вполне реальная. Только наступает она лишь для тех, кому уже исполнилось 16, говорит адвокат, член Адвокатской Палаты Москвы Василий Бурдюг.

БУРДЮГ: За распространение предусмотрена ответственность до 8 лет лишения свободы. Законодатель отдельно выделяет распространение среди несовершеннолетних и порнографические материалы, в которых участвуют несовершеннолетние – более строго наказывается, может быть до 15 лет лишения свободы.

Кроме того, пострадавшая сторона – тот, чьё лицо оказалось на порно-картинках или видео, может подать иск за возмещением морального вреда. Нет только ответственности для тех, кто создаёт такие программы, продолжает Василий Бурдюг.

БУРДЮГ: Кажется, что должны быть блокировки со стороны производителей этих нейросетей. То есть те программисты, которые вводят такую возможность, они должны нести за это ответственность, а не те, кто её использует. Потому что понятен интерес подростков и детей к этой сфере. И они могут задавать компьютеру какие-то вопросы, которые могут звучать для нейросетей провокационно, и они могут получать оттуда какие-то данные.

Круг, таким образом, замкнулся – программисты отсылают к правовым нормам, а они не успевают за стремительно развивающимся прогрессом. Юристы же апеллируют к создателям программ. А подростки – подростки продолжают исследовать запретные темы всеми доступными способами.