Авторские материалы "Булька-барабулька": как маркировать ИИ-контент?

Интернет захлестнула волна ИИ-контента – от безобидных розыгрышей до опасных фейков. В России обсуждают обязательную маркировку материалов, созданных нейросетями. Но что именно считать ИИ-контентом и как его различать, до сих пор остаётся предметом споров. Где проходит тонкая грань, пытался разобраться Александр Ельшевский.

"Он у меня хлебушек ест, булька моя барабулька".

В кадре – обычная уютная кухня и вполне типичная бабушка в вязаном жилете рассказывает о своём домашнем любимце. Всё, как у миллионов пользователей соцсетей, пока не доходишь до одного нюанса: бабушка держит в своей хрущевке… бегемота. Второй нюанс – и бабушка, и кухня, и сам бегемот целиком сгенерированы нейросетью.

Такие ролики, на первый взгляд, – достоверные, но в то же время – абсолютно нереальные, заполонили интернет после выхода в свободный доступ мощных генераторов изображений и видео. Без артефактов, с отличной картинкой, с убедительной мимикой и голосами. Генерация стала доступна каждому: сегодня для создания видеофейка не нужен штат дизайнеров – достаточно ноутбука, пары подсказок-промтов и свободного вечера.

И вот уже, с минимальными усилиями, можно смонтировать «новости» об упавшем спутнике, «обращение» политика, которого в реальности никто не записывал, или даже кадры вымышленных боевых действий. Так было в начале конфликта между Ираном и Израилем – когда в интернете завирусился ролик, якобы запечатлевший попадание ракеты в небоскрёб. Его подхватили крупные агентства, пока позже не выяснилось: вся сцена – результат генерации ИИ.

На этом фоне в России обсуждают: а нужно ли – и, главное, как – маркировать ИИ-контент? Минцифры, реагируя на инициативу аналитиков, уже заявило: прежде чем вводить какие-либо обязательства, нужно определиться с самими понятиями. Что такое «синтетический контент», «нейросетевое видео», «дипфейк»? На уровне законодательства этих терминов пока попросту не существует.

А пока нет даже общего языка, не приходится говорить и о чётких критериях: где заканчивается «помощь алгоритма» и начинается искусственный интеллект? Нужно ли маркировать фото, обработанное ИИ-фильтром? А они уже есть в большинстве современных редакторов и даже телефонах. Или только сгенерированное с нуля изображение? Должен ли быть помечен текст, где нейросеть лишь помогла подобрать формулировку?

И здесь мнения расходятся. Некоторые эксперты считают, что универсальная маркировка – шаг в правильном направлении, особенно в отношении политического, новостного и рекламного контента. Но другие уверены: тот, кто создаёт фейковые видео сознательно, точно не станет добросовестно ставить галочку «создано ИИ».

Кроме того, технически отличить ИИ-контент становится всё сложнее. Да, некоторые нейросети оставляют невидимую разметку, дающую сигнал о машинном происхождении текста или изображения. Но её уже давно научились удалять. Выявить фейк по «поведению пикселей» или структуре текста можно, но не всегда, особенно если генерация была выполнена с высоким качеством.

Поэтому одна из идей – сосредоточиться не только на создании, но и том, как контент передается. Привлекать к ответственности можно тех, кто сознательно передаёт фейк дальше. Предложение ввести уголовную ответственность за такой перепост ИИ-контента без согласия изображённого человека также обсуждается. Хотя и здесь есть опасность: можно задеть обычных пользователей, а не реальных нарушителей.

Наиболее продвинутая версия GPT в ответ на вопрос, что же со всем эти делать, пустилась в пространные рассуждения.

ИИ (ChatGPT): Как система искусственного интеллекта, я понимаю тревогу, связанную с распространением дипфейков. Возможности генерации контента действительно огромны. И, как любое мощное средство, они могут быть использованы во благо или во вред.

А дальше началось о том, что маркировка – мера полезная, но недостаточная. По-настоящему эффективной она станет только в комплексе с другими действиями: образованием пользователей, созданием открытых и надёжных инструментов проверки, а также прозрачным регулированием.

Важно не просто ловить фейки, а формировать среду, в которой их труднее производить, и ещё труднее – безнаказанно распространять. И при этом – не задушить те формы креативности и самовыражения, которые дают технологии. Баланс здесь – ключ к решению.

В общем, как всегда с нейросетью, когда она получает общую задачу с неким открытым вопросом, начинается демагогия студента-троечника, который плавает в теме: за все хорошее, против всего плохого, и без конкретики. И, конечно же, еще в начале – с указанием, что вопрос очень хороший, а пользователь – умничка, что до него додумался.

Между бабушкой с бегемотом и ложью в новостях – всего один шаг. Как от него удержать – вопрос, на который пока нет простого ответа. Время, кажется, требует от нас нового цифрового мышления.

Сегодня мы находимся на этапе, когда подходы к регулированию ИИ-контента только обсуждаются и лишь начинают формироваться. Ведомства, эксперты и разработчики ищут баланс между свободой творчества, технологическим прогрессом и безопасностью. Но пока комитеты и рабочие группы разрабатывают понятия, критерии и механизмы, сгенерированный контент уже давно не просто в интернете – он в каждом нашем смартфоне, мессенджере и ленте новостей.

Иронично, что среди популярных роликов, созданных теми же нейросетями, – видео о якобы «ближайшем исчезновении» десятков профессий из-за ИИ. Всё сгенерировано машиной. И выглядит это достоверно.

"Мне карты давно предсказали, что мы исчезнем… Вы, кстати, – нейросеть".

Впрочем, на фоне цифровой неопределённости появляется и другое мнение – более обнадёживающее. Чем больше машинного контента будет нас окружать, тем выше станет ценность настоящего авторства. Цена имени, за которым стоит человек, его репутация и ответственность будут только расти. И, возможно, совсем скоро мы увидим, как в каждую видеокамеру репортёра встраивается цифровая подпись, основанная на технологии блокчейн, которая будет удостоверять подлинность съёмки. Такие же «подписи» смогут закрепляться и за текстами, и за любым человеческим произведением, – чтобы различать, где мысль и взгляд личности, а где – алгоритм. Остаётся только надеяться, что человек успеет за своими же технологиями – и сохранит контроль там, где правда важнее скорости.