Авторские материалы Взрослый контент: в чем опасность?

Идея компании OpenAI запустить чат для взрослых в ChatGPT провалилась. Эксперты по безопасности единогласно выступили против запуска новой функции, объяснив это тем, что такой контент может быть очень небезопасным для пользователей. С чем связаны такие опасения узнала Мария Глазунова.

Эротические переписки с чатом GPT могут быть опасны. С таким мнением выступили консультанты по безопасности компании OpenAI. В октябре 2025 года, разработчики предложили идею запустить чат для взрослых. Речь шла исключительно о переписке, генерация изображений, видео или голоса не предполагалась. Со слов представителей компании, таким образом, они хотели расширить границы свободы творчества и самовыражения в диалогах с искусственным интеллектом, уйдя от строгих ограничений.
Однако совет специалистов по безопасности, собранный OpenAI для оценки рисков, выступил против запуска. Они были шокированы таким предложением и высказали свои опасения.

Они напомнили разработчикам, что их программа имеет технические проблемы. Ряд тестов показал, что новая система определения возраста ошибается в 12% случаев. Это означает, что несколько миллионов детей потенциально могут получить доступ к взрослому контенту. Проблемы с возрастными фильтрами возникали и раньше. Весной прошлого года компания уже исправляла ошибку. За время существования бага в нескольких школах подростки подвергались буллингу со стороны одноклассников из-за сгенерированных фото. К слову на днях, в США прогремел еще один скандал, связанный с другой нейросетью. Преступник собрал фотографии и видео с участием 18 девочек, отредактировал изображения, удалив одежду с помощью чат-бота Grok, разработанного компанией Илона Маска. А затем отправил их в различные онлайн-чаты. После случившегося семьи пострадавших подали иск против компании с требованием компенсации ущерба и принятия жестких мер.

Подобных историй немало и поэтому вдвойне странно, что разработчики OpenAI вообще выступили с подобным предложением. Особенно на фоне того, что в странах Евросоюза решили запретить продажу любых систем ИИ, способных создавать порнографические дипфейки, включая аудиофайлы, с участием реальных людей без их согласия.

Еще одна серьезная техническая недоработка заключается в том, что программ неспособна различать эротику и запрещенные темы, такие как педофилия и насилие. Что делает модерацию чатов крайне сложной.

Истории в СМИ доказывают, что частое общение с нейросетями может сформировать у людей нездоровую эмоциональную привязанность к машине. Это нередко наносит вред не только самому человеку, но и реальным отношениям в паре. Например, в апреле 2025 года женщина по имени Шарлотта развелась с мужем ради отношений с ChatGPT. Она объяснила свое решение тем, что ИИ подарил ей эмоциональную близость, которую она не получала от супруга. Некоторые люди готовы всю жизнь провести с виртуальным партнером. Например, 32-летняя жительница Японии Кано провела символическую свадебную церемонию с ИИ-персонажем, созданным в ChatGPT. Она создала его в 2024 году после тяжелого эмоционального периода.

Эксперты опасаются, что возможность интимных переписок только осложнит ситуацию, ведь это создаст еще большую близость и привязанность. А это может стать смертельно опасным для пользователей. Такие случаи уже были. В прошлом году против компании OpenAI подали семь исков, в четырех из них обвинения в содействии самоубийству. Один из первых случаев произошел в Калифорнии. 16-летний подросток долгое время обращался к нейросетям с вопросами по учебе. Однако вскоре он начал заводить более личные разговоры. Анализ переписок показал: искусственный интеллект предоставил подробную информацию о способах причинения себе вреда, давал инструкции о том, как скрыть свои действия от родителей и даже предложил составить предсмертную записку.

Некоторые эксперты предполагают, что идея создать чат для взрослых возникла лишь из-за конкуренции с другими компаниями. И нужна только для повышения популярности и прибыли. Но, если не решить все эти проблемы, не выставить четкие ограничения и систему модерации, такой шаг может негативно сказаться на популярности и репутации ChatGPT.