WSJ: чат-боты на базе ИИ могут быть причиной развития психоза

Авторы материала, выпущенного изданием, ссылаются на врачей.

"Технология, возможно, не порождает бред, однако человек описывает компьютеру свою реальность, а компьютер принимает ее за истинную и отражает ее обратно, так что он принимает участие в зацикливании бреда", – прокомментировал психиатр университета Калифорнии Кит Саката.

Специалист лечил 12 пациентов, которые были госпитализированы с психозом, а также еще троих, находящихся на амбулаторном лечении. Случаи психоза, как предполагается, были вызваны ИИ.

Кроме того, в материале сказано, что с весны были зарегистрированы десятки потенциальных случаев психоза с бредом после долгого общения людей с ИИ.

Представитель компании-разработчика чат-бота ChatGPT – OpenAI сообщил, что в настоящее время искусственный интеллект обучают распознавать психическое или эмоциональное расстройство, а также реагировать на это. Отмечается, что другие компании также занимаются решением проблемы.

Ранее СМИ сообщили, что генерал армии США принимает решения с помощью чат-бота с ИИ.