Хуситы пытались использовать нейросеть Claude при создании баллистических ракет. Компания-разработчик нейросети Anthropic опубликовала отчет, в котором говорится о попытке использовать искусственный интеллект в создании вирусов, биологического оружия и баллистических ракет. Кто стоит за тревожными запросами и как с ними борется IT-гигант, разбиралась Екатерина Косинец. Создатели нейросети Claude зафиксировали попытки возможной разработки биологического оружия с участием искусственного интеллекта. Американская компания Anthropic, основанная бывшими сотрудниками OpenAI, закрыла доступ к нейросетевой модели Claude ряду пользователей. Среди них, без указания имен и стран, – исследователи и целые институты, говорится в отчёте компании. Из-за специфики запросов Anthropic не может точно определить намерения пользователей: это могли быть и попытки разработать вакцину, и вывести патоген, и простая научно-исследовательская работа. Пресекается любая подозрительная деятельность. Глава отдела разведки угроз компании Джейкоб Клейн объясняет: «Вы не увидите кого-то, <…> кто прямо говорит: «Эй, я хочу создать биологическое оружие, чтобы всех уничтожить». Впрочем, история знает и более однозначные попытки использования искусственного интеллекта в антигуманных целях. Так, в мае Claude зафиксировал запрос о помощи в проведении экспериментов по повышению вредоносности лихорадки чикунгунья, вспышка которой (самая сильная за последние 20 лет) случилась в прошлом году на Шри-Ланке. Установлено, что автором вредоносного запроса был сотрудник военного НИИ. Из какой страны – не уточняют. Так кто они – авторы этих запросов? Владимир Зыков, эксперт по информационной безопасности, директор Ассоциации профессиональных пользователей соцсетей и мессенджеров полагает, что подобные попытки – чья-то частная инициатива. ЗЫКОВ: Тут, конечно, вопросов много, но кажется, что это была частная инициатива, какие-то компании в частном порядке могли это делать, хотя мы сами понимаем, что есть какие-то ученые, которые не спрашивают руководство, могут начать самостоятельно что-то делать. Это научный эксперимент, это исследовательские компании или это злоумышленники, мы не можем сказать, может быть, школьники, потому школьники сегодня - очень умные. Было время, когда даже поймали самого сильного хакера во всем мире, им оказался 16-летний школьник, если что, на секундочку, самой сильной хакерской группировки в мире. Но интеллектуальным помощником пользуются не только «деятели науки» и любопытные школьники. В отчете Anthropic упоминаются в том числе террористы в классическом понимании. Речь идет о вооруженных группировках из Йемена. Они пытались использовать нейросеть для создания разных типов ракет, в том числе и баллистических. Здесь перед Claude ставилась задача по разработке программного обеспечения для контроля над ракетами и их навигации. И хотя в отчете компании нет прямых указаний, Financial Times пишет, что речь идет о группировках хуситов. Так или иначе, проблема есть, и одними отчетами ее не уладить. "Нью-Йорк Таймс", со ссылкой на старшего научного сотрудника Центра стратегических вооружений в Вашингтоне Эндрю Вебера, предлагает не ограничиваться точечными блокировками и призывает ограничить доступ к нейросети ряду стран. И, конечно, на всякий случай, - России. Видимо, Эндрю Вебер не осведомлен, что чат-бот и так недоступен на территории нашей страны.