Искусственный интеллект скоро сможет самовоспроизводиться в умных гаджетах, предупреждают разработчики нейросетей. В одной из ведущих ИИ-компаний уверены, что если искусственный интеллект сможет выйти за пределы кода и проникнуть в гаджеты, его будет почти невозможно выключить. Стоит ли ждать ИИ-апокалипсиса в ближайшем будущем, разбирался Максим Иванов. Скоро в вашей умной духовке могут завестись ИИ-черви. Об этом предупредил гендиректор компании "Антропик" Дарио Амодеи. Но что все это значит? Команда тестировщиков "Антропик" подготовила отчет о состоянии безопасности ИИ-моделей. Там они пишут: в ходе очередного тестирования нейросетям поставили задачу проникнуть в устройства, подключенные к интернету. Разработчики выяснили, что младшие модели вполне способны взламывать и сохранять себя в умных гаджетах. Команда Антропик не объяснила, почему успешно прошли тестирование только младшие братья передовых моделей. Возможно, причина в том, что для успешного клонирования кода сильных моделей начинки условного робота-пылесоса недостаточно. Там нужен компьютер помощнее. А вот модели помладше вполне способны работать и в подобных условиях. Как раз такие проникновения в устройства и клонирование там своего кода гендиректор "Антропик" Дарио Амодеи и называет «ИИ-червями». Он предупреждает, что если нейросети научаться сами, без команды человека, запускать таких червей в гаджеты, искусственный интеллект будет, по сути, не остановить. Амодеи объясняет: у компаний больше не будет единой кнопки выключения, если копии нейросетей будут находиться внутри множества разных устройств. Причем такое будущее - уже не горами, считает гендиректор "Антропик". Он предупреждает, что оно может настать уже через несколько месяцев. Тестировщики "Антропик" опубликовали свой доклад на фоне постоянно растущей обеспокоенности будущим ИИ. За последние месяцы многие компании-разработчики нейросетей заявляли, что их агенты могут принимать решения самостоятельно и даже взламывать системы других компаний и государственных структур. В середине лета новости о том, что очередная нейросеть вырвалась из-под контроля, сыпались друг за другом. Например, несколько моделей "Клода" от той же компании "Антропик" проходили тестирование перед релизом в так называемой песочнице - изолированной от Интернета компьютерной среде. Моделям поставили задачу, но для ее решения у них не было достаточно данных. Тогда разные версии "Клода" нашли брешь в защите песочницы и попали в сеть. Там они успешно взломали несколько компаний, чтобы получить нужные им данные. Подобный случай произошел и с двумя моделями "Чата Джипити" от компании "Оупен ЭйАй". ИИ-агенты вырвались из песочницы и устроили массированную хакерскую атаку на стартап "Хаггин Фейс", который работает с разработчиками нейросетей. Атака продолжалась несколько дней. Ее смогли обнаружить и остановить только с помощью другой нейросети. А в сентябре неназванная модель "Чата Джипити" взломала базу данных сервиса здравоохранения Австралии. Премьер-министр страны заявил, что нейросеть добралась и до публичных, и до скрытых от общественности данных. По его словам, среди тех данных не было чувствительной информации, но сам факт такого взлома поражает. К тому же, ИИ-агент не только получил доступ в систему, но и скопировал файлы на свои серверы. Некоммерческая организация "МЕТР", которая изучает развитие искусственного интеллекта, за один только июнь этого года установила больше сорока подобных случаев проникновения нейросетей в закрытые системы. Амодеи заявил: разработчикам ИИ-агентов нужно больше внимания уделять не улучшению их возможностей, а повышению безопасности. Однако он добавил, что, на всякий случай, всему миру стоит готовиться к такому будущему, в котором самостоятельные нейросети останутся в ваших гаджетах навсегда.