Авторские материалы Проверка ИИ: хакеры попытаются взломать продукты Google

В США взломают несколько систем искусственного интеллекта. Такой эксперимент проведут на конференции хакеров. Опытные взломщики и новички попробуют найти уязвимости и проблемы в программах, чтобы попробовать понять, может ли ИИ восстать против человека. Подробнее – корреспондент "Вестей ФМ" Вера Десятова.

В отелях по всему Лас-Вегасу некоторые из самых мощных в мире систем искусственного интеллекта подвергнутся одновременной атаке небольшой армии хакеров. Белый дом не только знает о нападении – он одобряет его. Эта скоординированная тестовая атака будет проводиться в течение трех дней на ежегодной хакерской конференции. Взломщики попробуют найти уязвимости в самых мощных системах искусственного интеллекта, среди которых, например, – продукты Google. Такую задачу поставил Белый дом. Его цель – проверить, насколько программы на самом деле безопасны и могут ли они представлять угрозу для американцев и национальной безопасности страны.

Безопасность – один из ключевых вопросов в области ИИ. Эксперты – и регулирующих органов, и самой отрасли – признают, что искусственный интеллект пока остается неизученным и потому непредсказуемым. Вопросов много – от возможности взлома и опасного использования злоумышленниками до более темных целей, даже создания нового оружия. Есть высокая вероятность, что эти системы можно заставить делать то, чего их разработчики и продавцы не ожидают или не хотят, и это таит в себе много рисков.

Чтобы найти ответы на все эти вопросы, крупнейшие компании предоставят свои модели искусственного интеллекта. Их попытаются атаковать целый ряд хакеров – от самых опытных до студентов колледжей. Но есть оговорка: результаты эксперимента не обнародуют до февраля, чтобы компании могли устранить дыры в безопасности. В то же время создатели систем надеются завоевать доверие общественности к новой технологии. Но, несмотря на большие ожидания, хакерская проверка вряд ли выявит все риски и опасности. Условия эксперимента довольно ограничены – техническим оборудованием, представленным на конференции, и временем: 15 минут – на одну попытку взлома большой модели.