Российские ИТ-компании не успевают внедрять защиту искусственного интеллекта. Нейросети развиваются в три раза быстрее, чем меры защиты данных. Такое исследование провели эксперты Ассоциации разработчиков программных продуктов «Отечественный софт» и AppSec Solutions. По их данным, только у 23% компаний, которые используют ИИ, есть базовые системы контроля безопасности. Какие риски это создаёт и что мешает исправить ситуацию, разбиралась Арина Муковнина. Сотрудник берёт договор с клиентом и вставляет его в чат с нейросетью, чтобы она помогла разобраться. Вроде бы ничего страшного. Но компания уже не знает, куда ушёл этот документ, и кто его увидел. Это называется «теневым ИИ», сотрудники пользуются нейросетями без ведома начальства. И это только одна из проблем. Российские ИТ‑компании уже давно внедрили нейросети в работу. Но только четверть из них контролирует безопасность. Именно в отрасли ИТ первыми проявляются проблемы, с которыми через два‑три года столкнутся все остальные компании. По данным исследования Ассоциации разработчиков программных продуктов «Отечественный софт» и AppSec Solutions, ещё одна опасность бесконтрольного использования нейросетей -- скрытые вредоносные команды. Они могут прятаться в документе или на сайте. Нейросеть их прочитает и выполнит, а потом выдаст данные компании или сделает намеренную ошибку. Это называется промпт‑инъекцией. По данным OWASP, если защиты нет, такие атаки срабатывают в 80% случаев. Также вредоносными могут быть ИИ‑агенты. Это программы, которым дали доступ к рабочим инструментам и разрешили действовать самостоятельно. Их уже используют или тестируют 72% компаний. А угрозы для них оценивали только 9% из них. Проблема в том, что ошибку агента никто не увидит на экране - он просто выполнит не то действие. Главная причина задержки в развитии безопасности - нехватка специалистов. Большая часть ИТ‑компаний жалуется на недостаток знаний. При этом 82 % из них вообще не проводят обучение по безопасности искусственного интеллекта. Получается, компании понимают, что риск есть, но не знают, как его измерить и чем закрыть. Начать борьбу с утечками и ошибками стоит с повышения уровня технической грамотности сотрудников. Работники все равно будут использовать нейросети, потому что так проще, нужно только объяснить им как это делать правильно, говорит руководитель аналитического центра компании "Зекурион" Владимир Ульянов. УЛЬЯНОВ: "Задача работодателя, который видит и понимает риски, связанные с утечкой данных, которые сотрудники передают в нейросети, - осознать эти риски и донести их до сотрудников. Нужно рассказать о возможной ответственности, которая может наступить при возникновении негативных событий. Помимо этого, стоит предусмотреть какие‑то подстраховки и упрощения. Если работа с нейросетями необходима, давайте подберём подходящие сервисы, закупим аккаунты, установим какие‑то фильтры. В интересах работодателя обеспечить сотрудников надлежащими рабочими инструментами". Технические средства на рынке тоже есть. Хотя эти инструменты не совершенны, они же появились совсем недавно. Но их внедрение, пусть и в относительно «сыром» виде, будет повышать защищённость информации. Проблема в том, что в отличие от работы с сотрудниками внедрение новых технологий требует немалых вложений, говорит Владимир Ульянов. УЛЬЯНОВ: "Что касается внедрения технических средств, здесь возникают определённые сложности. Во‑первых, это само внедрение средства, лицензирование, покупка поддержки. Во‑вторых, интеграция в действующую среду - она может потребовать перестройки бизнес‑процессов и обеспечения совместимости с другими техническими решениями. Такой проект может оказаться достаточно сложным и дорогостоящим. Не для каждого бизнеса это легко реализовать, поэтому подобные шаги разумно планировать - например, на следующий или через один год". С этой проблемой столкнулись не только в России, но и во всём мире. По прогнозу экспертов, к 2028 году защиту для ИИ будут использовать почти все предприятия. А сегодня их меньше 10 %. При этом в разных странах ИИ‑агентов внедряют в восемь раз быстрее, чем защиту для них. Опрос Ассоциации аудита и контроля информационных систем показал, что только 12 % организаций могут экстренно отключить ИИ. Большая же часть не знает, сколько времени им на это понадобится, если в системе произойдёт, например, утечка. Об опасности предупреждают и сами создатели искусственного интеллекта. Глава OpenAI Сэм Альтман выступил на Совете Безопасности ООН. Он рассказал, что опасность станет еще больше, когда ИИ научится самосовершенствоваться. АЛЬТМАН: "Автоматизация разработки ИИ может привести к стремительному ускорению темпов прогресса в этой области. В такой ситуации требуется предельная осторожность. Я во многом согласен с профессором Бенджио. Хотя я бы выделил два сценария вместо трёх. Я считаю, что существует два пути, по которым развитие ИИ может пойти по катастрофическому сценарию. И мы обязаны этого не допустить..." Полностью слушайте в аудиоверсии.