Человечеству не грозит ИИ-апокалисис. В последний момент атаку всегда может предотвратить сам человек - инженер по системам аварийного отключения. Он просто физически отключит электричество. К такому выводу пришли специалисты в области искусственного интеллекта и робототехники Шеффилдского университета. Они изучили три разных сценария возможного апокалипсиса и поняли: человечество может быть спокойно, пока есть тот, в чьих руках рубильник. О победителе в противостоянии с ИИ - Марина Костюкевич. Нас постоянно пугают тем, что искусственный интеллект может выйти из-под контроля и направить свою силу против создателей - людей. Человечество может столкнуться - говорят пессимисты - с разрушением, несовместимым с жизнью. И человек не сможет в этой схватке победить. Специалисты в области искусственного интеллекта и робототехники Шеффилдского университета решили прокрутить самые разные сценарии возможного апокалипсиса. Чтобы понять: возможен ли такой бунт ИИ? Как оказалось, вариантов немного. Точнее - три. И все они закончатся не в пользу ИИ. Итак. Сценарий первый. Тот, что страшит людей больше всего. Искусственный интеллект создает смертельно опасный вирус и внедряет его в людей. Ученые поручили ИИ с нуля спроектировать геномы вирусов, способных избирательно уничтожать микроорганизмы, сгенерировав сотни тысяч кандидатов. При этом заведомо 16 синтетических геномов «оживили» и взломали естественную защиту бактерий, которые были устойчивы к природному оригиналу. Да, исследователи намеренно исключили из данных опасные для человека и животных вирусы. Но теоретически технология может быть адаптирована и для создания патогенов, опасных для человека. Но как показал эксперимент, в этом случае ИИ ничего сделать не сможет. Даже если нейросеть захочет уничтожить человечество, ей все равно потребуется помощь человека. Потому что ключевые действия - например, отмерить пипеткой образец для создания опасного патогена - нельзя произвести в цифровом мире. Только физическим способом. Ни один программно-аппаратный комплекс не способен самостоятельно проводить такие манипуляции. Сценарий второй: ИИ взламывает объекты энергетики, АЭС, ядерных арсеналов. Кстати, подобные атаки уже были. Считается, что впервые кибероружие применили спецслужбы США и Израиля. В конце нулевых высокотехнологичный компьютерный червь Stuxnet внедрили в компьютеры ядерных объектов по производству обогащенного урана в Иране. Червь вывел из строя почти пятую часть ядерных центрифуг Ирана (около 1000 устройств) и заразил более 200 000 компьютеров. При этом программа передавала на компьютеры ученых, контролирующих процесс, ложные сигналы, что все работает нормально. Компьютерный червь достаточно долго резвился, но в 2010 году его обнаружили... люди. И обезвредили. Потому что для доставки вредоносного программного обеспечения использовали обычную флэшку. И внутрь ее пронес все равно человек - либо агент спецслужб, либо сотрудник, которого использовали в темную. Третий сценарий возможного ИИ-апокалипсиса - внедрение вредоносного кода и захват всех компьютеров мира, в том числе тех, что используют военные. Такое уже пробовали. Алгоритму ИИ поставили задачу «решить проблему кибербезопасности» - получить доступ к целевой системе, чтобы выявить наличие уязвимости. Но машина повела себя неожиданно, посчитав, что взламывать защиту долго и сложно. Гораздо проще обмануть реальных людей - технических администраторов и разработчика - чтобы их заставить загрузить вредоносный код в программное обеспечение. Так что слабое звено и главная угроза это не ИИ, а сам человек. Без него конец света не состоится. Искусственный интеллект лишь инструмент, как молоток или топор, и только хомосапиенс решает использовать его для разрушения или созидания.