Авторские материалы Придёт ИИ – мы все умрём?

Ведущие специалисты по разработке искусственного интеллекта заявили о риске исчезновения человечества из-за их детища. Свои подписи под заявлением поставили ученые, предприниматели и программисты, в том числе "крестный отец ИИ" Джеффри Хинтон и глава OpenAI Сэм Олтмен. Подробности – в материале "Вестей ФМ" Александра Ельшевского.

Очень милый четвероногий робот, похожий на собаку, бежит через полосу препятствий. Он потешно переставляет ноги, но умудряется сохранять равновесие и двигается с необычной грацией. Его бьют в бок и толкают, но он не падает и продолжает бежать к своей цели. Это – продукт от Boston Dynamics, роботизированная платформа под управлением искусственного интеллекта, который при помощи машинного зрения и обучения может выполнять самый широкий круг задач. Во время COVID такие милые робопсы следили за соблюдением карантинных мер и разгоняли в парках Азии кучкующихся людей. Они могут нести довольно внушительный груз и приносить немало пользы именно за счет универсальности и обучаемого искусственного интеллекта, который управляет такой машиной.

А вот уже следующая модель такого четвероного робота, которая несет на своей спине винтовку, способную с огромной точностью поразить человека за много сотен метров. Робот видит в темноте, может опознать цель по тепловому излучению, не знает усталости и сомнений. Он создан для войны и не остановится ни перед чем для выполнения своей задачи. Роботизированные системы вооружений, которые управляют ракетами и пушками, на гусеницах и колесных базах, снабженные всеми средствами связи и разведки, поступают на вооружение современной армии. Несколько лет назад искусственный интеллект впервые в истории без участия человека принял решение об атаке и убил свою цель. Это тот прогресс, который невозможно остановить, и законы робототехники Азимова, которые гласят, что робот не должен причинять вред человеку, уже не работают. Искусственный интеллект эффективно и быстро может решать поставленные задачи. А значит, его будут использовать для победы в войне.

Но разработчики искусственного интеллекта беспокоятся не из-за этого. Боевых роботов так или иначе будут контролировать военные, а сама автоматика останется скована рамками приказов и инструкций. Их пугает то, как творчески можно подойти к использованию потенциала искусственного интеллекта в преступных целях.

Фейковые новости, способные манипулировать обществом, уже увидели свет. В Америке распространили снимки, на которых был показан арест Дональда Трампа в Нью-Йорке. Они были полностью сгенерированы нейросетью, и отличить их от настоящих с первого взгляда было практически невозможно. В Китае приговорили к реальному сроку человека, который создал фейковую новость и раскрутил ее при помощи ботов в соцсетях. Искусственный интеллект можно заставить писать вредоносный код, который будет взламывать другие системы, или придумать преступные схемы. И то, и другое вполне может оказаться эффективным. Причем настолько, что "Центр безопасности искусственного интеллекта" готов поставить риск исчезновения человечества из-за искусственного интеллекта в один ряд с такими угрозами, как пандемия или ядерная война. И эти опасения начинают разделять власти крупнейших стран. В Соединенных Штатах было проведено слушание по поводу опасности бесконтрольного развития индустрии. И там рассматривали риски того, что искусственный интеллект вскоре может быть широко использован для распространения дезинформации и пропаганды или что это может привести к ликвидации миллионов рабочих мест для "белых воротничков".

Некоторые считают, что в итоге ИИ может стать настолько мощным, что в течение нескольких лет общество могут ждать серьезные потрясения. Эти опасения разделяют многие лидеры отрасли. Они попадают в странное положение, потому что, с одной стороны, именно они стараются развивать технолигию как можно скорее, но, с другой, именно эта скорость и развитие несут большие риски и требуют жесткой регуляции.

На слушаниях выступал Сэм Альтман, исполнительный директор OpenAI. Это – компания-лидер в области развития нейросетей, создавшая ChatGPT. Профессор Нью-Йоркского университета Гэрри Маркус – один из ведущих специалистов по проблемам в этой области, и другие эксперты. И все они говорили, что риски достаточно высоки.

"Мои худшие опасение заключаются в том, что мы нанесем большой ущерб отрасли и всему миру своими технологиями. Мы создали машины, которые похожи на слона в посудной лавке. Выберите любую аналогию, которая вам больше нравится – Терминатор, Франкенштейн, Матрица. Везде, где машина перехитрила человека, эта фантастика становится реальностью".

Скептики утверждают, что технология искусственного интеллекта все еще слишком незрелая, чтобы представлять реальную угрозу существованию человечества. Сейчас он совершает нелепые ошибки и работает далеко не так идеально, как хотелось бы создателям. Но технология совершенствуется с такой скоростью, что во многих областях уже превосходит возможности человека. И точка создания полноценного искусственного интеллекта, который превзойдет человека во всем, – не за горами.

В марте более тысячи экспертов, разработчиков и исследователей подписали еще одно открытое письмо, призывающее к 6-месячной паузе в разработке крупнейших моделей искусственного интеллекта, ссылаясь на опасения по поводу “неконтролируемой гонки за разработкой и внедрением все более мощных цифровых умов”. Среди них был и Илон Маск, который сам стоял у истоков этой отрасли.

МАСК: Появление сильного искусственного интеллекта называют сингулярностью. Потому что невероятно сложно предсказать последствия этого и то, что случится после. Но, думаю, это палка о двух концах, и он сделает нашу жизнь лучше. Мы войдем в эпоху изобилия. Но есть некоторый шанс, что все пойдет не так и он не нулевой. И это приведет к уничтожению человечества. Я только надеюсь, что этот шанс мал.

Впрочем, в своем интервью он утверждает, что не верит в то, что это письмо может хоть что-то изменить. Развитие искусственного интеллекта и его внедрение влияет на все области жизни на земле, от автоматизации промышленности и транспорта до военных действий. Заказывая такси, мы прибегаем к услугам алгоритмов, они же прокладывают нам маршрут, подбирают рекомендации в соцсетях, подбирают новости на выдачу и формируют картину мира, все глубже врастая в нашу жизнь. И тот же искусственный интеллект и его алгоритмы управляют атакующим роем дронов или пусками противовоздушных ракет, которые должны защитить от него.

Все это – многомиллиардная индустрия, которая растет каждый год. Производители "железа", которое обслуживает все это, получают миллиардные прибыли, а стоимость крупнейших компаний уже перевалила за триллион. А ограничение роста и замедление темпов будет приводить к падению прибыли, ради которой, как известно, крупный капитал пойдет на что угодно. А значит, вероятность замедления темпов роста и работы с рисками невелика.