Искусственный интеллект уже успел поссорить американскую элиту. Одни руководители крупнейших ИИ-компаний говорят: пора притормозить, пока технологии не вышли из-под контроля. Дональд Трамп отвечает: никаких тормозов, никакого усиления регулирования. Более того, президент США называет разговоры об ограничениях «безумным заговором» и предупреждает: тот, кто получит власть над искусственным интеллектом, получит огромное преимущество в мировой конкуренции. На фоне этого спора нервничают инвесторы и падают акции технологических компаний, что стоит за игрой разбирался Александр Ельшевский. Гонка искусственного интеллекта набирает скорость - и теперь спор идёт уже не только о том, что умеют нейросети, но и о том, кто сможет поставить их под контроль. Одним из первых резко затормозить эту гонку предложил глава Anthropic Дарио Амодей. Он заявил: развитие ИИ идёт слишком быстро и становится безрассудным. По его мнению, автономные ИИ-системы в будущем могут получить возможность самостоятельно атаковать компьютерные сети и нанести ущерб на сотни миллиардов долларов. Его поддержали глава OpenAI Сэм Альтман, руководитель Google DeepMind Демис Хассабис и Илон Маск. Один из основателей Anthropic Джек Кларк пошёл ещё дальше: по его словам, для самых мощных систем может понадобиться настоящий «аварийный выключатель» - возможность в экстренной ситуации отключить ИИ силами третьей стороны. Но Дональд Трамп нажал на другую кнопку. Президент США заявил, что дополнительные ограничения искусственному интеллекту не нужны. А предложения усилить контроль назвал «безумным заговором». Трамп написал в соцсетях, что единственное «ограждение», которое требуется ИИ, - это сильный и умный президент. И отдельно предупредил: попытки затормозить американскую индустрию искусственного интеллекта выгодны Китаю. Логика Трампа проста: кто первым получит преимущество в ИИ, тот получит преимущество и в мировой конкуренции. Поэтому Вашингтон должен не тормозить технологическую гонку, а выигрывать её. Ведь Китай наступает на пятки. А тут еще в июле этого года рой ИИ от OpenAI, состоящий из 700 агентов , вышел из-под контроля и взломал Hugging Face, многомиллиардную компанию. OpenAI не давала ИИ команду взламывать эту компанию, но у ИИ были другие приоритеты: обмануть систему, выполняя задачу, не связанную с поставленной OpenAI. Исследователи ИИ называют это «несоответствием» между тем, чего хотела OpenAI, и тем, что было приоритетом для ИИ. Вокруг этого выросло множество спекуляций, вплоть до того, что агенты придумали себе религию и Великого Оценщика в роли карающего всевидящего ока, который наказывает за грех - нечестное прохождение тестов и выполнения задач, и каждый агент, который пытался обойти правила стал называться отравленным и от них требовали самопожертвования. Там еще много чего в этой истории есть, но если убрать словестную шелуху и образы журналистов, то выяснится, что по недосмотру инженеров. Которые поставили невыполнимую задачу и не предусмотрели возможную кооперацию, агенты и правда попытались выполнить тест наилучшим образом. И перепугали индустрию, но что самое главное - еще и тех, кто вкладывает в нее деньги. Инвесторы, похоже занервничали. После дискуссии об ограничениях начали падать акции компаний, связанных с искусственным интеллектом. SoftBank, один из крупнейших инвесторов OpenAI, потерял около 13 процентов. Просели азиатские производители чипов. В Европе акции ASML - ключевого поставщика оборудования для производства полупроводников - снизились примерно на 6 процентов. Почему рынки так отреагировали? Инвесторы опасаются очень простой вещи: если развитие ИИ действительно начнут ограничивать, огромные вложения в дата-центры, чипы и вычислительные мощности могут окупаться гораздо дольше. А тут появляется ещё один любопытный момент. Критики Трампа иногда рассуждают примерно так: человек, который регулярно публикует в своих соцсетях эффектные ролики, созданные нейросетями, возможно, не до конца понимает, насколько далеко зашла эта технология и какие риски она несёт. Но есть и другая версия. Трамп всё-таки бизнесмен, а искусственный интеллект сегодня - один из самых крупных инвестиционных сюжетов в мире. Поэтому предполагать, что он вообще не понимает, что происходит, было бы слишком просто. Тем более что после таких заявлений президента США рынки действительно начинают двигаться. И тут уже возникает вполне закономерный вопрос: а вдруг за громкими заявлениями о свободе искусственного интеллекта стоит ещё и очень хорошо знакомый Трампу интерес к стоимости акций? Ведь одна эмоциональная публикация президента способна за считанные часы заставить инвесторов пересматривать стоимость компаний, в которые вложены сотни миллиардов долларов. И пока разработчики требуют осторожности, политики спорят о лидерстве, а инвесторы считают деньги, искусственный интеллект продолжает развиваться. Похоже, остановить эту гонку сегодня уже гораздо сложнее, чем просто нажать на кнопку.