Риск подмены: нейросеть против ученых, журналистов, музыкантов и политиков
Учителя предупреждают: под угрозой критическое мышление, мотивация и даже психическое здоровье. Google и Yahoo в панике: чат-боты угрожают их поисковикам.
Диплом студента РГГУ Александра Жадана в одночасье стал сенсацией. Но привлек внимание вовсе не темой или содержанием, а тем, как он был написан. Соавтором студента выступила нейросеть.
– Я создал план, который впоследствии прогонял через ChatGPT, и просил дать ответ, например, пять принципов менеджмента. Он мне выдает ответ. Потом я вижу, что нужно что-то подправить, поправляю сам или прошу дать другой ответ, – поясняет алгоритм работы при написании дипломной работы в соавторстве с искусственным интеллектом Александр Жадан.
Вместо тысяч запросов на поисковом сайте Александр задал нейросети всего несколько десятков, а потом привел все ответы к единому знаменателю. Никакого штудирования томов научной литературы, анализа, поиска закономерностей и выводов.
– На написание с учетом первичной редактуры – 15 часов, на редактуру после комментариев научного руководителя – еще часов девять. То есть, суммарно около суток, – рассказывает о потраченном на диплом времени Александр Жадан.
Подвоха аттестационная комиссия не заметила. Диплом прошел проверку на уникальность с показателей в 82 процента, а Александр его хоть и на тройку, но защитил. А программа искусственного интеллекта СhatGPT уже успела наделать много шума по всему миру.
Разработка американской компании OpenAI появилась в конце прошлого года и сразу заставила о себе говорить. Текстовый бот ChatGPT, как и многие его собратья, способен создавать тексты или писать программный код. Только вот результаты его работы многие эксперты называют сопоставимыми и даже превосходящими то, что мог бы сделать человек.
– Первое, что действительно впечатляет, это то, насколько он хорошо умеет писать. Это лучше, чем большинство сочинений, что я получала от студентов на протяжении десятилетий, – приятно удивлена почетный профессор лингвистики Наоми Барон.
Уже через два месяца после запуска нейросеть стали использовать около 13 миллионов человек ежедневно. Причем не только студенты, не желающие напрягаться во время учебы. Канцлер Британского казначейства Джереми Хант признался, что пользовался нейросетью по работе.
"Канцлер применил систему чат-бота GPT, чтобы написать несколько строк финансового плана сегодня в Лондоне, пошутив: "Кому нужны политики, когда у вас есть искусственный интеллект?"
Любую нейросеть вначале буквально "выращивают", загружая в нее огромный массив данных по всем направлениям человеческой жизнедеятельности. Потом обучают правильно сортировать эти знания, находя в них нужные фрагменты. Но развиваться, а тем более думать самостоятельно ни одна нейросеть не способна.
– Нейросети обучаются на выборках данных, которые им дает учитель. То есть, нельзя сказать, что она сама взяла, родилась, вышла в мир и пошла обучаться. Их функционирование и способность решать какие-то задачи в первую очередь зависит от дата-сета, то есть от набора данных, которые подготовили ученые, инженеры, – рассказывает директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин.
Впрочем, последствия использования искусственного интеллекта, как оказалось, не всегда бывают предсказуемые. Школьница из Норвегии попросила всю ту же нейросеть GPT назвать самых выдающихся сограждан. Программа составила список, поместив на его вершину террориста Андерса Брейвика, мотивировав свое решение его борьбой против исламизации страны. Чтобы избежать столь непредсказуемых результатов, этим чат-ботом уже запретили пользоваться школьникам в Нью-Йорке. Но, по словам экспертов, риски, которые создает нейросеть, могут быть куда выше.
– Тот же ChatGPT может быть использован для того, чтобы огромным потоком генерировать фейковые новости, а люди не будут отличать их от реальных. Это реальная угроза. И надо думать теперь, как нам создавать технологии, которые будут противостоять этим угрозам, – поясняет заведующий кафедрой математических методов прогнозирования факультета ВМК МГУ Константин Воронцов.
Но пока американское интернет-издание BuzzFeed сократило около 180 сотрудников – это 12% от общего числа персонала. Их работу теперь будет выполнять чат-бот ChatGPT. В информационном агентстве Bloomberg автоматизированные технологии создают около трети всего контента, что помогает успешно конкурировать с Reuters. Искусственный интеллект заменяет часть редакции в новостном портале Microsoft, а в The Associated Press "роботы" ведут спортивные трансляции.
Впрочем, не поспоришь – нейросети открывают и новые возможности. К примеру, в Сбербанке решение о выдаче кредитов принимают машинные алгоритмы, основываясь на данных заемщика, формируют индивидуальный финансовый продукт, определяя его параметры, процентную ставку и срок займа.
– Когда ты говоришь об искусственном интеллекте, люди, как правило, все еще воспринимают это как некую альтернативу себя, – оговаривается вице-президент, директор департамента искусственного интеллекта и машинного обучения Сбербанка Максим Еременко. – Но чаще все-таки речь идет о дополнении людей. Искусственный интеллект в ближайшие годы будет создавать больше рабочих мест, чем успевать сокращать или автоматизировать. И это, скорее, про новые навыки. Действительно, часть навыков с появлением новых технологий уходит, но могут появиться другие.
По словам сторонников использования искусственного интеллекта, в будущем он возьмет на себя рутинные задачи человечества, а у людей будет больше времени на творчество. Только сочинить музыку или написать картину искусственный интеллект уже сейчас способен наравне со своим создателем.