Создатели искусственного интеллекта задумались о негативных последствиях внедрения технологий с ИИ
"На мой взгляд, любая технология меняет общество, в той или иной степени. Вопрос в том, меняет ли в положительную сторону или в негативную. Ядерная энергия, например, имеет мирные атомы, но с другой стороны – это ядерное оружие. Тут надо соизмерять: мы можем уничтожить планету, а можем мирно развиваться и получать чистую и дешевую электроэнергию. С нейросетями такая же история. Нейросети и алгоритмы, которые создаются с их помощью или на их основе, позволяют нам получать удобные инструменты для того, чтобы улучшать нашу производительность, либо создавать инструменты для того, чтобы уничтожать других людей – в буквальном смысле этого слова.
Сегодня есть примеры, когда люди используют нейросети для того, чтобы творить, писать. Есть примеры, когда люди пишут рассказы, дальше их редактируют под себя, под свой стиль. Это хорошие примеры. Графика – многие художники используют для иллюстративных целей. Но есть примеры обратные. Например, в Америке, когда такие алгоритмы используются для того, чтобы преследовать конкретных людей. Максимально автоматизируют преследование человека в соцсетях, когда ему не просто сообщают, что он некрасивый, а нейросеть анализирует всю социальную сеть жертвы и дальше выбирает болевые точки. Давление возрастает с каждым днем, человек не понимает, кто с ним разговаривает – человек или программа. Это негативные вещи, и они будут развиваться тоже. Мы, к сожалению, устроены не только из положительных вещей. Поэтому угроза есть, более чем реальная.
Сегодня увлечение нейросетями базируется на очень простой вещи: американские технологические гиганты считают, что могут заменить людей на алгоритмы. Это позволит им быть в кризис более эффективными. Я думаю, что в ближайшие два года мы будем видеть такую тенденцию, когда будут внедрять везде, где возможно, алгоритмы, а дальше – году в 2025 – мы увидим обратную штуку, когда людей снова начнут активно нанимать на работу, потому что алгоритмы окажутся не всесильными".
Легко отличить текст, написанный человеком, от текста, созданного нейросетью?
"Это очень сильно зависит от качества нейросети. В теории мы можем получать тексты, которые действительно будут очень похожи на тексты, написанные человеком. И при минимальном редактировании отличить их будет практически невозможно. Надо понимать, что это своего рода трюк. Нейросеть тренируется на исходных данных. Мы загрузили в нее всех известных писателей, и она научится писать в стилистике того или иного писателя. А если у нас нет конкретного писателя и мы грузим мусор из интернета, то на выходе мы тоже получим мусор из интернета".
А если мы возьмем непризнанного гения, которого мир еще не знает, и загрузим?
"Тут дискуссионный вопрос – почему непризнанный гений остается непризнанным гением? Как правило – это стечение обстоятельств. Тот же Достоевский – он крайне тяжел не только для машины, но и для человека, для восприятия. Тем не менее, мы его считаем гением".
Какие существуют ограничения, подчиняющие искусственный интеллект человеку?
"Сегодня существует гонка между крупными странами, Россия в ней участвует. Такие страны, как США, Китай, Россия, в меньшей степени Евросоюз за алгоритмы, которые смогут делать те или иные вещи. И существовала до недавнего времени этика, которая не позволяла использовать алгоритмы для улучшения тех или иных вещей. Например, для биологических исследований. Если нейросеть умеет делать быстрее и лучше многие вещи, почему бы не попытаться заставить ее работать над биологией человека. И вот здесь кроется ящик Пандоры, потому что мы никогда не знаем, каким будет результат. Результат может быть очень хорошим, а может быть ужасающим".
