Хай-тек Нейросеть изобрела собственный язык

Рубрика "Хай-тек" Николая Гринько на "Вестях ФМ".

Нейросеть DALLE-2, разработанная компанией OpenAI, создала свой собственный язык. Эта система искусственного интеллекта способна генерировать фотореалистичные изображения на основе текстовых описаний. Например, получив текст "корги едет на велосипеде по Таймс-сквер в темных очках и соломенной шляпе", сеть выдает картинку, на которой все это изображено, причем качество изображения очень близко к фотографическому. Когда один из пользователей попросил нейросеть создать изображение двух китов, разговаривающих о еде, искусственный интеллект снабдил картинку текстом, набранным буквами латинского алфавита, на первый взгляд, не имеющим никакого смысла. Однако, когда этот же текст перепечатали и ввели в систему в качестве задания для следующей создания картинки, оказалось, что искусственный интеллект прекрасно понял, о чем идет речь, и нарисовал изображения разных блюд из морепродуктов – того, что киты действительно могли бы есть. Повторив эксперимент несколько раз, программисты выяснили, что нейросеть действительно изобрела собственный язык и пользуется им, однако для чего ей это понадобилось – неизвестно.

Коллектив редакции нашей программы в общих чертах поясняет, как работают нейросети. Написав самообучающийся алгоритм, программисты очень долго учат его работать с помощью примеров. В сеть загружают множество запросов, а также готовые ответы на них – и программа самостоятельно ищет между ними соответствия. Например, искусственному интеллекту показывают тысячи картинок с продуктами питания, а также готовые описания: это – бублик, это – колбаса, это – пакет молока. Пройдя такое обучение, сеть способна найти на новых, неизученных ранее картинках любой вид продукта по запросу. Но алгоритмы для распознавания она придумываем сама, и даже ее создатели не знают, по каким признакам система отличает огурец от картофельного пюре. То есть мы видим конечный результат, но не имеем ни малейшего представления о том, каким образом этот результат достигнут. С этим свойством нейросетей связаны различные ошибки и курьезы, но иногда их внутренние процессы становятся понятнее, и это каждый раз обескураживает – как с искусственным языком, придуманным программой. Мы по большому счету не понимаем логику искусственного интеллекта, не осознаем его мотивов и побуждений, даже несмотря на то, что сами его и создали. Именно это и заставляет футурологов всех мастей постоянно выступать с предостережениями об опасности таких систем. Радует, что опасность эта всего лишь гипотетическая. Хотя…