Можно ли выяснить, что с вами общается искусственный интеллект?

Недавно один судья вынес приговор, практически целиком написанный ChatGPT. Чуть раньше конгрессмен Палаты представителей США процитировал текст, созданный искусственным интеллектом, но никто об этом не догадался. А сегодня студенты с помощью "умного" чат-бота уже защищают дипломы.

Что эта технология несёт обществу и так ли она безобидна, в этом мы разбирались вместе с Игорем Пивоваровым, главным аналитиком исследовательского центра прикладных систем искусственного интеллекта МФТИ и стратегического советника компании Huawei по искусственному интеллекту.

Игорь, что же было дальше в истории с судьёй и конгрессменом?

Судья позднее честно признался, объяснив свой поступок тем, что хотел посмотреть, какой результат даст модель.

Он ей указал на несколько предыдущих похожих дел, попросил обобщить и принять решение в новом деле. В итоге его приговор почти полностью совпал с текстом, предложенным ChatGPT.

А конгрессмен США Джейк Очинклосс (Jake Auchincloss), выступавший в Палате представителей США и произнёсший речь, написанную ChatGPT, потом специально озвучил, что она написана ChatGPT. Он хотел продемонстрировать, настолько эта область требует специального регулирования.

Что собой представляет ChatGPT? Как это работает?

Это огромный дата-центр, где стоит даже не один сервер, где-то 5 000 серверов. Все эти сервера производят расчёты, представляют собой модель нейронной сети, как в мозге человека.

И таких нейронных сетей там несколько. Каждая из них решает свою задачу, чтобы в итоге выдать пользователю правдоподобный текст.

Мы можем сегодня обнаруживать результаты такой деятельности, если мы об этом не знаем? Как с плагиатом сегодня делается. Есть ли такие системы? С учётом, что "с той стороны" работает 5 000 серверов.

Плагиат – это хороший пример. Пока не было интернета, не было доступа к таким большим объёмам информации, отследить какой-то плагиат было достаточно проблематично.

С приходом интернета плагиат стало легче генерировать. И люди задумались, сделали системы поиска и определения плагиата, которые плюс-минус неплохо работают.

Сейчас такая же история начинается в области языковых моделей.

Студенты пишут дипломы с помощью ChatGPT, и их признают. Эта проблема пока только-только появилась, способов обнаружения таких текстов пока нет.

Я считаю, что в сгенерированном тексте должны быть какие-то метки, по которым можно однозначно определить, что это сгенерированный текст. Потому что далее модели будут ещё больше улучшаться.

Отвечает ChatGPT

Я задала те же вопросы и самому чат-боту. Некоторые из тем захотелось развить. Например, выяснить, чего не знает ChatGPT?

Все вопросы мы задавали на английском языке. Приводим здесь перевод ответов чат-бота.

Какие темы ты знаешь плохо?

Всё ещё есть некоторые темы или области, которые могут быть за пределами моих обучающих данных или менее хорошо представлены в наборе данных, на котором я обучался.

Сюда могут входить:

- Очень специализированные или технические темы, которые обычно не обсуждаются в повседневном языке.

- Сленг или неформальный язык, который может быть плохо представлен в письменном тексте.

- Новые слова или термины, которые ещё не получили широкого распространения в языке.

- Сильно зависящий от контекста язык, который может не иметь смысла без дополнительной информации или фоновых знаний.

- Отсылки или идиомы, относящиеся к конкретной культуре, которые могут быть непонятны носителям других языков или жителям из других регионов.

- Личная или частная информация, которая не была широко распространена или опубликована.

Ты можешь перевести текст с русского языка на английский?

Да, я могу перевести текст с русского на английский. Как языковая модель ИИ, я могу выполнять машинный перевод между различными языками, включая русский и английский.

Чтобы перевести текст с русского на английский, вы можете просто предоставить текст, который вы хотите перевести, и я создам соответствующий английский перевод.

Однако важно отметить, что хотя машинный перевод значительно улучшился за последние годы, он не всегда идеален и может не отражать все нюансы исходного текста.

Поэтому всегда рекомендуется, чтобы носитель языка проверил перевод и убедился в его точности и ясности.

Отсюда можно сделать вывод, что вычислить ChatGPT можно, если поговорить с собеседником с использованием жаргонных словечек. Правда, есть шанс, что в этом случае вас не поймёт и человек. Второй вариант: поискать в ответах несоответствие нормам русского языка. Но и тут могут быть проблемы. Ведь сейчас человек может знать язык куда хуже языковой модели.

Продолжение следует...