Создание и использование искусственного интеллекта 25 марта 2023, 10:56 25 марта 2023, 11:56 25 марта 2023, 12:56 25 марта 2023, 13:56 25 марта 2023, 14:56 25 марта 2023, 15:56 25 марта 2023, 16:56 25 марта 2023, 17:56 25 марта 2023, 18:56 25 марта 2023, 19:56 25 марта 2023, 20:56
  • Юлия Рудый

Можно ли выяснить, что с вами общается искусственный интеллект?

ChatGPT давно у всех на слуху. Недавно была презентована GPT-4. Но мало кто понимает, что это такое, и какую революцию во всех сферах нашей жизни может произвести. Мы задали вопросы эксперту в области искусственного интеллекта, чтобы разобраться, какие опасности для будущего человечества таит эта технология. Затем те же вопросы мы задали самому "умному" чат-боту.

Недавно один судья вынес приговор, практически целиком написанный ChatGPT. Чуть раньше конгрессмен Палаты представителей США процитировал текст, созданный искусственным интеллектом, но никто об этом не догадался. А сегодня студенты с помощью "умного" чат-бота уже защищают дипломы.

Что эта технология несёт обществу и так ли она безобидна, в этом мы разбирались вместе с Игорем Пивоваровым, главным аналитиком исследовательского центра прикладных систем искусственного интеллекта МФТИ и стратегического советника компании Huawei по искусственному интеллекту.

Игорь, что же было дальше в истории с судьёй и конгрессменом?

Судья позднее честно признался, объяснив свой поступок тем, что хотел посмотреть, какой результат даст модель.

Он ей указал на несколько предыдущих похожих дел, попросил обобщить и принять решение в новом деле. В итоге его приговор почти полностью совпал с текстом, предложенным ChatGPT.

А конгрессмен США Джейк Очинклосс (Jake Auchincloss), выступавший в Палате представителей США и произнёсший речь, написанную ChatGPT, потом специально озвучил, что она написана ChatGPT. Он хотел продемонстрировать, настолько эта область требует специального регулирования.

Что собой представляет ChatGPT? Как это работает?

Это огромный дата-центр, где стоит даже не один сервер, где-то 5 000 серверов. Все эти сервера производят расчёты, представляют собой модель нейронной сети, как в мозге человека.

И таких нейронных сетей там несколько. Каждая из них решает свою задачу, чтобы в итоге выдать пользователю правдоподобный текст.

Игорь Пивоваров также является организатором открытой конференции по искусственному интеллекту OpenTalks.AI.
Фото из личного архива.

Мы можем сегодня обнаруживать результаты такой деятельности, если мы об этом не знаем? Как с плагиатом сегодня делается. Есть ли такие системы? С учётом, что "с той стороны" работает 5 000 серверов.

Плагиат – это хороший пример. Пока не было интернета, не было доступа к таким большим объёмам информации, отследить какой-то плагиат было достаточно проблематично.

С приходом интернета плагиат стало легче генерировать. И люди задумались, сделали системы поиска и определения плагиата, которые плюс-минус неплохо работают.

Сейчас такая же история начинается в области языковых моделей.

Студенты пишут дипломы с помощью ChatGPT, и их признают. Эта проблема пока только-только появилась, способов обнаружения таких текстов пока нет.

Я считаю, что в сгенерированном тексте должны быть какие-то метки, по которым можно однозначно определить, что это сгенерированный текст. Потому что далее модели будут ещё больше улучшаться.

Отвечает ChatGPT

Я задала те же вопросы и самому чат-боту. Некоторые из тем захотелось развить. Например, выяснить, чего не знает ChatGPT?

Все вопросы мы задавали на английском языке. Приводим здесь перевод ответов чат-бота.

Какие темы ты знаешь плохо?

Всё ещё есть некоторые темы или области, которые могут быть за пределами моих обучающих данных или менее хорошо представлены в наборе данных, на котором я обучался.

Сюда могут входить:

- Очень специализированные или технические темы, которые обычно не обсуждаются в повседневном языке.

- Сленг или неформальный язык, который может быть плохо представлен в письменном тексте.

- Новые слова или термины, которые ещё не получили широкого распространения в языке.

- Сильно зависящий от контекста язык, который может не иметь смысла без дополнительной информации или фоновых знаний.

- Отсылки или идиомы, относящиеся к конкретной культуре, которые могут быть непонятны носителям других языков или жителям из других регионов.

- Личная или частная информация, которая не была широко распространена или опубликована.

Технология DeepFake помечает все сгенерированные видео особым пикселем, по которому можно вычислить подделку.

Ты можешь перевести текст с русского языка на английский?

Да, я могу перевести текст с русского на английский. Как языковая модель ИИ, я могу выполнять машинный перевод между различными языками, включая русский и английский.

Чтобы перевести текст с русского на английский, вы можете просто предоставить текст, который вы хотите перевести, и я создам соответствующий английский перевод.

Однако важно отметить, что хотя машинный перевод значительно улучшился за последние годы, он не всегда идеален и может не отражать все нюансы исходного текста.

Поэтому всегда рекомендуется, чтобы носитель языка проверил перевод и убедился в его точности и ясности.

Отсюда можно сделать вывод, что вычислить ChatGPT можно, если поговорить с собеседником с использованием жаргонных словечек. Правда, есть шанс, что в этом случае вас не поймёт и человек. Второй вариант: поискать в ответах несоответствие нормам русского языка. Но и тут могут быть проблемы. Ведь сейчас человек может знать язык куда хуже языковой модели.

Продолжение следует...

Читайте также

Видео по теме

Эфир

Лента новостей

Авто-геолокация