Авторские материалы Киберпреступники привлекают нейросети к совершению онлайн-преступлений

Искусственный интеллект переходит на сторону мошенников. Аналог чата GPT набирает популярность у киберпреступников. Специалисты предупреждают, что нелегальные нейросети способны красть персональные данные или создавать вредоносное программное обеспечение. Киберугрозы изучала Екатерина Косинец.

Если чат-бот может писать достойные резюме, сочинения и даже дипломные работы, вводя в заблуждение работодателей и преподавателей, то обмануть простых граждан ему не составит труда – рассудили злоумышленники и начали привлекать искусственный интеллект к совершению онлайн-преступлений. Если раньше для кражи данных у интернет-пользователей нужно было иметь, по крайней мере, элементарные навыки программирования, то теперь всю техническую работу доверили криминальной программе. То есть задача злоумышленника, заполучившего доступ к боту, сводится к тому, чтобы точно сформулировать запрос.

Научить бота-преступника писать и распространять вредоносные программы, воровать персональные данные, прикинувшись представителем банка или госструктуры, сегодня не составляет труда. Такие языковые модели можно обучить на основе массива данных под любую задачу. Отличие же самого GPT чата от его криминального аналога в том, что ответственные разработчики тщательно отслеживают случаи, когда программу пытаются использовать в незаконных целях – комментирует руководитель направления информационной безопасности компании "Випсервис" Владимир Макаров:

Некоторые девиации с самим чатом GPT тоже были. Это когда его просили писать или какой-то вредоносный код, и его просили раскрывать какие-то персональные данные с помощью определённых трюков. Но здесь нужно понимать, что это именно трюки, которые работают очень непродолжительное время, которые разработчики учатся сразу же устранять и запрещать выдавать эту поисковую выдачу. На сколько мне известно, последний такой трюк не прожил и 24 часов. Как только про него написали, он сразу же был заблокирован разработчиками.

У мошеннической нейросети нет никаких ограничений на использование. Те, кто намерен с помощью чат-бота нарушать закон, готовы платить за такую возможность. И это, в принципе, всё, что волнует разработчиков криминального бота. Так, в отличии от GPT и российских аналогов нейросети, преступное ПО беспрепятственно может выдать информацию об изготовлении оружия или, например, запрещённых препаратов даже ребёнку, если окажется в его руках. Кроме того, нет никакой гарантии, что это будет правдивая информация. От ошибок не застрахованы даже легальные нейросети – говорит Владимир Макаров:

Чат GPT выдавал и продолжает до сих пор выдавать абсолютную чушь. Можете, если хотите посмотреть, как это работает, загуглите, как чат GPT просят решать особенно задачки с ЕГЭ по геометрии. Там просто неописуемая фантасмагория твориться. Поэтому, как и легальные нейросети, в виду этой особенности своей, что это не полноценный интеллект, они не могут строить логические связи, они не могут обдумывать происходящее, так и нелегальные сети тоже будут допускать ошибки.

И это дарит небольшую надежду, что ошибочные рекомендации бота-двоечника смогут помешать человеку осуществить его преступные намерения. При этом, невозможно предсказать, к каким последствиям могут привести советы криминального чата, если ими попробуют воспользоваться, к примеру, подростки или просто доверчивые люди без критического мышления.

Защищаться от бота-преступника специалисты рекомендуют так же, как и от людей-злоумышленников:

Разумеется, не верить никому на слово. Если с вами связываются, например, от лица сотрудников банка, то вы говорите: "Да-да-да, спасибо", кладёте трубку и просто сами перезваниваете в свой банк по доступному вам номеру банка. И уже там вы знаете, что с вами точно говорит оператор потому что не кто-то вам позвонил, а вы сами инициировали контакт. В принципе, советы все абсолютно те же самые, как если бы вас пытался развести человек-злоумышленник.

Любопытно, что разработчики криминального кибер инструмента сами стали жертвами мошенников. В каналах, продающих программу, стали появляться объявления с рекомендациями, как не попасться на уловки злоумышленников, которые под видом продавцов похищают деньги тех, кто намерен купить доступ к нелегальному чат-боту.