Авторские материалы Дипфейки становятся качественнее – как не попасться на удочку мошенников?

Мошенники всё активнее используют записи голосовых приветствий на автоответчиках для создания дипфейков. Они осваивают нейросети и пишут как голосовые сообщения. Так и полноценные видео. Как это работает и как не попасться на удочку мошенников – разоблачал автор программы "Схемы обмана" и телеграм-канала "Без Обмана" Александр Ельшевский.

Обычное сообщение, которое может прийти от близкого друга, вполне живой и знакомый голос. Вот только это полностью сгенерированное аудио. Мошенники взламывают аккаунты и берут из настоящих и уже отправленных голосовых сообщений образцы интонаций и тембра, которые загружают в нейросеть.

Взломали аккаунт, изучили, как обращаемся друг к другу, написали и дальше пошли уже голосовые с моим голосом.

И правда, отличить сложно, особенно прослушивая короткие сообщения с ускорением и между своими делами. Расчёт именно на это. Причем мошенники могут обойтись и без взлома, о котором так или иначе станет известно и в итоге сам человек сможет оперативно оповестить все контакты о том, что от его имени пишут аферисты. Взять образцы голоса жулики могут из голосовых приветствий автоответчика, которые записал сам человек. Даже несколько секунд записи могут быть использованы для воссоздания тембра голоса. Однако если запись длится дольше, можно передать и эмоции, и характерные особенности речи.

Мошенники уже несколько лет активно используют такие технологии. Конечно, высококачественная подделка с разнообразным контентом требует специалиста высокой квалификации, и такие фальшивки часто используются для таргетированного фишинга. Например, для того чтобы начать писать от лица известного блогера, рассчитывая зацепить кого-то из его аудитории.

Вчера начали сохранять мои видео с оригинальной озвучкой. Прямо подряд все, загружать в нейросеть и делать рассылку…

Технологии развиваются такими темпами, что сейчас возможно не только сгененировать голос по нескольким отрывкам, но и полноценное видео по одной фотографии. Сеть уже обошло видео от китайская ByteDance, которая выпустила генератор "дипфейков" по фотографии OmniHuman-1.

Энштейн, своим голосом весьма правдоподобно говорит и жестикулирует. И все это сделано для демонстрации того, как по одной старой фотографии и аудиозаписи алгоритм "оживляет" изображения и синхронизирует анимации с загруженным аудио. Другие нейросети накладывают фотографию и изображение лица на другого человека, записывающего видео, или даже ведущего стрим и получается живая мимика и пластика движений, причем делается это все прямо на лету. И это уже не фантастика, и мошенники не просто берут это на вооруждение, а используют на потоке. В конце января прошла информация о том, что в Китае появились объявления с предложениями о работе "моделью" для мошеннических дипфейк-атак. Люди, которые зарабатывали финансовым мошенничеством, предоставляют злоумышленникам свои изображения и голос. Первые такие объявления появились в Китае еще 2024 году, когда молодая женщина разместила объявление о поиске работы дипфейк-моделью. В своей анкете она упомянула большой опыт участия в инвестиционных мошеннических схемах. Несмотря на высокое качество дипфейков, голосовые фальсификации всё же могут быть замечены внимательным слушателем. Однако для неподготовленного человека, который не ожидает обмана, времени на проверку часто нет. Чтобы защититься от таких схем, лучше не записывать голосовые сообщения на автоответчике самостоятельно, а воспользоваться услугами операторов связи, которые предоставляют специальный сервис. Эти сообщения не оставляют образца голоса для злоумышленников, так как звонящий будет заменён роботом.

Чтобы избежать мошенников, всегда проверяйте информацию, поступившую через голосовые сообщения или звонки, перезвонив на номер, сохранённый в телефонной книге. Или спросив о чем-то, что может знать только ваш знакомый. Что бы не попадаться на уловки мошенников – читайте мой телеграм-канал "Без обмана", там я разбираю самые актуальные угрозы, рассказываю о том, как противодействовать и публикую истории подписчиков, которые они присылают. Будьте на шаг впереди мошенников и читайте телеграм-канал "Без обмана".