Слушаем! Радиоканал Контент, созданный нейросетям, могут начать маркировать – соответствующий закон разработают в Госдуме

Генеральный директор "А-Я эксперт", компании-разработчика искусственного интеллекта Роман Душкин в прямом эфире радиоканала "Слушаем!" на "Радио России":

"Серьезное опасение вызывает использование этих технологий именно для различных мошеннических схем, когда подобного рода решения – дипфейки, созданные при помощи нейросетей глубокого обучения, которые позволяют сымитировать голос, внешность человека, синхронизировать внешность человека на видеофайле с тем, что он говорит, подставить это в видеозвонок – вот это будет направлено на людей, которые не совсем глубоко погружены в новые технологии и не понимают, что это можно сделать уже сегодня. И это для мошенников открывает очень широкие возможности. Здесь надо, во-первых, просвещать людей: как противостоять этому, что это уже возможно, что уже даже видеозвонок не позволяет удостовериться в том, что с вами разговаривает ваш друг.

Вечная проблема: когда добропорядочные граждане маркировать такой контент будут, но они и не делают никаких противоправных вещей, на которые стоит правоохранителям обратить внимание, а злоумышленники маркировать не будут. И даже если бы они маркировали, то как вы будете проверять – есть водяной знак или нет? Его же не видно человеческими глазами. Это нужны специальные программные или технические средства для того, чтобы распознать, что является сгенерированным. Цифровые водяные знаки обычно не видно невооруженным взглядом.

Я могу всем дать совет – вопрос решается достаточно просто. Надо попросить своего визави, если у вас есть подозрение, что видеопоток, который вы смотрите, сгенерирован и наложен на лицо другого человека, надо попросить человека помотать резко лицом из стороны в сторону. Если он будет отказываться, кладите трубку".