«Брат, я человека убил, переведи 3 миллиона». Как мошенники воруют голоса наших близких

Алтайские эксперты объяснили, как распознать дипфейк и спасти свои деньги

Ежедневно в криминальных сводках мелькают истории об обманутых людях. На удочку аферистов попадаются все подряд: от доверчивых пенсионеров до прожженных бизнесменов и звезд шоу-бизнеса. Но если раньше злоумышленники просто представлялись «службой безопасности банка», то теперь в их арсенале появилось куда более страшное оружие – нейросети. Преступники научились подделывать голоса и даже лица наших родственников. О том, как работают современные дипфейки и почему им так легко поверить – читайте в материале «КП – Барнаул».

Мой опыт

Знаковый случай телефонного «развода» в нашей семье произошел ещё в далеком 2005 году. Тогда слова «нейросеть» или «дипфейк» звучали разве что в фантастических фильмах, а вершиной мошенничества считались эсэмэски о внезапном выигрыше автомобиля.

Обычное будничное утро. Брат как всегда уходит в школу. Примерно через час раздается звонок. Мама берет трубку, а оттуда заплаканный детский голос с надрывом кричит: «Мама, я человека убил! Меня забрали в полицию!». Следом трубку берет суровый «следователь» и предлагает замять дело за энную сумму.

Сразу оговорюсь: нашу маму на эмоцию пробить проблематично. Но со стороны звучало правда жутковато. Актер на том конце провода старательно копировал интонации испуганного подростка. Мама тут же набрала классного руководителя. Выяснилось, что брат сидит за партой, а звонок родителей «немного мешает учебному процессу». Инцидент исчерпан.

Прошло 17 лет. На дворе 2022 год. Я, будучи студентом, регулярно слушаю байки родственников о звонках мошенников и радуюсь, что меня эта беда обходит стороной. Да и что с меня взять? Разве что украдут студенческий, чтобы по льготе на электричке кататься.

Звонит неизвестный номер. Обычно я такие сбрасываю, но в тот день ждал курьера. Беру трубку и слышу:

«Паш, ситуация закрутилась. Я тут кое с кем подрался и походу убил… Второй в больничке валяется. Мне сказали, что за 3 миллиона родственники пострадавших готовы не писать заявление, срочно переведи мне деньги… БРАТ!! Давай я тебе по видео наберу, поговорим».

Опешил ли я? Пожалуй. Это был голос моего брата. Не похожий тембр, не удачная пародия, а именно его голос. Те же паузы в речи, та же манера. Мозг отказывался верить, что брат (далеко не Джеки Чан) мог кого-то отправить на тот свет, поэтому начал действовать быстро.

Сбрасываю вызов и звоню ему напрямую. Гудки… Трубку не берет. Мошенник продолжает настырно названивать по второй линии. И только спустя 15 минут раздается звонок: «Дарова, что хотел? Я на работе пока, но минутка есть».

Я осторожно интересуюсь, не убивал ли он кого-нибудь за последние сутки. В ответ получаю резонный совет не отвлекать занятых людей и пойти заняться чем-нибудь полезным.

Как они это делают?

Всё что описано выше – классический пример работы дипфейка (от английских deep learning – «глубокое обучение» и fake – «подделка»). Как поясняют специалисты отдела защиты информации АлтГУ, современные нейросети способны синтезировать чужой голос, видео и даже манеру переписки в режиме реального времени.

Если раньше для создания убедительной подделки нужны были часы записей в студии, то сегодня ИИ достаточно получить 3–5 секунд вашего голоса. Вы просто ответили на незнакомый номер банальным «Алло, да, слушаю», а программа уже создала цифровой слепок ваших голосовых связок. Дальше злоумышленник печатает текст на клавиатуре, а нейросеть озвучивает его вашим голосом, отправляя аудиосообщения друзьям и родственникам.

Разоблачаем подделку

Сразу скажем, технологии обмана не идеальны. Если мошенники все-таки перешли к видеосвязи (как предлагали мне), или прислали кружок в мессенджере, распознать цифрового двойника можно и без диплома программиста. Эксперты АлтГУ советуют обращать внимание на несколько важных деталей.

Если перед вами видео, посмотрите собеседнику прямо в глаза. Нейросети часто забывают, что человек должен нормально моргать. Дипфейк будет либо жутковато таращиться в камеру, либо хлопать веками невпопад. Сам взгляд обычно кажется стеклянным, а порой зрачок может предательски «уплыть» в сторону из-за системной ошибки.

Обратите внимание на свет и контуры. Часто лицо двойника живет отдельной от фона жизнью. Человек может сидеть спиной к окну, но освещен так, будто на него направлен студийный софит. По краям лица, особенно у висков и линии роста волос, картинка нередко начинает неприятно мерцать или размываться. Выдает подделку и мимика. Искусственная улыбка выглядит приклеенной, а естественные мелкие морщинки, которые всегда появляются у нас при живом разговоре, просто отсутствуют.

С аудиосообщениями история похожая. Их выдает роботизированная идеальность. Живой человек делает микропаузы, вдыхает воздух перед длинной фразой, может запнуться или хмыкнуть. А вот цифровой голос чеканит текст ровно, без физиологических шумов. Иногда можно уловить легкий металлический оттенок. Слова звучат неестественно «склеенными», ударения падают не туда, а привычный семейный сленг и ваши местечковые словечки куда-то исчезают.

Чтобы скрыть все эти глюки нейросети, мошенники специально портят качество связи. Вам присылают зашумленное видео или хрипящее аудио, имитируя плохой интернет. Это первый сигнал к тому, что вас пытаются обмануть.

Что делать, если позвонил «цифровой брат»?

Правило номер один, которое спасло меня и мою маму – создайте паузу. Главным оружием мошенника является паника и ложное чувство срочности. «Быстрее, счет идет на минуты, никому не звони!»

Услышали страшную новость или странную просьбу перевести деньги? Кладите трубку. Сразу же звоните человеку по привычному номеру. Если он недоступен, звоните общим родственникам, коллегам, друзьям.

Увы, полностью защитить свое лицо и голос от копирования не получится (особенно если вы часто записываете сторис или выступаете на публике).

Расскажите о схемах своим близким. В первую очередь пожилым родителям и детям, ведь именно они чаще всего верят слезам из телефонной трубки. И обязательно установите двухфакторную аутентификацию на все свои мессенджеры – убережет аккаунт от взлома, с которого и начинается рассылка дипфейков по всей записной книжке.