Дипфейк — это фото, видео или аудиозапись, в которой с помощью нейросетей подменено лицо, голос или слова человека. Распознать подделку помогают мелкие нестыковки: неестественное моргание, размытая граница лица, странные зубы и уши, рассинхрон губ и речи, ровный «бесцветный» голос без дыхания. Но самый надежный способ защиты — не разглядывать картинку, а проверить человека по другому каналу связи.
Что такое дипфейк и откуда взялось слово
Слово составлено из английских deep learning («глубокое обучение») и fake («подделка»). Его в 2017 году ввел в оборот пользователь форума Reddit с ником deepfakes, который выкладывал ролики с подмененными лицами знаменитостей. Вскоре инструменты для подмены лиц стали общедоступными, а термин — нарицательным.
Монтаж фото и видео существовал и раньше, но требовал труда опытных специалистов и многих часов работы. Нейросети сделали подделку быстрой и дешевой: для правдоподобного результата теперь нередко хватает обычного компьютера, нескольких фотографий человека или короткой записи его голоса.
У технологии есть и мирное применение: дублирование фильмов с подгонкой движения губ под другой язык, омоложение актеров в кино, восстановление голоса людям, потерявшим его из-за болезни, обучающие видео с цифровыми ведущими. Проблемы начинаются, когда подделку выдают за настоящую запись.
Как делают дипфейки
Замена лица
Классический способ — нейросеть-автокодировщик. Ее обучают на тысячах кадров с двумя людьми: сеть учится сжимать лицо до набора чисел, описывающих позу, мимику и освещение, и разворачивать этот набор обратно в лицо конкретного человека. Затем мимику одного человека «надевают» на лицо другого. Чем больше снимков жертвы в разных ракурсах, тем убедительнее результат, поэтому чаще всего подделывают публичных людей с множеством видео в сети.
Оживление фото и подгонка губ
Другие модели умеют заставить говорить человека с одной фотографии или переделать движение губ на готовом видео под новую звуковую дорожку. Так создают ролики, где политик или бизнесмен якобы произносит то, чего никогда не говорил.
Клонирование голоса
Современным системам синтеза речи для правдоподобной копии голоса бывает достаточно записи длиной от нескольких секунд до нескольких минут. Источником служат голосовые сообщения, видео в соцсетях, записи звонков. Модель схватывает тембр, интонации, манеру говорить, а дальше произносит любой текст.
Фото и видео целиком
Генераторы изображений и видео создают с нуля несуществующих людей, сцены «с места событий», поддельные документы. Такие подделки не опираются на реальную съемку, поэтому на них нет следов склейки, но есть типичные для нейросетей ошибки.
Признаки дипфейка на видео и фото
Качество подделок быстро растет, и ни один признак не дает гарантии. Но несколько нестыковок сразу — серьезный повод для недоверия:
- граница лица — размытие, мерцание или изменение цвета кожи на линии подбородка, у висков и волос;
- моргание и взгляд — человек моргает слишком редко, слишком равномерно или взгляд «не туда»;
- зубы и язык — зубы сливаются в белую полосу, язык почти не виден во время речи;
- губы и звук — движения губ отстают от речи или не совпадают со звуками «п», «б», «м», при которых губы обязаны сомкнуться;
- повороты головы — при резком повороте в профиль лицо «плывет», искажаются нос и уши;
- руки у лица — когда человек касается лица или поправляет очки, изображение ломается;
- свет и тени — освещение лица не совпадает с освещением комнаты, блики в глазах разные;
- украшения и мелочи — серьги разной формы, оправа очков обрывается, надписи на фоне нечитаемы.
Полезно остановить видео и пролистать покадрово: на паузе артефакты заметнее, чем на ходу. Если ролик явно пережат, снят в низком качестве или «случайно» обрывается на самом интересном месте, это тоже повод насторожиться: низкое разрешение скрывает следы подделки.
Как распознать поддельный голос
Голос подделать проще, чем видео, а распознать сложнее, особенно по телефону, где звук и так искажен. Обратите внимание на такие детали:
- голос звучит ровно, без пауз на вдох, покашливаний, слов-паразитов, привычных для этого человека;
- интонация не совпадает со смыслом: о беде рассказывают слишком спокойно или эмоции «наклеены»;
- странное произношение редких слов, имен, адресов;
- собеседник уклоняется от неожиданных вопросов или отвечает с задержкой;
- на фоне подозрительная тишина или, наоборот, слишком громкий шум, который «объясняет» плохую связь.
Мошенничество с голосом родственника и начальника
Старая схема «мама, я попал в беду» с появлением нейросетей стала опаснее. Раньше мошенник говорил чужим голосом и списывал это на плохую связь. Теперь он может прислать голосовое сообщение или позвонить голосом, очень похожим на голос сына, внука или подруги. Типичный сценарий выглядит так:
- мошенники взламывают аккаунт в мессенджере или находят записи голоса в соцсетях;
- создают копию голоса и пишут или звонят близким от имени жертвы;
- сообщают о срочной беде: авария, задержание, больница, долг;
- просят немедленно перевести деньги и никому не говорить;
- торопят, не давая времени подумать и перезвонить.
Похожая схема работает с «руководителем»: сотрудник получает голосовое сообщение или видеозвонок от якобы директора с просьбой срочно оплатить счет или передать данные. В 2024 году широко обсуждался случай в Гонконге: сотрудник международной инженерной компании перевел мошенникам около 25 миллионов долларов после видеоконференции, на которой финансовый директор и коллеги оказались дипфейками.
Как защититься от дипфейков
Правила для семьи
- Договоритесь с близкими о кодовом слове или вопросе, ответ на который знаете только вы. Его можно попросить в любом подозрительном звонке.
- Получив тревожную просьбу о деньгах, положите трубку и перезвоните человеку сами по номеру из своей записной книжки, а не по тому, с которого звонили.
- Свяжитесь с кем-то, кто сейчас рядом с ним: супругом, коллегой, другом.
- Расскажите пожилым родственникам о схеме заранее: именно на них чаще всего рассчитаны такие звонки.
Цифровая гигиена
- Включите двухфакторную защиту в мессенджерах и соцсетях, чтобы аккаунт было труднее взломать.
- Ограничьте доступ посторонних к своим видео и голосовым сообщениям.
- Не отвечайте подробно незнакомцам, которые звонят с «опросом»: запись вашего голоса может стать материалом для подделки.
Если деньги уже переведены
Сразу позвоните в свой банк по номеру с обратной стороны карты: иногда перевод успевают приостановить. Затем обратитесь в полицию, сохранив переписку, номера и записи звонков.
Что еще спрашивают о дипфейках
Есть ли программы, которые распознают дипфейк
Да, существуют сервисы-детекторы, их разрабатывают крупные компании и исследовательские группы. Но точность у них не стопроцентная, а новые способы подделки появляются быстрее, чем детекторы успевают учиться. Поэтому проверка по независимому каналу связи надежнее любой программы.
Можно ли подделать видеозвонок в реальном времени
Да, такие технологии уже существуют. Хороший прием проверки — попросить собеседника медленно повернуть голову в профиль, провести рукой перед лицом или поднести к лицу предмет: многие подделки в этот момент «ломаются».
Что делать, если сделали дипфейк с вами
Сохраните ссылки и копии, пожалуйтесь администрации платформы, где опубликован ролик, и предупредите знакомых. Если подделка используется для вымогательства, клеветы или мошенничества, обращайтесь в полицию.