Дипфейк — синтетические или изменённые медиа, использующие ИИ для имитации или изменения личности, внешности, голоса или действий человека. Контент, созданный ИИ, — более широкая категория: он может изображать вымышленных людей, места, предметы или события без подражания реальному человеку. Каждый дипфейк создан или изменён ИИ, но не каждый созданный ИИ материал является дипфейком.
Это различие влияет на риски и проверку. Полностью созданный пейзаж и видео с заменой лица могут быть синтетическими, но только одно связано с утверждением о личности реального человека.
Что такое дипфейк?
Термин «дипфейк» объединяет deep learning и fake. Обычно он означает медиа, созданные или изменённые методами машинного обучения так, чтобы казалось, будто реальный человек сказал или сделал то, чего не говорил или не делал, либо чтобы имитировать его лицо или голос.
На границах определения различаются. NIST описывает синтетические медиа широко — как информацию, значительно изменённую или созданную алгоритмами, включая ИИ. Материалы NIST по медиафорензике делят манипуляции с лицом на замену личности, замену выражения, изменение атрибутов и синтез всего лица.
WITNESS использует «синтетические медиа» как более широкое семейство и описывает дипфейки как реалистичные имитации лица, голоса или действий человека. Это определение с акцентом на человека полезно, поскольку подмена личности обычно делает дипфейк особенно вредным.
Чем дипфейк отличается от контента, созданного ИИ?
Контент, созданный ИИ, включает текст, изображения, аудио и видео, созданные или существенно преобразованные генеративными моделями. Он может быть явно обозначенным, вымышленным, художественным или предназначенным для обычного коммерческого процесса. Копировать реального человека не обязательно.
Дипфейк обычно нацелен на личность. Он может поместить лицо одного человека на другое тело, воспроизвести выражения лица, создать речь узнаваемым голосом или реалистичную сцену с названным человеком.
| Тип медиа | Использует ИИ? | Имитирует реального человека? | Типичный пример |
|---|---|---|---|
| Созданная иллюстрация | Да | Не обязательно | Вымышленный город, созданный по запросу |
| Полностью созданный ведущий | Да | Нет, если личность вымышленная | Открыто обозначенный виртуальный ведущий |
| Замена лица | Да | Да | Лицо одного человека помещено на выступление другого |
| Воспроизведение мимики | Да | Да | Изменены выражения или движения рта реального человека |
| Клон голоса | Да | Да | Синтетическая речь, имитирующая известного говорящего |
| Обычное вводящее в заблуждение редактирование | Не обязательно | Возможно | Настоящий ролик, обрезанный для удаления контекста |
Последняя строка важна: вредные или обманные медиа не становятся автоматически дипфейком. Повторно использованное видео, ложная подпись, выборочная обрезка или ручное редактирование могут вводить в заблуждение без генеративного ИИ.
Какие основные виды дипфейков существуют?
Замена лиц
Замена лица заменяет или смешивает исходную личность с целевым изображением или видео. Тело, движение, обстановка и звук могут оставаться настоящими, хотя видимая личность меняется.
Воспроизведение мимики и изменение синхронизации губ
Воспроизведение меняет выражения, взгляд, движение головы или рта, сохраняя личность целевого человека. Системы синхронизации губ могут создать видимость, что человек произносит слова из заменённого аудио.
Клонирование голоса
Клон голоса создаёт речь, имитирующую конкретного говорящего. Он может появиться в звонке, голосовом сообщении, фрагменте подкаста или звуковой дорожке изменённого видео. Федеральная торговая комиссия США предупреждает, что мошенники, выдающие себя за других, могут использовать клонирование голоса в ложных экстренных просьбах, и советует связаться с предполагаемым звонящим по известному каналу.
Синтетическая личность и изменение тела
Некоторые медиа сочетают созданное лицо, изменённое тело и выдуманный контекст. Другой контент меняет возраст, волосы, одежду или признаки без полной замены личности. Эти случаи показывают, почему «дипфейк» — не одна техническая операция.
Являются ли полностью созданные ИИ люди дипфейками?
Созданного человека, не имитирующего определяемую личность, обычно точнее назвать синтетическим человеком или персонажем ИИ. Если называть каждый фотореалистичный портрет ИИ дипфейком, можно размыть вред, связанный с личностью, который призван описывать этот термин.
Термин всё же может подходить, когда созданная сцена ложно изображает реального названного человека, даже если система создала весь кадр, а не заменила лицо. На практике описывайте и метод, и утверждение: «изображение ИИ, ложно изображающее публичного человека» точнее одного ярлыка.
Все ли дипфейки вредоносны?
Нет. Метод может применяться с согласия для дубляжа, доступности, сатиры, кино, образования или обозначенного творческого проекта. Этическая и правовая оценка зависит от согласия, раскрытия, контекста и вреда, а не только использования ИИ.
К случаям высокого риска относятся интимные изображения без согласия, мошенничество, преследование, манипуляция доказательствами и подмена личности для влияния на решения. Даже тогда не обвиняйте автора или изображённого человека только по автоматическому результату детектора. Сохраните первоначальный источник и обратитесь за квалифицированной оценкой в серьёзных случаях.
Как проверить предполагаемый дипфейк?
Начните с утверждения и личности, а не визуальных аномалий. Выясните, кто предположительно изображён или слышен, что он якобы сказал или сделал и где медиа появились впервые.
- Сохраните URL, аккаунт, подпись, временные отметки и лучший доступный файл.
- Найдите более длинную или раннюю версию через поиск источника и характерных кадров.
- Сравните утверждение с официальными записями, надёжными сообщениями или другим известным каналом.
- Изучите соседние кадры на устойчивые несоответствия личности, движения и композиции.
- Изучите аудио отдельно; проверьте изменения и подтвердите говорящего по независимому каналу связи.
- Изучите доступные Content Credentials или другие записи происхождения.
- Используйте подходящий детектор как вспомогательное доказательство и запишите заявленный охват.
Подробный процесс проверки медиа описан в Как определить, создано ли видео с помощью ИИ. Процесс подходит как для синтетических сцен, так и для предполагаемой манипуляции личностью.
Почему визуальных «признаков дипфейка» недостаточно
Фиксированные списки быстро устаревают. Неестественное моргание, искажённые зубы, странные руки или артефакты краёв могут дать полезные подсказки, но современные системы могут их избегать. Настоящие кадры также могут содержать размытие, сжатие, пропущенные кадры, дубляж, фильтры или эффекты освещения, похожие на манипуляцию.
Изучайте последовательность, а не один снимок экрана. Проверьте, сохраняется ли аномалия в соседних кадрах и копии лучшего качества. Ещё важнее искать внешние доказательства: оригинальную запись, другой ракурс, соответствующее публичное появление или противоречие во времени и месте.
Убедительное лицо не подтверждает событие. И наоборот, один неудачный кадр не доказывает замену лица.
Что может рассказать детектор видео ИИ?
Детектор может выявлять закономерности, связанные с медиа поддерживаемых классов. Его результат следует толковать с учётом обучения модели, качества файла, типа манипуляции и доли проверенного видео.
В методологии AIFakeScan указано, что Basic Scan не включает специализированную классификацию замены лица, а базовая проверка аудио не классифицирует клонированную или синтетическую речь. Анализ видео может проверять выборку кадров, а не каждый кадр. Результаты бета-версии только по пассивным сигналам остаются неопределёнными; это не подтверждённые вероятности ИИ.
Эти границы предотвращают частую ошибку: восприятие общего результата видео как отдельной проверки лица и голоса человека. Используйте детектор видео ИИ только для описанных проверок, затем сопоставляйте результат с проверкой личности и источника.
Как Content Credentials помогают при дипфейках?
Content Credentials могут записывать, кто или что подписал материал, какие действия заявлены и соответствует ли подписанное происхождение файлу. Заявленное редактирование или генерация ИИ могут быть сильным положительным доказательством записанного процесса.
Они не устанавливают истинность сцены и не гарантируют согласие. Отсутствие данных не доказывает манипуляцию, поскольку их использование необязательно и метаданные могут потеряться. Прочитайте C2PA Content Credentials: что это и как работает о различии между действительной записью происхождения и истинным утверждением о реальном мире.
Что делать при подозрении на мошенничество с подменой личности?
Не спешите. Не полагайтесь только на видимое лицо, голос, определитель номера или аккаунт. Свяжитесь с человеком или организацией по номеру, сайту или аккаунту, подлинность которого вам уже известна.
Не отправляйте деньги или чувствительные сведения под давлением. Сохраните сообщения и детали транзакций, уведомите соответствующую платформу или финансового поставщика и сообщите о мошенничестве через подходящий официальный канал. Цель — независимо проверить запрос, а не победить в споре с медиа.
Частые вопросы
Дипфейк всегда является видео?
Нет. Термин может охватывать изменённые или синтетические изображения, видео и аудио, особенно когда они имитируют личность, голос, внешность или действия реального человека.
Является ли каждый фильтр лица дипфейком?
Обычно нет. Открыто обозначенный развлекательный фильтр лучше описать по его действию. Термин «дипфейк» уместнее, когда манипуляция ИИ создаёт реалистичное утверждение о личности или действии реального человека.
Может ли детектор дипфейков доказать поддельность видео?
Ни один результат детектора не следует считать универсальным доказательством. Охват зависит от типа манипуляции и качества файла. Серьёзные выводы требуют доказательств источника, по возможности оригинальных медиа и подходящей экспертной оценки.
Могут ли настоящие кадры всё равно быть дезинформацией?
Да. Настоящие кадры могут быть старыми, неверно подписанными, выборочно отредактированными или представлены с ложным местом. Подлинность файла и истинность окружающего утверждения — разные вопросы.
Как яснее всего описать подозрительные медиа?
Укажите наблюдаемый метод и утверждение: например, «предполагаемый клон голоса, выдающий себя за члена семьи» или «полностью созданная сцена, обозначенная как настоящая запись». Точная формулировка полезнее, чем называть любой подозрительный материал дипфейком.
Практический вывод
Используйте «дипфейк» для медиа с ИИ, имитирующих или изменяющих личность, а «контент, созданный ИИ» — для более широкой категории. Затем проверяйте конкретного человека, действие, источник и контекст. Точная классификация помогает выбирать подходящие доказательства вместо опоры на один визуальный признак или оценку детектора.
Вопросы и ответы
Дипфейк всегда является видео?
Нет. Термин может охватывать синтетические или изменённые изображения, видео и аудио, особенно когда они имитируют реального человека.
Является ли каждый фильтр лица дипфейком?
Обычно нет. Термин полезнее, когда манипуляция ИИ создаёт реалистичное утверждение о личности или действии реального человека.
Может ли детектор дипфейков доказать поддельность видео?
Ни один результат не является универсальным доказательством. Охват различается, а серьёзные выводы требуют доказательств источника и подходящей оценки.
Могут ли настоящие кадры всё равно быть дезинформацией?
Да. Настоящие кадры могут быть старыми, неверно подписанными, выборочно отредактированными или иметь ложное указание места.
Источники
- Frontier Research on Mitigating Risks from Synthetic Content — NIST
- Backgrounder: Deepfakes in 2021 — WITNESS
- Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission
