验证指南

什么是深度伪造?深度伪造与 AI 生成内容的区别

了解深度伪造的含义、它与更广泛的 AI 生成内容有何不同、主要操纵类型,以及如何核查疑似冒充。

文章封面,标题为:什么是深度伪造?深度伪造与 AI 生成内容的区别

深度伪造是使用 AI 模仿或改变一个人的身份、外貌、声音或行为的合成或篡改媒体。AI 生成内容是更广泛的类别:它可以描绘虚构人物、地点、物体或事件,而不冒充任何真实个人。所有深度伪造都是 AI 生成或 AI 修改的内容,但并非所有 AI 生成素材都是深度伪造。

这一区别同时影响风险和验证方式。完全生成的风景与换脸视频都可能是合成内容,但只有其中一种依赖于对真实人物身份的主张。

什么是深度伪造?

“deepfake”一词结合了深度学习和伪造。常见用法是指使用机器学习技术创建或修改的媒体,使真实人物看起来说过或做过其未说或未做的事,或模仿其面孔或声音。

边界处的定义有所不同。NIST 对合成媒体的描述将其广义定义为由算法(包括 AI)显著修改或生成的信息。NIST 的媒体取证资料将面部相关操纵分为身份替换、表情替换、属性操纵和整脸合成等类别。

WITNESS 将“合成媒体”作为更广泛的类别,并将深度伪造描述为对某人面孔、声音或行为的逼真模拟。这种以人为中心的定义很有用,因为冒充通常是深度伪造尤其有害的原因。

深度伪造与 AI 生成内容有什么区别?

AI 生成内容包括由生成模型制作或大幅改变的文本、图片、音频和视频。它可以被明确披露,也可以是虚构、艺术作品或用于普通商业流程,无须模仿真实人物。

深度伪造通常针对身份。它可能将一个人的脸放到另一个身体上、重演面部表情、用可识别的声音生成语音,或创建涉及某个具名人物的逼真场景。

媒体类型使用 AI?模仿真实人物?典型例子
生成插图是不一定根据提示词创建的虚构城市
完全生成的主持人是身份虚构时不是已披露的虚拟主持人
换脸是是将一个人的脸放到另一个人的表演上
面部重演是是真实人物的表情或口部动作被修改
声音克隆是是模仿已知说话人的合成语音
传统误导性编辑不一定可能通过剪辑去掉背景的真实片段

最后一行很重要:有害或欺骗性媒体不会自动成为深度伪造。旧视频重新使用、虚假说明、选择性剪辑或手工编辑,都可能在没有生成式 AI 的情况下误导。

深度伪造的主要类型有哪些?

换脸

换脸将来源身份替换或融合到目标图片或视频中。即使表面身份改变,基础身体、动作、环境和音频仍可能是真实的。

面部重演与唇形同步操纵

面部重演在保留目标人物身份的同时改变表情、视线、头部或嘴部动作。唇形同步系统可以让人物看起来说出了替换音频中的话。

声音克隆

声音克隆生成模仿特定说话人的语音。它可能出现在电话、语音消息、播客片段中,也可能作为修改视频的音轨。美国联邦贸易委员会警告称,冒充者可能在虚假紧急求助中使用声音克隆,并建议通过已知渠道联系所谓来电者。

合成身份与身体操纵

有些媒体结合生成面孔、修改后的身体和虚构背景。其他内容改变年龄、头发、衣服或属性,但不替换整个身份。这些情况说明,“深度伪造”不是单一技术操作。

完全由 AI 生成的人物是深度伪造吗?

不模仿可识别个人的生成式人物,通常更适合称为合成人物或 AI 生成角色。将所有逼真的 AI 人像都称为深度伪造,可能模糊该术语所描述的身份相关伤害。

当生成场景虚假描绘真实具名人物时,即使系统生成了整个画面而不是换脸,该标签仍可能适用。实际使用时,请同时描述技术和主张:“虚假描绘某公众人物的 AI 生成图片”比单一标签更准确。

所有深度伪造都有恶意吗?

不。经同意,这种技术可以用于配音、无障碍、讽刺、电影制作、教育或已披露的创作。伦理和法律问题取决于同意、披露、背景和伤害,而不只是使用 AI。

高风险用途包括未经同意的私密图像、欺诈、骚扰、证据操纵和意图影响决定的冒充。即便如此,也不要仅凭自动检测结果指控创作者或当事人。对后果重大的案例,请保留原始来源并寻求专业审核。

如何核查疑似深度伪造?

从主张和身份入手,而不是先看视觉异常。询问画面中据称是谁、据称说了或做了什么,以及媒体最早出现在哪里。

  1. 保存 URL、账户、说明文字、时间戳和可获得的最佳文件。
  2. 通过追溯来源和搜索有代表性的帧,寻找更长或更早的版本。
  3. 将主张与官方录像、可靠报道或其他已知渠道比较。
  4. 检查相邻帧中持续出现的身份、动作和合成不一致。
  5. 单独检查音频;查看剪辑,并通过独立联系渠道核实说话人。
  6. 检查可用的 Content Credentials 或其他来源记录。
  7. 使用合适的检测器作为辅助证据,并记录其声明的覆盖范围。

关于详细媒体流程,请阅读如何判断视频是否由 AI 生成。该流程既适用于合成场景,也适用于疑似身份操纵。

为什么视觉上的“深度伪造特征”不够

固定清单很快会过时。不自然眨眼、变形牙齿、奇怪的手或边缘伪影可以提供线索,但现代系统可能避开这些现象。真实画面也可能有模糊、压缩、丢帧、配音、滤镜或照明效果,看起来像经过操纵。

请检查连续画面,而不是只看一张截图。询问异常是否在相邻帧和质量更好的副本中持续存在。更重要的是寻找外部证据:原始录像、另一个摄像角度、相符的公开露面,或时间和地点上的矛盾。

逼真的面孔不能验证事件。反过来,一帧难看的画面也不能证明换脸。

AI 视频检测器能告诉您什么?

检测器可能识别与其支持类别的媒体相关的模式。解释输出时应考虑模型训练、文件质量、操纵类型以及检查了多少视频。

AIFakeScan 的方法说明指出,基础检查不包含专门的换脸分类,基础音频检查不对克隆或合成语音分类。视频分析可能抽样帧,而不是检查每一帧。仅基于被动信号的测试版结果仍无法得出结论;它们不是经过验证的 AI 概率。

这些边界可以防止常见错误:把一般视频结果当作分别测试了人物的脸和声音。仅将AI 视频检测器用于它所描述的检查,然后结合身份和来源核查。

Content Credentials 如何帮助调查深度伪造?

Content Credentials 可以记录谁或什么签署了素材、声明了哪些操作,以及签署的来源信息是否仍与文件匹配。声明的 AI 编辑或生成操作可以是有关已记录流程的强阳性证据。

它们不能证明场景真实,也不能保证获得同意。缺少凭证不能证明操纵,因为采用凭证是可选的,元数据也可能丢失。请阅读C2PA Content Credentials:它们是什么以及如何运作,了解有效来源记录与真实世界主张之间的区别。

遭遇疑似冒充诈骗时该怎么办?

放慢互动节奏。不要只依赖看起来的面孔、声音、来电显示或账户。请通过您已知真实的电话号码、网站或账户联系该个人或组织。

不要在压力下汇款或发送敏感信息。保留消息和交易详情,通知相关平台或金融服务提供商,并通过适当的官方渠道举报欺诈。目标是独立核实请求,而不是与媒体内容争辩。

常见问题

深度伪造一定是视频吗?

不。该术语可以涵盖经过操纵或合成的图片、视频和音频,尤其是模仿真实人物身份、声音、外貌或行为的内容。

每个面部滤镜都是深度伪造吗?

通常不是。已披露的娱乐滤镜更适合按其作用描述。当 AI 操纵涉及真实人物并形成逼真的身份或行为主张时,深度伪造标签才更相关。

深度伪造检测器能证明视频是假的吗?

不应将任何检测结果视为通用证明。覆盖范围因操纵类型和文件质量而异。后果重大的结论需要来源证据、可能时的原始媒体和适当的专家审核。

真实画面仍可能构成虚假信息吗?

可能。真实画面可能年代久远、说明错误、经过选择性剪辑,或被赋予虚假地点。文件真实性与周边主张的真伪是不同问题。

描述疑似媒体最清楚的方式是什么?

说明观察到的技术和主张,例如“疑似克隆声音冒充家庭成员”或“完全生成的场景被标为真实画面”。准确语言比把所有可疑素材都称为深度伪造更有用。

实际启示

对模仿或操纵身份的 AI 媒体使用“深度伪造”,对更广泛类别使用“AI 生成内容”。然后核查具体人物、行为、来源和背景。准确分类有助于选择正确证据,而不是依赖单一视觉线索或检测分数。

常见问题

深度伪造一定是视频吗?

不。该术语可以涵盖合成或篡改的图片、视频和音频,尤其是在模仿真实人物时。

每个面部滤镜都是深度伪造吗?

通常不是。当 AI 操纵涉及真实人物并形成逼真的身份或行为主张时,这个标签更有用。

深度伪造检测器能证明视频是假的吗?

单一结果不是通用证明。覆盖范围各异,后果重大的结论需要来源证据和适当审核。

真实画面仍可能构成虚假信息吗?

可能。真实画面可能年代久远、说明错误、经过选择性剪辑或被赋予虚假地点。

来源

  1. Frontier Research on Mitigating Risks from Synthetic Content — NIST
  2. Backgrounder: Deepfakes in 2021 — WITNESS
  3. Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission