查證指南

什麼是深偽?深偽與 AI 生成內容的區別

了解深偽的含義、它與更廣泛的 AI 生成內容有何不同、主要操縱類型,以及如何查證疑似冒充。

文章封面,標題為:什麼是深偽?深偽與 AI 生成內容的區別

深偽是使用 AI 模仿或改變一個人的身分、外貌、聲音或行為的合成或竄改媒體。AI 生成內容是更廣泛的類別:它可以描繪虛構人物、地點、物體或事件,而不冒充任何真實個人。所有深偽都是 AI 生成或 AI 修改的內容,但並非所有 AI 生成素材都是深偽。

這一區別同時影響風險和驗證方式。完全生成的風景與換臉影片都可能是合成內容,但只有其中一種依賴於對真實人物身分的主張。

什麼是深偽?

「deepfake」一詞結合了深度學習和偽造。常見用法是指使用機器學習技術建立或修改的媒體,使真實人物看起來說過或做過其未說或未做的事,或模仿其面孔或聲音。

邊界處的定義有所不同。NIST 對合成媒體的描述將其廣義定義為由演算法(包括 AI)顯著修改或生成的資訊。NIST 的媒體鑑識資料將臉部相關操縱分為身分替換、表情替換、屬性操縱和整臉合成等類別。

WITNESS 將「合成媒體」作為更廣泛的類別,並將深偽描述為對某人面孔、聲音或行為的逼真模擬。這種以人為中心的定義很有用,因為冒充通常是深偽尤其有害的原因。

深偽與 AI 生成內容有什麼區別?

AI 生成內容包括由生成模型製作或大幅改變的文字、圖片、音訊和影片。它可以被明確揭露,也可以是虛構、藝術作品或用於普通商業流程,無須模仿真實人物。

深偽通常針對身分。它可能將一個人的臉放到另一個身體上、重演臉部表情、用可辨識的聲音生成語音,或建立涉及某個具名人物的逼真場景。

媒體類型使用 AI?模仿真實人物?典型例子
生成插圖是不一定根據提示詞建立的虛構城市
完全生成的主持人是身分虛構時不是已揭露的虛擬主持人
換臉是是將一個人的臉放到另一個人的表演上
臉部重演是是真實人物的表情或口部動作被修改
聲音複製是是模仿已知說話人的合成語音
傳統誤導性編輯不一定可能透過剪輯去掉背景的真實片段

最後一行很重要:有害或欺騙性媒體不會自動成為深偽。舊影片重新使用、虛假說明、選擇性剪輯或手工編輯,都可能在沒有生成式 AI 的情況下誤導。

深偽的主要類型有哪些?

換臉

換臉將來源身分替換或融合到目標圖片或影片中。即使表面身分改變,基礎身體、動作、環境和音訊仍可能是真實的。

臉部重演與唇形同步操縱

臉部重演在保留目標人物身分的同時改變表情、視線、頭部或嘴部動作。唇形同步系統可以讓人物看起來說出了替換音訊中的話。

聲音複製

聲音複製生成模仿特定說話人的語音。它可能出現在電話、語音訊息、Podcast片段中,也可能作為修改影片的音軌。美國聯邦貿易委員會警告稱,冒充者可能在虛假緊急求助中使用聲音複製,並建議透過已知管道聯絡所謂來電者。

合成身分與身體操縱

有些媒體結合生成面孔、修改後的身體和虛構背景。其他內容改變年齡、頭髮、衣服或屬性,但不替換整個身分。這些情況說明,「深偽」不是單一技術操作。

完全由 AI 生成的人物是深偽嗎?

不模仿可辨識個人的生成式人物,通常更適合稱為合成人物或 AI 生成角色。將所有逼真的 AI 人像都稱為深偽,可能模糊該術語所描述的身分相關傷害。

當生成場景虛假描繪真實具名人物時,即使系統生成了整個畫面而不是換臉,該標籤仍可能適用。實際使用時,請同時描述技術和主張:「虛假描繪某公眾人物的 AI 生成圖片」比單一標籤更準確。

所有深偽都有惡意嗎?

不。經同意,這種技術可以用於配音、無障礙、諷刺、電影製作、教育或已揭露的創作。倫理和法律問題取決於同意、揭露、背景和傷害,而不只是使用 AI。

高風險用途包括未經同意的私密影像、詐欺、騷擾、證據操縱和意圖影響決定的冒充。即便如此,也不要僅憑自動偵測結果指控創作者或當事人。對後果重大的案例,請保留原始來源並尋求專業審核。

如何查證疑似深偽?

從主張和身分入手,而不是先看視覺異常。詢問畫面中據稱是誰、據稱說了或做了什麼,以及媒體最早出現在哪裡。

  1. 保存 URL、帳戶、說明文字、時間戳和可獲得的最佳檔案。
  2. 透過追溯來源和搜尋有代表性的影格,尋找更長或更早的版本。
  3. 將主張與官方錄影、可靠報導或其他已知管道比較。
  4. 檢查相鄰影格中持續出現的身分、動作和合成不一致。
  5. 單獨檢查音訊;查看剪輯,並透過獨立聯絡管道查證說話人。
  6. 檢查可用的 Content Credentials 或其他來源紀錄。
  7. 使用合適的偵測器作為輔助證據,並紀錄其聲明的涵蓋範圍。

關於詳細媒體流程,請閱讀如何判斷影片是否由 AI 生成。該流程既適用於合成場景,也適用於疑似身分操縱。

為什麼視覺上的「深偽特徵」不夠

固定清單很快會過時。不自然眨眼、變形牙齒、奇怪的手或邊緣偽影可以提供線索,但現代系統可能避開這些現象。真實畫面也可能有模糊、壓縮、丟影格、配音、濾鏡或照明效果,看起來像經過操縱。

請檢查連續畫面,而不是只看一張螢幕截圖。確認異常是否在相鄰影格和品質更好的副本中持續存在。更重要的是尋找外部證據:原始錄影、另一個攝影角度、相符的公開露面,或時間和地點上的矛盾。

逼真的面孔不能驗證事件。反過來,一影格難看的畫面也不能證明換臉。

AI 影片偵測器能告訴您什麼?

偵測器可能辨識與其支持類別的媒體相關的模式。解釋輸出時應考慮模型訓練、檔案品質、操縱類型以及檢查了多少影片。

AIFakeScan 的方法說明指出基本檢查不包含專門的換臉分類,基本音訊檢查不對複製或合成語音分類。影片分析可能抽樣影格,而非檢查每個影格。僅依被動訊號的測試版結果仍無法得出結論;它們不是經過驗證的 AI 機率。

這些邊界可以防止常見錯誤:把一般影片結果當作分別測試了人物的臉和聲音。僅將AI 影片偵測器用於它所描述的檢查,然後結合身分和來源查證。

Content Credentials 如何幫助調查深偽?

Content Credentials 可以紀錄誰或什麼簽署了素材、聲明了哪些操作,以及簽署的來源資訊是否仍與檔案相符。聲明的 AI 編輯或生成操作可以是有關已紀錄流程的強陽性證據。

它們不能證明場景真實,也不能保證獲得同意。缺少憑證不能證明操縱,因為採用憑證是可選的,詮釋資料也可能丟失。請閱讀C2PA Content Credentials:它們是什麼以及如何運作,了解有效來源紀錄與真實世界主張之間的區別。

遭遇疑似冒充詐騙時該怎麼辦?

放慢互動節奏。不要只依賴看起來的面孔、聲音、來電顯示或帳戶。請透過您已知真實的電話號碼、網站或帳戶聯絡該個人或組織。

不要在壓力下匯款或傳送敏感資訊。保留訊息和交易詳情,通知相關平台或金融服務供應商,並透過適當的官方管道檢舉詐欺。目標是獨立查證請求,而不是與媒體內容爭辯。

常見問題

深偽一定是影片嗎?

不。該術語可以涵蓋經過操縱或合成的圖片、影片和音訊,尤其是模仿真實人物身分、聲音、外貌或行為的內容。

每個臉部濾鏡都是深偽嗎?

通常不是。已揭露的娛樂濾鏡更適合按其作用描述。當 AI 操縱涉及真實人物並形成逼真的身分或行為主張時,深偽標籤才更相關。

深偽偵測器能證明影片是假的嗎?

不應將任何偵測結果視為通用證明。涵蓋範圍因操縱類型和檔案品質而異。後果重大的結論需要來源證據、可能時的原始媒體和適當的專家審核。

真實畫面仍可能構成虛假資訊嗎?

可能。真實畫面可能年代久遠、說明錯誤、經過選擇性剪輯,或被賦予虛假地點。檔案真實性與周邊主張的真偽是不同問題。

描述疑似媒體最清楚的方式是什麼?

說明觀察到的技術和主張,例如「疑似複製聲音冒充家庭成員」或「完全生成的場景被標為真實畫面」。準確語言比把所有可疑素材都稱為深偽更有用。

實際啟示

對模仿或操縱身分的 AI 媒體使用「深偽」,對更廣泛類別使用「AI 生成內容」。然後查證具體人物、行為、來源和背景。準確分類有助於選擇正確證據,而不是依賴單一視覺線索或偵測分數。

常見問題

深偽一定是影片嗎?

不。該術語可以涵蓋合成或竄改的圖片、影片和音訊,尤其是在模仿真實人物時。

每個臉部濾鏡都是深偽嗎?

通常不是。當 AI 操縱涉及真實人物並形成逼真的身分或行為主張時,這個標籤更有用。

深偽偵測器能證明影片是假的嗎?

單一結果不是通用證明。涵蓋範圍各異,後果重大的結論需要來源證據和適當審核。

真實畫面仍可能構成虛假資訊嗎?

可能。真實畫面可能年代久遠、說明錯誤、經過選擇性剪輯或被賦予虛假地點。

資料來源

  1. Frontier Research on Mitigating Risks from Synthetic Content — NIST
  2. Backgrounder: Deepfakes in 2021 — WITNESS
  3. Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission