検証ガイド

ディープフェイクとは? AI生成コンテンツとの違い

ディープフェイクの意味、より広いAI生成コンテンツとの違い、主な加工の種類、なりすましが疑われる場合の確認方法を説明します。

記事のカバー画像。タイトル:ディープフェイクとは? AI生成コンテンツとの違い

ディープフェイクとは、AIを使って人の身元、外見、声、行動を模倣または変更した合成・加工メディアです。AI生成コンテンツはより広い分類で、実在の個人になりすまさず架空の人物、場所、物体、出来事を描くこともできます。すべてのディープフェイクはAI生成またはAI加工コンテンツですが、すべてのAI生成素材がディープフェイクではありません。

この区別はリスクと検証の両方に影響します。完全生成の風景と顔を入れ替えた動画はどちらも合成かもしれませんが、実在人物の身元に関する主張に依存するのは一方だけです。

ディープフェイクとは?

「deepfake」は深層学習と偽造を組み合わせた言葉です。一般には、機械学習で作成・変更し、実在人物が実際には言っていないことを言い、していないことをしたように見せたり、顔や声を模倣したりするメディアを指します。

境界部分の定義はさまざまです。NISTの合成メディアの説明は、AIを含むアルゴリズムによって大幅に変更または生成された情報を広く指します。NISTのメディア・フォレンジック資料は、顔に関する加工を、身元の入れ替え、表情の入れ替え、属性の操作、顔全体の合成などに分けています。

WITNESSは「合成メディア」を広い分類とし、ディープフェイクを人の顔、声、行動の写実的な模擬と説明しています。この人物中心の定義は有用です。なりすましがディープフェイクを特に有害にすることが多いためです。

ディープフェイクとAI生成コンテンツの違いは?

AI生成コンテンツには、生成モデルが作成または大幅に変換したテキスト、画像、音声、動画が含まれます。明確に開示されたもの、架空のもの、芸術作品、通常の商用フロー向けのものもあり、実在人物を模倣する必要はありません。

ディープフェイクは通常、身元を対象とします。ある人の顔を別の体に載せたり、表情を再演したり、識別できる声で発話を生成したり、名指しされた人物が登場する写実的な場面を作ったりします。

メディアの種類AIを使用?実在人物を模倣?典型例
生成イラストはい必ずしもそうではない指示から作成した架空の都市
完全生成の司会者はい身元が架空ならいいえ開示されたバーチャル司会者
顔の入れ替えはいはいある人の顔を別の人の演技に載せる
顔の再演はいはい実在人物の表情や口の動きを変更
音声クローンはいはい知られた話者を模倣する合成音声
通常の誤解を招く編集必ずしもそうではない可能性あり文脈を取り除くよう切られた実際の映像

最後の行は重要です。有害または欺くメディアが自動的にディープフェイクになるわけではありません。古い動画の再利用、虚偽の説明文、選択的な切り取り、手作業の編集でも、生成AIなしに誤解を招けます。

ディープフェイクの主な種類は?

顔の入れ替え

顔の入れ替えは、元の身元を対象画像や動画に置換または合成します。見かけの身元が変わっても、元の体、動き、環境、音声は本物のままの場合があります。

顔の再演と口の動きの同期操作

再演は対象人物の身元を保ちながら、表情、視線、頭や口の動きを変えます。口の動きを同期するシステムは、差し替え音声の言葉を本人が話したように見せられます。

音声クローン

音声クローンは特定の話者を模倣する発話を生成します。電話、音声メッセージ、ポッドキャストの一部、加工動画の音声トラックに現れる場合があります。米国連邦取引委員会は、なりすまし詐欺師が偽の緊急要請に音声クローンを使う可能性を警告し、既知の連絡先を通じて本人とされる相手に連絡するよう勧めています。

合成された身元と身体の操作

生成された顔、変更された体、架空の背景を組み合わせるメディアもあります。身元全体を置き換えず年齢、髪、服、属性を変えるものもあります。「ディープフェイク」が単一の技術操作ではないことを示しています。

完全にAI生成された人物はディープフェイクですか?

識別できる個人を模倣しない生成人物は、通常、合成人物やAI生成キャラクターと呼ぶ方が適切です。写実的なAIポートレートをすべてディープフェイクと呼ぶと、この言葉が表す身元に関する害が曖昧になることがあります。

生成された場面が実在の名指し人物を虚偽に描く場合、顔を入れ替えずフレーム全体を生成したとしても、このラベルが適切な場合があります。実際には技術と主張の両方を説明します。「公人を虚偽に描いたAI生成画像」の方がラベルだけより正確です。

すべてのディープフェイクは悪意がありますか?

いいえ。同意を得て、吹き替え、アクセシビリティ、風刺、映画制作、教育、開示された創作に使うこともできます。倫理・法律上の問題はAI使用だけでなく、同意、開示、文脈、害によって決まります。

高リスクの用途には、同意のない親密な画像、詐欺、嫌がらせ、証拠の操作、判断に影響を与える目的のなりすましがあります。それでも自動検出結果だけで作成者や対象者を非難しないでください。重大な事案では元の出典を保存し、専門的な確認を受けてください。

疑わしいディープフェイクをどう検証しますか?

視覚的な異常ではなく、主張と身元から始めます。誰が映っている、または聞こえるとされるか、何を言い何をしたとされるか、メディアは最初にどこに現れたかを尋ねます。

  1. URL、アカウント、説明文、時刻、入手可能な最良のファイルを保存します。
  2. 出典の追跡と代表フレームの検索で、より長い、または古いバージョンを探します。
  3. 主張を公式録画、信頼できる報道、他の既知の連絡先と比較します。
  4. 隣接フレームで身元、動き、合成の不一致が続くか確認します。
  5. 音声を別に調べ、編集を確認し、独立した連絡経路で話者を確認します。
  6. 利用可能なContent Credentialsや他の来歴記録を調べます。
  7. 適切な検出器を補助的証拠として使用し、公表された対象範囲を記録します。

詳しいメディアの手順は、動画がAI生成かを見分ける方法をご覧ください。この手順は合成場面と身元の操作が疑われる場合の両方に適用されます。

視覚的な「ディープフェイクの特徴」だけでは不十分な理由

固定的なチェックリストはすぐ古くなります。不自然なまばたき、歪んだ歯、奇妙な手、境界の乱れは有用な手がかりになりますが、新しいシステムはそれらを避ける場合があります。本物の映像にも、加工に見えるぼけ、圧縮、フレーム落ち、吹き替え、フィルター、照明効果が含まれる場合があります。

一枚のスクリーンショットではなく連続映像を調べます。異常が隣接フレームや高品質のコピーでも続くか確認します。さらに重要なのは外部証拠です。元の録画、別のカメラ角度、一致する公開の場、時間や場所の矛盾などを探してください。

説得力のある顔は出来事を検証しません。逆に、不格好な一フレームも顔の入れ替えを証明しません。

AI動画検出器から何がわかりますか?

検出器は対応する分類のメディアに関連するパターンを識別する場合があります。モデルの訓練、ファイル品質、加工の種類、動画のどの程度を調べたかを踏まえて出力を解釈すべきです。

AIFakeScanの分析方法は、基本検証に専用の顔入れ替え分類が含まれず、基本音声検査もクローン音声や合成音声を分類しないと説明しています。動画分析は全フレームではなく抽出フレームを調べる場合があります。受動的な兆候だけのベータ結果は結論が出ず、検証済みのAI確率ではありません。

これらの境界は、一般的な動画結果を人物の顔と声を別々にテストしたものとして扱うというよくある誤りを防ぎます。AI動画検出ツールは説明されている検証にのみ使い、身元と出典の検証と組み合わせてください。

Content Credentialsはディープフェイク調査にどう役立ちますか?

Content Credentialsは、誰または何が素材に署名したか、どの操作が申告されたか、署名された来歴がまだファイルと一致するかを記録できます。申告されたAI編集や生成操作は、記録されたフローに関する強い陽性証拠になり得ます。

場面の真偽を確定せず、同意も保証しません。採用は任意でメタデータが失われることもあるため、クレデンシャルがなくても加工の証拠にはなりません。C2PA Content Credentialsとは何か、どう機能するかで、有効な来歴記録と現実世界の真実の主張の違いをご覧ください。

なりすまし詐欺が疑われるときは?

やり取りを急がないでください。見かけの顔、声、発信者番号、アカウントだけを頼りにしないでください。すでに本物だとわかっている電話番号、ウェブサイト、アカウントを通じて本人や組織に連絡します。

圧力を受けて送金したり機微な情報を送ったりしないでください。メッセージと取引詳細を保管し、関連プラットフォームや金融サービス提供元に通知し、適切な公式窓口から詐欺を報告します。目的はメディアと議論することではなく、要求を独立して確認することです。

よくある質問

ディープフェイクは必ず動画ですか?

いいえ。特に実在人物の身元、声、外見、行動を模倣する場合、加工または合成された画像、動画、音声も含まれます。

すべての顔フィルターはディープフェイクですか?

通常は違います。開示された娯楽用フィルターは、その機能を説明する方が適切です。実在人物について、AI加工が写実的な身元や行動の主張を作る場合に、このラベルはより関連します。

ディープフェイク検出器は動画が偽物だと証明できますか?

どの検出結果も万能の証明として扱うべきではありません。対象範囲は加工の種類やファイル品質で異なります。重大な結論には出典の証拠、可能なら元メディア、適切な専門家の確認が必要です。

本物の映像でも偽情報になる場合がありますか?

はい。本物でも古い、説明文が誤り、選択的に編集、虚偽の場所が付与されている場合があります。ファイルの真正性と周囲の主張の真偽は別の問いです。

疑わしいメディアを最も明確に表現する方法は?

観察された技術と主張を述べます。たとえば「家族になりすます疑いのある音声クローン」や「実映像と表示された完全生成の場面」です。すべての疑わしい素材をディープフェイクと呼ぶより正確な言葉が役立ちます。

実践上の要点

身元を模倣または操作するAIメディアには「ディープフェイク」を、より広い分類には「AI生成コンテンツ」を使います。その上で具体的な人物、行動、出典、文脈を確認します。正確な分類は、一つの視覚的手がかりや検出器スコアに頼らず、適切な証拠を選ぶ助けになります。

よくある質問

ディープフェイクは必ず動画ですか?

いいえ。特に実在人物を模倣する場合、合成または加工された画像、動画、音声も含まれます。

すべての顔フィルターはディープフェイクですか?

通常は違います。実在人物についてAI加工が写実的な身元や行動の主張を作る場合に、このラベルはより有用です。

ディープフェイク検出器は動画が偽物だと証明できますか?

一つの結果は万能の証明ではありません。対象範囲は異なり、重大な結論には出典の証拠と適切な確認が必要です。

本物の映像でも偽情報になる場合がありますか?

はい。本物でも古い、説明文が誤り、選択的に編集、虚偽の場所が付与されている場合があります。

情報源

  1. Frontier Research on Mitigating Risks from Synthetic Content — NIST
  2. Backgrounder: Deepfakes in 2021 — WITNESS
  3. Scammers Use Fake Emergencies To Steal Your Money — Federal Trade Commission