AI 이미지 탐지 결과가 불확실하다는 것은 해당 도구의 규칙에 따라 이용 가능한 증거가 신뢰할 수 있는 출처 판정을 뒷받침하지 못한다는 뜻입니다. “확실히 진짜”, “확실히 AI” 또는 각각 반반의 가능성을 의미하지 않습니다. 먼저 완료된 분석을 확인한 뒤 가장 좋은 파일을 확보하고 출처 정보와 출처의 주장을 조사하세요.
목표는 중요한 불확실성을 줄이는 것입니다. 두 번째 불투명한 점수보다 원본 내보내기 파일, 기록된 제작 이력 또는 설명이 틀렸음을 보여 주는 이전 게시물이 더 도움이 될 수 있습니다.
검사가 완료되었나요, 아니면 이용할 수 없는 검사가 있었나요?
판정을 해석하기 전에 처리 상태와 개별 증거 항목을 읽으세요. 전체 결과가 불확실해도 유용하게 완료된 검사가 있을 수 있습니다. 업로드 실패나 지원되지 않는 분석은 다른 문제이며 별도로 기록해야 합니다.
| 보고서 내용 | 알 수 있는 것 | 다음 단계 |
|---|---|---|
| 완료되었지만 불확실 | 지원되는 분석으로는 더 강한 판정을 정당화하지 못함 | 증거, 한계와 원본 파일 검토 |
| 검증 이용 불가 | 해당 증거 채널을 검사하지 못함 | 이용 가능성 문제를 해결하거나 적절한 검증기 사용 |
| 지원되지 않는 파일 또는 분석 | 입력이나 요청한 검사가 지원 범위를 벗어남 | 원본을 버리지 않고 지원 버전 확보 |
| 처리 실패 | 시도한 검사가 성공적으로 끝나지 않음 | 오류를 보관하고 원인을 해결한 후 재시도 |
| 크리덴셜 또는 워터마크 미발견 | 완료된 지원 검사에서 해당 종류의 신호를 찾지 못함 | 검사 범위를 함께 기록하고 다른 증거 확인 |
AIFakeScan의 현재 베타에서는 수동적 탐지기 결합이 보정 기준을 아직 통과하지 못했습니다. 지원되는 강력한 출처 또는 공식 검증 신호가 없으면 수동적 신호만의 결과는 여전히 불확실합니다. 이는 제품의 판단 규칙이지 제출된 모든 이미지가 똑같이 모호하다는 증거가 아닙니다.
다음 분석 방법과 검사 범위의 한계를 AI 이미지 탐지기와 함께 읽으세요. 내부 모델 관찰값을 이미지가 AI로 생성되었을 측정된 확률로 바꾸지 마세요.
이미지를 바꾸기 전에 원본 파일 확보
다음에 유용한 입력은 더 공격적인 재시도보다 기록이 더 잘 된 파일인 경우가 많습니다. 받은 사본을 보존하고 카메라 원본 파일이나 생성 후 내보낸 파일을 요청하세요. 두 버전 모두 명확하게 표시하세요.
다음 Corvi와 동료들의 연구는 압축과 크기 조정이 포함된 소셜 네트워크 상황을 비롯해 확산 모델 생성 이미지의 탐지를 살펴봅니다. 이 연구는 변환을 관련 평가 조건으로 취급할 근거가 되지만 무관한 온라인 검사기의 정확도를 보장하지는 않습니다.
사본이 출처에서 다운로드되었는지, 메시지 앱을 통해 저장되었는지, 스크린샷으로 캡처되었는지, 잘리거나 다시 내보내졌는지 물어보세요. 출처가 확인할 수 있는 내용과 아직 모르는 내용을 기록하세요.
분석 전에 유일한 사본을 선명하게 하거나 확대하거나 다시 저장하지 마세요. 이런 작업은 설명해야 할 새 버전을 만듭니다. 버전을 비교한다면 한 번에 한 가지만 바꾸고 보고서를 따로 보관하세요.
다음 스크린샷과 압축 연구는 파일 변환의 제한적인 사례를 제공합니다. 모든 스크린샷이나 생성기의 정확도 기준이 아니라 사례 연구로 사용하세요.
출처 정보와 선언된 작업 확인
Content Credentials가 있으면 기록된 생성 또는 편집 작업의 증거를 제공할 수 있습니다. C2PA 검사기를 사용하고 서명자와 선언을 함께 보며 검증 상태를 읽으세요. 기록이 없으면 정보가 부족한 상태로 남습니다.
다음 C2PA 명세는 작업과 재료를 구분합니다. AI 재료, AI 편집과 자산의 AI 생성은 서로 다른 선언입니다. 세 가지를 모두 전체 이미지 생성으로 설명하지 말고 실제로 나타난 내용을 기록하세요.
당사의 로컬 크리덴셜 검사는 원격 매니페스트를 가져오지 않습니다. 출처가 출처 정보를 첨부했다고 하지만 찾을 수 없다면 서명된 원본을 요청하고 어떤 검사 절차를 사용했는지 물어보세요.
메타데이터에 앱 이름이나 내보내기 이력처럼 더 조사할 만한 단서가 있는지도 확인하세요. 메타데이터는 질문을 안내할 뿐 답을 확정하지 않습니다. 소프트웨어 태그 하나로 전체 제작 과정을 알 수는 없습니다.
실제 질문은 구체적입니다. “이용 가능한 기록이 이 파일에 대해 무엇을 말하는가?” 설명이나 묘사된 사건이 정확한지는 별도의 질문으로 남겨 두고 조사하세요.
출처가 맞을 때 제공업체 워터마크 검사 사용
의심되는 제공업체와 지원 미디어 유형을 기준으로 워터마크 절차를 선택하세요. 한 워터마크 시스템의 검증기가 모든 AI 생성기를 검사하지는 않습니다. 음성이나 이용 불가 결과에는 해당 범위의 한계를 함께 남겨야 합니다.
Google DeepMind의 SynthID 문서는 자사의 생성형 AI 제품에 적용되는 워터마크와 미디어가 Google AI로 생성되거나 변경되었는지 확인하는 Gemini 절차를 설명합니다. 그 질문에 답해야 한다면 현재 공식 안내를 따르세요.
이 사이트의 SynthID 검사기 페이지는 관련 절차로 안내합니다. 업로드한 이미지에 직접 SynthID 검사를 수행하지는 않습니다. 연결된 공식 절차를 사용하고 결과에 지원 미디어와 제공업체 범위를 함께 기록하세요.
제공업체의 정확한 출력을 저장하세요. “지원 워터마크가 발견되었다”는 “이미지에 담긴 이야기가 사실이다”와 다릅니다. “지원 워터마크가 발견되지 않았다”도 “AI를 사용하지 않았다”와 다릅니다.
출처의 주장을 독립적으로 확인
이미지 출처와 이미지에 붙은 주장은 서로 다른 질문입니다. 생성 여부가 미해결이어도 이미지가 주장된 사건보다 이전에 존재했거나 다른 곳에 게시되었거나 다른 장소를 묘사하는지 확인할 수 있습니다.
다음 검사를 조사 절차로 활용하세요.
- 누가, 어디에서, 언제, 무엇을 했다고 주장하는지 구체적으로 적습니다.
- 입증할 수 있는 가장 이른 게시물을 찾고 URL과 날짜를 보관합니다.
- 맥락을 뒷받침할 다른 시점, 주변 사건 또는 독립 보도를 찾습니다.
- 제작자나 게시자에게 원본과 작업 흐름 설명을 요청합니다.
- 확인된 사실, 추론과 미해결 세부 사항을 구분합니다.
NIST의 디지털 콘텐츠 투명성 보고서는 출처 추적과 합성 콘텐츠 탐지를 맥락에 따라 활용되는 별도 접근으로 논의합니다. 실제 콘텐츠도 오해를 줄 수 있다고 지적합니다. 따라서 기술적 출처 검사는 검증 과제의 일부에만 답합니다.
다른 탐지기 결과가 다르다면 차이를 보존하고 도구의 검사 범위를 조사하세요. 관계없는 점수를 평균 내거나 다수결을 증거로 바꾸지 마세요. 더 넓은 오류 문제는 AI 탐지기 오탐이 발생하는 이유를 참고하세요.
증거 기록을 남기고 유용한 중단 시점 정하기
짧은 증거 기록은 불확실성에 대응하는 데 도움이 됩니다. 파일 버전, 완료된 검사, 관찰 내용과 미해결 질문을 기록하세요. 반복 검사에 시간을 쓰기 전에 어떤 추가 정보가 결론을 바꿀 수 있을지 결정하세요.
| 증거 기록 항목 | 예시 문구 |
|---|---|
| 파일 버전 | 재게시물의 스크린샷, 원본은 제공되지 않음 |
| 처리 | 검사 완료, 수동적 결과 불확실 |
| 출처 정보 | 로컬에서 이용 가능한 크리덴셜을 찾지 못함 |
| 워터마크 범위 | 공식 제공업체 검사 미실행 |
| 출처 맥락 | 확인된 가장 이른 게시물을 별도로 기록 |
| 미해결 질문 | 출처가 원본 내보내기 파일을 제공할 수 있는지 |
| 다음 조치 | 원본을 요청하고 선언된 작업 흐름을 검토 |
이 항목은 서식 예시이지 시험한 파일의 보고서가 아닙니다. 실제 관찰 결과로 바꾸세요.
유용한 중단 시점은 제한된 결론입니다. 예를 들어 “이 사본의 출처는 미해결이며 설명은 독립적으로 확인했다” 또는 “출처가 AI 편집을 선언하는 검증된 기록을 제공했다”입니다. 이용 가능한 검사로 미해결 질문에 답할 수 없다면 재시도는 같은 한계를 반복할 수 있습니다.
중대한 결정이라면 증거를 보존하고 사례에 적합한 전문가 검토를 받으세요. 추가 증거가 더 제한적이고 타당한 설명을 뒷받침할 때까지 불확실한 결과는 불확실한 상태로 두어야 합니다.
자주 묻는 질문
불확실은 이미지가 아마 진짜라는 뜻인가요?
아니요. 사람이 만들었다는 결론을 내리지 않습니다. 판단 이유와 검사 범위를 읽으세요. 불확실성은 증거 부족, 검증되지 않은 모델 해석 또는 파일과 지원 검사상의 한계를 반영할 수 있습니다.
불확실한 검사는 기술적 실패인가요?
반드시 그렇지는 않습니다. 검사가 성공적으로 완료되어도 출처 판정에 필요한 증거가 부족할 수 있습니다. 처리 상태와 각 증거 채널을 확인해 불확실성과 실패 또는 이용 불가 분석을 구분하세요.
확신할 만한 결과가 나올 때까지 계속 업로드해야 하나요?
원본을 얻거나 이용할 수 없던 검사를 해결하는 등 의미 있는 변화가 있을 때만 반복하세요. 두 보고서를 모두 보관하세요. 같은 지원 분석을 반복하는 것만으로 독립적인 증거가 추가되지는 않습니다.
이미지를 검토하는 사람에게 무엇을 공유해야 하나요?
정확한 파일 버전, 출처, 검사 날짜, 결과 문구, 완료된 검사와 한계를 공유하세요. 독립적으로 확인된 맥락도 포함하세요. 관찰과 아직 조사해야 할 주장을 구분하세요.
자주 묻는 질문
불확실은 이미지가 아마 진짜라는 뜻인가요?
아니요. 사람이 만들었다는 결론을 내리지 않습니다. 판단 이유와 검사 범위를 읽으세요. 불확실성은 증거 부족, 검증되지 않은 모델 해석 또는 파일과 지원 검사상의 한계를 반영할 수 있습니다.
불확실한 검사는 기술적 실패인가요?
반드시 그렇지는 않습니다. 검사가 성공적으로 완료되어도 출처 판정에 필요한 증거가 부족할 수 있습니다. 처리 상태와 각 증거 채널을 확인해 불확실성과 실패 또는 이용 불가 분석을 구분하세요.
확신할 만한 결과가 나올 때까지 계속 업로드해야 하나요?
원본을 얻거나 이용할 수 없던 검사를 해결하는 등 의미 있는 변화가 있을 때만 반복하세요. 두 보고서를 모두 보관하세요. 같은 지원 분석을 반복하는 것만으로 독립적인 증거가 추가되지는 않습니다.
이미지를 검토하는 사람에게 무엇을 공유해야 하나요?
정확한 파일 버전, 출처, 검사 날짜, 결과 문구, 완료된 검사와 한계를 공유하세요. 독립적으로 확인된 맥락도 포함하세요. 관찰과 아직 조사해야 할 주장을 구분하세요.