Руководства по проверке

Детектор изображений ИИ дал неопределённый результат: что проверить дальше

Практический процесс при неопределённой проверке изображения: изучите охват, сохраните оригинал, проверьте учётные данные и водяные знаки и зафиксируйте контекст источника.

Неопределённый результат детектора изображений ИИ означает, что доступные доказательства не поддерживают надёжное решение о происхождении по правилам инструмента. Это не означает «точно настоящее», «точно ИИ» или равный шанс каждого варианта. Сначала проверьте, какие анализы завершились, затем получите лучший файл, изучите происхождение и проверьте утверждение источника.

Цель — уменьшить важную неопределённость. Вторая непрозрачная оценка может дать меньше, чем исходный экспорт, записанная история создания или ранняя публикация, показывающая ошибочность подписи.

Проверка завершилась или была недоступна?

Перед толкованием вывода прочитайте статус обработки и отдельные разделы доказательств. Общий неопределённый результат может сопровождаться полезными завершёнными проверками. Ошибка загрузки или неподдерживаемый анализ — другая проблема, которую следует записать отдельно.

Что сообщает отчётЧто известноЧто делать дальше
Завершено, но результат неопределённыйПоддерживаемый анализ не обосновал более определённое решениеИзучите доказательства, ограничения и оригинальный файл
Проверка недоступнаЭтот канал доказательств не проверенУстраните проблему доступности или используйте подходящий сервис
Неподдерживаемый файл или анализВходной файл или запрошенная проверка вне поддерживаемого охватаПолучите поддерживаемую версию, сохранив оригинал
Ошибка обработкиПопытка проверки не завершилась успешноСохраните ошибку и повторите после устранения причины
Учётные данные или водяной знак не найденыЗавершённая поддерживаемая проверка не нашла сигнал такого типаСохраните границы охвата проверки; продолжайте с другими доказательствами

В текущей бета-версии AIFakeScan объединение пассивных детекторов не прошло этап калибровки. Без поддерживаемого сильного сигнала происхождения или официальной проверки результаты только по пассивным признакам остаются неопределёнными. Это правило решения продукта, а не доказательство одинаковой неоднозначности каждого отправленного изображения.

Прочитайте методологию и ограничения охвата вместе с детектором изображений ИИ. Не превращайте внутреннее наблюдение модели в измеренную вероятность создания изображения ИИ.

Получите оригинальный файл до изменения изображения

Следующим полезным входом часто бывает лучше документированный файл, а не более настойчивая повторная попытка. Сохраните полученную копию и попросите оригинальный файл камеры или экспорт генерации. Чётко пометьте обе версии.

Исследование Corvi и коллег изучает обнаружение изображений, созданных диффузионными моделями, включая сценарии соцсетей со сжатием и изменением размера. Оно подтверждает значимость преобразований как условий оценки, но не даёт гарантии точности для другого онлайн-сервиса.

Выясните, как получена копия: скачана из источника, сохранена через мессенджер, снята с экрана, обрезана или повторно экспортирована. Запишите, что источник может подтвердить и что остаётся неизвестным.

Не повышайте резкость, не увеличивайте разрешение и не сохраняйте единственную доступную копию повторно до анализа. Эти действия создают ещё одну версию, которую нужно объяснять. При сравнении версий меняйте по одному параметру и сохраняйте отдельные отчёты.

Наше исследование снимков экрана и сжатия даёт ограниченный практический пример преобразований файлов. Используйте его как исследование случая, а не показатель точности для всех снимков или генераторов.

Изучите происхождение и заявленное действие

При наличии Content Credentials могут дать доказательства записанных действий создания или редактирования. Используйте проверку C2PA и изучите статус проверки вместе с подписавшим и заявлением. Отсутствующая запись оставляет пробел в информации.

Техническая спецификация C2PA различает действия и элементы. Элемент ИИ, редактирование ИИ и создание материала ИИ — разные заявления. Запишите, какое присутствует, вместо описания всех трёх как полной генерации изображения.

Наша локальная проверка данных не получает удалённые манифесты. Если источник утверждает, что происхождение было прикреплено, но оно не найдено, запросите подписанный оригинал и спросите, какой процесс проверки использовался.

Также проверьте, дают ли метаданные полезную подсказку, например название приложения или историю экспорта. Метаданные должны направлять вопросы, а не решать их: один тег программы не устанавливает полный процесс создания.

Практический вопрос конкретен: «Что доступная запись говорит об этом файле?» Отдельный вопрос о точности подписи или изображённого события оставляйте открытым до его проверки.

Используйте проверку водяного знака поставщика, когда источник подходит

Выбирайте процесс проверки знака по предполагаемому поставщику и поддерживаемому типу медиа. Сервис для одной системы знаков не проверяет все генераторы ИИ. При отрицательном или недоступном результате сохраняйте это ограничение охвата.

Документация Google DeepMind по SynthID описывает водяные знаки в её продуктах генеративного ИИ и процесс Gemini для проверки создания или изменения медиа ИИ Google. Следуйте актуальным официальным инструкциям, если именно на этот вопрос нужно ответить.

Страница сайта проверки SynthID направляет к соответствующим процессам. Она не выполняет прямую проверку SynthID загруженных изображений. Используйте официальный процесс по ссылке и указывайте вместе с результатом охват поддерживаемых медиа и поставщиков.

Сохраните точный ответ поставщика. «Найден поддерживаемый водяной знак» отличается от «история этого изображения правдива». «Поддерживаемый водяной знак не найден» отличается от «ИИ не использовался».

Проверьте утверждение источника независимо

Происхождение изображения и сопровождающее его утверждение — разные вопросы. Даже если создание остаётся неясным, вы можете проверить, что изображение старше заявленного события, опубликовано в другом месте или показывает другое место.

Используйте эти проверки как процесс исследования:

  1. Запишите конкретное утверждение: кто, где, когда и что предположительно произошло.
  2. Найдите самую раннюю публикацию, которую можете подтвердить, сохранив её URL и дату.
  3. Ищите другие виды, соседние события или независимые сообщения, подтверждающие контекст.
  4. Попросите автора или издателя предоставить оригинал и объяснить процесс.
  5. Отделяйте подтверждённые факты от выводов и нерешённых деталей.

Отчёт NIST о прозрачности цифрового контента рассматривает отслеживание происхождения и обнаружение синтетического контента как разные подходы, применение которых зависит от контекста. Он также отмечает, что подлинный контент всё равно может вводить в заблуждение. Поэтому техническая проверка происхождения решает лишь часть задачи.

Если другой детектор не согласен, сохраните различие и изучите охват инструментов. Не усредняйте несвязанные оценки и не превращайте большинство голосов в доказательство. О более широкой проблеме ошибок смотрите почему происходят ложноположительные результаты детекторов ИИ.

Ведите журнал доказательств и выбирайте полезную точку остановки

Краткий журнал делает неопределённость пригодной для действий. Запишите версию файла, завершённые проверки, наблюдения и нерешённые вопросы. Определите, какая дополнительная информация могла бы изменить вывод, прежде чем тратить время на повторные проверки.

Поле журнала доказательствПример формулировки
Версия файлаСнимок экрана перепубликации; оригинал не предоставлен
ОбработкаПроверка завершена; пассивный результат неопределённый
ПроисхождениеЛокально доступные учётные данные не найдены
Охват водяных знаковОфициальная проверка поставщика не выполнена
Контекст источникаСамая ранняя подтверждённая публикация записана отдельно
Открытый вопросМожет ли источник предоставить оригинальный экспорт
Следующее действиеЗапросить оригинал и изучить заявленный процесс

Эти записи иллюстрируют шаблон, а не отчёт о проверенном файле. Замените их своими фактическими наблюдениями.

Полезная точка остановки — ограниченный вывод: «Происхождение этой копии остаётся неизвестным; подпись проверена независимо» или «Источник предоставил проверенную запись о редактировании ИИ». Если ни одна доступная проверка не отвечает на открытый вопрос, дальнейшие попытки могут лишь повторить то же ограничение.

Для важного решения сохраните доказательства и получите подходящую квалифицированную оценку. Неопределённый результат должен оставаться таковым, пока дополнительные доказательства не поддержат более узкое обоснованное утверждение.

Частые вопросы

Означает ли неопределённый результат, что изображение, вероятно, настоящее?

Нет. Результат не устанавливает человеческое происхождение. Изучите причину решения и охват: неопределённость может отражать недостаток доказательств, непроверенную интерпретацию модели или ограничения файла и поддерживаемых проверок.

Является ли неопределённая проверка технической ошибкой?

Не обязательно. Проверка может успешно завершиться, но доказательств для решения о происхождении всё равно не хватит. Проверьте статус обработки и каждый канал доказательств, чтобы отличить неопределённость от неудачного или недоступного анализа.

Стоит ли загружать файл снова, пока не получится уверенный результат?

Повторяйте только при значимом изменении, например получении оригинала или восстановлении доступности проверки. Сохраните оба отчёта. Повтор того же поддерживаемого анализа сам по себе не добавляет независимых доказательств.

Что передать человеку, проверяющему изображение?

Передайте точную версию файла, источник, дату проверки, формулировку результата, завершённые проверки и ограничения. Добавьте независимо проверенный контекст. Отделяйте наблюдения от утверждений, которые ещё нужно исследовать.

Вопросы и ответы

Означает ли неопределённый результат, что изображение, вероятно, настоящее?

Нет. Результат не устанавливает человеческое происхождение. Изучите причину решения и охват: неопределённость может отражать недостаток доказательств, непроверенную интерпретацию модели или ограничения файла и поддерживаемых проверок.

Является ли неопределённая проверка технической ошибкой?

Не обязательно. Проверка может успешно завершиться, но доказательств для решения о происхождении всё равно не хватит. Проверьте статус обработки и каждый канал доказательств, чтобы отличить неопределённость от неудачного или недоступного анализа.

Стоит ли загружать файл снова, пока не получится уверенный результат?

Повторяйте только при значимом изменении, например получении оригинала или восстановлении доступности проверки. Сохраните оба отчёта. Повтор того же поддерживаемого анализа сам по себе не добавляет независимых доказательств.

Что передать человеку, проверяющему изображение?

Передайте точную версию файла, источник, дату проверки, формулировку результата, завершённые проверки и ограничения. Добавьте независимо проверенный контекст. Отделяйте наблюдения от утверждений, которые ещё нужно исследовать.

Источники

  1. Corvi et al.: On the detection of synthetic images generated by diffusion models
  2. C2PA Content Credentials technical specification, version 2.4
  3. Google DeepMind: SynthID
  4. NIST AI 100-4: Reducing Risks Posed by Synthetic Content