Мы живем в мире, которому отчаянно нужен способ быстро и точно отличить реальность от подделки. На конференции Google I/O 2024 был сделан масштабный анонс: компания расширяет инициативу цифровых водяных знаков SynthID.
Что именно меняется? Инструмент Google DeepMind SynthID и система проверки достоверности контента от C2PA (Коалиция за происхождение контента) теперь интегрированы в Google Search и браузер Chrome. Уже сегодня. Модель Gemini сразу получает верификацию C2PA.
Дипфейки множатся: видео, аудио, изображения. Это становится реальной проблемой. Водяные знаки, возможно, — наш единственный надежный ориентир на данном этапе. Google утверждает, что уже поместила водяные знаки на более чем 100 миллиардов медиафайлов и 60 000 часов аудиоконтента.
SynthID.
Невидим. Стойкий.
К этой инициативе присоединяется OpenAI. Также Kakao и ElevenLabs. Если вы увидите изображение, созданное с помощью ChatGPT, оно, скорее всего, будет иметь метку SynthID. Это становится отраслевым стандартом, а не узкоспециализированным инструментом.
«C2PA помогает контенту сохранять подробный контекст. SynthID сохраняет сигнал, когда метаданные исчезают».
Такое мнение у OpenAI, и в нем есть смысл. Скриншоты удаляют метаданные. Водяные знаки выживают. Метаданные сохраняются при передаче в высоком разрешении. Нужны оба метода. Они дополняют друг друга.
Контекст по щелчку правой кнопкой мыши — вот обещание. Вы нажимаете. Задаете вопрос: «Сделано ли это ИИ?». Получаете ответ: да или нет. Сундар Пичай заявляет, что это упрощает проверку происхождения. Он хочет обеспечить бесшовный доступ. Бесшовный — слово, которое они используют снова и снова.
Можем ли мы действительно доверять этим инструментам, когда сам процесс генерации занимает миллисекунды?
Трение уменьшается. Появляются метки. Но основной вопрос остается открытым.
Mashable предлагает подписаться на свою рассылку. Действуют стандартные условия. Ранее в этом году Ziff Davis подала иск против OpenAI из-за использования авторских данных для обучения моделей. Иски. Водяные знаки. Ландшафт меняется каждый день.
