- 29,432
- 46
- 8 Ноя 2022
Разработка призвана изменить подход к проверке визуального контента в интернете.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Фотография в интернете может быть настоящей и при этом вводить в заблуждение, поэтому Google DeepMind разработала экспериментальный инструмент Backstory, который помогает выяснить происхождение изображения и проследить, как его использовали в сети. Система проверяет, создавалась ли картинка генеративным ИИ, редактировали ли её и где она появлялась раньше.
Backstory работает на базе Gemini и объединяет несколько технологий проверки изображений. Пользователь загружает картинку и задаёт вопрос, после чего система анализирует признаки генерации, доступные метаданные и найденный в интернете контекст. Результаты Backstory собирает в понятный отчёт, а затем позволяет уточнять отдельные детали дополнительными запросами.
Google DeepMind подчёркивает, что одного определения ИИ-контента недостаточно для оценки достоверности. Обычная фотография может быть отредактирована или опубликована в другом контексте, из-за чего исходный смысл меняется. В то же время изображение, созданное генеративной моделью, само по себе не обязательно содержит ложную информацию.
Поэтому Backstory пытается восстановить историю изображения целиком. Система ищет предыдущие публикации, сопоставляет обстоятельства появления картинки и проверяет признаки цифровых изменений. Такой подход должен помочь понять не только способ создания файла, но и то, как содержание использовали раньше и менялся ли смысл изображения со временем.
Пока Backstory остаётся экспериментальным проектом. Google DeepMind тестирует систему вместе с создателями контента и специалистами, которые работают с проверкой и распространением информации. В течение года компания планирует собирать отзывы о качестве результатов и сценариях применения, чтобы доработать технологию перед дальнейшим развитием.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Фотография в интернете может быть настоящей и при этом вводить в заблуждение, поэтому Google DeepMind разработала экспериментальный инструмент Backstory, который помогает выяснить происхождение изображения и проследить, как его использовали в сети. Система проверяет, создавалась ли картинка генеративным ИИ, редактировали ли её и где она появлялась раньше.
Backstory работает на базе Gemini и объединяет несколько технологий проверки изображений. Пользователь загружает картинку и задаёт вопрос, после чего система анализирует признаки генерации, доступные метаданные и найденный в интернете контекст. Результаты Backstory собирает в понятный отчёт, а затем позволяет уточнять отдельные детали дополнительными запросами.
Google DeepMind подчёркивает, что одного определения ИИ-контента недостаточно для оценки достоверности. Обычная фотография может быть отредактирована или опубликована в другом контексте, из-за чего исходный смысл меняется. В то же время изображение, созданное генеративной моделью, само по себе не обязательно содержит ложную информацию.
Поэтому Backstory пытается восстановить историю изображения целиком. Система ищет предыдущие публикации, сопоставляет обстоятельства появления картинки и проверяет признаки цифровых изменений. Такой подход должен помочь понять не только способ создания файла, но и то, как содержание использовали раньше и менялся ли смысл изображения со временем.
Пока Backstory остаётся экспериментальным проектом. Google DeepMind тестирует систему вместе с создателями контента и специалистами, которые работают с проверкой и распространением информации. В течение года компания планирует собирать отзывы о качестве результатов и сценариях применения, чтобы доработать технологию перед дальнейшим развитием.
- Источник новости
- www.securitylab.ru
