Искусственный интеллект становится все более производительным и теперь способен создавать реалистичные изображения, которые могут вводить в заблуждение или обманывать людей. Например, ИИ может сгенерировать лица людей, которые не существуют на самом деле, или изменить видео так, чтобы казалось, что человек говорит или делает то, чего он на самом деле не делал. Такие поддельные изображения могут быть использованы для распространения дезинформации, манипуляции общественным мнением или нарушения частной жизни.

Чтобы бороться с этой угрозой, Google разрабатывает новые технологии, которые помогут отслеживать происхождение и подлинность изображений, созданных ИИ. Компания также планирует маркировать такие изображения специальными знаками, которые будут указывать на то, что они были сгенерированы или изменены ИИ. Это поможет пользователям лучше понимать, что они видят в интернете, и принимать более осознанные решения.

Как Google будет отслеживать происхождение изображений

Одна из технологий, которую Google разрабатывает, называется Assembled Attribution. Это система, которая анализирует изображение и определяет его источник и компоненты. Система использует алгоритмы ИИ для выявления признаков, которые указывают на то, что изображение было сгенерировано или изменено с помощью ИИ. Например, система может обнаружить аномалии в текстуре кожи, волос или глаз человека на фотографии. Система также может определить, какие части изображения были скопированы или склеены из других источников.

Функция Assembled Attribution может предоставить пользователю детальный отчет о происхождении изображения, включая ссылки на исходные материалы и методы генерации или редактирования. Это поможет пользователю проверить достоверность изображения и выявить возможные мотивы его создания.

Пример фейка: Рейган в военной форме, которая очень напоминает советскую.

Как Google будет маркировать поддельные изображения

Другая технология, которую Google разрабатывает, называется OriginStamp (Штамп Происхождения). Это система, которая добавляет специальный значок к изображению, которое было сгенерировано или изменено ИИ. Значок содержит информацию о том, кто создал изображение и с какой целью. Значок также содержит зашифрованный код, который можно проверить с помощью специального приложения или веб-сайта. Это позволит пользователю подтвердить подлинность значка и получить дополнительную информацию об изображении.

Система OriginStamp основана на концепции цифровой подписи и блокчейна. Цифровая подпись - это уникальный идентификатор, который создается с помощью криптографического алгоритма и связывает изображение с его создателем. Блокчейн - это распределенная база данных, которая хранит записи о всех транзакциях, связанных с изображением. Это обеспечивает прозрачность и невозможность подделки значка.

Как Google будет помогать пользователям распознавать поддельные изображения

Google также работает над тем, чтобы сделать свои технологии доступными и понятными для широкой аудитории. Компания проводит образовательные кампании и партнерские проекты, которые направлены на повышение осведомленности и критического мышления пользователей в отношении изображений, созданных ИИ. Например, Google запустит веб-сайт About Face (О Лице), который будет демонстрировать, как ИИ может создавать или изменять лица людей, и будет давать советы, как распознать такие изображения. Компания также сотрудничает с организациями, которые занимаются факт-чекингом и борьбой с дезинформацией, чтобы помочь им использовать свои технологии для проверки подлинности изображений.

Заключение

Искусственный интеллект - это мощный инструмент, который может быть использован как для добрых, так и для злых целей. Google стремится обеспечить безопасность и ответственность в области создания и распространения изображений, созданных ИИ. Компания разрабатывает новые технологии, которые помогут отслеживать и маркировать такие изображения, а также помогут пользователям лучше понимать и оценивать то, что они видят в интернете.