Конференция QCon: как бороться с поддельными ИИ-изображениями при помощи библиотек JavaScript

Силлс выступает за новую норму, согласно которой все реальные изображения должны иметь метку времени, достоверные метаданные и подтверждаться проверяемыми документами, которые гарантируют их подлинность. 

На конференции QCon в Сан-Франциско Кейт Силлс, консультант по разработке программного обеспечения, выступила с докладом о борьбе с поддельными изображениями, которые созданы ИИ. Для решения проблемы она предложила использовать существующие библиотеки JavaScript. Иначе говоря, криптографическую временную метку для определения времени съемки фотографий и цифровые подписи, чтобы подтвердить легитимность источника. Об этом пишет infoq.com.

Силлс подчеркивает, что для решения проблемы ИИ-изображений необходимо повысить требования к подлинным изображениям. В свою очередь инженеры-программисты должны создавать системы, которые позволят соответствовать требованиям.

Так, за последние несколько лет создание ИИ-изображений значительно изменилось. Эти инструменты стали настолько точными, что могут создавать реалистичные изображения, что затрудняет различие между подлинными и ИИ-фотографиями. Такая способность ИИ привела к изменениям в обществе: мы больше не можем полагаться на фотографии как на надежный источник, доказательство истины.

При этом Кейт Силлс отмечает, что в сгенерированных фотографиях можно обнаружить «классические признаки ИИ». Но даже такой подход не позволяет избежать проблемы, связанной с тем, что ИИ продолжает совершенствоваться, а значит, эти признаки со временем исчезнут. В результате возникает «гонка вооружений» между технологиями генерации и обнаружения изображений.

Еще один признак подлинности изображения – метаданные, в которых содержится много информации о подлинности изображения. Можно посмотреть отметку времени, автора и другое. Однако метаданные также можно подделать, т.е. взять метаданные действительного изображения и добавить их к изображению, сгенерированному ИИ. 

У Силлс есть два решения, которые можно реализовать с помощью Javascript: отметки времени и цифровые подписи. Временная метка — это сервис, который ставит временную метку отправленного изображения, обеспечивая доказательство того, что изображение существовало до определенного момента времени. Для этого Силлс рекомендует использовать криптографический хеш, который, по ее словам, представляет собой дайджест содержимого изображения. Для эффективной реализации хэша она предлагает использовать веб-криптографический API и пакет «благородных хешей» .

Цифровые подписи помогают аутентифицировать источник изображения. Криптография с открытым ключом позволяет подписать часть данных, чтобы исходные данные не могли быть подделаны. В этом случае потенциально можно подписать несколько вещей: от времени и места, где была сделана фотография, до того, что находится на самой фотографии, чтобы ее нельзя было подделать. Можно даже закодировать существование нескольких изображений, публично опубликовав корень так называемого дерева Меркла. 

Силлс подчеркивает необходимость повышения требований от настоящих изображений. Она выступает за новую норму, согласно которой все подлинные изображения должны иметь метку времени, достоверные метаданные и подтверждаться проверяемыми документами, которые гарантируют подлинность. Силлс утверждает, что единственная мера, которую мы можем принять против поддельных изображений, — это предоставить разработчикам более надежный и заслуживающий доверия способ борьбы с изображениями.   

Читайте также
Разработчики Microsoft Store в новой веб-версии перешли с React на Shoelace, Lit, Vite и бэкенд на C# ASP.NET
Разработчики Microsoft Store в новой веб-версии перешли с React на Shoelace, Lit, Vite и бэкенд на C# ASP.NET
Разработчики Microsoft Store в новой веб-версии перешли с React на Shoelace, Lit, Vite и бэкенд на C# ASP.NET

У новой версии пользовательского интерфейса более простые способы поиска приложений и современный стек веб-технологий.

CSS в 2023, что можно использовать?
CSS в 2023, что можно использовать?
CSS в 2023, что можно использовать?

Всем привет! Как фронтендер среднего уровня и частенько использующий CSS — хочу прокомментировать все новинки CSS которые вышли в этом 2023 году.

Microsoft: язык сценариев VBScript устарел
Microsoft: язык сценариев VBScript устарел
Microsoft: язык сценариев VBScript устарел

Microsoft предупреждает, что через некоторое время VBScript будет полностью удалён из новых версий Windows. Сейчас компания оставляет язык, как опцию, чтобы у разработчиков было время для миграции своих систем.

Google Chrome начал показывать, сколько памяти использует каждая вкладка
Google Chrome начал показывать, сколько памяти использует каждая вкладка
Google Chrome начал показывать, сколько памяти использует каждая вкладка

Браузер Google Chrome на системах с Windows 11 показывает, сколько оперативной памяти использует каждая вкладка.