С учетом того, что генераторы изображений на базе ИИ широко доступны в Интернете и становятся все более совершенными, определить подлинность изображения стало сложнее, чем когда-либо. Однако компания OpenAI объявила о двух новых мерах, призванных помочь в решении этой проблемы.
Компания присоединилась к открытому стандарту под названием C2PA, который добавляет в метаданные четкий сигнал о том, что изображение было сгенерировано ИИ. OpenAI также сотрудничает с Google над внедрением невидимого водяного знака под названием SynthID, который будет сложнее обнаружить, но и сложнее удалить, если злоумышленники попытаются замести следы.
Новые меры защиты распространяются только на изображения, сгенерированные продуктами OpenAI, поэтому они не повлияют на поток изображений, поступающих от менее авторитетных инструментов ИИ; они могут помочь гарантировать, что OpenAI не является частью проблемы.
OpenAI также представляет предварительную версию общедоступного инструмента проверки, который будет проверять наличие обоих сигналов, позволяя пользователям легко определить, было ли изображение сгенерировано с помощью ИИ. Изначально инструмент будет работать только с изображениями, сгенерированными продуктами OpenAI; со временем компания надеется расширить его, чтобы охватить и другие инструменты.
Основанная в 2021 году Коалиция за происхождение и подлинность контента (C2PA) — это некоммерческая организация, занимающаяся смягчением вредного воздействия изображений, созданных ИИ. Стандарт C2PA был принят рядом продуктов Google, но его внедрение в отрасли остается неравномерным. Поскольку сигнал C2PA явно доступен в метаданных каждого файла, им можно манипулировать, и он наиболее полезен среди доверенных пользователей.
SynthID — это новая разработка, призванная стать более надежной мерой защиты от фальсификаций. Разработанный Google, водяной знак SynthID спроектирован так, чтобы сохраняться даже в случае попыток злоумышленников удалить его с помощью скриншотов, изменения размера или цифровой обработки.
Эти две системы призваны дополнять друг друга, устраняя слабые стороны друг друга.