В последние месяцы в результатах поиска Google все чаще стали появляться изображения, созданные искусственным интеллектом, которые вытесняют законные результаты и затрудняют пользователям поиск того, что они действительно ищут. В ответ на это Google объявил во вторник, что в ближайшие месяцы начнет маркировать результаты поиска изображений, сгенерированных и отредактированных искусственным интеллектом.
Компания будет отмечать такой контент в окне «Об этом изображении», и эта технология будет применяться в поиске, Google Lens и функции «Круг для поиска» в Android. Google также применяет эту технологию в своих рекламных сервисах и рассматривает возможность добавления аналогичного флага к видео на YouTube, но «об этом будет сообщено позже в этом году».
Для идентификации изображений, созданных искусственным интеллектом, Google будет использовать метаданные Coalition for Content Provenance and Authenticity (C2PA). Это отраслевая группа присоединилась в качестве члена комитета в начале года. Эти «метаданные C2PA» будут использоваться для отслеживания происхождения изображения, определяя, когда и где оно было создано, а также оборудование и программное обеспечение, использованное при его создании.
На данный момент к C2PA присоединился целый ряд больших компаний, включая Amazon, Microsoft OpenAI и Adobe Однако сам стандарт не получил должного внимания со стороны производителей оборудования, и в настоящее время его можно встретить лишь в нескольких моделях камер Sony и Leica. Несколько известных разработчиков инструментов для создания ИИ также отказались принять стандарт, например Black Forrest Labs, которая производит модель Flux, используемую Grok для генерации изображений.
За последние два года количество онлайн-мошенников, использующих подделки, сгенерированные искусственным интеллектом, резко возросло. Например, в феврале финансист из Гонконга был обманом вынужден перевести 25 миллионов долларов мошенникам, которые выдавали себя за финансового директора компании во время видеоконференции. В мае компания Sumsub провела исследование, согласно которому число мошенничеств с использованием подделок в период с 2023 по 2024 год увеличится на 245% во всем мире, а в США – на 303%.
«Общедоступность этих сервисов снизила входной барьер для киберпреступников. Им больше не нужно обладать специальными технологическими навыками»
- заявил Дэвид Фэйрман, директор по информационным технологиям и безопасности в АТР компании Netskope