Компанія Google анонсувала новий інструмент під назвою SynthID. Новий інструмент наноситиме невидимі водяні знаки на зображення, створені штучним інтелектом, та працюватиме навіть після того, як зображення сильно відредагували. Про це пише The Washington Post.

Як працюватиме SynthID?

Водяний знак SynthID неможливо побачити на зображенні, але легко розпізнати інструментом виявлення. Водяний знак вбудовується в пікселі зображення, але, зазначають у компанії, він не змінює саме зображення жодним помітним чином.

Компанія також зазначила, що її нова технологія нанесення водяних знаків є стійкою до підробки, що робить її ключовим кроком у боротьбі з розповсюдженням фальшивих зображень та уповільненням поширення дезінформації. Проте Google готовий до того, що програму зламуватимуть. За словами Пушміта Колі, віцепрезидента з досліджень Google DeepMind, новий інструмент не є повністю захищеним від помилок. У компанії зазначають, що інструмент все ще на етапі тестування.

Наразі SynthID доступний лише деяким платним клієнтам Google Cloud. Також він працює лише з зображеннями, створеними за допомогою інструменту Google для створення зображень Imagen. 

Навіщо такі інструменти?

Водяні знаки — один із потенційних способів зменшити негативний вплив ШІ, навколо якої об’єднуються технологічні компанії як п. У липні в Білому домі відбулася зустріч керівників семи найпотужніших компаній, які розробляють штучний інтелект, зокрема Google і виробника ChatGPT OpenAI. Усі компанії пообіцяли створити інструменти для накладання водяних знаків і виявлення тексту, відео та зображень, згенерованих штучним інтелектом.

Інструменти з відкритим вихідним кодом, такі як створені стартапом Stability AI, які може модифікувати та використовувати будь-хто, вже використовуються для створення сексуальних зображень реальних людей без їхньої згоди, а також для створення нових матеріалів про сексуальну експлуатацію дітей.

Читати більше: Для чого медіа можливості штучного інтелекту та які занепокоєння вони викликають

Крім того, занепокоєння зростає з розгортанням президентської кампанії 2024 року, оскільки ШІ-зображення можуть використовувати для поширення неправдивої інформації у власних цілях. Зокрема, у березні фейкові ШІ-зображення експрезидента Дональда Трампа, який тікає від поліції, стали вірусними, а в травні фейкове зображення вибуху в Пентагоні спричинило миттєвий обвал на фондових ринках. 

Читати більше: Скільки пальців на руці? Як розпізнати зображення, згенероване Ш.