Команда Google DeepMind створила інструмент SynthID, призначений позначати невіддільними водяними знаками згенеровані штучним інтелектом зображення. Це може допомогти боротися з дипфейками, які набули особливого поширення минулого року, зі зростанням популярності генеративного штучного інтелекту, повідомило MIT Technology Review.

SynthID спочатку буде доступний лише для користувачів генератора зображень зі штучним інтелектом Imagen від Google, який розміщено на платформі машинного навчання Google Cloud Vertex. Користувачам під час створення зображення буде надана можливість обрати, додавати водяний знак чи відмовитися від нього.

SynthID створюється за допомогою двох нейронних мереж. Одна з них бере оригінальне зображення і створює інше, майже ідентичне йому, але з дещо зміненими пікселями. Це створює вбудований візерунок, невидимий для людського ока. Друга нейронна мережа може виявити цей шаблон і повідомить користувачеві, чи виявляє вона водяний знак.

За словами віцепрезидента з досліджень Google DeepMind Пушміт Колі, SynthID розроблений таким чином, що водяний знак можна виявити, навіть якщо зображення зроблено зі скриншоту або відредаговано.

Колі стверджує, що водяний знак Google DeepMind більш стійкий до підробки, ніж попередні спроби, проте цей інструмент поки що «експериментальний».

За його словами, компанія хоче побачити, як люди ним користуватимуться, і дізнатися про його сильні та слабкі сторони, перш ніж розгортати більш широко.

Нагадаємо, у Білому домі працюють над підготовкою законодавства щодо технології ШІ. У рамках цих зусиль сім компаній зобов’язалися розробити систему «водяних знаків» для всіх форм контенту: від тексту, зображень та аудіо до відео, створених за допомогою ШІ. Серед них: OpenAI, Alphabet, Meta Platforms  Anthropic, Inflection, Amazon і Microsoft.

Фото: Google Deepmind