Що насправді дає водяний знак на зображеннях, згенерованих ШІ

Обіцянка звучить простіше, ніж реальність

Водяні знаки для зображень ШІ часто подають як практичне рішення для синтетичних медіа: позначити згенеровані зображення, пізніше виявити цю позначку й дати глядачам упевненість у тому, що вони бачать.

Частково це правда. Водяні знаки можуть допомогти платформам маркувати зображення, згенеровані ШІ, допомогти видавцям документувати свій робочий процес, а дослідникам — розрізняти деякі матеріали, створені людиною, і матеріали, створені машиною. Це корисний шар.

Але це не універсальна машина істини. Водяний знак можна видалити, не помітити, підробити, пошкодити, прибрати з метаданих або зробити нерелевантним через скриншот. Навіть коли він працює, зазвичай він відповідає на вузьке запитання: чи проходив цей файл, або щось подібне до нього, через систему, яка нанесла цю позначку?

Це відрізняється від відповідей на запитання, які насправді хвилюють більшість людей: Чи це зображення реальне? Хто його створив? Чи його редагували? Чи воно вводить в оману? Чи маю я дозвіл його використовувати?

Водяні знаки допомагають із цими питаннями лише тоді, коли є частиною ширшої системи походження та розкриття інформації.

Спершу визначте тип водяного знака

Люди використовують слово водяний знак для позначення кількох різних речей.

Видимі водяні знаки

Це очевидні позначки, розміщені поверх зображення: логотип, мітка, діагональний візерунок або підпис про те, що зображення було згенероване ШІ.

Видимі водяні знаки легко зрозуміти людям. Їх також легко обрізати, закрити, розмити або видалити за допомогою інструментів редагування зображень. Їхня головна цінність — розкриття інформації в момент публікації, а не криміналістична надійність.

Вони працюють найкраще, коли видавець хоче бути чесним. Вони працюють погано, коли видавець хоче обманути.

Невидимі водяні знаки

Невидимі водяні знаки — це сигнали, вбудовані в пікселі зображення. Інструмент виявлення може згодом перевірити, чи присутній цей сигнал.

Саме цю модель використовують системи на кшталт SynthID та інші підходи до водяних знаків на рівні генератора. Її привабливість очевидна: зображення може виглядати звичайно, але все одно містити сигнал, який здатна виявити машина.

Компроміс — крихкість. Деякі невидимі водяні знаки переживають стиснення, зміну розміру, корекцію кольору або легке обрізання. Інші — ні. Сильніші позначки можуть бути стійкішими, але можуть впливати на якість або бути вразливими до змагальних атак. Деталі тут дуже важливі, а громадськість рідко бачить достатньо деталей, щоб оцінити їх незалежно.

Метадані та записи про походження

Третій підхід не є водяним знаком у сенсі рівня пікселів. Він додає до файлу інформацію: хто його створив, який інструмент був використаний, які правки внесли і чи були облікові дані підписані довіреною стороною.

Саме тут з’являється C2PA, Coalition for Content Provenance and Authenticity. C2PA прагне стандартизувати облікові дані контенту, щоб зображення та інші медіа могли переносити підписані дані про походження між інструментами й платформами.

Цей підхід виразніший за водяний знак. Він може сказати більше, ніж ШІ або не ШІ. Він може описувати правки, джерела й ланцюг зберігання. Але він залежить від підтримки програмного забезпечення, довіри до сторін, що підписують, і від того, чи залишаються метадані прикріпленими. Кожен, хто мав справу із завантаженням зображень, знає, що метадані часто автоматично видаляються. Той самий приватнісний інстинкт, що стоїть за видаленням метаданих EXIF перед поширенням фотографій, також ускладнює системи походження.

Що водяні знаки насправді дають

Водяні знаки корисні, коли ви просите їх виконувати правильну роботу.

1. Вони підтримують чесне розкриття інформації

Для команд, які публікують візуальні матеріали з допомогою ШІ, водяні знаки можуть зробити розкриття інформації послідовнішим. Редакція, маркетплейс, школа або дизайн-команда можуть вимагати, щоб згенеровані зображення мали видимі мітки, невидимі позначки, підписані облікові дані або певну комбінацію цього.

Це не завадить недобросовісним учасникам видаляти позначки. Але це зменшує неоднозначність усередині організацій, які хочуть діяти відповідально.

Це схоже на редакційне розкриття інформації щодо тексту ШІ. Корисний стандарт — не показова провина, а практична ясність. Якщо ваша команда використовує синтетичні матеріали, коротка політика, яка пояснює, коли і як ви це розкриваєте, корисніша за розмиті переживання. Той самий принцип застосовується до чесного розкриття використання ШІ на невеликому сайті: скажіть користувачам те, що суттєво впливає на їхнє розуміння.

2. Вони дають платформам сигнал для модерації

Платформам потрібні сигнали в масштабі. Надійний водяний знак може допомогти їм спрямовувати завантаження на перевірку, застосовувати мітки, забезпечувати дотримання рекламних політик або обмежувати певні способи використання.

Для цього не потрібна ідеальна точність. Система модерації може використовувати виявлення водяного знака як один сигнал серед багатьох: поведінка акаунта, історія завантажень, візуальна схожість, скарги користувачів і контекст контенту.

Небезпека полягає в тому, щоб вважати сигнал остаточним. Виявлений водяний знак може вказувати, що зображення походить із певного генератора. Відсутній водяний знак не доводить, що зображення реальне.

3. Вони допомагають зберегти ланцюг зберігання

Для видавців, архівів, юридичних команд і дослідників походження може бути справді цінним. Якщо файл переносить підписані облікові дані від створення через редагування до публікації, майбутні рецензенти можуть зрозуміти, як він змінювався.

Тут ідеться менше про виловлювання кожного фальшивого зображення у відкритому вебі, а більше про побудову надійних робочих процесів. Фоторедакція може перевірити, що зображення походить із відомої камери, пройшло через схвалене програмне забезпечення для редагування і було експортоване конкретним редактором. Дизайн-команда може відстежити, чи була ілюстрація згенерована, змінена, ліцензована і затверджена.

Облікові дані в стилі C2PA найсильніші в таких контрольованих середовищах. Вони слабші, коли зображення копіюють через невідомі системи, роблять скриншот або багаторазово перепубліковують.

4. Вони підвищують ціну обману

Водяні знаки не зупиняють обман. Вони можуть зробити обман трохи складнішим.

Якщо генератор за замовчуванням застосовує стійкі невидимі позначки, людині, яка намагається видати синтетичні зображення за оригінали з камери, можуть знадобитися додаткові кроки «відмивання»: редагування, повторне кодування, створення скриншота або використання моделей без позначок. Ці кроки можуть погіршити якість, залишити інші сліди або збільшити операційне тертя.

Це не виглядає ефектно, але безпека часто працює саме так. Ви рідко усуваєте зловживання повністю. Ви робите поширені зловживання повільнішими, менш надійними й легшими для розслідування.

Чого вони не дають

Саме в обмеженнях команди зазвичай потрапляють у халепу.

Вони не доводять, що зображення правдиве

Справжня фотографія може вводити в оману. Синтетичне зображення може бути чітко промарковане й усе одно повідомляти щось неправдиве. Водяні знаки говорять про походження або обробку, а не про істину.

Промарковане зображення ШІ, на якому політик робить щось вигадане, все одно може бути проблемою дезінформації. Справжнє фото з оманливим підписом — також проблема дезінформації. Походження допомагає, але інтерпретація все ще має значення.

Вони не розв’язують питання атрибуції чи авторського права

Водяний знак із написом, що згенеровано ШІ, не повідомляє, чи порушує результат чиюсь роботу, чи використовував промпт ім’я живого художника, або чи були навчальні дані отримані етично.

Це окремі юридичні й етичні питання. Вони важливі, але їх не можна звести до бінарного водяного знака.

Якщо ваша команда використовує згенеровані зображення в роботі, видимій для публіки, водяні знаки мають існувати поряд із перевіркою ліцензій, документуванням джерел і базовим судженням про необхідність. Синтетичні зображення мають витрати поза межами виявлення, як обговорюється в прихованій ціні зображень, згенерованих ШІ, у відкритому вебі.

Вони не переживають кожну трансформацію

Зображення регулярно стискають, змінюють у розмірі, перекодовують, знімають скриншотами, фільтрують і перепубліковують. Деякі системи розроблені так, щоб витримувати поширені трансформації. Не слід вважати, що будь-яка з них переживе всі трансформації.

Метадані особливо крихкі. Багато соціальних платформ, систем керування контентом, месенджерів і оптимізаційних конвеєрів видаляють метадані, щоб зменшити розмір файлу або захистити приватність. Водяні знаки на рівні пікселів можуть пережити більше трансформацій, але їх усе одно можна атакувати.

Вони не працюють без впровадження

Стандарт походження корисний лише тоді, коли його підтримують інструменти створення, інструменти редагування, системи публікації, платформи й переглядачі.

Це нудна проблема розгортання. Якщо один генератор позначає результати, а інший ні, покриття виявлення є частковим. Якщо програмне забезпечення для редагування відкидає облікові дані, ланцюг розривається. Якщо браузери й платформи не показують облікові дані зрозуміло, звичайні користувачі їх ніколи не бачать.

Водяні знаки — це не просто технічна функція. Це угода екосистеми.

Практична політика для команд, що використовують зображення ШІ

Більшості організацій не потрібно ставати криміналістичними медіалабораторіями. Їм потрібен робочий набір правил.

Розумна політика виглядає так:

• Маркуйте синтетичні зображення, коли їхня синтетична природа може вплинути на інтерпретацію.
• Зберігайте вихідні файли, промпти, ліцензії та затвердження для опублікованих візуальних матеріалів ШІ.
• Віддавайте перевагу інструментам, які підтримують облікові дані походження або стійкі водяні знаки.
• Не вважайте відсутність водяних знаків доказом автентичності.
• Уникайте зображень, згенерованих ШІ, у документальних, доказових, медичних, юридичних або чутливих до новин контекстах, якщо немає дуже чіткого процесу розкриття інформації та перевірки.

Для маркетингових і продуктових команд найпоширеніша помилка — не зловмисний обман. Це недбала неоднозначність. Головне зображення, яке очевидно є ілюстративним, потребує меншого розкриття, ніж фальшиве фото продукту, фальшивий портрет клієнта або синтетичне зображення події. Що більше зображення просить глядача повірити, що воно зображує реальну людину, місце, продукт або подію, то сильнішим має бути ваше розкриття.

Дизайн-команди також мають вирішити, де має бути розкриття. Іноді доречні видимі мітки. Іноді достатньо метаданих і кредиту до зображення. Іноді правильна відповідь — не використовувати згенероване зображення.

Виявлення має бути ймовірнісним, а не моралізаторським

Виявлення водяних знаків — це сигнал, а не вирок. Це важливо, бо хибна впевненість може зашкодити людям.

Детектор може пропустити промарковане зображення після сильного редагування. Він може помилково позначити зображення. Він може добре працювати для одного генератора й погано для іншого. Він може бути налаштований на лабораторні умови, а не на хаотичне реальне поширення.

Тому операційне запитання має бути не Чи це ШІ? Воно має звучати так: Які докази ми маємо, наскільки вони надійні і яке рішення ми на їхній основі ухвалюємо?

Платформа, яка вирішує, чи додати м’яку мітку, може дозволити собі більше невизначеності, ніж школа, що звинувачує студента в порушенні, або видавець, що заявляє про шахрайство. Що вищі наслідки, то більше підтверджень потрібно.

Це та сама обережність, яка загалом застосовується до виявлення контенту ШІ: детектори корисні для сортування, а не як судді.

Найкращий сценарій використання: надійні робочі процеси, а не ідеальна поліція

Найсильніший аргумент на користь водяних знаків — не виловлювання кожного синтетичного зображення після того, як воно потрапило в інтернет. Це надто амбітно.

Сильніший аргумент — побудова надійних робочих процесів до публікації:

• Генератор позначає результати.
• Програмне забезпечення для редагування зберігає облікові дані.
• Система керування контентом зберігає їх.
• Видавець показує їх, коли це доречно.
• Рецензенти можуть пізніше перевірити ланцюг.

Такий робочий процес не зупинить кожного недобросовісного учасника. Він зробить відповідальних учасників зрозумілішими.

Ця відмінність важлива. Водяні знаки часто просувають як захисну стіну проти дезінформації. На практиці вони ближчі до паперового сліду. Паперові сліди цінні. Вони також неповні, втратні й настільки надійні, наскільки надійні інституції, що їх підтримують.

<!-- tool-cta:start -->

💡 Спробуйте це: Щоб побачити, наскільки крихкими можуть бути вбудовані AI-підписи, спробуйте AI Metadata Masker, який показує, як легко такі маркери можна змінити або видалити.

<!-- tool-cta:end -->

Підсумок

Водяні знаки на зображеннях, згенерованих ШІ, дають три корисні речі: підтримують розкриття інформації, дають платформам і видавцям сигнал для модерації та допомагають зберігати походження в контрольованих робочих процесах.

Вони не доводять істину, не розв’язують питання авторського права, не гарантують атрибуцію і не здатні надійно ідентифікувати кожне синтетичне зображення в дикому середовищі.

Практична позиція — це не цинізм і не сліпа довіра. Використовуйте водяні знаки там, де вони зменшують неоднозначність. Віддавайте перевагу походженню на основі стандартів там, де важливий ланцюг зберігання. Залишайте людську перевірку для високоризикових випадків. І не дозволяйте технічній позначці замінити редакційне судження.