Какво всъщност постига водното маркиране на изображения, генерирани от ИИ

Обещанието звучи по-просто от реалността

Водното маркиране на изображения от ИИ често се представя като практическото решение за синтетичните медии: маркирате генерираните изображения, откривате маркировката по-късно и давате на зрителите увереност за това, което виждат.

Това е отчасти вярно. Водното маркиране може да помогне на платформите да обозначават изображения, генерирани от ИИ, да помогне на издателите да документират работния си процес и да помогне на разследващите да разграничават някои създадени от хора и създадени от машини материали. То е полезен слой.

Но не е универсална машина за истина. Водният знак може да бъде премахнат, пропуснат, фалшифициран, деградиран, изтрит от метаданните или обезсмислен чрез екранна снимка. Дори когато работи, обикновено отговаря на тесен въпрос: преминал ли е този файл, или нещо подобно на него, през система, която е приложила тази маркировка?

Това е различно от отговорите на въпросите, които всъщност интересуват повечето хора: Реално ли е това изображение? Кой го е направил? Редактирано ли е? Подвеждащо ли е? Имам ли разрешение да го използвам?

Водното маркиране помага с тези въпроси само когато е част от по-широка система за произход и разкриване на информация.

Първо, определете вида воден знак

Хората използват думата воден знак за няколко различни неща.

Видими водни знаци

Това са очевидните маркировки, поставени върху изображение: лого, етикет, диагонален шаблон или надпис, че изображението е генерирано от ИИ.

Видимите водни знаци са лесни за разбиране от хората. Те също така са лесни за изрязване, покриване, замъгляване или премахване с инструменти за редактиране на изображения. Основната им стойност е разкриване на информация в момента на публикуване, а не криминалистична надеждност.

Те работят най-добре, когато издателят иска да бъде честен. Работят зле, когато издателят иска да заблуждава.

Невидими водни знаци

Невидимите водни знаци са сигнали, вградени в пикселите на изображение. Инструмент за откриване може по-късно да провери дали сигналът присъства.

Това е моделът, използван от системи като SynthID и други подходи за водно маркиране на ниво генератор. Привлекателността е ясна: изображението може да изглежда нормално, като същевременно носи машинно откриваем сигнал.

Компромисът е крехкост. Някои невидими водни знаци оцеляват при компресия, преоразмеряване, корекция на цвета или леко изрязване. Други не. По-силните маркировки могат да бъдат по-устойчиви, но може да повлияят на качеството или да са уязвими на противникови атаки. Подробностите имат голямо значение, а обществеността рядко вижда достатъчно от тях, за да ги оцени независимо.

Метаданни и записи за произход

Третият подход не е воден знак в смисъл на ниво пиксели. Той прикачва информация към файла: кой го е създал, какъв инструмент е използван, какви редакции са направени и дали удостоверенията са подписани от доверена страна.

Тук се появява C2PA, Coalition for Content Provenance and Authenticity. C2PA има за цел да стандартизира удостоверенията за съдържание, така че изображенията и другите медии да могат да носят подписани данни за произход през инструменти и платформи.

Този подход е по-изразителен от воден знак. Той може да каже повече от това дали нещо е ИИ или не е ИИ. Може да описва редакции, източници и верига на съхранение. Но зависи от софтуерна поддръжка, доверие в подписващите страни и запазване на метаданните. Всеки, който се е занимавал с качване на изображения, знае, че метаданните често се премахват автоматично. Същият инстинкт за поверителност зад премахването на EXIF метаданни преди споделяне на снимки също усложнява системите за произход.

Какво всъщност постига водното маркиране

Водното маркиране е полезно, когато му възложите правилната задача.

1. Подкрепя честното разкриване на информация

За екипи, които публикуват визуални материали, подпомогнати от ИИ, водното маркиране може да направи разкриването на информация по-последователно. Редакция, пазар, училище или дизайнерски екип може да изисква генерираните изображения да носят видими етикети, невидими маркировки, подписани удостоверения или някаква комбинация от тях.

Това не пречи на недобросъвестни участници да премахват маркировки. Но намалява неяснотата вътре в организации, които искат да действат отговорно.

Това е подобно на редакционното разкриване при текст, създаден с ИИ. Полезният стандарт не е показна вина; той е практическа яснота. Ако вашият екип използва синтетични материали, кратка политика, която обяснява кога и как ги разкривате, е по-полезна от неясно морализиране. Същият принцип важи за честното разкриване на употреба на ИИ в малък уебсайт: кажете на потребителите какво съществено влияе върху разбирането им.

2. Дава на платформите сигнал за модериране

Платформите се нуждаят от сигнали в мащаб. Надежден воден знак може да им помогне да насочват качвания за преглед, да прилагат етикети, да налагат рекламни политики или да ограничават определени употреби.

Това не изисква съвършена точност. Система за модериране може да използва откриването на воден знак като един сигнал сред много: поведение на акаунта, история на качванията, визуална прилика, потребителски доклади и контекст на съдържанието.

Опасността е сигналът да се третира като окончателен. Открит воден знак може да показва, че изображението идва от конкретен генератор. Липсващ воден знак не доказва, че изображението е реално.

3. Помага за запазване на веригата на съхранение

За издатели, архиви, правни екипи и изследователи произходът може да бъде наистина ценен. Ако файл носи подписани удостоверения от създаването през редактирането до публикуването, по-късните преглеждащи могат да разберат как се е променял.

Това е по-малко свързано с улавяне на всяко фалшиво изображение в отворения уеб и повече с изграждане на надеждни работни процеси. Фоторедакция може да провери, че изображение е дошло от известна камера, преминало е през одобрен софтуер за редактиране и е било експортирано от конкретен редактор. Дизайнерски екип може да проследи дали една илюстрация е била генерирана, модифицирана, лицензирана и одобрена.

Удостоверенията в стил C2PA са най-силни в такива контролирани среди. Те са по-слаби, когато изображение се копира през неизвестни системи, заснема се като екранна снимка или се препубликува многократно.

4. Повишава цената на заблудата

Водното маркиране не спира заблудата. То може да я направи малко по-трудоемка.

Ако генератор прилага устойчиви невидими маркировки по подразбиране, някой, който се опитва да представи синтетични изображения като оригинали от камера, може да се нуждае от допълнителни стъпки за „изпиране“: редактиране, повторно кодиране, екранни снимки или използване на модели без маркировки. Тези стъпки могат да влошат качеството, да оставят други следи или да увеличат оперативното триене.

Това не е бляскаво, но сигурността често работи по този начин. Рядко елиминирате злоупотребата. Правите обичайната злоупотреба по-бавна, по-малко надеждна и по-лесна за разследване.

Какво не постига

Ограниченията са мястото, където екипите обикновено изпадат в затруднение.

Не доказва, че изображението е истинно

Реална фотография може да бъде подвеждаща. Синтетично изображение може да бъде ясно обозначено и все пак да съобщава нещо невярно. Водното маркиране ви казва за произход или обработка, не за истина.

Обозначено изображение от ИИ на политик, който прави нещо измислено, все още е потенциален проблем с дезинформация. Реална снимка с подвеждащ надпис също е проблем с дезинформация. Произходът помага, но тълкуването продължава да има значение.

Не решава авторството или авторското право

Воден знак, който казва, че нещо е генерирано от ИИ, не ви казва дали резултатът нарушава нечия чужда творба, дали подканата е използвала името на жив художник или дали обучителните данни са били етично набавени.

Това са отделни правни и етични въпроси. Те са важни, но не могат да бъдат сведени до бинарен воден знак.

Ако вашият екип използва генерирани изображения в публична работа, водното маркиране трябва да бъде наред с преглед на лицензите, документиране на източниците и базова преценка за необходимостта. Синтетичните изображения имат разходи отвъд откриването, както е обсъдено в скритата цена на изображенията, генерирани от ИИ, в отворения уеб.

Не оцелява при всяка трансформация

Изображенията рутинно се компресират, преоразмеряват, транскодират, заснемат като екранни снимки, филтрират и препубликуват. Някои системи са проектирани да понасят обичайни трансформации. Никоя не бива да се приема като оцеляваща при всички трансформации.

Метаданните са особено крехки. Много социални платформи, системи за управление на съдържанието, приложения за съобщения и оптимизационни процеси премахват метаданни, за да намалят размера на файла или да защитят поверителността. Водните знаци на ниво пиксели може да оцелеят при повече трансформации, но и те могат да бъдат атакувани.

Не работи без приемане

Стандарт за произход е полезен само ако инструментите за създаване, инструментите за редактиране, системите за публикуване, платформите и зрителите го поддържат.

Това е скучният проблем на внедряването. Ако един генератор маркира резултатите, а друг не, покритието на откриването е частично. Ако софтуерът за редактиране изпуска удостоверенията, веригата се прекъсва. Ако браузърите и платформите не показват удостоверенията ясно, обикновените потребители никога не ги виждат.

Водното маркиране не е просто техническа функция. То е споразумение на екосистема.

Практическа политика за екипи, използващи изображения от ИИ

Повечето организации не трябва да се превръщат в криминалистични медийни лаборатории. Те се нуждаят от работещ набор от правила.

Разумна политика изглежда така:

• Обозначавайте синтетичните изображения, когато синтетичната им природа може да повлияе на тълкуването.
• Съхранявайте изходните файлове, подканите, лицензите и одобренията за публикувани визуални материали от ИИ.
• Предпочитайте инструменти, които поддържат удостоверения за произход или трайно водно маркиране.
• Не третирайте липсващите водни знаци като доказателство за автентичност.
• Избягвайте изображения, генерирани от ИИ, за документални, доказателствени, медицински, правни или чувствителни към новини контексти, освен ако няма много ясен процес за разкриване и преглед.

За маркетингови и продуктови екипи най-честата грешка не е злонамерена заблуда. Тя е небрежна неяснота. Главно изображение, което очевидно е илюстративно, се нуждае от по-малко разкриване от фалшива продуктова снимка, фалшив портрет на клиент или синтетично изображение на събитие. Колкото повече едно изображение кара зрителя да вярва, че изобразява реален човек, място, продукт или събитие, толкова по-силно трябва да бъде разкриването ви.

Дизайнерските екипи също трябва да решат къде принадлежи разкриването. Понякога видимите етикети са подходящи. Понякога метаданни и кредит за изображението са достатъчни. Понякога правилният отговор е да не се използва генерираното изображение.

Откриването трябва да бъде вероятностно, не морализаторско

Откриването на водни знаци е сигнал, не присъда. Това има значение, защото фалшивата увереност може да навреди на хора.

Детектор може да пропусне маркирано изображение след тежко редактиране. Може да маркира изображение неправилно. Може да работи добре за един генератор и слабо за друг. Може да е настроен за лабораторни условия, а не за хаотично реално разпространение.

Затова оперативният въпрос не трябва да бъде: Това ИИ ли е? Трябва да бъде: Какви доказателства имаме, колко надеждни са те и какво решение вземаме въз основа на тях?

Платформа, която решава дали да добави мек етикет, може да толерира повече несигурност от училище, което обвинява ученик в нарушение, или издател, който твърди измама. Колкото по-високи са последствията, толкова повече потвърждение ви трябва.

Това е същата предпазливост, която важи за откриването на съдържание от ИИ като цяло: детекторите са полезни за триаж, не като съдии.

Най-добрият случай на употреба: надеждни работни процеси, не съвършено полицейско следене

Най-силният аргумент за водното маркиране не е улавянето на всяко синтетично изображение, след като избяга в интернет. Това е твърде амбициозно.

По-силният аргумент е изграждането на надеждни работни процеси преди публикуване:

• Генератор маркира резултатите.
• Софтуерът за редактиране запазва удостоверенията.
• Система за управление на съдържанието ги съхранява.
• Издател ги показва, когато е уместно.
• Преглеждащи могат по-късно да инспектират веригата.

Този работен процес няма да спре всеки недобросъвестен участник. Той ще направи отговорните участници по-разбираеми.

Това разграничение има значение. Водното маркиране често се рекламира като защитна стена срещу дезинформация. На практика то е по-близо до хартиена следа. Хартиените следи са ценни. Те също така са непълни, загубни и толкова надеждни, колкото институциите, които ги поддържат.

<!-- tool-cta:start -->

💡 Опитайте това: За да видите колко крехки могат да бъдат вградените AI подписи, опитайте AI Metadata Masker, който показва колко лесно такива маркери могат да бъдат променени или премахнати.

<!-- tool-cta:end -->

Изводът

Водното маркиране на изображения, генерирани от ИИ, постига три полезни неща: подкрепя разкриването на информация, дава на платформите и издателите сигнал за модериране и помага за запазване на произхода в контролирани работни процеси.

То не доказва истина, не решава авторското право, не гарантира авторство и не идентифицира надеждно всяко синтетично изображение в дивата среда.

Практическата позиция не е нито цинизъм, нито сляпо доверие. Използвайте водно маркиране там, където намалява неяснотата. Предпочитайте стандартизирано проследяване на произхода там, където веригата на съхранение има значение. Запазете човешкия преглед за употреби с висок залог. И не позволявайте технически маркер да замени редакционната преценка.