Šta vodeni žigovi na AI-generisanim slikama zapravo postižu

Obećanje zvuči jednostavnije od stvarnosti

Vodeni žigovi na AI slikama često se predstavljaju kao praktično rešenje za sintetičke medije: označite generisane slike, kasnije otkrijete oznaku i pružite gledaocima sigurnost u ono što vide.

To je delimično tačno. Vodeni žigovi mogu pomoći platformama da označe AI-generisane slike, izdavačima da dokumentuju svoj proces rada, a istražiteljima da razlikuju neke materijale koje su napravili ljudi od onih koje su napravile mašine. To je koristan sloj.

Ali to nije univerzalna mašina za istinu. Vodeni žig može biti uklonjen, promašen, falsifikovan, degradiran, izbrisan iz metapodataka ili učinjen nebitnim snimkom ekrana. Čak i kada funkcioniše, obično odgovara na usko pitanje: da li je ova datoteka, ili nešto slično njoj, prošla kroz sistem koji je primenio ovu oznaku?

To je drugačije od odgovora na pitanja koja većinu ljudi zapravo zanimaju: Da li je ova slika stvarna? Ko ju je napravio? Da li je uređivana? Da li navodi na pogrešan zaključak? Da li imam dozvolu da je koristim?

Vodeni žigovi pomažu kod tih pitanja samo kada su deo šireg sistema porekla i obelodanjivanja.

Prvo definišite vrstu vodenog žiga

Ljudi koriste izraz vodeni žig za više različitih stvari.

Vidljivi vodeni žigovi

To su očigledne oznake postavljene preko slike: logo, oznaka, dijagonalni šablon ili natpis da je slika AI-generisana.

Vidljive vodene žigove ljudi lako razumeju. Takođe ih je lako iseći, prekriti, zamutiti ili ukloniti alatima za uređivanje slika. Njihova glavna vrednost je obelodanjivanje u trenutku objavljivanja, a ne forenzička pouzdanost.

Najbolje funkcionišu kada izdavač želi da bude pošten. Loše funkcionišu kada izdavač želi da obmane.

Nevidljivi vodeni žigovi

Nevidljivi vodeni žigovi su signali ugrađeni u piksele slike. Alat za detekciju kasnije može da proveri da li je signal prisutan.

To je model koji koriste sistemi kao što su SynthID i drugi pristupi označavanju na nivou generatora. Privlačnost je jasna: slika može izgledati normalno, a da i dalje nosi signal koji mašina može da otkrije.

Kompromis je krhkost. Neki nevidljivi vodeni žigovi preživljavaju kompresiju, promenu veličine, podešavanje boja ili blago isecanje. Drugi ne. Jače oznake mogu biti otpornije, ali mogu uticati na kvalitet ili biti ranjive na adversarijalne napade. Detalji su veoma važni, a javnost retko vidi dovoljno detalja da bi ih nezavisno procenila.

Metapodaci i zapisi o poreklu

Treći pristup nije vodeni žig u smislu nivoa piksela. On datoteci pridružuje informacije: ko ju je kreirao, koji alat je korišćen, koje izmene su napravljene i da li je akreditive potpisala pouzdana strana.

Tu na scenu stupa C2PA, Coalition for Content Provenance and Authenticity. C2PA nastoji da standardizuje akreditive sadržaja kako bi slike i drugi mediji mogli da nose potpisane podatke o poreklu kroz različite alate i platforme.

Ovaj pristup je izražajniji od vodenog žiga. Može reći više od AI ili nije AI. Može opisati izmene, izvore i lanac čuvanja. Ali zavisi od softverske podrške, poverenja u strane koje potpisuju i od toga da metapodaci ostanu priloženi. Svako ko je radio sa otpremanjem slika zna da se metapodaci često automatski uklanjaju. Isti instinkt za privatnost koji stoji iza uklanjanja EXIF metapodataka pre deljenja fotografija takođe komplikuje sisteme porekla.

Šta vodeni žigovi zapravo postižu

Vodeni žigovi su korisni kada od njih tražite pravi posao.

1. Podržavaju pošteno obelodanjivanje

Za timove koji objavljuju vizuale potpomognute AI-jem, vodeni žigovi mogu učiniti obelodanjivanje doslednijim. Redakcija, marketplace, škola ili dizajnerski tim mogu zahtevati da generisane slike nose vidljive oznake, nevidljive žigove, potpisane akreditive ili neku kombinaciju toga.

To ne sprečava zlonamerne aktere da uklone oznake. Ali smanjuje dvosmislenost unutar organizacija koje žele da se ponašaju odgovorno.

To je slično uredničkom obelodanjivanju za AI tekst. Koristan standard nije performativna krivica; to je praktična jasnoća. Ako vaš tim koristi sintetičke materijale, mala politika koja objašnjava kada i kako ih obelodanjujete korisnija je od neodređenog moralnog kolebanja. Isti princip važi za pošteno obelodanjivanje AI-ja na malom veb-sajtu: recite korisnicima ono što materijalno utiče na njihovo razumevanje.

2. Platformama daju signal za moderaciju

Platformama su potrebni signali u velikom obimu. Pouzdan vodeni žig može im pomoći da usmere otpremanja na pregled, primene oznake, sprovedu pravila za oglase ili ograniče određene upotrebe.

To ne zahteva savršenu tačnost. Sistem za moderaciju može koristiti detekciju vodenog žiga kao jedan signal među mnogima: ponašanje naloga, istoriju otpremanja, vizuelnu sličnost, prijave korisnika i kontekst sadržaja.

Opasnost je u tretiranju signala kao konačnog dokaza. Otkriven vodeni žig može ukazivati na to da je slika došla iz određenog generatora. Izostanak vodenog žiga ne dokazuje da je slika stvarna.

3. Pomažu u očuvanju lanca čuvanja

Za izdavače, arhive, pravne timove i istraživače, poreklo može biti zaista dragoceno. Ako datoteka nosi potpisane akreditive od kreiranja preko uređivanja do objavljivanja, kasniji pregledači mogu razumeti kako se menjala.

Ovde je manje reč o hvatanju svake lažne slike na otvorenom vebu, a više o izgradnji pouzdanih tokova rada. Foto-desk može da proveri da je slika došla sa poznate kamere, prošla kroz odobreni softver za uređivanje i da ju je izvezao određeni urednik. Dizajnerski tim može da prati da li je ilustracija generisana, izmenjena, licencirana i odobrena.

Akreditivi u stilu C2PA najjači su u ovim kontrolisanim okruženjima. Slabiji su kada se slika kopira kroz nepoznate sisteme, snimi kao snimak ekrana ili se iznova objavljuje.

4. Podižu cenu obmane

Vodeni žigovi ne zaustavljaju obmanu. Mogu učiniti obmanu za nijansu zahtevnijom.

Ako generator podrazumevano primenjuje robusne nevidljive oznake, neko ko pokušava da predstavi sintetičke slike kao originalne fotografije sa kamere možda će morati da preduzme dodatne korake „pranja”: uređivanje, ponovno kodiranje, pravljenje snimka ekrana ili korišćenje modela bez oznaka. Ti koraci mogu narušiti kvalitet, ostaviti druge tragove ili povećati operativno trenje.

To nije glamurozno, ali bezbednost često funkcioniše na ovaj način. Retko kada potpuno eliminišete zloupotrebu. Činite uobičajenu zloupotrebu sporijom, manje pouzdanom i lakšom za istraživanje.

Šta ne postižu

Ograničenja su mesto gde timovi obično upadnu u problem.

Ne dokazuju da je slika istinita

Prava fotografija može navoditi na pogrešan zaključak. Sintetička slika može biti jasno označena, a ipak komunicirati nešto lažno. Vodeni žig govori o poreklu ili obradi, a ne o istini.

Označena AI slika političara koji radi nešto izmišljeno i dalje je potencijalni problem dezinformisanja. Prava fotografija sa obmanjujućim opisom takođe je problem dezinformisanja. Poreklo pomaže, ali tumačenje je i dalje važno.

Ne rešavaju atribuciju ili autorska prava

Vodeni žig koji kaže da je generisano pomoću AI-ja ne govori vam da li rezultat krši nečiji rad, da li je prompt koristio ime živog umetnika ili da li su podaci za obuku etički pribavljeni.

To su zasebna pravna i etička pitanja. Važna su, ali ne mogu se svesti na binarni vodeni žig.

Ako vaš tim koristi generisane slike u radu namenjenom javnosti, vodeni žigovi treba da stoje uz proveru licenci, dokumentaciju izvora i osnovnu procenu nužnosti. Sintetičke slike imaju troškove izvan detekcije, kao što je objašnjeno u tekstu skriveni trošak AI-generisanih slika na otvorenom vebu.

Ne preživljavaju svaku transformaciju

Slike se rutinski kompresuju, menjaju im se dimenzije, transkodiraju se, snimaju kao snimci ekrana, filtriraju i ponovo objavljuju. Neki sistemi su dizajnirani da podnesu uobičajene transformacije. Ni za jedan ne treba pretpostaviti da će preživeti sve transformacije.

Metapodaci su posebno krhki. Mnoge društvene platforme, sistemi za upravljanje sadržajem, aplikacije za razmenu poruka i optimizacioni tokovi automatski uklanjaju metapodatke kako bi smanjili veličinu datoteke ili zaštitili privatnost. Vodeni žigovi na nivou piksela mogu preživeti više transformacija, ali se i oni mogu napasti.

Ne funkcionišu bez usvajanja

Standard porekla koristan je samo ako ga podržavaju alati za kreiranje, alati za uređivanje, sistemi za objavljivanje, platforme i pregledači.

To je dosadan problem implementacije. Ako jedan generator označava rezultate, a drugi ne, pokrivenost detekcije je delimična. Ako softver za uređivanje odbaci akreditive, lanac se prekida. Ako pregledači i platforme ne prikazuju akreditive jasno, obični korisnici ih nikada ne vide.

Vodeni žigovi nisu samo tehnička funkcija. Oni su dogovor ekosistema.

Praktična politika za timove koji koriste AI slike

Većina organizacija ne mora da postane forenzička medijska laboratorija. Potreban im je primenljiv skup pravila.

Razumna politika izgleda ovako:

• Označite sintetičke slike kada bi njihova sintetička priroda mogla da utiče na tumačenje.
• Čuvajte izvorne datoteke, promptove, licence i odobrenja za objavljene AI vizuale.
• Dajte prednost alatima koji podržavaju akreditive porekla ili trajno označavanje vodenim žigom.
• Ne tretirajte izostanak vodenih žigova kao dokaz autentičnosti.
• Izbegavajte AI-generisane slike u dokumentarnim, dokaznim, medicinskim, pravnim ili vestima osetljivim kontekstima osim ako postoji veoma jasan proces obelodanjivanja i pregleda.

Za marketinške i proizvodne timove, najčešća greška nije zlonamerna obmana. To je nepažljiva dvosmislenost. Hero slika koja je očigledno ilustrativna zahteva manje obelodanjivanja nego lažna fotografija proizvoda, lažni portret kupca ili sintetička slika događaja. Što više slika traži od gledaoca da poveruje da prikazuje stvarnu osobu, mesto, proizvod ili događaj, to vaše obelodanjivanje treba da bude jasnije.

Dizajnerski timovi takođe treba da odluče gde obelodanjivanje pripada. Ponekad su vidljive oznake prikladne. Ponekad su metapodaci i potpis slike dovoljni. Ponekad je pravi odgovor da se generisana slika ne koristi.

Detekcija treba da bude probabilistička, a ne moralistička

Detekcija vodenog žiga je signal, a ne presuda. To je važno jer lažna sigurnost može nauditi ljudima.

Detektor može propustiti označenu sliku nakon obimnog uređivanja. Može pogrešno označiti sliku. Može dobro raditi za jedan generator, a loše za drugi. Može biti podešen za laboratorijske uslove, a ne za neurednu distribuciju u stvarnom svetu.

Zato operativno pitanje ne bi trebalo da bude: Da li je ovo AI? Trebalo bi da bude: Koje dokaze imamo, koliko su pouzdani i kakvu odluku donosimo na osnovu njih?

Platforma koja odlučuje da li da doda blagu oznaku može tolerisati više neizvesnosti nego škola koja optužuje učenika za nedolično ponašanje ili izdavač koji tvrdi da je bilo prevare. Što su posledice veće, potrebno vam je više potvrda.

Ista opreznost važi za detekciju AI sadržaja uopšte: detektori su korisni za trijažu, ne kao sudije.

Najbolji slučaj upotrebe: pouzdani tokovi rada, ne savršeno nadziranje

Najjači argument za vodene žigove nije hvatanje svake sintetičke slike nakon što pobegne na internet. To je preambiciozno.

Jači argument je izgradnja pouzdanih tokova rada pre objavljivanja:

• Generator označava rezultate.
• Softver za uređivanje čuva akreditive.
• Sistem za upravljanje sadržajem ih skladišti.
• Izdavač ih prikazuje kada je relevantno.
• Pregledači kasnije mogu da pregledaju lanac.

Taj tok rada neće zaustaviti svakog zlonamernog aktera. Učiniće odgovorne aktere čitljivijim.

Ta razlika je važna. Vodeni žigovi se često promovišu kao odbrambeni zid protiv dezinformacija. U praksi su bliži papirnom tragu. Papirni tragovi su vredni. Takođe su nepotpuni, gubitni i pouzdani samo onoliko koliko su pouzdane institucije koje ih održavaju.

<!-- tool-cta:start -->

💡 Пробајте ово: Да бисте видели колико уграђени AI потписи могу бити крхки, испробајте AI Metadata Masker, који показује колико се лако такви маркери могу изменити или уклонити.

<!-- tool-cta:end -->

Zaključak

Vodeni žigovi na AI-generisanim slikama postižu tri korisne stvari: podržavaju obelodanjivanje, platformama i izdavačima daju signal za moderaciju i pomažu u očuvanju porekla u kontrolisanim tokovima rada.

Ne dokazuju istinu, ne rešavaju autorska prava, ne garantuju atribuciju i ne identifikuju pouzdano svaku sintetičku sliku u divljini.

Praktičan stav nije ni cinizam ni slepo poverenje. Koristite vodene žigove tamo gde smanjuju dvosmislenost. Dajte prednost poreklu zasnovanom na standardima tamo gde je lanac čuvanja važan. Zadržite ljudski pregled za upotrebe sa visokim ulogom. I ne dozvolite da tehnička oznaka zameni uredničku procenu.