Ką iš tikrųjų pasiekia AI sugeneruotų vaizdų žymėjimas vandens ženklais

Pažadas skamba paprasčiau nei tikrovė

AI vaizdų žymėjimas vandens ženklais dažnai pristatomas kaip praktiškas sintetinių medijų sprendimas: pažymėkite sugeneruotus vaizdus, vėliau aptikite ženklą ir suteikite žiūrovams daugiau pasitikėjimo tuo, ką jie mato.

Iš dalies tai tiesa. Vandens ženklai gali padėti platformoms žymėti AI sugeneruotus vaizdus, leidėjams dokumentuoti savo darbo eigą, o tyrėjams atskirti kai kuriuos žmogaus sukurtus ir mašinos sukurtus išteklius. Tai naudingas sluoksnis.

Tačiau tai nėra universali tiesos mašina. Vandens ženklą galima pašalinti, praleisti, suklastoti, sugadinti, ištrinti iš metaduomenų arba paversti nereikšmingu padarius ekrano kopiją. Net kai jis veikia, paprastai atsako į siaurą klausimą: ar šis failas, arba kažkas panašaus į jį, perėjo per sistemą, kuri pritaikė šį ženklą?

Tai skiriasi nuo klausimų, kurie daugumai žmonių iš tikrųjų rūpi: ar šis vaizdas tikras? Kas jį sukūrė? Ar jis buvo redaguotas? Ar jis klaidina? Ar turiu leidimą jį naudoti?

Vandens ženklai padeda atsakyti į šiuos klausimus tik tada, kai yra platesnės kilmės ir informacijos atskleidimo sistemos dalis.

Pirmiausia apibrėžkite vandens ženklo rūšį

Žmonės žodį vandens ženklas vartoja kelioms skirtingoms reikšmėms.

Matomi vandens ženklai

Tai akivaizdūs ženklai, uždedami ant vaizdo: logotipas, etiketė, įstrižas raštas arba prierašas, kad vaizdas buvo sugeneruotas AI.

Matomus vandens ženklus žmonėms lengva suprasti. Juos taip pat lengva apkirpti, uždengti, sulieti arba pašalinti vaizdų redagavimo įrankiais. Pagrindinė jų vertė yra informacijos atskleidimas publikavimo momentu, o ne teismo ekspertizės patikimumas.

Jie geriausiai veikia tada, kai leidėjas nori būti sąžiningas. Jie veikia prastai, kai leidėjas nori apgauti.

Nematomi vandens ženklai

Nematomi vandens ženklai yra signalai, įterpiami į vaizdo pikselius. Aptikimo įrankis vėliau gali patikrinti, ar signalas yra.

Tokį modelį naudoja tokios sistemos kaip SynthID ir kiti generatoriaus lygmens žymėjimo vandens ženklais metodai. Patrauklumas aiškus: vaizdas gali atrodyti įprastai, bet vis tiek turėti mašinos aptinkamą signalą.

Kompromisas yra trapumas. Kai kurie nematomi vandens ženklai išlieka po glaudinimo, dydžio keitimo, spalvų koregavimo ar nedidelio apkirpimo. Kiti neišlieka. Stipresni ženklai gali būti atsparesni, bet gali paveikti kokybę arba būti pažeidžiami priešpriešinių atakų. Detalės labai svarbios, o visuomenė retai mato pakankamai detalių, kad galėtų jas įvertinti savarankiškai.

Metaduomenys ir kilmės įrašai

Trečias metodas nėra vandens ženklas pikselių lygmens prasme. Jis prie failo prideda informaciją: kas jį sukūrė, koks įrankis buvo naudotas, kokie pakeitimai atlikti ir ar patikima šalis pasirašė kredencialus.

Čia atsiranda C2PA, Coalition for Content Provenance and Authenticity. C2PA siekia standartizuoti turinio kredencialus, kad vaizdai ir kitos medijos galėtų per įrankius ir platformas nešti pasirašytus kilmės duomenis.

Šis metodas išraiškingesnis nei vandens ženklas. Jis gali pasakyti daugiau nei AI arba ne AI. Jis gali aprašyti pakeitimus, šaltinius ir kilmės grandinę. Tačiau jis priklauso nuo programinės įrangos palaikymo, pasitikėjimo pasirašančiomis šalimis ir nuo to, ar metaduomenys lieka prisegti. Kiekvienas, susidūręs su vaizdų įkėlimu, žino, kad metaduomenys dažnai automatiškai pašalinami. Tas pats privatumo instinktas, dėl kurio prieš dalijantis nuotraukomis pašalinami EXIF metaduomenys, taip pat apsunkina kilmės sistemas.

Ką vandens ženklai iš tikrųjų pasiekia

Žymėjimas vandens ženklais naudingas tada, kai jo prašoma atlikti tinkamą darbą.

1. Jis padeda sąžiningai atskleisti informaciją

Komandoms, publikuojančioms AI padedamus kurti vaizdus, vandens ženklai gali padėti nuosekliau atskleisti informaciją. Redakcija, prekyvietė, mokykla ar dizaino komanda gali reikalauti, kad sugeneruoti vaizdai turėtų matomas etiketes, nematomus ženklus, pasirašytus kredencialus arba jų derinį.

Tai nesustabdo piktavalių nuo ženklų pašalinimo. Tačiau organizacijose, kurios nori elgtis atsakingai, tai sumažina neaiškumą.

Tai panašu į redakcinį AI teksto atskleidimą. Naudingas standartas nėra parodomasis kaltės jausmas; tai praktinis aiškumas. Jei jūsų komanda naudoja sintetinius išteklius, trumpa politika, paaiškinanti, kada ir kaip juos atskleidžiate, yra naudingesnė nei miglotas rankų grąžymas. Tas pats principas taikomas sąžiningam AI atskleidimui mažoje svetainėje: pasakykite naudotojams tai, kas iš esmės veikia jų supratimą.

2. Jis suteikia platformoms moderavimo signalą

Platformoms reikia signalų dideliu mastu. Patikimas vandens ženklas gali padėti nukreipti įkėlimus peržiūrai, pritaikyti etiketes, užtikrinti reklamos politikų laikymąsi arba apriboti tam tikrus naudojimo būdus.

Tam nereikia tobulo tikslumo. Moderavimo sistema gali naudoti vandens ženklo aptikimą kaip vieną signalą iš daugelio: paskyros elgseną, įkėlimų istoriją, vizualinį panašumą, naudotojų pranešimus ir turinio kontekstą.

Pavojus kyla tada, kai signalas laikomas galutiniu. Aptiktas vandens ženklas gali rodyti, kad vaizdas atkeliavo iš konkretaus generatoriaus. Trūkstamas vandens ženklas neįrodo, kad vaizdas yra tikras.

3. Jis padeda išsaugoti kilmės grandinę

Leidėjams, archyvams, teisinėms komandoms ir tyrėjams kilmės duomenys gali būti iš tiesų vertingi. Jei failas nuo sukūrimo per redagavimą iki publikavimo neša pasirašytus kredencialus, vėlesni vertintojai gali suprasti, kaip jis keitėsi.

Tai mažiau susiję su kiekvieno netikro vaizdo atviroje žiniatinklio erdvėje pagavimu ir labiau su patikimų darbo eigų kūrimu. Nuotraukų redakcija gali patikrinti, kad vaizdas atkeliavo iš žinomo fotoaparato, perėjo per patvirtintą redagavimo programinę įrangą ir buvo eksportuotas konkretaus redaktoriaus. Dizaino komanda gali sekti, ar iliustracija buvo sugeneruota, pakeista, licencijuota ir patvirtinta.

C2PA tipo kredencialai stipriausi tokiose kontroliuojamose aplinkose. Jie silpnesni, kai vaizdas kopijuojamas per nežinomas sistemas, padaroma jo ekrano kopija arba jis daug kartų pakartotinai paskelbiamas.

4. Jis padidina apgaulės kainą

Vandens ženklai nesustabdo apgaulės. Jie gali padaryti apgaulę šiek tiek sudėtingesnę.

Jei generatorius pagal numatytuosius nustatymus pritaiko atsparius nematomus ženklus, žmogui, bandančiam sintetinius vaizdus pateikti kaip originalias kameros nuotraukas, gali prireikti papildomų „plovimo“ veiksmų: redagavimo, pakartotinio kodavimo, ekrano kopijos darymo arba modelių be ženklų naudojimo. Tokie veiksmai gali pabloginti kokybę, palikti kitų pėdsakų arba padidinti operacinę trintį.

Tai nėra įspūdinga, bet saugumas dažnai veikia būtent taip. Piktnaudžiavimo retai pavyksta visiškai panaikinti. Jūs padarote įprastą piktnaudžiavimą lėtesnį, mažiau patikimą ir lengviau tiriamą.

Ko jis nepasiekia

Apribojimai yra ta vieta, kur komandos dažniausiai patenka į bėdą.

Jis neįrodo, kad vaizdas yra tiesa

Tikra fotografija gali klaidinti. Sintetinis vaizdas gali būti aiškiai pažymėtas ir vis tiek komunikuoti kažką netikro. Vandens ženklas pasako apie kilmę ar apdorojimą, o ne apie tiesą.

Pažymėtas AI vaizdas, kuriame politikas daro kažką išgalvoto, vis tiek gali kelti dezinformacijos problemą. Tikra nuotrauka su apgaulingu prierašu taip pat yra dezinformacijos problema. Kilmės duomenys padeda, bet interpretacija vis dar svarbi.

Jis neišsprendžia priskyrimo ar autorių teisių

Vandens ženklas, sakantis, kad vaizdas sugeneruotas AI, nepasako, ar rezultatas pažeidžia kieno nors kito kūrinį, ar užklausoje buvo naudotas gyvo menininko vardas, ar mokymo duomenys buvo surinkti etiškai.

Tai atskiri teisiniai ir etiniai klausimai. Jie svarbūs, bet jų negalima sumažinti iki binarinio vandens ženklo.

Jei jūsų komanda naudoja sugeneruotus vaizdus viešai matomame darbe, vandens ženklai turėtų eiti kartu su licencijų peržiūra, šaltinių dokumentavimu ir baziniu sprendimu dėl būtinybės. Sintetiniai vaizdai turi kaštų, viršijančių aptikimą, kaip aptarta straipsnyje apie paslėptą AI sugeneruotų vaizdų kainą atviroje žiniatinklio erdvėje.

Jis neišgyvena kiekvienos transformacijos

Vaizdai nuolat glaudinami, keičiami jų dydžiai, perkoduojami, kopijuojami ekrano nuotraukomis, filtruojami ir pakartotinai skelbiami. Kai kurios sistemos sukurtos atlaikyti įprastas transformacijas. Nereikėtų manyti, kad kuri nors iš jų atlaikys visas transformacijas.

Metaduomenys ypač trapūs. Daugelis socialinių platformų, turinio valdymo sistemų, susirašinėjimo programėlių ir optimizavimo grandinių pašalina metaduomenis, kad sumažintų failo dydį arba apsaugotų privatumą. Pikselių lygmens vandens ženklai gali išlikti po daugiau transformacijų, bet ir juos galima atakuoti.

Jis neveikia be įsisavinimo

Kilmės standartas naudingas tik tada, jei jį palaiko kūrimo įrankiai, redagavimo įrankiai, publikavimo sistemos, platformos ir žiūrovai.

Tai nuobodi diegimo problema. Jei vienas generatorius žymi rezultatus, o kitas ne, aptikimo aprėptis yra dalinė. Jei redagavimo programinė įranga praranda kredencialus, grandinė nutrūksta. Jei naršyklės ir platformos aiškiai nerodo kredencialų, įprasti naudotojai jų niekada nepamato.

Vandens ženklai nėra vien techninė funkcija. Tai ekosistemos susitarimas.

Praktinė politika komandoms, naudojančioms AI vaizdus

Daugumai organizacijų nereikia tapti teismo medijų laboratorijomis. Joms reikia veikiančių taisyklių rinkinio.

Protinga politika atrodo taip:

• Žymėkite sintetinius vaizdus, kai sintetinė prigimtis gali paveikti interpretaciją.
• Saugokite publikuotų AI vaizdų šaltinio failus, užklausas, licencijas ir patvirtinimus.
• Pirmenybę teikite įrankiams, palaikantiems kilmės kredencialus arba patvarius vandens ženklus.
• Nelaikykite trūkstamų vandens ženklų autentiškumo įrodymu.
• Venkite AI sugeneruotų vaizdų dokumentiniame, įrodomajame, medicininiame, teisiniame ar naujienoms jautriame kontekste, nebent yra labai aiškus atskleidimo ir peržiūros procesas.

Rinkodaros ir produktų komandoms dažniausia klaida nėra piktybinė apgaulė. Tai atsainus neaiškumas. Pagrindiniam puslapio vaizdui, kuris akivaizdžiai yra iliustracinis, reikia mažiau atskleidimo nei netikrai produkto nuotraukai, netikram kliento portretui ar sintetiniam renginio vaizdui. Kuo labiau vaizdas prašo žiūrovo patikėti, kad jis vaizduoja realų žmogų, vietą, produktą ar įvykį, tuo stipresnis turėtų būti jūsų atskleidimas.

Dizaino komandos taip pat turėtų nuspręsti, kur atskleidimas turi būti pateiktas. Kartais tinka matomos etiketės. Kartais pakanka metaduomenų ir vaizdo kredito. Kartais teisingas atsakymas yra nenaudoti sugeneruoto vaizdo.

Aptikimas turėtų būti tikimybinis, o ne moralizuojantis

Vandens ženklo aptikimas yra signalas, o ne nuosprendis. Tai svarbu, nes klaidingas pasitikėjimas gali pakenkti žmonėms.

Aptiktuvas gali nepastebėti pažymėto vaizdo po intensyvaus redagavimo. Jis gali klaidingai pažymėti vaizdą. Jis gali gerai veikti su vienu generatoriumi ir prastai su kitu. Jis gali būti sureguliuotas laboratorinėms sąlygoms, o ne netvarkingam realaus pasaulio platinimui.

Todėl operacinis klausimas neturėtų būti: ar tai AI? Jis turėtų būti: kokių įrodymų turime, kiek jie patikimi ir kokį sprendimą remdamiesi jais priimame?

Platforma, sprendžianti, ar pridėti švelnią etiketę, gali toleruoti daugiau neapibrėžtumo nei mokykla, kaltinanti studentą nusižengimu, arba leidėjas, teigiantis apie sukčiavimą. Kuo didesnės pasekmės, tuo daugiau patvirtinančių įrodymų reikia.

Tas pats atsargumas taikomas AI turinio aptikimui apskritai: aptiktuvai naudingi rūšiavimui, o ne teisėjavimui.

Geriausias panaudojimas: patikimos darbo eigos, o ne tobula kontrolė

Stipriausias argumentas už vandens ženklus nėra kiekvieno sintetinio vaizdo pagavimas po to, kai jis ištrūksta į internetą. Tai pernelyg ambicinga.

Stipresnis argumentas yra patikimų darbo eigų kūrimas prieš publikavimą:

• Generatorius žymi rezultatus.
• Redagavimo programinė įranga išsaugo kredencialus.
• Turinio valdymo sistema juos saugo.
• Leidėjas juos rodo, kai tai aktualu.
• Vertintojai vėliau gali patikrinti grandinę.

Tokia darbo eiga nesustabdys kiekvieno piktavalio. Ji padarys atsakingus veikėjus aiškiau matomus.

Šis skirtumas svarbus. Vandens ženklai dažnai reklamuojami kaip gynybinė siena nuo dezinformacijos. Praktikoje jie labiau primena dokumentų pėdsaką. Dokumentų pėdsakai vertingi. Jie taip pat yra neišsamūs, nuostolingi ir tokie pat patikimi, kaip juos prižiūrinčios institucijos.

<!-- tool-cta:start -->

💡 Išbandykite tai: Norėdami pamatyti, kokie trapūs gali būti įterptieji AI parašai, išbandykite AI Metadata Masker, kuris parodo, kaip lengvai tokius žymenis galima pakeisti arba pašalinti.

<!-- tool-cta:end -->

Esmė

AI sugeneruotų vaizdų žymėjimas vandens ženklais pasiekia tris naudingus dalykus: padeda atskleisti informaciją, suteikia platformoms ir leidėjams moderavimo signalą ir padeda išsaugoti kilmę kontroliuojamose darbo eigose.

Jis neįrodo tiesos, neišsprendžia autorių teisių, negarantuoja priskyrimo ir patikimai neatpažįsta kiekvieno sintetinio vaizdo realioje aplinkoje.

Praktiška laikysena nėra nei cinizmas, nei aklas pasitikėjimas. Naudokite vandens ženklus ten, kur jie mažina neaiškumą. Pirmenybę teikite standartais pagrįstai kilmei ten, kur svarbi saugojimo grandinė. Didelės rizikos naudojimui palikite žmogaus peržiūrą. Ir neleiskite techniniam žymekliui pakeisti redakcinio sprendimo.