AI tarafından üretilen görselleri filigranlamak gerçekte ne sağlar

Vaat, gerçeklikten daha basit duyuluyor

AI görsel filigranlama çoğu zaman sentetik medya için pratik çözüm olarak sunulur: üretilmiş görselleri işaretleyin, işareti daha sonra tespit edin ve izleyicilere gördükleri şey konusunda güven verin.

Bu kısmen doğrudur. Filigranlama platformların AI tarafından üretilmiş görselleri etiketlemesine, yayıncıların iş akışlarını belgelemesine ve araştırmacıların bazı insan yapımı varlıklarla makine yapımı varlıkları ayırt etmesine yardımcı olabilir. Yararlı bir katmandır.

Ancak evrensel bir doğruluk makinesi değildir. Bir filigran kaldırılabilir, gözden kaçabilir, taklit edilebilir, bozulabilir, metadata içinden çıkarılabilir veya bir ekran görüntüsüyle ilgisiz hâle getirilebilir. Çalıştığında bile genellikle dar bir soruyu yanıtlar: Bu dosya ya da buna benzer bir şey, bu işareti uygulayan bir sistemden geçti mi?

Bu, çoğu insanın aslında önemsediği soruları yanıtlamaktan farklıdır: Bu görsel gerçek mi? Kim yaptı? Düzenlendi mi? Yanıltıcı mı? Bunu kullanma iznim var mı?

Filigranlama bu sorulara ancak daha geniş bir kaynak bilgisi ve açıklama sisteminin parçası olduğunda yardımcı olur.

Önce filigran türünü tanımlayın

İnsanlar filigran kelimesini birkaç farklı şeyi ifade etmek için kullanır.

Görünür filigranlar

Bunlar bir görselin üzerine yerleştirilen bariz işaretlerdir: bir logo, etiket, çapraz desen veya görselin AI tarafından üretildiğini söyleyen bir açıklama.

Görünür filigranları insanların anlaması kolaydır. Kırpılmaları, üzerlerinin kapatılması, bulanıklaştırılmaları veya görsel düzenleme araçlarıyla kaldırılmaları da kolaydır. Başlıca değerleri adli güvenilirlik değil, yayın anında açıklamadır.

Yayıncı dürüst olmak istediğinde en iyi şekilde çalışırlar. Yayıncı aldatmak istediğinde ise kötü çalışırlar.

Görünmez filigranlar

Görünmez filigranlar, bir görselin piksellerine gömülen sinyallerdir. Bir tespit aracı daha sonra sinyalin mevcut olup olmadığını test edebilir.

SynthID gibi sistemlerin ve diğer üretici düzeyinde filigranlama yaklaşımlarının kullandığı model budur. Cazibesi açıktır: görsel normal görünebilir, ancak yine de makine tarafından tespit edilebilir bir sinyal taşıyabilir.

Bunun karşılığı kırılganlıktır. Bazı görünmez filigranlar sıkıştırma, yeniden boyutlandırma, renk ayarı veya hafif kırpma sonrasında varlığını korur. Bazıları korumaz. Daha güçlü işaretler daha dayanıklı olabilir, ancak kaliteyi etkileyebilir veya hasmane saldırılara açık olabilir. Ayrıntılar çok önemlidir ve kamuoyu bunları bağımsız olarak değerlendirecek kadar ayrıntıyı nadiren görür.

Metadata ve kaynak bilgisi kayıtları

Üçüncü yaklaşım, piksel düzeyi anlamında bir filigran değildir. Dosyaya bilgi ekler: kim oluşturdu, hangi araç kullanıldı, hangi düzenlemeler yapıldı ve kimlik bilgileri güvenilir bir tarafça imzalandı mı?

C2PA, yani Coalition for Content Provenance and Authenticity, burada devreye girer. C2PA, görsellerin ve diğer medyaların imzalı kaynak bilgisi verilerini araçlar ve platformlar arasında taşıyabilmesi için içerik kimlik bilgilerini standartlaştırmayı amaçlar.

Bu yaklaşım bir filigrandan daha ifade gücü yüksek bir yöntemdir. AI ya da AI değil demekten fazlasını söyleyebilir. Düzenlemeleri, kaynakları ve gözetim zincirini açıklayabilir. Ancak yazılım desteğine, imzalayan taraflara duyulan güvene ve metadata’nın dosyaya bağlı kalmasına bağlıdır. Görsel yüklemeleriyle uğraşmış herkes metadata’nın çoğu zaman otomatik olarak kaldırıldığını bilir. Fotoğrafları paylaşmadan önce EXIF metadata’sını kaldırmanın arkasındaki aynı gizlilik refleksi, kaynak bilgisi sistemlerini de karmaşıklaştırır.

Filigranlama gerçekte ne sağlar

Filigranlama, ondan doğru işi yapmasını istediğinizde yararlıdır.

1. Dürüst açıklamayı destekler

AI destekli görseller yayımlayan ekipler için filigranlama, açıklamayı daha tutarlı hâle getirebilir. Bir haber merkezi, pazar yeri, okul veya tasarım ekibi, üretilmiş görsellerin görünür etiketler, görünmez işaretler, imzalı kimlik bilgileri ya da bunların bir kombinasyonunu taşımasını zorunlu kılabilir.

Bu, kötü niyetli aktörlerin işaretleri kaldırmasını engellemez. Ancak sorumlu davranmak isteyen kuruluşlar içinde belirsizliği azaltır.

Bu, AI metinleri için editoryal açıklamaya benzer. Yararlı standart gösterişçi suçluluk değil, pratik netliktir. Ekibiniz sentetik varlıklar kullanıyorsa bunları ne zaman ve nasıl açıkladığınızı anlatan küçük bir politika, belirsiz kaygılardan daha yararlıdır. Aynı ilke küçük bir web sitesinde dürüst AI açıklamasının nasıl göründüğü için de geçerlidir: kullanıcılara, anlayışlarını maddi olarak etkileyen şeyi söyleyin.

2. Platformlara bir moderasyon sinyali verir

Platformların ölçekli sinyallere ihtiyacı vardır. Güvenilir bir filigran, yüklemeleri incelemeye yönlendirmelerine, etiket uygulamalarına, reklam politikalarını yürürlüğe koymalarına veya belirli kullanımları sınırlamalarına yardımcı olabilir.

Bunun için kusursuz doğruluk gerekmez. Bir moderasyon sistemi filigran tespitini birçok sinyalden biri olarak kullanabilir: hesap davranışı, yükleme geçmişi, görsel benzerlik, kullanıcı bildirimleri ve içerik bağlamı.

Tehlike, sinyali kesin kabul etmektir. Tespit edilen bir filigran, bir görselin belirli bir üreticiden geldiğini gösterebilir. Eksik bir filigran ise görselin gerçek olduğunu kanıtlamaz.

3. Gözetim zincirini korumaya yardımcı olur

Yayıncılar, arşivler, hukuk ekipleri ve araştırmacılar için kaynak bilgisi gerçekten değerli olabilir. Bir dosya oluşturulmasından düzenlenmesine ve yayımlanmasına kadar imzalı kimlik bilgileri taşıyorsa, sonraki inceleyiciler onun nasıl değiştiğini anlayabilir.

Bu, açık web’deki her sahte görseli yakalamaktan çok güvenilir iş akışları oluşturmakla ilgilidir. Bir fotoğraf masası, bir görselin bilinen bir kameradan geldiğini, onaylı düzenleme yazılımından geçtiğini ve belirli bir editör tarafından dışa aktarıldığını doğrulayabilir. Bir tasarım ekibi, bir illüstrasyonun üretilip üretilmediğini, değiştirilip değiştirilmediğini, lisanslanıp lisanslanmadığını ve onaylanıp onaylanmadığını takip edebilir.

C2PA tarzı kimlik bilgileri bu kontrollü ortamlarda en güçlüdür. Bir görsel bilinmeyen sistemler üzerinden kopyalandığında, ekran görüntüsü alındığında veya tekrar tekrar yeniden yayımlandığında daha zayıftır.

4. Aldatmanın maliyetini artırır

Filigranlama aldatmayı durdurmaz. Aldatmayı biraz daha zahmetli hâle getirebilir.

Bir üretici varsayılan olarak dayanıklı görünmez işaretler uyguluyorsa, sentetik görselleri kamera orijinali gibi göstermeye çalışan biri ek aklama adımlarına ihtiyaç duyabilir: düzenleme, yeniden kodlama, ekran görüntüsü alma veya işaretsiz modeller kullanma. Bu adımlar kaliteyi düşürebilir, başka izler bırakabilir veya operasyonel sürtünmeyi artırabilir.

Bu gösterişli değildir, ancak güvenlik çoğu zaman böyle işler. Kötüye kullanımı nadiren ortadan kaldırırsınız. Yaygın kötüye kullanımı daha yavaş, daha az güvenilir ve araştırılması daha kolay hâle getirirsiniz.

Ne sağlamaz

Ekiplerin genellikle sorun yaşadığı yer sınırlamalardır.

Bir görselin doğru olduğunu kanıtlamaz

Gerçek bir fotoğraf yanıltıcı olabilir. Sentetik bir görsel açıkça etiketlenmiş olsa bile yanlış bir şey iletebilir. Filigranlama size köken veya işleme hakkında bilgi verir, doğruluk hakkında değil.

Bir siyasetçinin kurgusal bir şey yaptığını gösteren etiketli bir AI görseli hâlâ potansiyel bir yanlış bilgilendirme sorunudur. Aldatıcı bir başlığa sahip gerçek bir fotoğraf da yanlış bilgilendirme sorunudur. Kaynak bilgisi yardımcı olur, ancak yorumlama hâlâ önemlidir.

Atıf veya telif hakkı sorununu çözmez

AI tarafından üretildiğini söyleyen bir filigran, çıktının başka birinin eserini ihlal edip etmediğini, istemde yaşayan bir sanatçının adının kullanılıp kullanılmadığını veya eğitim verisinin etik biçimde elde edilip edilmediğini söylemez.

Bunlar ayrı hukuki ve etik sorulardır. Önemlidirler, ancak ikili bir filigrana indirgenemezler.

Ekibiniz kamuya açık çalışmalarda üretilmiş görseller kullanıyorsa filigranlama; lisans incelemesi, kaynak belgelendirmesi ve gereklilik hakkında temel bir değerlendirme ile birlikte yer almalıdır. Sentetik görsellerin tespit dışında maliyetleri vardır; bu konu açık web’de AI tarafından üretilen görsellerin gizli maliyeti yazısında ele alınmıştır.

Her dönüşümden sağ çıkmaz

Görseller rutin olarak sıkıştırılır, yeniden boyutlandırılır, başka formata dönüştürülür, ekran görüntüsü alınır, filtrelenir ve yeniden yayımlanır. Bazı sistemler yaygın dönüşümlere dayanacak şekilde tasarlanmıştır. Hiçbirinin tüm dönüşümlerden sağ çıkacağı varsayılmamalıdır.

Metadata özellikle kırılgandır. Birçok sosyal platform, içerik yönetim sistemi, mesajlaşma uygulaması ve optimizasyon hattı dosya boyutunu azaltmak veya gizliliği korumak için metadata’yı kaldırır. Piksel düzeyi filigranlar daha fazla dönüşümden sağ çıkabilir, ancak yine de saldırıya uğrayabilirler.

Benimsenmeden çalışmaz

Bir kaynak bilgisi standardı ancak oluşturma araçları, düzenleme araçları, yayın sistemleri, platformlar ve izleyiciler onu destekliyorsa yararlıdır.

Bu, sıkıcı dağıtım sorunudur. Bir üretici çıktıları işaretlerken bir diğeri işaretlemiyorsa, tespit kapsamı kısmi olur. Düzenleme yazılımı kimlik bilgilerini düşürürse zincir kopar. Tarayıcılar ve platformlar kimlik bilgilerini açıkça göstermiyorsa sıradan kullanıcılar bunları asla görmez.

Filigranlama yalnızca teknik bir özellik değildir. Bir ekosistem anlaşmasıdır.

AI görselleri kullanan ekipler için pratik bir politika

Çoğu kuruluşun adli medya laboratuvarlarına dönüşmesine gerek yoktur. İşleyen bir kurallar bütününe ihtiyaçları vardır.

Makul bir politika şuna benzer:

• Sentetik doğası yorumu etkileyebilecek görselleri etiketleyin.
• Yayınlanan AI görselleri için kaynak dosyaları, istemleri, lisansları ve onayları saklayın.
• Kaynak bilgisi kimlik bilgilerini veya dayanıklı filigranlamayı destekleyen araçları tercih edin.
• Eksik filigranları özgünlük kanıtı olarak görmeyin.
• Çok açık bir açıklama ve inceleme süreci olmadıkça belgesel, kanıtsal, tıbbi, hukuki veya haber açısından hassas bağlamlarda AI tarafından üretilmiş görsellerden kaçının.

Pazarlama ve ürün ekipleri için en yaygın hata kötü niyetli aldatma değildir. Gelişigüzel belirsizliktir. Açıkça illüstratif olan bir ana görsel, sahte bir ürün fotoğrafından, sahte bir müşteri portresinden veya sentetik bir etkinlik görselinden daha az açıklama gerektirir. Bir görsel izleyiciden ne kadar çok gerçek bir kişiyi, yeri, ürünü veya olayı betimlediğine inanmasını istiyorsa açıklamanız o kadar güçlü olmalıdır.

Tasarım ekipleri ayrıca açıklamanın nereye ait olduğuna karar vermelidir. Bazen görünür etiketler uygundur. Bazen metadata ve bir görsel kredisi yeterlidir. Bazen doğru yanıt üretilmiş görseli kullanmamaktır.

Tespit ahlaki değil, olasılıksal olmalıdır

Filigran tespiti bir sinyaldir, hüküm değil. Bu önemlidir çünkü yanlış güven insanlara zarar verebilir.

Bir dedektör yoğun düzenlemeden sonra işaretli bir görseli kaçırabilir. Bir görseli yanlışlıkla işaretleyebilir. Bir üretici için iyi, başka bir üretici için kötü çalışabilir. Dağınık gerçek dünya dağıtımı yerine laboratuvar koşullarına göre ayarlanmış olabilir.

Bu nedenle operasyonel soru, Bu AI mı? olmamalıdır. Soru şu olmalıdır: Hangi kanıtlara sahibiz, bunlar ne kadar güvenilir ve bunlardan hangi kararı çıkarıyoruz?

Yumuşak bir etiket ekleyip eklememeye karar veren bir platform, bir öğrenciyi uygunsuz davranışla suçlayan bir okuldan veya dolandırıcılık iddiasında bulunan bir yayıncıdan daha fazla belirsizliği tolere edebilir. Sonuç ne kadar ağırsa, o kadar fazla doğrulayıcı kanıta ihtiyaç duyarsınız.

Bu, genel olarak AI içerik tespitine de uygulanması gereken aynı temkindir: dedektörler triyaj için yararlıdır, yargıç olarak değil.

En iyi kullanım alanı: kusursuz denetim değil, güvenilir iş akışları

Filigranlama için en güçlü gerekçe, internete kaçtıktan sonra her sentetik görseli yakalamak değildir. Bu fazla iddialıdır.

Daha güçlü gerekçe, yayın öncesinde güvenilir iş akışları oluşturmaktır:

• Bir üretici çıktıları işaretler.
• Düzenleme yazılımı kimlik bilgilerini korur.
• Bir içerik yönetim sistemi bunları saklar.
• Bir yayıncı ilgili olduğunda bunları gösterir.
• İnceleyiciler zinciri daha sonra denetleyebilir.

Bu iş akışı her kötü niyetli aktörü durdurmaz. Sorumlu aktörleri daha okunur kılar.

Bu ayrım önemlidir. Filigranlama çoğu zaman yanlış bilgilendirmeye karşı bir savunma duvarı olarak pazarlanır. Pratikte ise daha çok bir belge izi gibidir. Belge izleri değerlidir. Aynı zamanda eksiktir, kayıplıdır ve ancak onları sürdüren kurumlar kadar güvenilirdir.

<!-- tool-cta:start -->

💡 Bunu deneyin: Gömülü AI imzalarının ne kadar kırılgan olabileceğini görmek için, bu tür işaretçilerin ne kadar kolay değiştirilebileceğini veya kaldırılabileceğini gösteren AI Metadata Masker aracını deneyin.

<!-- tool-cta:end -->

Sonuç

AI tarafından üretilen görselleri filigranlamak üç yararlı şey sağlar: açıklamayı destekler, platformlara ve yayıncılara bir moderasyon sinyali verir ve kontrollü iş akışlarında kaynak bilgisinin korunmasına yardımcı olur.

Doğruluğu kanıtlamaz, telif hakkı sorununu çözmez, atfı garanti etmez veya açık ortamda her sentetik görseli güvenilir biçimde tanımlamaz.

Pratik tutum ne sinizm ne de kör güvendir. Belirsizliği azalttığı yerlerde filigranlamayı kullanın. Gözetim zincirinin önemli olduğu yerlerde standartlara dayalı kaynak bilgisini tercih edin. Yüksek riskli kullanımlar için insan incelemesini koruyun. Ve teknik bir işaretin editoryal yargının yerini almasına izin vermeyin.