OpenAI, doğrulama aracıyla birlikte AI görüntülerine Google'ın SynthID filigranını getiriyor
(openai.com)- OpenAI, yapay zeka tarafından üretilen içeriğin tanımlanması için C2PA uyumluluğu, SynthID filigranı ve herkese açık doğrulama aracını birleştiren çok katmanlı kaynak modelini güçlendiriyor
- C2PA, içerik üretim ve düzenleme bağlamını metadata ve kriptografik imzalarla birlikte taşır, ancak dönüştürme süreçlerinde zarar görebilir
- Google DeepMind'ın SynthID sistemi, ChatGPT, Codex ve OpenAI API ile üretilen görüntülere görünmez filigran ekleyerek metadata'nın zayıf yönlerini tamamlıyor
- Herkese açık doğrulama aracı önizlemesi, yüklenen görüntülerdeki Content Credentials ve SynthID'yi kontrol ederek içeriğin OpenAI tarafından üretilip üretilmediğini anlamaya yardımcı oluyor
- Tek bir teknoloji yeterli değil; kaynak ekosisteminin güçlenmesi için ortak standartlar, kalıcı filigranlama ve herkese açık doğrulamanın birlikte kullanılması gerekiyor
İçerik kaynağı yaklaşımını güçlendirme
- OpenAI, çevrimiçi güven oluşturmak için çok katmanlı kaynak modelini güçlendiriyor ve açık standartlar ile platformlar arası iş birliği temelinde yapay zeka tarafından üretilen içeriğin tanımlanabilirliğini artırmayı hedefliyor
- Üç ana değişiklik var
- C2PA uyumluluğu ile diğer araç ve platformların kaynak sinyallerini daha kolay tanımasını destekliyor
- Google ile iş birliği yaparak görüntülere SynthID filigranlama ekliyor
- Görüntülerin OpenAI tarafından üretilip üretilmediğini kamuoyunun kontrol edebilmesi için herkese açık bir doğrulama aracı önizlemesi sunuyor
- Kaynak sinyalleri, içeriğin nereden geldiğini, nasıl üretildiğini veya düzenlendiğini ve iddia edilenle uyuşup uyuşmadığını değerlendirmek için gerekli bağlamı sunuyor
C2PA uyumluluğuyla güven ekosistemi
- OpenAI, 2024'ten bu yana kaynak standartlarının geliştirilmesi ve benimsenmesine katılıyor ve DALL·E 3 ile üretilen görüntülere Content Credentials eklemeye başladı
- Ardından ImageGen ve Sora için de Content Credentials uygulanmaya başlandı
- OpenAI, içerik kaynağı için açık teknik standartları ilerleten sektörler arası kuruluş Coalition for Content Provenance and Authenticity (C2PA) yönetim komitesine katıldı
- C2PA, metadata ve kriptografik imzalar kullanarak medyayla ilgili bilgilerin içeriğin kendisiyle birlikte güvenli şekilde taşınmasına yardımcı olan bir yaklaşım
- Bu bilgi, kaynağı değerlendiren gazetecilere, bütünlükle ilgili kararlar alan platformlara ve çevrimiçi içeriği anlamaya çalışan kişilere bağlam sağlıyor
- OpenAI yakın zamanda C2PA uyumlu üretici ürün oldu
- C2PA uyumluluğu, platformların içeriğe eklenmiş kaynak bilgilerini güvenilir bir şekilde okuyabilmesi, koruyabilmesi ve iletebilmesi için temel oluşturuyor
- Kaynak bilgisi, içeriğin ilk üretildiği platformun ötesinde korunabildiğinde daha anlamlı hale geliyor ve uyumluluk bunu mümkün kılıyor
SynthID ile çok katmanlı görüntü kaynağı
- C2PA metadata'sı, içeriğin nereden geldiğini, nasıl üretildiğini veya düzenlendiğini ve bu bilgiyi kimin imzaladığını içeriğe eşlik ederek taşıyan bir temel sunuyor
- Metadata kaldırılabilir, yükleme-indirme sürecinde kaybolabilir ya da dosya biçimi değişikliği, yeniden boyutlandırma ve ekran görüntüsü alma gibi dönüşümlerle zarar görebilir
- OpenAI, kaynak bilgisini daha sağlam hale getirmek için Google DeepMind'ın SynthID'si üzerinden görünmez filigran kullanıma sunuyor
- Uygulama ilk olarak ChatGPT, Codex ve OpenAI API üzerinden üretilen görüntülerle başlıyor
- SynthID, C2PA metadata tabanlı yaklaşımı tamamlayan ek bir filigran katmanı olarak çalışıyor
- OpenAI daha önce de kaynak ve filigranlama yöntemlerini gerçek dağıtım ortamlarında test etti
- Sora'da görünür filigran kullanılıyor
- Voice Engine'de ses filigranı kullanılıyor
- Zaman içinde doğruluk ve güvenilirliğin korunup korunmadığı test edilmeye ve araştırılmaya devam ediliyor
- C2PA ve SynthID birbirlerinin farklı zayıflıklarını tamamlıyor
- C2PA, içeriğe ayrıntılı bağlam eklenmesine yardımcı oluyor, ancak metadata kaldırılabilir veya zarar görebilir
- SynthID, metadata korunmadığında bile sinyallerin saklanmasına yardımcı oluyor ve ekran görüntüsü gibi dönüşümlerde daha uzun süre dayanabiliyor
- Metadata, yalnızca filigranla sağlanamayacak daha fazla bilgi sunuyor
- İki yaklaşım birlikte kullanıldığında, içerik kaynağı bilgisinin dayanıklılığı her birinin tek başına kullanımına göre daha güçlü oluyor
Herkese açık doğrulama aracı önizlemesi
- OpenAI, ChatGPT, OpenAI API ve Codex ile üretilmiş görüntülerin doğrulanmasına yardımcı olan herkese açık bir doğrulama aracını önizleme sürümünde sunuyor
- Bu araç, yüklenen görüntüde Content Credentials ve SynthID gibi kaynak sinyallerinin bulunup bulunmadığını kontrol ediyor
- Amaç, birden fazla sinyali bir araya getirerek kullanıcıların içerik kaynağı bilgisini daha kolay doğrulayıp yorumlayabilmesine yardımcı olmak
- Herkese açık doğrulama aracı, OpenAI kaynaklı SynthID filigranlarını güvenilir şekilde tespit edebiliyor ve C2PA metadata'sı bulunursa bunu da birlikte gösterebiliyor
- Hiçbir tespit yöntemi kusursuz olmadığından, tespit başarısız olduğunda kesin sonuçlar vermiyor
- Metadata veya filigran tespit edilmemesi, görüntünün OpenAI araçlarıyla üretilmediği anlamına geldiği şeklinde yorumlanmıyor
- Kaynak sinyalleri bazı durumlarda kaldırılmış olabilir
- Yayınlandığı andaki doğrulama aracı OpenAI tarafından üretilen içerikle sınırlı
- Önümüzdeki birkaç ay içinde platformlar genelinde doğrulamayı mümkün kılan sektör çapındaki çabaları desteklemek hedefleniyor
- Zamanla çevrimiçi ortamda karşılaşılan daha fazla içerik türünün de desteklenmesi bekleniyor
Önümüzdeki zorluklar
- Tek bir kaynak teknolojisi yeterli değil
- Güçlü bir kaynak yaklaşımı; ortak standartları, uzun ömürlü filigran sinyallerini ve herkese açık doğrulamayı bir araya getirmeli
- OpenAI, Content Credentials için mevcut desteği, C2PA uyumluluğu, SynthID entegrasyonu ve herkese açık doğrulama aracı önizlemesiyle daha birlikte çalışabilir bir kaynak ekosistemine katkı sağlamayı hedefliyor
1 yorum
Hacker News yorumları
Siyah arka planla yapay zeka görselleri oluşturursan, düzgün monitörlerde SynthID gözle görülebiliyor. Sadece tekrarlayan bulanık bir desen, özel bir tarafı yok
Her 2. pikseli maskeleyip eksik pikselleri yeniden oluşturarak, ardından 1 piksellik ofsetle tekrar her 2. pikseli maskeleyerek bunu epey iyi kaldırdım
Piksel doldurma için hazır bir model kullandım ama değişiklikten önce önce derinlik haritasını dışa aktarıp gürültüyü azalttım; böylece yeni üretilen maskeli pikseller özgün içeriğe uydu. Sonuç %100 kusursuz değildi ama daha fazla zaman ayırıp bu işe uygun ince ayarlı bir model kullanılırsa herhangi bir AI filigranının büyük sorun olmadan kaldırılabileceği anlaşılıyor
https://deepwalker.xyz/blog/bypassing-synthid-in-gemini-phot...
Metadata veya SynthID'nin içinde ne tür bilgiler var? SynthID kaç bite kadar kodlayabiliyor?
Sentetik içerik için bir tür besin değeri etiketi yapılabilir mi? Mesela %10 sentetik metin, %30 sentetik görsel gibi
Bugünkü gerçekliğiniz %15 sentetikti (%75 büyük şirket, %25 açık ağırlıklı neocloud)
Gerçek dağıtılan sürüm muhtemelen epey farklıdır
[0]:https://arxiv.org/html/2510.09263v1
SynthID tamamen çözülmüş gibi görünüyor ama ilginç olan, OpenAI'ın yeni filigranı için durumun henüz böyle olmaması [1]
[1] https://github.com/wiltodelta/remove-ai-watermarks
Bu tamamen göstermelik saçmalık
Çeşitli mecralar için araçlarla bir şeyler üreten biri olarak, benim seçmediğim rastgele metadata ekleyen bu tür araçlardan uzak dururum
Video oyunu için doku üretirken neden böyle garip DRM artıkları eklemek zorunda olayım? Photoshop bu kadar eskiyken neden istisna?
Photoshop, Google veya OpenAI'ın yaptığı bir araç değil ve Photoshop'la fotogerçekçi aldatıcı görseller üretmenin giriş eşiği AI'a kıyasla çok daha yüksek. Geleneksel görsel düzenleme kullanımını kusurlu da olsa tespit eden teknikler zaten var
SynthID ancak Google veya OpenAI kendi görselleri üzerinde fikri mülkiyet iddia ediyorsa DRM sayılabilir; bunun yasal olup olmadığını bilmiyorum
Güzel. Kaldırılacağı söyleniyor ama bunu tekrarlanabilir biçimde gösteren bir depo henüz görmedim
Nano Banana Pro çıktığı ilk gün test ettim ve çalıştı. Şu anda da Nano Banana 2'de çalışıyor
Bunu açıkça paylaşmanın interneti daha kötü hale getireceğini kibirli biçimde düşündüğüm için hiçbir yere koymadım. Ama ben ilk gün akıl ettiysem, milyonlarca başka programcı da elbette akıl etmiştir; yani bu saf kibirdi
Yine de SD modellerine özgü artefaktlar oluşuyor ve bunlar başka yöntemlerle tespit edilebilir. Ya da çok büyütüp dikkatle bakınca görülebilir
Bu yazının hemen yanında bu yazının durması cuk oturmuş: https://news.ycombinator.com/item?id=48200569
mp3 metadata'sı gibi bir şey mi?
AI görselinin ekran görüntüsünü alırsan o da AI görseli gibi mi görünür? Bunun görselin içine mi gizlendiğini, yoksa metadata mı olduğunu merak ediyorum
Önce fotoğrafın OpenAI'dan gelip gelmediğini doğrulayacaklar, sonra da abone verisi ve konum bilgisi ekleyecekler
Sonunda kimsenin AI üretimi fotoğraf ya da metin görmek istemediğini anlayacaklar. O zaman bu araç halk için başarısız olur, sadece devlet için işe yarar hale gelir
Bu tür filigranları kaldırmak veya bozmak kolay değil mi? İnsanlar seyrek kullandığı ve aşmaya değmediği sürece ancak işe yarıyor gibi geliyor
Sosyal medya platformları bu filigrana sahip görselleri yasaklamaya başlarsa bir gecede hepsi sökülür gibi
Şimdiye kadar gördüğüm yöntemler, düzenleme özellikleri kullanılırken opaklık veya özgün görsel bindirmesiyle yapılan garip hileler ya da bir NB üretimi görselin düşük gürültü seviyesinde diffusion modeliyle yeniden üretilmesi; bu durumda özgün de değişiyor
https://github.com/aloshdenny/reverse-SynthID
Gerçek bir açık standart olan C2PA'dan daha zayıf görünüyor: https://contentauthenticity.org/