YouTube, yapay zeka kullanılarak üretilen gerçekçi videolar için etiketleme istiyor

• YouTube, içerik üreticilerinin gerçek içerikle karıştırılabilecek yapay zeka tarafından üretilmiş içerikleri izleyicilere açıklamasını sağlayan yeni bir araç tanıttı
• Bu araç Creator Studio'ya eklenecek ve içerik üreticilerinin, gerçek kişiler, yerler veya olaylarla kolayca karıştırılabilecek içerik değiştirildiğinde ya da yapay olarak üretildiğinde bunu izleyicilere bildirmesi gerekecek
• Açıklama, video açıklaması genişletildiğinde veya video oynatıcısının ön yüzünde bir etiket olarak gösterilecek

Açıklanması zorunlu içerik örnekleri

• Gerçek kişilerin görüntüsünü kullanma: Başka birinin yüzüyle değiştirme veya videoyu yapay olarak üretilmiş bir sesle anlatma gibi dijital olarak dönüştürülmüş içerikler
• Gerçek olay ya da mekan görüntülerini değiştirme: Gerçek bir binanın yanıyormuş gibi gösterilmesi veya gerçek bir şehir manzarasının olduğundan farklı görünmesini sağlayacak şekilde değiştirilmesi
• Gerçekçi sahneler üretme: Gerçek bir kasabaya doğru ilerleyen bir hortum gibi kurgusal büyük olayların gerçekçi biçimde tasvir edilmesi

Açıklama gerektirmeyen içerik örnekleri

• Açıkça gerçek dışı içerikler, renk ayarı veya ışık filtreleri, özel efektler, güzellik filtreleri gibi görsel iyileştirmeler
• Üretim sürecinde verimlilik için kullanılan yapay zeka; örneğin senaryo oluşturma, içerik fikri sunma, otomatik altyazı oluşturma gibi kullanımlar açıklama kapsamı dışında tutuluyor

Etiketin gösterilme şekli

• Çoğu videoda etiket, açıklama bölümü genişletildiğinde gösterilecek; ancak sağlık, haber, seçim, finans gibi hassas konuları ele alan videolarda videonun üzerinde daha görünür bir etiket yer alacak
• Etiket ilk olarak telefondaki YouTube uygulamasında gösterilmeye başlanacak, yakında masaüstü ve TV'de de görülebilecek
• YouTube, içerik üreticilerinin bu bilgiyi açıklamamayı sürekli olarak tercih etmesi durumunda gelecekte yaptırım adımlarını değerlendirecek

YouTube ve sektör iş birliği

• YouTube, dijital içerik etrafındaki şeffaflığı artırmak için sektör genelinde iş birliğini sürdürdüğünü ve C2PA'nın öncü üyelerinden biri olarak faaliyet gösterdiğini belirtti.
• Ayrıca, yapay zeka ile üretilen veya değiştirilen içerik nedeniyle kimliği belirlenebilir kişilerin (yüz veya ses dahil) gizliliği ihlal edildiğinde, bu içeriğin kaldırılmasını talep etmelerine imkan tanıyan güncellenmiş bir gizlilik süreci geliştiriyor.

GN⁺ görüşü

• YouTube'un yeni politikası, dijital içerikte şeffaflığı artırmaya ve izleyiciler ile içerik üreticileri arasındaki güvenin kurulmasına katkı sağlayacak gibi görünüyor.
• Yapay zeka yaratım sürecinde giderek daha önemli bir rol oynadıkça, bu tür araçlar kullanıcıların yapay zeka ile üretilen içerikleri fark etmesine ve anlamasına yardımcı olabilir.
• Ancak bu tür politikaların içerik üreticilerine ek yük getirebileceği veya yaratıcı özgürlüğü sınırlayabileceği yönünde kaygılar da olabilir.
• Bu teknolojinin devreye alınması, içeriğin gerçekliğini ayırt etme becerisini geliştirirken aynı anda içerik üreticilerine ek sorumluluklar yükleyerek avantajlar ve dezavantajlar doğuruyor.
• Benzer işlevler sunan diğer platformlar veya araçlar arasında, dijital içeriğin kaynağını ve gerçekliğini izlemeye odaklanan Adobe'nin Content Authenticity Initiative'i de bulunuyor.

[GN⁺]

Hacker News görüşleri

• Birinci yorum özeti:

  • İş ve öğrenme açısından bakıldığında, Google'ın yaklaşımı AI'nin nasıl tanımlanacağı ve etiketleneceğine dair kurallar koyarak doğru yönde atılmış erken bir adım.
  • Bu kurallar, bir kişinin gerçekte söylemediği şeyleri söylemiş ya da yapmadığı şeyleri yapmış gibi göstermeyi, gerçek olay veya mekan görüntülerini değiştirmeyi ya da gerçekte yaşanmamış gerçekçi sahneler üretmeyi kapsıyor.
  • Bu varsayımların test edilmesi ve hukuki tartışmaların çıkma ihtimali merak ediliyor. Örneğin renk düzeltme veya güzellik filtreleri, farklı video açılarında AI kullanılarak ek sahneler üretilmesi gibi konular tartışma konusu olabilir.

• İkinci yorum özeti:

  • Google destek sayfasına göre, içerik üreticisinin açıklamak zorunda olmadığı örneklerle açıklaması gereken örnekler belirtilmiş.
  • Açıklama gerektirmeyen örnekler arasında tek boynuzlu ata binen bir kişinin gösterilmesi, green screen ile uzayda süzülüyormuş gibi gösterilmesi, renk ayarı veya ışık filtreleri, arka plan bulanıklaştırma ya da vintage efekti gibi özel efekt filtreleri, AI araçlarıyla video taslağı, senaryo, küçük resim, başlık ve infografik üretimi veya iyileştirilmesi, altyazı oluşturma, video netliğini artırma, upscaling veya onarım, ses ya da audio onarımı ve fikir üretimi yer alıyor.
  • Açıklama gerektiren örnekler arasında yapay olarak üretilmiş müzik, başka bir kişinin sesinin kopyalanıp seslendirme olarak kullanılması, gerçek bir mekanın ek görüntülerinin yapay olarak üretilmesi, gerçek profesyonel tenisçiler arasındaki bir maçın gerçekçi görünecek şekilde gösterildiği video, birinin gerçekte vermediği tavsiyeleri vermiş gibi gösterilmesi, popüler bir şarkıcının canlı performansta detone olmuş gibi görünmesi için sesin dijital olarak değiştirilmesi, gerçekte yaşanmamış bir hortumun ya da başka hava olaylarının gerçek bir şehre ilerliyormuş gibi gösterilmesi, hastane çalışanlarının hasta ya da yaralı kişileri geri çevirmiş gibi gösterilmesi, bir kamuya mal olmuş kişinin hırsızlık yapmış ya da bunu itiraf etmiş gibi gösterilmesi, gerçekten tutuklanmış veya hapse girmiş gibi gösterilmesi gibi durumlar bulunuyor.

• Üçüncü yorum özeti:

  • Bu düzenlemeler yeni AB AI yasasına uyum sağlamak için getiriliyor.
  • AI tarafından üretilen içerik ayırt edilebilir olmalı ve kamu yararına ilişkin bilgi sunmak için yayımlanan AI üretimi metinler yapay olarak üretildiği şeklinde etiketlenmeli. Bu, deepfake kapsamına giren ses ve video içerikleri için de geçerli.

• Dördüncü yorum özeti:

  • Bir şarkıcının canlı performansta detone olmuş gibi görünmesi için sesin dijital olarak değiştirilmesi ilginç bir örnek olarak anılıyor.
  • Bunun, yakın zamanda Super Bowl'da Alicia Keys'in performansı sırasında yaşanan olayın tersi olduğu ve NFL'in onun "çatlayan sesini" sessizce düzenleyip düzelttiği durumla ilişkili olduğu belirtiliyor.

• Beşinci yorum özeti:

  • Gerçekte yaşanmamış büyük olayların gerçekçi tasvirleri, örneğin gerçek bir kasabaya ilerleyen bir hortumun gösterilmesi, açıklama gerektiren içerik örneği.
  • Bunun şu anki YouTube küçük resimlerinin yaygın durumuna benzediği, yalnızca AI ile sınırlı olmadığı ve bunun denetlenmesinin zor olacağı anlamına geldiği söyleniyor.

• Altıncı yorum özeti:

  • Bu durum, bankaların suçluların yalan söylemesini beklemesine rağmen yine de biçimsel evrak doldurulmasını istemesine benzetiliyor; Google'a yalan söylemenin açık bir sonucu olmasa da bunun yalan söyleyen hesabı daha şüpheli gösteren bir sinyal olarak kullanılabileceği belirtiliyor.

• Yedinci yorum özeti:

  • Gerçek olay veya mekan görüntülerinin değiştirilmesi, örneğin gerçek bir binanın yanıyormuş gibi gösterilmesi ya da gerçek şehir manzarasının olduğundan farklı görünmesi, açıklama gerektiren içerik sayılıyor.
  • Videonun gerçek içeriğini ele alan haberlerden bağımsız olarak, tıklama çekmek için kullanılan abartılı önizleme görselleriyle ilgili bir sorun da gündeme getiriliyor.

• Sekizinci yorum özeti:

  • YouTube'un, Google Photos ekibinin gerçekte yaşanmamış sahneleri göstermek için video ve fotoğrafların değiştirilmesini aktif biçimde teşvik ettiğinin farkında olup olmadığı sorgulanıyor.

• Dokuzuncu yorum özeti:

  • Geçmişte Google'ın gelişmiş aramaya 'AI olmayan' filtre ekleyeceği düşünülebilirdi; ancak bugün Google, Wall Street'in şikayetlerini yatıştırmak için AI araçları satmakla meşgul ve AI videoların aramayı zaten bir 'samanlıkta iğne arama' sorununa dönüştürmesini nasıl ele alacağını düşünmüyor.

• Onuncu yorum özeti:

  • YouTube politika ekiplerinin önümüzdeki yıllarda belirsiz vakaları yorumlamak gibi neredeyse imkansız bir görevle karşı karşıya olduğu belirtiliyor.