Will Smith konserinin seyircileri gerçekti, ancak yapay zeka sınırları bulanıklaştırıyor

• Will Smith'in konser videosunun yapay zekayla üretilmiş sahte seyirciler içerdiği öne sürüldü; ancak gerçekte video, var olan hayranların çekimlerine dayanıyordu
• Söz konusu video, konser sahneleri ile gerçek festival seyircisi fotoğraflarını birleştirerek oluşturuldu ve bazı seyirci kareleri image-to-video yapay zeka modelleriyle canlandırıldı
• Ancak buna YouTube Shorts'un son işleme deneyi (unblurring·denoise) eklenince, seyirci yüzleri acayip biçimde deforme oldu ve pankartlar bozuldu; bu da videonun yapay zeka manipülasyonu gibi görünmesine yol açtı
• Instagram ve Facebook'ta yayımlanan aynı video daha az bozuk görünüyor; yani YouTube'un otomatik düzeltmesi durumu daha da kötüleştirdi
• Sonuç olarak seyirciler gerçekti, ancak sanatçı ekibinin yapay zeka rötuşları ile YouTube filtrelerinin üst üste binmesi, neyin gerçek neyin sahte olduğu tartışmasını alevlendirdi

---

Tartışmanın başlangıcı

• Sorunlu 1 dakikalık video yayımlandığında Rolling Stone, NME, Mashable gibi büyük yayınlar yapay zeka manipülasyonu şüphesini haberleştirdi
• Videodaki seyirci yüzlerinde yapay zekaya özgü eğrilmeler, fazla parmaklar ve tuhaf işaretler görülüyordu
• Özellikle “From West Philly to West Swizzy” yazılı pankartın yanlış algılanması daha büyük tartışma yarattı

Gerçek konser görüntülerinin doğrulanması

• Video; Fransa'nın Orange kentindeki Positiv Festival ile birlikte İsviçre'deki Gurtenfestival ve Paléo Festival, ayrıca Belçika'daki Ronquieres Festival seyirci görüntülerinin çapraz kurgulanmış hâliydi
• İlgili konser fotoğrafları ve hayranların çektiği videolarda aynı kişiler ve pankartlar doğrulandı; böylece seyircilerin gerçek olduğu kanıtlandı
• Kanserle mücadele eden bir çiftin hikâyesini taşıyan pankart da gerçekten vardı; Will Smith'in Instagram hesabında buna dair çok sayıda fotoğraf ve video yer alıyor

Yapay zeka müdahalesinin iki aşaması

1. Will Smith ekibi, resmî konser fotoğraflarını kullanarak AI image-to-video modelleriyle (Runway, Veo 3 vb.) kısa klipler üretti
2. Bunun üzerine YouTube Shorts'un otomatik son işlemesi (unblur·denoise) eklendi ve video daha da bulanık ve doğallıktan uzak bir hâle geldi

YouTube Shorts deneyi

• Instagram ve Facebook'a yüklenen sürümler nispeten daha netken, YouTube “AI geliştirme teknolojisi deneyi” uygulayarak genel görüntüde ezilmiş/deforme olmuş ekran efekti oluşturdu
• YouTube bunu “geleneksel makine öğrenimi tabanlı netleştirme teknolojisi” olarak açıkladı; ancak önceden bildirim yapılmadan uygulanması tartışmayı büyüttü
• Daha sonra içerik üreticilerinin tepkisi üzerine devre dışı bırakma seçeneği ekleyeceğini duyurdu

Sonuç

• YouTube, Reddit ve X kullanıcılarının çoğu bunun “üretken yapay zekayla oluşturulmuş sahte hayranlar” içeren bir video olduğuna inanıyor
• Gerçekte videoda gerçek seyirciler yer alıyordu; ancak Will Smith ekibinin image-to-video dönüşümü ve YouTube'un son işlemesi sonrasında yapay görünüm ciddi biçimde arttı
• Konser alanı fotoğraflarına image-to-video modelleriyle kısa animasyon efekti vermek ile tamamen kurgusal bir kalabalık üretmek arasındaki etik ayrımın gerekliliği yeniden gündeme geldi
• Sonuç olarak bu olay, gerçek bir konserin yapay zeka araçları yüzünden ‘daha az gerçekmiş gibi’ görünebilmesini ortaya koydu

[GN⁺]

Hacker News yorumları

• Yapay zeka ile upscale edilmiş videolar, sanki yeni bir TV'de kare enterpolasyonunu kapatmadan önceki o tuhaflık kadar göze batıyor. Kim böyle hatalı bir yapay keskinliğin daha havalı olduğunu düşünüyor, gerçekten merak ediyorum. Geçenlerde David Bowie & Nine Inch Nails performansının yapay zeka ile upscale edilmiş bir sürümünü izledim; özellikle 2. dakikada gerçeklik hissi kayıyormuş gibi geldi ve psikolojik olarak ciddi bir huzursuzluk yarattı. Orijinal video düşük çözünürlüklü ama bence atmosferi ve kasıtlı hissi çok daha iyi veriyor. Artık harika kameralar ve lensler varken görüntü kalitesini yapay zekayla zorla yükseltmeye gerek yok
  • Asıl şaşırtıcı olan, insanların bu görüntü kalitesinden gerçekten hoşlanıyor gibi görünmesi. Dün partnerim yeni bir akıllı telefon seçiyordu ve kamera kalitesinin önemli olduğunu, yakınlaştırınca da net kaldığını söyleyip beğendi. Ama yakınlaştırdıktan sonra kısa bir gecikmeyle yapay biçimde yeniden oluşturulmuş, eski konsol emülatörlerinde kullanılan upscale filtreleri andıran bozulmuş görüntüye bakarken, gerçekten sevdiğim birinin doğal ve gerçekçi fotoğraflar yerine yüzü yumuşatılmış ve arka plana sahte bokeh eklenmiş selfieleri daha çok sevmesi biraz hüzün vericiydi
  • Bu görsel gerçekten çok komik
  • Bir zamanlar ailemin yeni TV'sinde sevdiğim bir diziyi izlerken bir tuhaflık olduğunu, sanki düşük bütçeli olmuş ve oyunculuklar da garipleşmiş, diyaloglar da kötüleşmiş gibi hissettiğimi hatırlıyorum. Nedenini düşünmüştüm. Zamanla bunun TV'nin otomatik smoothing özelliği olduğunu öğrendim. Sözde Soap Opera Effect denilen şey buymuş
  • Tüketicinin istemediği teknolojiyi sürekli itmeye çalışmak şu zincirin sonucu: hisse fiyatını koruma baskısı -> pazar payını artırma yönünde yönetim baskısı -> PM'lere yeni özellik ekleme talebi -> geliştiriciler de yeni teknolojiyi denemek istiyor -> ve sonuçta kimsenin istemediği AI chatbot'lar, AI özetleri, araç içi dokunmatik ekranlar, AI upscale gibi şeyler ortaya çıkıyor
  • Çoğu insan bu farkları pek algılamıyor. Evimde TV yok ama arkadaşlarıma gittiğimde Soap Opera Effect'i hemen fark ediyorum. İki kez bu özelliği kapatmalarını söyledim, sonra onlar da katıldı ve bir daha açmadılar. Ama gerçekte çoğu muhtemelen sadece bana güvendi; farkı gerçekten anlayıp anlamadıklarından emin değilim. Bu özelliği kapatmak isterseniz “TV marka adı soap opera effect” diye aratınca ayarın nerede olduğu bulunabiliyor. Üreticiler genelde buna tuhaf isimler veriyor, dikkat etmek lazım. Özellikle 2:06 civarında yüzler değişiyor; orijinalde o bölüm zaten oldukça bulanık. AI sürümü kamera efektlerini hiç anlamıyor. AI upscale sürümü ile orijinali karşılaştırınca çok net görünüyor. İki bağlantının da verilmiş olması kıyaslamayı kolaylaştırdı
• Pek çok yorum YouTube'dan bahsediyor ama yazıya göre AI işlemlerinin çoğu Will'in ekibi tarafından, durağan fotoğrafları videoya dönüştürmek için kullanılmış. Aslında YouTube sadece nihai sonucu biraz daha az bulanık hale getiriyor; gerçekten tuhaf AI artefaktlarının çoğu video üretim aşamasında ortaya çıkıyor. Bu da yalnızca Shorts için geçerli. Karşılaştırma videosu burada
  • O videonun içinde fark pek görünmüyor
• Coldplay bu yaz böyle bir teknoloji kullansaydı nasıl olurdu diye merak ediyorum. Ciddi konuşmak gerekirse, yapay zekayı her yere sıkıştırma eğilimi oldukça kaygı verici. Eskiden Spotify Discover Weekly sayesinde yeni müzik keşfetmek gerçekten keyifliydi ama artık AI tarafından üretilmiş şarkılar o kadar çoğaldı ki deneyimin içine ediyor
  • Spotify'ı bırakıp mahalledeki müzik dükkânından CD alarak ve USB CD okuyucu kullanarak müzik koleksiyonumu kendim oluşturmak istiyorum. Sürekli en yeni şarkıların peşinden koşup “her şarkı elimizin altında olsun” anlayışına kapılınca, insanların müziği birbirine aktarmasındaki o duygusal unsur kaybolmuş gibi geliyor
  • Olabilir. Müzik önerilerinde tesadüfen mücevher gibi parçalar bulmanın verdiği keyif önemli, ama AI üretimi parçalar karışınca o büyü bozuluyor. Spotify resmen “artık daha çok AI şarkısı öneriyoruz” demedi ama son bir yılda tüm streaming platformlarında AI müziğin büyük artış gösterdiği doğru. Spotify algoritması da insan/AI ayrımı yapmadan öneri verebiliyor; özellikle ambient, lo-fi, EDM ve jenerik pop gibi AI'ın kolay taklit edebildiği türlerde bu daha belirgin. Sonuçta insanların rahatsız olduğu şey, normalde insan kürasyonu ya da sanatsal dokunuş gerektiren alanlara AI'ın sızması. İsterseniz servis bazında AI müziği filtreleme veya sadece insan yapımı şarkılar önerdirme yolları olup olmadığına bakabilirim
• Buradaki asıl mesele <i>rıza</i>. İnsanlar mekâna girince fotoğraf ve video çekimine onay verdiklerini az çok bilir, ama sanatçının ekibinin yüzümü AI ile sahte videoya dönüştürmesine açıkça rıza gösteren kaç kişi vardı gerçekten? Bunun ülkeden ülkeye yasal olup olmadığını da ciddi şekilde merak ediyorum
  • Muhtemelen bilet satın alma sayfasındaki şartlarda ya da mekân girişindeki tabelalarda “içeri girerek çekime onay verirsiniz” benzeri ifadeler vardı. Etik açıdan hoş değil ama hukuken büyük ihtimalle epey iyi korunmuş bir durumdur
• Ben pazarlamacı olsaydım, gerçek görüntüyü bilerek AI üretimi gibi gösterip ücretsiz viral etki kovalamaya çalışırdım. Hata ya da montaj tartışmaları kadar ilgi çeken az şey var. Gerçekten sahte değilse sanatçı ya da ekibi açısından da bir zarar doğmaz. Büyük markalarda çalışan sosyal medya yöneticileriyle konuştuğumda, yorum ve etkileşim gelsin diye bazen özellikle yazım hatalı gönderi paylaştıklarını söylemişlerdi
  • Buna ragebait deniyor. Pazarlama dünyasında zaten yaygın bir taktik
  • Yeni Naked Gun filminin afişinde bilerek fazla parmak çizilmesi de buna örnek
• Benim donanımım/yazılımım mı ya da gözlerim mi bozuk bilmiyorum ama YouTube ve Instagram'ı yan yana koyup karşılaştırınca büyük bir fark göremiyorum. Gözlerimde sorun yoksa neyi kontrol etmem gerektiğini ya da monitörümü yükseltmem gerekip gerekmediğini merak ediyorum. GPU'm fena değil ama HDMI-VGA dönüştürücü de kullanıyorum. Yine de fotoğraflar gerçekten bakılamayacak kadar kötü görünüyordu. Videolarda da muhtemelen bu kadar yapay bozulma içeren çok sahne vardır diye düşünüyorum
  • Videolardaki fark daha ince yerlerde ortaya çıkıyor. Her karede apaçık görünmüyor; bazen arka plan aniden netleşip tekrar bulanıklaşıyor, insanların saç ve boyun bölgelerinde tuhaf dokular oluşuyor, yüz hatları aşırı keskin kalırken cilt doğal olmayacak kadar pürüzsüz görünüyor. Biraz Max Headroom hissi veriyor
• Çevremde gerçekten bu özellikleri isteyen tek bir kişi bile yok. Neden sürekli bu kadar karmaşık ve gereksiz şeyler ekleniyor, gerçekten anlamıyorum
  • Nasıl bazı ülkeler silahlarını gerçek sahada test edip birikim yapıyorsa, Google da günün birinde gerçekten kullanacağı şeylere hazırlık için kurumsal kapasitesini mi geliştiriyor diye düşündürüyor
  • Karmaşıklık gerekli şeylerde de olur ama kâr getirmiyorsa bunun zorlanmasının bir nedeni olmaz
• YouTube PM: “AI tarafından üretilen videolarla gerçek videoları ayırt etmeyi daha da zorlaştıralım ki kullanıcılara doğal gelsin!”
  • Bunun o kadar planlı bir kötülük olduğunu bile sanmıyorum. Yapay zekaya gerçekten inanan insanlar AI'ı her ürüne koymak istiyor ve yukarıdan biri “AI harika, ekleyin” dediğinde her yere serpiyorlar. Toplantılar da “kullanıcının X sorununu çözelim” yerine “üründe AI ile nereyi değiştirebiliriz” etrafında dönüyor
  • Kötülükten çok yanlış teşvikler daha gerçekçi geliyor. Birilerinin KPI'ı AI özelliği çıkarmaya bağlanıyor ve bu yüzden YouTube'un eski sharpen + denoise filtresinin yerine “AI enhancement” geliyor
  • YouTube'un AI dönüştürülmüş içerik açıklama rehberi gerçekten var
  • Bu yaklaşım ters tepip gerçek haber görüntülerinin bile AI montajı sanılmasına ve güvenin zedelenmesine yol açabilir. İnsanlar daha da şüpheci ve inançsız hale gelir
  • Gelecek nesiller zaten önceki kuşaklardan tamamen farklı bir medya ortamında büyüyecek
• “AI'ı faydalı hale getirelim” denemelerinden biri olan bu özelliğin kimin fikri olduğunu gerçekten merak ediyorum. Zaten HD orijinal varken, ekstra masraf edip upscale sunmanın anlamı yok gibi geliyor. Diyelim ki sadece düşük kaliteli videolara uygulanıyor, o zaman da gerçeklik algısını bozduğu için daha da problemli
  • Google için gerçeklik önemli değil. Reklam ve etkileşim önemli
• Üzerinde “AI glitch” yazan tişörtler satılırsa, her fotoğrafta böyle efektler oluşur ve gerçek ile sahtenin ayırt edilmesi imkânsız hale gelebilir
  • Zamanla bu tür tişörtler de altıncı parmak aksesuarı (üretici yapay zekânın meşhur sorunu) ve 5 gözlüklü maske (yüz tanımadan kaçınma) gibi kısa ömürlü bir modaya dönüşüp kaybolur gibi geliyor
  • Böyle tişörtler zaten var ve çoğu zaman ChatGPT'nin ürettiği cümleler hiçbir doğrulama yapılmadan doğrudan baskıya gönderiliyor