Yapay zeka yüzünden çalınan sesim

E-postayla gelen video bağlantısı

• Video içeriği: Jeff Geerling'in sesinin kullanıldığı Elecrow tanıtım videosu
• İtiraz: Jeff Geerling, söz konusu videoda kendi sesini kullanmadığını söylüyor

Yapay zeka ses klonlama şüphesi

• Şüphe: Elecrow'un, Jeff Geerling'in YouTube videolarını bir yapay zeka ses klonlama aracına vererek onun sesini kullanmış olması
• Geçmiş örnek: OpenAI'ın Scarlett Johanssen'ın sesini klonladığı örnekten bahsediliyor
• Hukuki sorun: İzinsiz yapay zeka ses klonlamasına dair hukuki emsal eksikliği

Ne yapılabilir?

• Mevcut durum: Elecrow ile geçmiş ilişki kötü değildi
• Hukuki süreç: Yasal yollara başvurmak pahalı ve bunun YouTube hizmet şartlarını ihlal edip etmediği de belirsiz
• Talep: Elecrow'a videonun kaldırılmasını isteyen bir e-posta gönderildi

Güncelleme

• E-posta gönderildi: Elecrow'a yapay zeka ses kullanımındaki niyetleri soruldu ve videonun kaldırılması istendi
• Geçmiş e-posta kayıtları: Elecrow ile 43'ten fazla e-posta kaydı var; geçmişte ücretli iş birliği teklifleri de alınmıştı

Yorum tepkileri

• Jimmy: Yapay zeka kullanıldığı kesin ve bu son derece uygunsuz bir davranış
• Gary Hayman: Jeff'in gerçek videolarını sevdiğini, bu olayın ise çok kötü olduğunu söylüyor
• Kayla: Videodaki bazı telaffuz hatalarından bunun yapay zeka sesi olduğu anlaşılmış
• BC: Ses klonlama aracı olarak ElevenLabs kullanılmış olabileceğini öne sürüyor
• Mike Robinson: BBC'nin Tech Life podcast bölümünü öneriyor
• George: Videodaki sesin Jeff'e pek benzemediğini savunuyor
• mam: Durumun net olmadığını, hukuki adımdan önce doğrudan iletişime geçilmesini öneriyor
• John: Bir eğlence hukuku avukatına danışılmasını tavsiye ediyor
• Derek: Elecrow'un ürünlerini artık satın almayacağını açıklıyor
• Oh No: Bilgi özgürlüğünü savunan kişilerin kendi içeriklerinin çalınmasıyla ortaya çıkan ironik durum

# GN⁺ özeti

• Yapay zeka ses klonlama sorunu: Yapay zeka teknolojisinin gelişmesi, izinsiz ses klonlamayı mümkün hale getirdi ve bu etik sorunlar doğurabiliyor
• Hukuki mücadelenin zorluğu: İzinsiz ses klonlamasına ilişkin hukuki emsal az olduğu için mücadele etmek zor
• İçerik üreticilerinin haklarının korunması: İçerik üreticilerinin sesini veya görüntüsünü izinsiz kullanmak etik ve hukuki açıdan sorunlu olabilir
• Önerilen alternatif: Yapay zeka ses klonlama yerine gerçek seslendirme sanatçılarıyla çalışmak veya içerik üreticileriyle iş birliği yapmak daha doğru olur
• Benzer örnekler: OpenAI'ın Scarlett Johanssen ses klonlama vakası ve BBC'nin Tech Life podcast bölümü önerisi

[GN⁺]

Hacker News görüşü

• Yapay zeka bir kişinin sesini taklit ederek dine küfür içeren ifadeler kullanırsa, şiddet olayları çıkabilir

  • Bazı ülkelerde dine küfür nedeniyle şiddet içeren linç olayları yaşanıyor
  • Yapay zeka teknolojisi geliştikçe bu sorunun daha da yayılma ihtimali var
  • Bu durum, itibar, güvenlik veya telif hakkından bağımsız olarak insanların hayatını tehdit edebilir
  • Bunu kontrol edecek araçlar yetersiz

• Yapay zeka kullanarak sesi kopyalamak, Midler vs. Ford davasından kaçamayacaktır

  • Yapay zeka ile sesi kopyalamak, başka bir seslendirme sanatçısı kullanmaktan daha zor savunulabilir

• Emsaller önemli, ancak teknolojinin gelişmesi nedeniyle yeni ilkelere ihtiyaç var

  • Teknoloji yeni yetenekler ortaya çıkardığında, bunların insanlara fayda sağlayacak şekilde kullanılabileceği sınırları belirlemeliyiz
  • Aksi halde güçlülerin istediğini yaptığı, zayıfların ise acı çektiği bir dünya ortaya çıkabilir

• Eğer LLM'ler nihai remix makineleriyse, RAG'e sahip olan kişi de dijital bir DJ olabilir

  • Dijital bilgiyi çalmanın ne anlama geldiği sorusu ortaya çıkıyor
  • Hukuki emsallerin yetersiz olduğu bir ortamda fikri mülkiyet ve telif hakkı hukuku adeta Vahşi Batı gibi
  • Scarlett Johansson bile OpenAI'nin taklidi hakkında acı dolu bir mektup yazmak zorunda kalıyorsa, sıradan insanlar buna nasıl karşılık verebilir diye düşünmeden edemiyor insan
  • Geerling gibi ben de üzgün ve öfkeliyim, ama sadece "iyi olan her şey adına nazik olun ve onur koduna uyun" diyebiliyorum

• Yapay zeka kısmını bir kenara bıraksak bile, Jeff'in görüşlerini çarpıtmak veya onun imajını izinsiz kullanmak yanlıştır

  • Sesini kullanarak ürüne yönelik örtük (manipüle edilmiş) bir destek yaratmak son derece yanlıştır
  • Bu tür vakaları ele alan yasalar muhtemelen zaten vardır

• Ben küçük bir teknoloji YouTuber'ı olarak Elecrow ile temas kurmuştum

  • Sadece Elecrow değil, çalışanlar da uzun vadeli ortaklıklar ve video iş birlikleri sağladıklarında ödül, terfi ve komisyon alıyor
  • Muhtemelen biri Jeff'in sesini kopyalamanın zekice olacağını düşündü
  • Bu, Elecrow için iyi bir PR değil
  • Bunun kasıtlı olduğunu itiraf edip etmeyeceklerini merak ediyorum

• Ben bunun o kadar da benzer olduğunu düşünmüyorum

  • Biraz benziyor ama farklı
  • Tonu biraz daha yüksek, daha nazal ve vurgu da biraz farklı

• Elimizde yüzlerce ses klonlama aracı var

  • Elbette klonlanmış sesle üretilmiş içerikler ortaya çıkacak
  • İzinsiz kullanılan görsellerde olduğu gibi, platformların ve moderasyon ekiplerinin bunları bildirme ve kaldırma süreçleri var
  • Ses için de benzer bir şeye ihtiyaç var

• Avukatlar sürekli bunun çok para tuttuğunu söylerken: ben bu işi tamamen ücretsiz yapardım

  • Ama muhtemelen sizin bulunduğunuz eyalette lisanslı değilimdir
  • Eğer sorununuz yeterince ilginçse ücretsiz bir avukat bulabilirsiniz
  • Bu, <i>çağımızın en ilginç meselelerinden biri</i>

• Elecrow bir Çin şirketi gibi görünüyor

  • Eğer öyleyse herhangi bir yanıt beklemiyorum