FCC, robocall’larda yapay zeka tarafından üretilen sesleri yasa dışı olarak nitelendirdi

 (fcc.gov)
1 puan yazan GN⁺ 2024-02-09 | 1 yorum | WhatsApp'ta paylaş
  • Yapay zeka sesiyle insan gibi duyulan otomatik aramalar yaygınlaşınca FCC, bunları TCPA kapsamında “artificial” aramalar olarak değerlendirip mevcut telefon tüketici koruma düzenlemeleri içine aldı
  • Bu Declaratory Ruling, yapay zeka tarafından üretilen insan sesinin kullanıldığı aramalara da Telephone Consumer Protection Act’in (TCPA) uygulandığını teyit ediyor
  • FCC kararı oy birliğiyle kabul edildi ve robocall’larda yapay zeka tarafından üretilen ses kullanımını doğrudan hedefliyor
  • News Release ve Declaratory Ruling metinleri docx, pdf, txt formatlarında yayımlandı; karar metni doğrudan incelenebiliyor
  • Deepfake ses ve video bağlantıları, robocall’lar ile dolandırıcılık amaçlı SMS’leri ayırt etmeyi daha da zorlaştırarak yapay zeka ses düzenlemesine yönelik pratik ihtiyacı artırıyor

Yapay zeka tarafından üretilen sesli robocall’lara TCPA’nın uygulanması

  • FCC, yapay zeka tarafından üretilen seslerle oluşturulan aramaların Telephone Consumer Protection Act (TCPA) kapsamındaki “artificial” aramalar sayıldığını kabul eden Declaratory Ruling’i oy birliğiyle benimsedi
  • Kapsam, AI-generated voices ile yapılan aramalardır
  • Bu karar robocall’larda yapay zeka tarafından üretilen ses kullanımını doğrudan hedefliyor ve TCPA’nın insan sesi üreten yapay zeka teknolojilerine de uygulandığını teyit ediyor

Yayımlanan FCC belgeleri

Deepfake ile ilgili tüketici bilgilendirmesi

İlgili okumalar

1 yorum

 
GN⁺ 2024-02-09
Hacker News yorumları

  • Tanımadığım bir numaradan arandım, açtığımda eşimin ses kaydı “Hello?” dedi
    O zamandan beri arayanı tanımıyorsam telefonu açarken önce Hello dememeye başladım

    • Bir adım daha ileri gidip garipliği ve yanlış pozitifleri azaltmak için, tanıdığım herkesi cep telefonu rehberime ekliyorum
      Arama isim yerine numara olarak görünüyorsa hiç açmıyorum; spam değilse sesli mesaj ya da SMS bırakırlar diye düşünüyorum
      İkisini de yapmıyorlarsa büyük ihtimalle spam/dolandırıcılıktır ya da baştan beri çok önemli bir mesele değildir; bunu 10 yıldan uzun süredir yapıyorum ve henüz sorun yaşamadım
    • Neredeyse hiç telefon açsam bile hiçbir bilgi vermiyorum
      Açarsam da 3-5 saniye kadar sessiz kalıp, bot değilse önce insanın konuşmasına fırsat veriyorum
    • Yaklaşık 3 dakika kimsenin konuşmadığı, sonra birinin Hello dediği aramalar alıyorum
      Paranoyakça gelebilir ama sesimi kaydedip AI kılığına bürünme için kullanmaya çalışıyor olabilirler diye düşünüyorum
    • Telefon nezaketini ihlal ettiğim için üzgünüm ama ben de aynı fikirdeyim
      Önce arayan konuşmalı ki gerçekten insan olup olmadığını anlayabileyim; otomatik bir sistemse de, numaramın başka bir otomatik sistem olmadığını fark etmemesini umarak sessiz kalıyorum

  • FCC’nin böyle bir karar alabilmesini sağlayan hukuki ilkeye Chevron Deference deniyor ve bunun şu anda saldırı altında olması önemli görünüyor
    https://www.scotusblog.com/2024/01/supreme-court-likely-to-d...

    • Bu başlık Chevron Deference kavramını ciddi biçimde yanlış anlıyor
      Bunun kaldırılması, kurumların hiçbir şey yapamadığı Mad Max tarzı bir anarşi yaratmaz; idari düzenleme yapmaya hangi ölçüde izin verildiğine dair her zaman bir standart vardır
      Takdir yetkisinin ne kadar geniş olduğu ayrı bir mesele ama AI ile üretilen sesin yasa açısından “yapay” sayıldığını netleştirmek, “bilgisayarla kafaya vurmanın” da “saldırı” sayıldığını söylemek kadar neredeyse düzenleme gerektirmeyen bir şeydir
    • Sadece bağlantıyı okudum ama o açıklama biraz hatalı gibi
      Chevron ilkesi, FCC gibi kurumların bu tür kararlar almasını sağlamaz; mahkemelerin bu kararları bozmasını zorlaştıran ilkedir
      Yani yargıçlar özel olarak kurum yorumunun sorunlu olduğunu düşünseler bile saygı göstermeleri gerekir; ama Chevron olmazsa böyle durumlarda kararı bozabilirler
      Bu olayda AI ile üretilen sesi yasanın uygulanışı açısından “yapay” saymak o kadar açık ki, bence Chevron ilkesine bile ihtiyaç yok
    • Chevron Deference’ın önemine katılıyorum ama bu kararda herhangi bir mahkemenin Chevron’ın ikinci adımına kadar gideceğini sanmıyorum
      Yasa “yapay veya önceden kaydedilmiş ses” kullanımını yasaklıyor ve AI ajanları tanım gereği yapay olduğu için ayrıca bir saygı standardına gerek yok gibi görünüyor
    • Chevron, ilk bakışta bile saçma görünüyor
      Kurum senin yasayı ihlal ettiğini söylüyor, sen de o kuruma dava açıyorsun ve mahkeme kurumu esas alıyor
      Sonuçta mahkemede gerçekten mücadele etme fırsatın elinden alınmış oluyor
    • Şimdi olduğu gibi değişimin hızlı yaşandığı dönemlerde, her küçük şey için açık yasama beklemek zorunda kalacağımızdan endişeliyim

  • Daha doğru ifade etmek gerekirse, FCC mevcut yasa olan Telephone Consumer Protection Act’i resmen yorumlayarak, robocall’lardaki AI ile üretilen sesin bu yasayı ihlal ettiğini netleştirdi; bu da makul görünüyor

    • Başlık “FCC, robocall’larda kullanılan AI ile üretilen sesin yasa dışı olduğuna hükmetti” olmalı
    • Bu karar, Stanford kurucularının başlattığı startup da dahil olmak üzere çeşitli işler ve startup’lar için son anlamına geliyor
    • FCC’nin hukuki emsal oluşturma yetkisinin nereden geldiğini bilmiyorum

  • Robocall’lar için arayan kimliği üzerinde ayırt edici etiketler zorunlu olmalıydı
    Mesela “Police Officers Benevolent Association [Robocall]” gibi görünmesi sağlanabilirdi

    • Bunun için ülke çapına yayılmış 50-70 yıllık telekom altyapısının kelimenin tam anlamıyla yükseltilmesi gerekir ve bu olmayacaktır
    • Yapılması gereken bambaşka bir şey var
      Apple ve Google, varsayılan yazılımın bir parçası olarak kişisel bir telefon robotu sunmalı
      Yeni telefon aldığında 15 dakika kadar çeşitli cümleler kaydedersin, sonrasında robot senin yerine telefonu açar
      Bu robot, spam göndericileri veya telepazarlamacıları hatta mümkün olduğunca uzun süre tutmaya çalışır
      1 dakika da iyi, 10 dakika daha da iyi
      Spam yapanlar bundan kaçınmaya çalışırsa Apple ve Google robotu geliştirerek karşılık verebilir
      Birkaç ay içinde o sektör çöker
      Çünkü her aramada 30 dakika harcayarak bunun gerçekten parasını Nijeryalı prense gönderecek kadar saf biri mi, yoksa ana dili İngilizce olmayan müşteri temsilcilerini kandırmaya çalışan kötü niyetli bir yazılım mı olduğunu anlamaya güçleri yetmez
      Kâr marjları düşer ve karşı tarafta gerçek insan olup olmadığını anlamaya yönelik daha gelişmiş AI ihtiyacı patlar; bu da işi ekonomik olarak sürdürülemez hale getirir
    • “Onlar” kim ve hangi aramanın yasal olup olmadığını nasıl anlayacağız?

  • Bunun anlamı, FCC’nin AI ile üretilen ses kullanılan aramaların TCPA kapsamında “yapay” sayıldığı yönünde deklaratif bir kararı oybirliğiyle kabul etmiş olması
    Dolayısıyla bu, yapay robocall’ların zaten yasa dışı olduğu anlamında yasa dışı

    • Dolandırıcılık aramaları da zaten yasa dışı ama pek bir şey yapılmıyor; buna benziyor
    • FCC’nin bir şeyi yasa dışı hale getirebileceğini sanmıyorum
      Bu tür başlıklar şu anda süren gerçek mahkeme davalarına yardımcı olmaz
    • “FCC, yapay sesin aslında yapay ses olduğunu açıkladı”

  • Sorunun kendisini değil, semptomlarını hedef alıyor gibi görünüyor
    Robocall sorunundaki büyük meselelerden biri, arayanın kim olduğunu fiilen öğrenmenin neredeyse imkansız olması ve spam bildirim araçlarının pek etkili olmaması
    Bir çağrı geldiğinde, bunun hesabını kimin verdiği görünmeli
    Örneğin, "[telefon numarası] [kişi veya kuruma] kayıtlıdır" gibi gösterilmeli ve spam bildirimleri birikirse ilgili tarafın telefon şebekesini kullanma yeteneğine kısıtlama getirilmelidir

    • Pennsylvania seçmenlerinin %1'inden fazlası en son kendisiyle konuşan kişiye göre oy vermeye devam ettiği ve Super PAC'ler sınırsız anonim fon almaya devam ettiği sürece, hiçbir medya kanalı insanlara spam göndermesi bakımından yasal olarak sınırlanmayacak
      Telefon spam'i siyasi olarak fazla etkili
    • Ben de aynı fikirdeyim
      Bu tür dolandırıcılıkları hedef almak iyi bir ilk adım, ama denizaşırı operatörlerin bunu daha az kullanacağını sanmıyorum
      Bana gelen spam çağrıların çoğu Do Not Call listesini bile umursamıyor; bunu neden umursasınlar ki?
      FCC, STIR/SHAKEN için katı son tarihler koymalı ve uymayan operatörlere para cezası vermeli
      Ancak o zaman VoIP operatörleri bunu ciddiye alır
    • Uzun vadede SHAKEN/STIR'ın bu sorunu çözmeye yönelik olduğunu biliyorum
      Neden bu kadar uzun sürdüğünü bilmiyorum ama cep telefonları zaten bir aramanın arayan kimliği doğrulanmış olup olmadığını gösterebiliyor olmalı
      Sonraki adım muhtemelen doğrulanmamış arayanları doğrudan engellemek olur
      Hâlâ yapılacak çok geçiş işi olduğunu düşünüyorum
      https://www.fcc.gov/call-authentication
    • Bir numaranın hangi operatöre ait olduğunu sorgulamak zaten mümkün ve gelen arama ekranında konumun altında o operatörü göstermek iyi olurdu
      Aramanın T-Mobile'dan gelmesiyle adını ilk kez duyduğum bir şirketten gelmesi arasında büyük fark var
    • Bu, bu platformdaki birçok kişinin sahip olduğu mahremiyet bakışıyla tam ters yönde gibi görünüyor

  • Bu kararla IVR sistemleri de yasa dışı mı olacak?
    Çok sayıda spam'i azaltabilecek gibi görünen çabayı takdir ediyorum, ama telefon görüşmelerinde AI üretimi sesler zaten onlarca yıldır her yerde olduğu için merak ediyorum
    Ses kalitesi konusunda belirli bir çizgi mi çekiliyor?

    • Bu karar özellikle yalnızca aramayı başlatan taraf için geçerli
      IVR buna dahil değil
      Otomatik aramalar da onay varsa izinli
      Örneğin, hazırlanan reçete veya rezervasyondaki bekleme listesindeki kitap bildirimi için kaydolduysanız durum böyledir
      Ses kalitesiyle ilgili değil; önceden kaydedilmiş ses de yasak kapsamına giriyor

  • Nasıl bir sağduyu eksikliğiyle robot sesi kullanmak yasa dışı hale getirilirken robocall'lar olduğu gibi bırakılabiliyor?
    Hiç mantıklı değil

    • Bu karar, AI üretimi ses içeren aramaları zaten yasa dışı olan diğer robocall'larla aynı şekilde ele almayı amaçlıyor

  • Telefon görüşmelerindeki “yapay” sesler 1971'den beri var
    O dönemde Federal Screw Works adlı şirket ilk Votrax ses sentez cihazını geliştirdi ve mühendisliğini Richard Gagnon yürüttü

  • Bunu nasıl uygulayabilirler?
    Tüm otomatik sesli mesajları mı yasakladılar?
    Burada “AI” nasıl tanımlanıyor?

    • Uygulama zor, ama genelde şikayet aramayı taşıyan operatöre ya da aramayı yapan müşteriye kadar izlenip sonra mahkemeye taşınıyor
      Otomatik sesli mesajlar zaten kısıtlanmıştı; bu karar yalnızca AI üretimi sesin otomatik sesli mesaj sınıfına girdiğini teyit ediyor
      İlgili karar metninden bir bölüm şöyle

      II. BACKGROUND
      3. The TCPA protects consumers from unwanted calls made using an artificial or prerecorded voice. See 47 U.S.C. § 227(b)(1).
      In relevant part, the TCPA prohibits initiating “any telephone call to any residential telephone line using an artificial or prerecorded voice to deliver a message without the prior express consent of the called party” unless a statutory exception applies or the call is “exempted by rule or order by the Commission under [section 227(b)(2)(B)].” 47 U.S.C. § 227(b)(1)(B). The TCPA does not define the terms “artificial” or “prerecorded voice.”

      Sonrasında da şu yer alıyor

      III. DISCUSSION
      5. Consistent with our statements in the AI NOI, we confirm that the TCPA’s restrictions on the use of “artificial or prerecorded voice” encompass current AI technologies that resemble human voices and/or generate call content using a prerecorded voice.

    • PDF burada: https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

    • Bazı kişiler görüşmeleri kaydediyor
      Şirketler ise tüketiciye yönelik doğrudan satış durumlarında uyumluluk nedeniyle çoğu zaman kayıt almak zorunda
      Kayıt varsa, algoritma olmasa bile mahkemeler olay bazında bunun AI sesi olup olmadığını kolayca değerlendirebilir