Snowden: OpenAI ve ürünlerine asla güvenmeyin

 (twitter.com/Snowden)
1 puan yazan GN⁺ 2024-06-16 | 1 yorum | WhatsApp'ta paylaş
  • Snowden, @OpenAI ve ChatGPT gibi ürünlerine asla güvenilmemesi gerektiğini açıkça uyardı
  • Uyarının doğrudan nedeni, @OpenAI'ın @NSA/CSS Director'ını yönetim kuruluna atama kararı
  • Bu atamanın “tek bir nedeni” olduğunu kesin bir dille söyledi, ancak paylaşımında somut nedeni açıklamadı
  • Bu kararı, dünyadaki herkesin haklarına yönelik kasıtlı ve hesaplı bir ihanet olarak sert biçimde eleştirdi
  • Paylaşım kısa bir uyarı metnine yakın; ek gerekçe, örnek veya izlenecek yol içermiyor

Snowden’ın uyarısının içeriği

  • Snowden, @OpenAI ve ürünlerine güvenilmemesi gerektiğini söylüyor
    • Örnek olarak ChatGPT’yi de dahil ediyor
  • Sorun ettiği karar, @OpenAI’ın @NSA/CSS Director'ını yönetim kuruluna ataması
  • Bu atamanın, dünyadaki herkesin haklarına yönelik kasıtlı bir ihanet olduğunu düşünüyor
  • Paylaşım “You have been warned” ifadesiyle bitiyor ve okura doğrudan uyarı niteliği taşıyor

İlgili okumalar

1 yorum

 
GN⁺ 2024-06-16
Hacker News yorumları

  • Snowden, Stallman gibi, katılmayabileceğiniz ve tutumunu aşırı bulabileceğiniz biri olabilir; ama onu tamamen görmezden gelmek aptalca olur
    Şu anda toplum ve yasa koyucular uyurken fikri mülkiyet haklarını aşmaya ve milyarlarca insanın yaratıcı çalışmalarını kaynak göstermeden ya da karşılık ödemeden kullanmaya yönelik bir altına hücum yaşanıyor

    • Richard Stallman’ın mahremiyet hakkı ve bireysel özgürlükten köklenen ilkelerle hareket ettiğine dair inancı sarsacak bir şey yaptığı hiç olmadı
      Snowden’ın gerçek motivasyonları çok daha belirsiz

  • OpenAI’ye güvenmemem gerektiğini Snowden’ın söylemesine ihtiyacım yok
    Bu şirketi ilk öğrendiğimde birkaç kelime okumam yetti; lisede bana zorbalık yapan kişinin işlettiği bir ikinci el araba galerisine girmişim gibi hissettim

    • Yine de birçok insana birinin bunu söylemesi gerekiyor
      Hiçbir şey söylememek daha mı iyi sence?

  • Nakasone’nin yönetim kuruluna girmesi için elbette meşru nedenler var
    OpenAI regülasyonlara karşı çok hassas ve bu yüzden ABD hükümetini kendi istedikleri yöne çekmeye çalışan büyük bir lobi ekibi var. O da (a) siyasi bağlantılar getiriyor ve (b) hiçbir gelişmenin ABD ulusal güvenliğini tehdit etmeyeceğine dair güven veriyor. Şirket yönetim kurullarında bu oldukça yaygın bir durum
    Gerçekçi bakarsak, yapay zekanın fiilen yapabildiklerinden çok, yapay zekanın ne yapabileceğine dair algı dünya üzerinde çok daha büyük etki yaratıyor

    • Henry Kissinger gibi kişilerin Theranos yönetim kurulunda yer almasını hatırlatıyor
      Bu tür yönetim kurulu pozisyonlarının gerçekten anlamlı görevler mi, yoksa bedava maaş alıp her şeyi sadece onaylayan koltuklar mı olduğunu nasıl anlayabiliriz?
    • Doğru
      Üstelik yalnızca NSA direktörü değil, aynı zamanda U.S. Cyber Command komutanıydı; bu da OpenAI’nin güvenlik ve emniyet duruşuyla, ayrıca hükümet ve savunma müşterilerine satış yapmasıyla çok ilgili bir geçmiş
    • Hükümete satış yapmak istiyorsanız bu da iyi bir fikir
    • En iyi niyetli yorumla, onun bağlantıları hükümetin somut gerçeklere dayanmadan genel olarak yapay zekaya toptan yasaklar getirmesini önlemeye yardımcı olabilir
      Ama çoğu insanın zihninde bu meselenin çok olumsuz karşılanacağını düşünüyorum
    • “Yapay zekanın ne yapabileceğine dair algı”nın gerçek kapasitesinden daha büyük etki yarattığı kısmını biraz daha açıklayabilir misin?
      Bu algı ne tür etkiler yaratıyor, gerçek yapay zeka ne tür etkiler yaratıyor?

  • Aynı tweette “Bu, yeryüzündeki herkesin haklarına yönelik kasıtlı ve hesaplanmış bir ihanettir” deniyor
    Bana biraz abartı gibi geliyor

    • Bu özel meselenin ayrıntılarını bilmiyorum ama Snowden’da abartı oldukça yaygın
      Onu fazla suçlamıyorum. Cehennem gibi şeyler yaşadı. Yine de Twitter’daki beyanlarının pek tarafsız ifadeler olduğunu düşünmüyorum
    • Katılıyorum
      Alarmcı ifadeler bir davayı öne çıkarmaya yardımcı olabilir, ama yalancı çoban gibi görünmemek için idareli kullanılmalı

  • Bu durum, Apple’ın OpenAI’nin ChatGPT’siyle entegrasyon yapma tercihini daha da kötü gösteriyor
    Çok fazla bilgi açığa çıkarmama ve kullanıcıya açıkça sorma yönündeki mahremiyet vaatleri olsa bile, OpenAI’de yaşanan bu ve diğer olaylar Apple yönetiminde ciddi endişe yaratmalı
    Apple’ın en üst düzey yöneticileri ChatGPT’nin en iyisi olduğu için onunla başladıklarını söyledi. Belki de bu ortaklık gelecek yıl bu zamanlara kadar sürmeyebilir

    • Steve’in Facebook ve Twitter’ı iOS’un birinci sınıf özellikleri olarak entegre etmekten heyecan duyduğu zamanı hatırlatıyor
      Bu durum o ana fazlasıyla benziyor
      Sonra Siri’nin ne kadar berbat olduğunu hatırlıyorum. OpenAI bir anda Apple’ı utandırır hale geldi ve Apple’ın bu alanda rekabetçi görünmek için buna umutsuzca ihtiyacı var. Tuhaf ve üzücü
    • Başka modelleri takıp çıkarabilecek şekilde esnek tasarlamışlar gibi gelmişti
      Seçenekler artarsa kullanıcının modeli seçmesine de izin verebilirler
    • Mixtral, Minstral, XWin, Mythomax, Claude 3 Haiku 196M kullanılabilir
      Hepsi harika ve çoğu ya da tamamı Siri’den daha iyi
      Bence Apple’ın yapabileceği en iyi şey, kullanıcının hangi yapay zekayı çağıracağını seçmesine izin vermek. iTunes ya da App Store gibi buna AI store da diyebilirler. Böylece yapay zeka sağlayıcıları mahremiyet ve performans üzerinden rekabet edebilir. Ancak kullanıcının neyi seçmeye değer olduğunu anlayabilmesi için çok sayıda karşılaştırma özelliğine ihtiyaç var

  • Kaynak: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - NSA’nın eski başkanı OpenAI yönetim kuruluna katıldı

  • Sohbet botuna pek çok konuda gerçekten çok soru sordum ve birçok kez değerli olduğu kanıtlandı.
    Yine de kesinlikle güvenmiyor, temkinli davranıyorum; ayrıntılı biçimde izlendiğimden de pek şüphem yok. Sadece bunun bana karşı kullanılabileceği bir senaryo bulmakta zorlanıyorum.
    Daha iyi gizlilik için daha fazla ödeme yapmayı da düşünürüm; kendi kendime barındırmakla da ilgileniyorum. Ama 99 derdim arasında bu epey arkalarda kalıyor.
    Eskiden 23andMe’ye tükürük göndermiştim. O verilerin bir kısmı çalındı ve muhtemelen bir yerlerde satılan Aşkenaz Yahudileri listesinde ben de varım. Hoş olmayan bir şey. Şu anda sohbet botu gözetiminin sorun olacağı bir durum aklıma gelmiyor; ama bu benim hayal gücümün yetersizliğinden de olabilir.

    • Arkadaşların ve onların arkadaşlarının hepsi gökyüzünün mor olduğunu söylerse, gözlemlerinle çelişse bile mavi olduğunu ilan edecek kadar cesur olabilir misin?
      Yapay zeka geri bildirimine gömüleceğiz ve herkes o tavsiyeden etkilenecek. Google’ın beni BuzzFeed’e gönderdiği ve böylece çöp içerik okuduğumu bildiği türden “kaynaklar” fiilen ortadan kalkacak. ChatGPT söyledi diye her şey bir otorite kılıfına bürünecek. Bu ürün güven demektir. Kötü niyetli bir zorbaya aynı soruyu sorup özel ayrıntılarını açıklar mıydın? Muhtemelen hayır.
      İstediğin kadar güvensizlik duyduğunu düşün; yapay zeka tavsiyelerinin akışı su gibi, biz de balık gibiyiz. Zaten etkileniyoruz; nasıl etkilendiğini bilmiyorsan daha dikkatli bakmalısın.
    • Biraz farklı bir konu olabilir ama 23andMe gibi hizmetlerin asıl sorunu yalnızca geri döndürülemez DNA ve özellik bilgilerine sahip olmaları değil.
      Artık soy ağacında yukarı ve aşağı yönde oldukça geniş bir akraba kitlesinin DNA ve özellik bilgilerine de sahip oluyorlar. Böyle bir hizmeti kullanmak özünde aile bireylerini satmak demek; üstelik onların seçim hakkı yok.
    • OpenAI’nin ileride sohbet botundan fazlasını sunması çok olası.
      Şimdiden dosya yükleyip analiz ettirebiliyorsun.
      Microsoft’un tüketicilere yönelik Windows Recall’ı dayatmasının, silinmiş dosyaların kalıcı bir dizinini tutmaya çalışmasının, O365 kurumsal müşterileri için varsayılan kayıt konumu olarak OneDrive’ı zorlamasının ve OAI’ye milyarlarca dolar dökmesinin tesadüf olduğunu sanmıyorum.

  • Twitter’ı engellemiş olanlar için, tweetlerin geri kalanı gibi görünen kısım burada alıntılanmış.
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • Twitter’ı engellemiş değilim ama orada hiçbir şey göremiyorum.
      Yaklaşık %80’inde yalnızca genel bir hata ve “tekrar dene” çıkıyor.
    • Not: O “makale” sayfasında x.com’a gidileceğine dair bir uyarı var.
      Filtre listesine bir öğe eklemenin zamanı geldi.
      Şu an tweet yerine hangi yeni bozuk ekranı göstereceğini görmek için bağlantıya tıkladım. Garip biçimde makale bağlantısı çalışıyor. Benim için çok uzun zamandır ilk kez oluyor.

  • OpenAI ile hükümet arasında bir tür iş birliği olduğu bir ölçüde açık görünüyor.
    Peki bu neden bu kadar dramatik biçimde kötü bir şey olabilir?

    • Muhtemelen geçmiş performansları pek şeffaf olmadığı içindir, hehe.

  • Bir tane daha gitti.
    Listeye ekledim, ücretli hesabımı iptal ettim, verileri sildim, hesabı da sildim.
    Bir hizmetten bir adım geri çekilip onun gerçekten gerekli olup olmadığını düşünmek giderek kolaylaşıyor. İlke olarak gerekli değil; istismarcı bir ilişkiye dönüştüğü anda kaldırılır.
    OpenAI uslu bir köpek değildi.