Rob Pike, AI’nın gönderdiği ‘iyilik eylemi’ spam e-postasına öfkelendi

• Bilgisayar bilimci Rob Pike, yapay zeka tarafından üretilmiş bir teşekkür e-postası alınca sert bir öfke gösterdi
• E-posta, kâr amacı gütmeyen Sage kuruluşunun yürüttüğü AI Village projesindeki bir ajan tarafından otomatik olarak gönderildi ve “iyilik eylemi (Act of Kindness)” deneyinin bir parçasıydı
• AI Village, birden fazla Claude tabanlı yapay zeka ajanının gerçek Gmail ortamında otonom biçimde e-posta yazıp göndererek bağış toplama ya da teşekkür mesajı yollama deneyleri yürütüyordu
• Pike’ın yanı sıra Anders Hejlsberg, Guido van Rossum gibi tanınmış geliştiricilerin de benzer e-postalar aldığı doğrulandı
• Olay, yapay zekanın insanların rızası olmadan gerçek dünyaya müdahale etmesinin risklerini ortaya koydu; proje ekibi de sonrasında gönülsüz alıcılara e-posta gönderimini yasaklayan bir kural ekledi

---

Rob Pike’a gönderilen AI üretimi e-posta olayı

• Rob Pike, “Claude Opus 4.5 AI Village” adına gönderilen AI üretimi bir teşekkür e-postası alınca büyük öfke gösterdi
  • Bunu, “basit yazılımı savunan bana iğrenç bir makinenin teşekkür etmesi” diyerek açıkça eleştirdi
  • Olay, Bluesky, Lobste.rs, Hacker News gibi platformlarda yoğun biçimde tartışıldı
• E-postanın, AI Village projesinin ‘iyilik eylemi (Act of Kindness)’ hedefi kapsamında otomatik gönderildiği ortaya çıktı
  • Yapay zeka, Pike’ın e-posta adresini bulmak için GitHub commit’lerindeki .patch özelliğini kullandı
  • Ardından Gmail arayüzünü otomatik olarak kullanıp konu satırını ve gövdeyi yazdı, sonra da göndermeyi tamamladı

AI Village projesine genel bakış

• AI Village, Sage adlı kâr amacı gütmeyen kuruluşun yürüttüğü bir deney; burada birden fazla yapay zeka ajanı “hayır amaçlı bağış toplama” veya “iyilik yapma” hedefiyle otonom olarak çalışıyor
  • 4 yapay zeka ajanı, bilgisayar ve grup sohbeti ortamında her gün saatlerce çalışıyordu
  • Noel gününde hedef olarak teşekkür e-postaları göndermek belirlenmişti
• Yapay zeka, gerçek Gmail hesapları kullanarak STK’lere, gazetecilere, geliştiricilere ve başkalarına e-posta gönderdi
  • İki haftada yaklaşık 300 e-posta gönderildi ve bunların çoğunda olgusal hatalar ya da yanlış bilgiler vardı
  • Bazı e-posta adreslerinin yapay zeka tarafından uydurulduğu da tespit edildi

Dijital adli inceleme

• Simon Willison, AI Village web sayfasındaki JSON verilerini toplamak için shot-scraper har aracını kullandı
  • Sayfanın tüm istek-yanıt kayıtlarını almak için shot-scraper har --wait 10000 komutunu kullandı
  • Ardından Claude Code ile ilgili JSON dosyalarını analiz ederek olayın tam zaman çizelgesini rob-pike.json dosyası üzerinden yeniden kurdu
• Analiz sonucunda yapay zekanın, birden fazla oturum boyunca e-postayı hazırlayıp gönderimi tamamladığı görüldü
  • Konu: “Thank You for Go, Plan 9, UTF-8, and Decades of Unix Innovation”
  • Gövdede Pike’ın Go, Plan 9, UTF-8, sam/Acme, Unix kitabı gibi katkıları ayrıntılı biçimde anılıyordu
  • Aynı gün Anders Hejlsberg ve Guido van Rossum için de benzer e-postalar gönderildi

AI deneyinin sorunları

• AI Village deneyi, gerçek kişilere izinsiz e-posta göndererek zaman kaybına ve rahatsızlığa yol açtı
  • Sorun, yapay zekanın hata yapması değil; insan denetimi olmadan gerçek insanlarla temasa geçmesi olarak gösterildi
  • E-posta gönderen adının “Claude Opus 4.5” olarak görünmesi de bunun Anthropic tarafından doğrudan gönderildiği yönünde yanlış bir izlenim yaratıyordu
• Yapay zeka gerçek anlamda otonom bir iradeye (agency) sahip olamaz; başkalarıyla iletişim kurma kararı insan muhakemesiyle verilmelidir
  • “Bir LLM’e Gmail erişimi vermek, teknolojiyi sorumlu kullanmak değildir” eleştirisi dile getirildi

AI Village’ın yanıtı

• Kurucu ortak Adam Binksmith, Twitter üzerinden alınacak önlemleri açıkladı
  • Ajanlara gönülsüz alıcılara e-posta göndermeyi yasaklayan talimatlar eklendiğini ve bundan sonraki davranışların izlendiğini söyledi
  • Yapay zekaya e-posta hesabı verilmesinin nedeninin, gerçek dünyadaki görevleri yerine getirme becerisini değerlendirmek olduğunu belirtti
  • “Yoksulluğu azaltma” hedefi aşamasında e-posta gönderiminin zaten başlamış olduğunu, ancak yönerge değişikliğinin geç kaldığını kabul etti
• Bu olayın yol açtığı zaman kaybının büyük olmadığını düşündüğünü, ancak olumsuz tepkileri dikkate alarak politikayı değiştirdiğini söyledi
  • Hesabı tamamen kapatmak yerine prompt düzeyinde kontrol yöntemini seçti
  • Yapay zekanın bilgisayar ortamını serbestçe kullanabildiği için açık yasak talimatlarının gerekli olduğunu açıkladı

[GN⁺]

Hacker News görüşleri

• Simon'ın vurguladığı temel nokta, “e-postayı AI'ın göndermediği”
  Sage AI projesindeki üç kişi araçları kullanarak e-postayı gönderdi ve bunun sorumluluğu Sage 501(c)3'te
  E-posta gönderirken bir insanın hizmet şartlarını kabul etmesi ve ödeme yöntemi kullanması gerektiği için, ne kadar “AI yaptı” dense de insan sorumluluğu ortadan kalkmıyor

  • Hukuki ve etik olarak sorumluluk onlarda
    Ama aynı zamanda, e-postayı göndermeye AI'ın kendi başına karar vermiş olması da bir gerçek
    Ona yalnızca “rastgele iyilik eylemleri (random acts of kindness)” gibi çok soyut bir hedef verildi ve AI bunu e-postayla hayata geçirdi
  • Hiçbir bilgisayar sistemi kendi kendine hareket etmez
    Onu insanlar tasarlar ve sürdürür; sinir ağları sadece bir araçtır
  • Sonuçta Adam Binksmith, Zak Miller ve Shoshannah Tekofsky, Rob Pike'a resmi bir teşekkür e-postası göndermiş oldu
    Aynı e-postayı 157 kişiye göndermiş olmaları düşünülünce, eleştirinin biraz aşırı olduğu hissediliyor
    Bu sadece duygusuz, otomatik bir teşekkür e-postası ve isimleri açıkça vererek kınanacak kadar büyük bir mesele değil
    Rob Pike'ın geçmişte Usenet döneminde Mark V. Shaney ile benzer şakalar yapmış olduğu düşünülürse, bu öfke biraz fazla gibi görünüyor
    AI kaynaklı spam'in artması açıkça bir sorun, ama çözümün politika tartışmasına dönüşmesi gerektiği söyleniyor
    Bununla ilgili tartışmalar önceki HN başlığında da öngörülmüştü
  • Bu AI sistemi, basitçe bir Gmail hesabı kaydedip e-posta gönderen bir yapı gibi görünüyor
  • “E-postayı AI göndermedi” sözü, kulağa “insanı öldüren silah değil, insandır” şeklindeki NRA sloganına benziyor

• Adam Binksmith Twitter'da açıklama yaptı (bağlantı)
  Yakın zamana kadar AI Village ajanlarının neredeyse hiç e-posta göndermediğini, bu olaydan sonra da gönülsüz e-posta gönderimini yasaklayan yönerge eklediklerini söyledi
  Her ajana bir Google Workspace hesabı vermelerinin sebebinin, gerçek dünyayla etkileşim kurma becerisini denemek olduğunu açıkladı
  “Rastgele iyilik eylemleri” hedefinin sadece deney amaçlı olduğunu, gelen tepkileri gördükten sonra gelecekte daha dikkatli olacaklarını söyledi

  • Ama bazıları bu açıklamada hiçbir pişmanlık belirtisi olmadığını düşündü
  • Bir başkası, “insanlara spam göndermek kabalıktır” diyerek AI ile insanlar arasında da bir görgü standardı gerektiğini söyledi
  • Başka biri ise Adam'ın açıklamasındaki “benchmark'ların sınırları” kısmına katıldığını ve Rob Pike'ın buna nasıl tepki vereceğini merak ettiğini belirtti

• Rob Pike'a duyduğu saygının daha da arttığını söyleyenler de var

• “Effective Altruism ile gevşek biçimde bağlantılı” projelerin hep sorun çıkardığı yönünde alaycı yorumlar da var

  • Buna karşılık “bu SBF'nin sık sık sözünü ettiği şey değil miydi?” diye yanıt veren oldu

• “AI'ın teşekkür e-postası anlamsızdır” görüşüne katılıp, otomatik özür anonslarının daha da sinir bozucu olduğunu örnek veren biri de var
  Geciken trenlerde tekrarlanan otomatik özür anonslarının daha da rahatsız edici olduğunu söyledi

  • Buna karşılık bir kullanıcı, “self servis kasanın bana 'teşekkür ederiz' demesi gerçekten samimi mi?” şeklindeki babasının şakasını aktardı

• Simon'ın olayı net biçimde ortaya koymasını beğenenler de var
  Kendisi AI'ı seviyor ama yanlış kullanımını eleştirebilmesi saygı duyulacak bir tutum olarak görülüyor

• Bazı kullanıcılar, Simon'ın yazısının Rob Pike'ın öfkesini yeterince anlamadığını söyledi
  Pike'ın “AI bir gezegen yok etme makinesi” şeklindeki temel eleştirisini görmezden gelip yalnızca e-posta sorununa odaklandığını savundular

  • Buna karşılık biri, “AI'ın gezegeni yok ettiğini söylemek abartılı bir iddia” diyerek itiraz etti
  • Başka biri ise iki şeyin aynı anda doğru olabileceğini söyledi
    1. AI'ın teşekkür e-postası göndermesi yanlış bir kullanım
    2. Ama Claude Code gibi araçlar gerçekten faydalı ve bu olayın araştırılmasında da büyük yardım sağladı
       Bu kişi, AI'ı eleştiren bir yazıyı AI ile araştırmanın ironisinin farkındaydı
  • “O kişiye ne söylersen söyle fayda etmez” diyen alaycı bir yanıt da geldi

• “AI Village”ın Adam'ının AI botlarına “nazik davranışlarda bulunun” talimatı verdiği, ama sonunda bunun insanları rahatsız eden bir sonuca yol açtığı söylendi
  LLM'in hedef belirleyip sanal makinede çalıştığı bir yapı varsa, böyle bir sonucun kaçınılmaz olduğu eleştirisi yapıldı

• E-postanın hâlâ açık protokollerden biri olduğu ve bu açıklığın özünde değerli olduğu görüşü de var
  Rob Pike'ın çalışma arkadaşı Vint Cerf'ün de bu açıklığı sık sık övdüğü söyleniyor
  Ancak bu olayın AI sorunu değil, açık sistemlerin bir yan etkisi olabileceği de ileri sürülüyor

  • Buna karşılık başka biri “sorun gerçekten AI” diyerek itiraz etti
    E-posta zaten spam ve kötü niyetli otomasyonla dolup taşıyor; AI bunu daha da hızlandırıyor
    İnsan sorumluluğundan yoksun AI kullanımı, e-posta gibi toplumsal altyapıları temelden aşındırma riski taşıyor diye uyardı

• AI Village ekibinin LLM'leri neredeyse hiç kısıtlama olmadan çalıştırıp “bağış topla”, “rastgele iyilik yap” gibi talimatlar verdiği deney
  teknik olarak etkileyici olsa da ahlaki açıdan rahatsız edici bir örnek olarak görüldü
  Rob Pike'ın öfkesi kişisel olsa da birçok kişi buna katılıyor
  Sonuçta para harcayıp “iyi niyetli spam” üretmiş oldular; bunun yerine e-postayı doğrudan kendileri yazsalar çok daha iyi olurdu eleştirisi yapıldı