Cursor IDE’nin yapay zeka destek sistemi halüsinasyon üretince kullanıcılar arasında kafa karışıklığı yaşandı

• Cursor IDE’nin avantajlarından biri, birden fazla cihazda aynı anda oturum açıp işler arasında geçiş yapabilmesi
• Ancak belirli bir noktadan sonra, kullanıcı masaüstünden dizüstüne geçtiğinde veya birden fazla cihazda oturum açtığında otomatik olarak oturumdan çıkarılma sorunu ortaya çıktı
• Herhangi bir uyarı ya da bildirim olmadan oturum kapatıldığı için kullanıcılar kafa karışıklığı yaşadı
• Çoklu cihazda çalışma geliştiriciler için temel bir özellik olduğundan, kullanıcılar bu ani kısıtlamayı doğal olarak yeni bir politika sanarak yanlış yorumladı

Destek sisteminin "sahte politika duyurusu"

• Kullanıcılar Cursor destek e-postasına soru gönderdiğinde, gelen yanıtta bunun "yeni giriş politikasına göre normal davranış" olduğu söylendi
• Sorun şu ki bu yanıt gerçek bir insan tarafından değil, bir yapay zeka sohbet botu tarafından üretildi ve gerçek bir politika değil, yanlış bilgi içeriyordu
• Yapay zekanın kendi başına oluşturduğu bu açıklama kullanıcılar arasında hızla yayıldı ve resmi politika sanıldı
• Birçok kullanıcı bu yanlış bilgiye dayanarak aboneliğini kamuya açık şekilde iptal ettiğini duyurdu ve Cursor’a olan güvenini kaybetti

Topluluk tepkisi ve yetersiz müdahale

• Durumu paylaşan ve sorunu tartışan Reddit’teki ana başlık kilitlenip ardından silindi
• Bu da olayla ilgili resmi bir yanıt ya da açıklama olmadan sessiz kalındığı izlenimini yarattı
• Gerçekte bu bir politika değişikliği değil, arka uç oturum işleme hatasıydı; ancak yapay zekanın ürettiği açıklama bundan daha büyük zarara yol açtı

Olayın önemi

• Bu olay, basit bir teknik hata olmanın ötesinde, yapay zeka destek sistemlerinin kullanıcı güvenini sarsabileceğini gösteren bir örnek oldu
• Gerçek ekip yerine yapay zeka müşteri desteğini üstlendiğinde, yanlış bilgi üreten "halüsinasyon" olgusu ortaya çıkabilir ve bunun etkisi büyük olabilir
• Kullanıcı iletişiminde şeffaflık eksikliği ile yapay zeka sistemlerinin yetersiz yönetimi birleştiğinde kritik sonuçlar doğabilir

[GN⁺]

Hacker News görüşü

• İnsanlar halüsinasyonların artık büyük bir sorun olmadığını hararetle savunuyor, ama bundan çıkar sağlayacak şirketin doğrudan zarar görmesi ironik

  • Elbette bu sorunu görmezden gelmeye çalışacaklar
  • Bunun, bu sorunun hâlâ var olduğunu ve kolayca ortadan kalkmayacağını kabul etmekten daha iyi olduğunu düşünüyorlar

• LLM'ler konusunda rahatsızlık hissediyorum

  • Kendine saygısı olan bir yazılım geliştiricisi neden böyle bir şey kullansın diye merak ediyorum
  • İyi yazılım yazmayı öğrenmeli ve o alanda uzmanlaşmalısınız
  • Yapay zeka yazılımın değerini düşürüyor, süreci bozuyor ve geleceğin junior geliştiricilerinin beceri geliştirme umudunu tamamen yok ediyor
  • Debian, Python ve Vim kullanmaya devam edeceğim
  • LLM, LSP ve otomatik tamamlama olmadan da gurur duyulacak ve bakımı kolay kod yazacağım

• Komplo teorisi açısından bakınca, sanki politika değişikliğini "AI destekli ajan"a yükleyip kimsenin derine inmemesini umuyor gibiler

  • Şirkete yönelik genel güvensizlik dışında bununla ilgili bir bilgim ya da gerekçem yok

• Orijinal Reddit gönderisinin arşiv bağlantısını paylaşıyor

• Politika değişikliğinin gerçek olduğunu düşündüğüm için değil, bu ay onu pek kullanmadığımı hatırlattığı için aboneliğimi iptal ettim

• Cursor tuhaf

  • Neredeyse kullanılmayan GitHub'da binlerce çözülmemiş issue var
  • VSCode'dan daha fazla hatası var
  • Her gün kullanıyor ve para ödüyorum ama ondan nefret ediyorum
  • İnsanların nefret etse de kullandığı bir ürün yaptıysanız başarılı olmuşsunuz demektir
  • Başka alternatifler olup olmadığını merak ediyorum
  • Continue'yu denedim ama tab tamamlama ve yazma deneyimi hayal kırıklığı yarattı

• Cursor, kullanıcıların yeni hesaplar açıp sınırsız kullanmak için yaptığı "hack" ile bir kedi-fare oyununa sıkışmış durumda

  • GitHub'da trend de oldu
  • Cursor, kendi VSCode fork'unu sürdürmekte her zaman zorlanacak
  • Bu alandaki diğer şirketler hızla büyüyor ve ben de Roo ile Cline'a geçmeye başladım

• "Onlarca kullanıcı aboneliğini herkese açık şekilde iptal etti" iddiasının kanıtı ne?

  • Yorumlarda toplam 4 kullanıcı aboneliğini iptal ettiğini ya da edeceğini söyledi; bunların 3/4'ü bu sorunun gerçek olması ya da kendi başlarına gelmesi hâlinde iptal edeceklerini belirtti
  • Zaten iptal ettiğini söyleyen yalnızca 1 kişi vardı
  • Başka tartışmalar olup olmadığını merak ediyorum

• Reddit'teki üst sıralardaki gönderide:

  • Karışıklık için bir özür yer alıyor
  • Samimi bir özür olsaydı, desteği chatbot ile yürütme girişimlerini durdururlardı

• Bu vaka, AI hype'ının AI yeteneklerini aşmasının bir örneği olarak tarihe geçecek