ChatGPT’in Kontrolden Çıkmış Davranışı

ChatGPT Sorun Yarattı

• ChatGPT’nin bu tür bir kontrolden çıkması bir şaka değil, bir alıntıdan öte bir uyarıdır.
• Son birkaç saat içinde insanlar ChatGPT ile ilgili çeşitli sorunlar bildirdi.
• OpenAI da bu sorunu kabul etti.

Yapay Zekânın Simyası

• Üretken yapay zeka bir tür simyadır; insanlar mümkün olduğunca çok veri toplar ve saklı istemleri manipüle ederek her şeyin düzgün çalışmasını umarlar.
• Ancak bu sistemler asla güvenilir olmadı; güvenliği garanti edebilecek bir mühendislik henüz yoktur.
• Daha şeffaf, anlaşılır, bakımı kolay ve hata ayıklaması mümkün yeni bir teknolojiye duyulan ihtiyaç hala önemlidir.

GN⁺ Görüşü

• ChatGPT’nin yaşadığı sorun, yapay zekâ teknolojisinin bugünkü sınırlarını ve güvenilirlik sorunlarını gösteren bir örnektir.
• Bu sorun, yapay zekânın güvenilirliğini ve güvenliğini artırmak için yeni yaklaşım ve teknolojilerin gerekliliğini vurguluyor.
• Bu olay, hem yapay zeka geliştiricilerine hem de kullanıcılara bir uyarı niteliği taşıyabilir ve geleceğin daha iyi AI teknolojisini geliştirmek için önemli bir ders sunar.

[GN⁺]

Hacker News yorumları

• Bir kullanıcı, son zamanlarda aldığı bir ChatGPT yanıtının kafa karıştırıcı olduğunu söyledi. Genelde en azından tutarlıydı ama bu kez oldukça garip bir cümle vermiş. Konu PowerShell betiği çalıştırma yöntemi üzerineydi, ancak son bölümde birdenbire çalışma alanındaki antika eşyalar veya kod süslemeleri benzetmeleriyle karışıklık yarattı.
• Başka bir kullanıcı, bu tür kafa karıştırıcı yanıtların ChatGPT'nin arka uç modeline yapılan istekte sıklık ve varlık cezalarının çok yüksek ayarlanmasından kaynaklanıyor olabileceğini düşündüğünü belirtiyor. Bu parametreler API üzerinden ayarlanarak modelin benzer şekilde davranabileceği de görülüyor. OpenAI API, üretimi etkileyen dört temel parametreye (sıcaklık, top_p, frekans cezası, varlık cezası) sahiptir ve bunlar iyi dokümante edilmiştir. Ancak kullanıcı, ilk tahmininin yanlış olabileceğini ve sorunun yüksek sıcaklık ayarından da kaynaklanmış olabileceğini ekliyor.
• Başka bir kullanıcı, verilen örneklerin Samuel Beckett’in Waiting for Godot adlı oyunundaki Lucky’nin konuşmasını çağrıştırdığını söylüyor. Bu konuşma anlamdan hiç kopmayan, ama ona asla erişemeyen, tamamen saçma olmayan; yine de sürekli anlamın etrafında dönen bir metin. Bu kullanıcı, büyük dil modellerinin (LLM'lerin) doğası hakkında daha büyük bir noktaya işaret edilmesi gerektiğini düşündüğünü, ancak bunu açıkça ifade edecek bilgisi olmadığını belirtiyor.
• Bir kullanıcı, birinin LLM’yi toplantı takvimi oluşturmak için kullanıp kullanmadığını merak ediyor. ChatGPT’nin bu kişilerle, şirket içindeki karar alma ve uygulama süreçlerini kolaylaştırmak için toplantının önemini konuşabilmesini umuyor. Okul ve büyük şirket kültürü, insanları biçimsel prosedürlerle saçma sapan üretmeye zorluyor gibi görünse de, şirketlerin dahili iletişimde LLM kullanımını onaylaması kendi ayaklarına sıkmak gibi duruyor.
• Başka bir kullanıcı, 2017’de Google’ın “AI”yi yaratmasına rağmen, makinelerin birbirleriyle konuşmak için kendi dillerini geliştirdiğini hatırlatıyor. Bu bize saçma gibi gelse de onların için saçma olmayabilir.
• Bir kullanıcı, bu tür başarısızlıklardan LLM'nin sadece çok iyi bir otomatik tamamlama motoru olduğunu açıkça gördüklerini söylüyor. Bu uzun uzadıya söz dizimi, örneklenmiş metinlerle inşa edilmiş oldukça büyük bir Markov zinciri üretimine giderek daha da yaklaşıyor. Gelecekteki uygulamalarda bu tür sorunların hata ayıklanması ilginç olacak.
• Bir kullanıcı, ChatGPT’nin sistem istemini gösteren bir tweetin pastebin bağlantısını da içermesi gerektiğini ama blog yazısının tweet bağlantısı olmadan, yalnızca okunması mümkün olmayan bir ekran görüntüsü sunduğunu belirtiyor. Ve tweet ile pastebin bağlantılarını paylaşıyor.
• Başka bir kullanıcı, 1985 teknolojisi olan Racter’e ilişkin bir örnek daha getiriyor ve New York Times’ın, yapay zekaya yaklaşan bilgisayarlar arasında Racter’in yapay çılgınlık sınırında olduğunu yazdığını alıntılıyor. Racter’in çıktısıyla ilgili bir bağlantı paylaşılıyor.
• Bir kullanıcı, ChatGPT yanıtlarını okumayı oldukça ilginç bulduğunu, adeta Chaucer İngilizcesini “denizci gibi konuş” filtresinden ikinci kez geçirerek seslendirilmiş gibi hissettiğini anlatıyor. Bu makineye ne “yedirildiğini” ve nasıl ayarlandığını merak ediyor; bu şiirsel dilin ritmini dinlemek de ona göre saf bir müzik.