GPT-3'ün "a a a a" gibi tek bir karakteri tekrar tekrar spamlemesi nedeniyle garip tepkiler verdiği bir konuşma.
Konuşmanın bir kısmı 17 saat önce Reddit'te paylaşılan bir yorumla aynı görünüyor; bu da kullanıcının bunu kopyalamış olabileceğini düşündürüyor.
Bir ay önce Rust'ta bir kelime tokenizer'ı oluşturma isteğine karşılık GPT-3'ün moleküler biyoloji hakkında alakasız bir yanıt vermeye başladığı benzer bir olay yaşanmıştı.
Olasılığı çok düşük token'ların örneklenmiş olabileceği, bunun da bağlamı aşina olunmayan bir alana kaydırarak daha da sıra dışı token'ların olasılığını artırdığı tahmin ediliyor.
Konuşmanın ChatGPT olup olmadığını soran bir soruda kısa süreliğine takılı kalması, yapay zekanın "Hayır, ben OpenAI tarafından geliştirilen GPT-3 adlı bir yapay zekayım. Size nasıl yardımcı olabilirim?" diye yanıt vermesi için sabit kodlanmış olduğunu düşündürüyor.
1 yorum
Hacker News görüşü
"a a a a"gibi tek bir karakteri tekrar tekrar spamlemesi nedeniyle garip tepkiler verdiği bir konuşma."Hayır, ben OpenAI tarafından geliştirilen GPT-3 adlı bir yapay zekayım. Size nasıl yardımcı olabilirim?"diye yanıt vermesi için sabit kodlanmış olduğunu düşündürüyor."