Eski OpenAI ve Tesla AI Direktörü Andrej Karpathy, son olarak Dwarkesh Patel'in podcast'inde AI ajanlarının geleceği ve AGI zaman çizelgesi hakkında soğukkanlı bir gerçekçi teşhis paylaştı. Sektörün “AI ajanlarının çağı”ndan söz ettiği dönemde, bunun “AI ajanlarının 10 yılı” olması gerektiğini, ayrıca güncel pekiştirmeli öğrenmenin temel sorununun ne olduğunu da dürüstçe açıkladı.
Özetlenen ana noktalar:
- “supervision’ı pipet gibi emmek”: Pekiştirmeli öğrenmenin ölümcül zayıflığı – Yüzlerce denemenin ardından yalnızca tek bir doğru sinyalle tüm süreci değerlendiren mevcut RL yaklaşımı temelde verimsizdir ve oldukça gürültülüdür
- Kodlama AI'lerinin gerçek kapasitesi: nanochat projesi bize bunu gösterdi – 8.000 satırlık bir ChatGPT klonunun kurulması sırasında AI ajanı özgün kod yazmada kritik biçimde zayıftı; en iyi performansı otomatik tamamlama düzeyindeydi
- Model çöküşü ikilemi: Sentetik verinin gizli tuzağı – LLM tarafından üretilen her örnek “sessizce çökmüş” bir dağılıma sahiptir; ChatGPT'den espri isteyince yalnızca yaklaşık 3 tane tekrar etmesinin nedeni budur
Henüz yorum yok.