-
OpenAI'nin yeni yayımladığı makale
-
Yapay zeka modellerini uygulayabilmek için, makine öğrenimi modelinin insan niyetine uygun çalışıp çalışmadığını doğrulamak gerekir
→ Alignment sorunu
-
Alignment'ı çözmek, insanlar için değerlendirmesi zor ve zaman alıcıdır
-
Scalable Alignment tekniğini test etmek için tüm kitabı özetleyen bir model eğitildi
→ Kitap önce bölüm düzeyinde özetleniyor, ardından bu özetler daha üst düzeyde yeniden özetlenerek nihai özete ulaşılana kadar süreç sürdürülüyor
→ 26.449 kelimelik "Alice Harikalar Diyarında" 136 kelimeye özetlendi
→ GPT-3 üzerinde ince ayar yapılarak, insan tarafından yazılmış özetlerin ortalama kalitesine yakın düzeyde başarılı özetler üretildi
Henüz yorum yok.