• Üretim modelinin karmaşıklığını çözme: Netflix'in mevcut öneri sistemi binlerce elle hazırlanmış özellik ve karmaşık mimarilere dayanıyordu; bu da yeni kullanım senaryoları eklemenin maliyetini artırıyordu. Büyük dil modeli (LLM) tabanlı GenRec, bunun yerini almak için geliştirildi.
• GenRec'in temel işlem hattı: GenRec, kullanıcı geçmişini, içerik meta verilerini ve bağlamı doğal dil istemlerine dönüştürür (Verbalization) ve Netflix'e özgü verilerle fine-tune edilmiş foundation LLM'i katalog farkındalıklı puanlama başlığıyla (Scoring Head) birleştirerek öneri sıralaması üretir.
• 2 aşamalı eğitim çerçevesi: Phase 1'de açık kaynak LLM, Netflix veri kümesine uyarlanarak içerik ve davranış kalıplarını öğrenir; Phase 2'de ise sıralama verileri ve ödül hedeflerine dayalı post-training uygulanır.
• Context engineering'in kullanıma alınması: Token bütçesi kısıtlarını aşmak için yüksek sinyalli etkileşimler korunurken düşük sinyalli olaylar atlandı veya tekrarlayan davranışlar sıkıştırıldı; böylece kalite kaybı olmadan token kullanımı ve maliyet önemli ölçüde azaltıldı.
• Ödül ağırlıklı sıralama amaç fonksiyonu: Uzun vadeli üye memnuniyeti proxy'si ile iş hedeflerini (içerik türü ve yayın aşamasına göre yeniden dengeleme) yansıtan ödül ağırlıklı kayıp fonksiyonu kullanılarak yalnızca tıklamanın ötesinde optimizasyon sağlandı.
• vLLM tabanlı yalnızca prefill çıkarımı: vLLM kullanan dahili LLM serving stack'inde otoregresif decoding yerine prefill-only modunda çalıştırılarak, tüm aday kümesinin puanı tek bir forward pass ile hesaplandı ve serving maliyeti optimize edildi.
• Çevrimiçi A/B testi sonuçları: Yaklaşık %10 trafiği kapsayan 4 haftalık büyük ölçekli A/B testinde GenRec, mevcut production sıralama modeline kıyasla çok daha az Phase-2 etiketli veri ve giriş sinyali kullanmasına rağmen kısa ve uzun vadeli çevrimiçi metriklerde istatistiksel olarak anlamlı iyileşme gösterdi.
Henüz yorum yok.