Yuanta Menkul Kıymetler AI Agent projesi: sahada LLM hizmeti geliştirme (çile) hikayesi

1. Giriş: 2025’te yapay zeka sektörünün ana gündemi ‘Agent’ ve mevcut RAG merkezli chatbot yaklaşımından çıkılarak daha gelişmiş sistemlere ihtiyaç duyulduğu vurgulanıyor.

2. Proje tanıtımı (Yuanta AI chatbot hizmeti): Finansal güvenlik gereksinimleri gibi yüksek giriş bariyerleri aşılırken, yapay zeka tabanlı yatırım analizi işlevlerini içeren bir chatbot geliştirildi ve yenilikçi finans hizmeti olarak seçildi.

3. Gereksinimlerin çıkarılması ve niyet sınıflandırmasının kullanımı: Kullanıcıların gerçek sorgu verileri analiz edilerek hizmet gereksinimleri yeniden düzenlendi; Function Calling tabanlı olarak LLM’in sürekli iyileştirilmesine yönelik bir izleme sistemi kuruldu.

4. Function Calling tekniği: RAG’in sınırlarını tamamlayarak gerçek zamanlı veriyi işleme yöntemi olarak Function Calling kullanıldı, ancak çoklu işlev entegrasyonu ve doğru çağrı konusundaki zorlukların aşılması gerekti.

5. Prompt engineering ve operasyon perspektifi: Prompt tasarımı ve sürüm yönetimiyle LLM performansını optimize etmenin yanı sıra, maliyetleri düşürmek ve güvenliği güçlendirmek için operasyon stratejilerinin zorunlu olduğu vurgulanıyor.

[moderator]

Show, GN'e uygun olmadığı için taşındı.
Lütfen yüklemeden önce Show kullanım yöntemine bakın.