12 Faktörlü Ajanlar: Güvenilir LLM Uygulama Desenleri

• 12 Factor Agents, güvenilir LLM uygulamaları oluşturmak için ilkeler sunuyor
• AI agent framework'lerini kullanma deneyimine dayanarak, çoğu ürünün gerçek bir ajan olmadığını ortaya koyuyor
• 12 Factor Agents, LLM tabanlı yazılımları müşterilere sunulabilecek kadar iyi bir seviyeye nasıl getirilebileceğini inceliyor
• 12 faktör, LLM yazılımlarının güvenilirliğini, ölçeklenebilirliğini ve bakım yapılabilirliğini artıran temel teknikleri içeriyor
• Modüler kavramları mevcut ürünlere entegre etmek, yüksek kaliteli yapay zeka yazılımlarını hızlıca sunmanın yolu olarak gösteriliyor

---

12 Factor Agents - Güvenilir LLM Uygulamaları Oluşturma İlkeleri

• AI agent framework'lerini kullanma deneyimine dayanarak, çoğu ürünün gerçek bir ajan olmadığını ortaya koyuyor
• 12 Factor Agents, LLM tabanlı yazılımları müşterilere sunulabilecek kadar iyi bir seviyeye nasıl getirilebileceğini inceliyor
• 12 faktör, LLM yazılımlarının güvenilirliğini, ölçeklenebilirliğini ve bakım yapılabilirliğini artıran temel teknikleri içeriyor
• Modüler kavramları mevcut ürünlere entegre etmek, yüksek kaliteli yapay zeka yazılımlarını hızlıca sunmanın yolu olarak gösteriliyor

Özet: 12 faktör

• Doğal dili araç çağrısına dönüştürme: Doğal dili kullanarak araçların nasıl çağrılacağını anlamak
• Prompt sahipliği: Prompt'ları sahiplenip yönetmek önemlidir
• Context window sahipliği: Context window'u sahiplenip yönetmek önemlidir
• Araçlar yapılandırılmış çıktıdır: Araçlar, yapılandırılmış çıktı olarak ele alınmalıdır
• Çalışma durumu ile iş durumunu birleştirme: Çalışma durumu ile iş durumunu entegre ederek yönetmek

Ajanın vaadi

• DAG(Directed Acyclic Graph): Yazılım yönlü bir grafik olarak ifade edilebilir ve DAG orkestratörleri popülerlik kazanmıştır
• Ajanın vaadi: Ajanlar kullanıldığında DAG bırakılıp LLM'nin yolu gerçek zamanlı olarak belirlemesine izin verilebilir
• Ajanlar döngü içinde çalışır: Ajanlar, LLM'nin bir sonraki adımı belirlediği, araç çağrılarını yürüttüğü ve sonuçları context window'a eklediği bir döngü içinde çalışır

Neden 12-factor agents?

• Mevcut framework'lerin sınırları: Birçok SaaS üreticisi ajan oluşturmaya çalışsa da mevcut framework'lerin sınırları nedeniyle %80'in üzerinde kaliteye ulaşmak zordur
• Modüler kavramların önemi: Modüler kavramları mevcut ürünlere entegre etmek, yüksek kaliteli yapay zeka yazılımlarını hızlıca sunmanın yoludur

Harika LLM uygulamaları için tasarım desenleri

• Ajanın temel unsurları: Bir ajanı harika yapan temel unsurlar vardır ve framework kullanıldığında bunların çoğu elde edilebilir
• Modüler kavramların entegrasyonu: Modüler kavramları mevcut ürünlere entegre etmek, yüksek kaliteli yapay zeka yazılımlarını hızlıca sunmanın yoludur

İlgili kaynaklar

• Tool Use podcast'i: Mart 2025 bölümünde ilgili konu ele alınıyor
• The Outer Loop: İlgili konuyu işleyen blog
• Web semineri: @hellovai ile birlikte LLM performansını en üst düzeye çıkarma üzerine web semineri
• Açık kaynak ajan: Bu metodoloji kullanılarak bir OSS ajanı oluşturulmuş

[GN⁺]

Hacker News görüşleri

• Çok faydalı bir wiki. Teşekkürler, kesinlikle kullanacağım. Ben de daha dün yayınladığım bir "AI Agents framework" oluşturdum. Bu framework aktör modeli, durum makineleri ve bakış açısı odaklı programlama üzerine kurulu. Özellikle 5. ve 7. maddeleri beğendim

  • yürütme durumunu ve iş durumunu birleştirmek
  • kendi kontrol akışına sahip olmak
  • SecAI bunu iyi yapıyor; bir grafik kontrol akışı kütüphanesi olarak LLM çağrıları grafiğin düğümlerine gömülü. Akış; müzakere, iptal ve durum ilişkileriyle güçlendirilerek daha organik hale geliyor
  • diğer framework'lerde sıklıkla eksik olan şey özel geliştirici araçları. Hataları programlamayı, her adımı ayrıntılı incelemeyi, otomatik veri dışa aktarmayı ve basit entegrasyonları sağlıyor
  • ilk teknik demoyu yayınladım ve tüm geliştirici araçlarını gösteren bir referans uygulama ekledim
  • Send/Stop düğmesi basit bir API ile başlatma/duraklatma/devam ettirmeyi mümkün kılıyor. Ağ şeffaflığına sahip olduğu için ölçeklenebilir

• Harika. Yıllardır bunu yaparken kendi ders listemi oluşturdum. En önemlisi, en düşük seviyedeki planlama döngüsüne sahip olmak

  • dinamik planlama olması sorun değil, ancak OODA döngüsüne sahip olmalı ve çözümün sonuca yaklaşıp yaklaşmadığını belirleyen sezgisellere sahip olmalısınız
  • bir workflow engine gömmeli ve modelin, o engine üzerinde çalışan workflow tanımını kurmasını sağlamalısınız

• Bu kaynağın tam da şu anda çıkmasına gerçekten sevindim. Teşekkürler

  • vvvv benzeri bir görsel-işitsel sandbox kurguluyorum. İçine LM veya basit yerel sinir ağı düğümleri yerleştirip belirli işleri yaptırma ve çıktıyı çok sınırlı tutma fikri var
  • sorudan yanıta giden akış çok çekici. Çok aşamalı pipeline'lar da çok ilginç

• DSPY gibi kütüphanelerin factor-2'ye nasıl uyduğunu merak ediyorum

  • BAML kullanarak prompt üreten örnekler gördüm. Yapılandırılmamış veriden yapılandırılmış bilgi çıkarmak için prompt'u elle yazmak kolay değil
  • DSPY'nin ham prompt'larını kullanma konusunda ne düşündüğünüzü merak ediyorum

• Eski bir blog yazısı ama framework kalıpları hakkındaki kısmı kariyerim boyunca bana hep tanıdık geldi. LLM'leri framework'ten ziyade kütüphane olarak kullanmak daha iyi

  • framework'ler daha çekici ve satması daha kolay; ayrıca vendor lock-in ve ek hizmetlere yol açıyor

• Harika. %80'ini zor yoldan öğrendim, kalan %20 ise okumaya değer olacak

  • LangGraph ve pydantic schema ile başarı elde ettim. Başkalarının neyi faydalı bulduğunu merak ediyorum

• Bir şey daha: ölçekleme sırasında maliyeti planlamak gerekiyor

  • ölçeklerken maliyet çok artabileceği için, deterministik bileşenlerle çözülebilecek şeyleri önce denemelisiniz. Bu, halüsinasyonları ve gecikmeyi azaltabilir ve maliyetleri düşürmede büyük fark yaratabilir

• İlkelere uymayı kolaylaştırmak için tutarlı bir anlatı gerekiyor. Gerçek dünya örnekleri kullanmak iyi olur

• HN ana sayfasına çıkmasına çok sevindim

• BAML'in burada olmasını görmek gerçekten harika. LLM'leri fonksiyon gibi ele alma fikrine %100 katılıyorum