Launch HN: HumanLayer (YC F24) – Yapay zeka sistemleri için insan katılımı API’si

• Üretim ortamındaki yapay zeka ajanlarının riskli işleri çalıştırmadan önce insan onayı·girdisi almasını sağlayan ve tam otonom çalışmanın yükünü azaltan bir API
• Temel özellik, Slack·e-posta üzerinden onay isteği gönderip yanıt bekleme durumunu ve denetim izini yöneterek ajan yürütme akışına insanı dahil etmek
• Ürün, veri ekipleri için otomasyon ajanlarının doğrudan üretim sistemlerine erişmesine müşterilerin çekince göstermesi deneyiminden yola çıktı
• SDK, tool calling katmanında çalışıyor; CrewAI, LangChain gibi framework’ler ve tool calling’i destekleyen dil modelleriyle kullanılabiliyor
• AI SDR, AI bültenleri, DevOps ajanları gibi gerçek işler yapan ajanlarda onay noktalarını ve yardım isteme yollarını netleştirmek özellikle önemli

---

Üretim ajanları için gerekli insan onayı akışı

• HumanLayer, AI ajanlarının çalışırken insanlardan geri bildirim·girdi·onay isteyebilmesini sağlayan bir API
• Amaç, otonom ya da headless AI sistemlerini üretime alırken riskli her adımda human in the loop eklemeyi mümkün kılmak
• Çıkış noktası, veri ekipleri için AI ajanları geliştirme deneyimi
  • Kullanılmayan tabloları silmek gibi sıkıcı işleri otomatikleştirmeye çalıştılar
  • Müşteriler, AI ajanlarının üretim sistemlerine doğrudan erişmesine karşı çıktı
• Üretim seviyesinde güvenilirlik oluşturmak için iş riskine göre değerlendirme, fine-tuning ve prompt engineering gerekiyordu; ancak %99,9’un üzerinde güvenilirliğe ulaşmak 3 aydan uzun sürebiliyordu
• Sonunda “tabloyu silmeden önce Slack’te sormak” gibi bir onay akışı kurdular; ardından onay isteğinin yanlış kişiye gitmemesi için ek guardrail’lere de ihtiyaç doğdu

Özellikler ve entegrasyon biçimi

• HumanLayer SDK entegre edildiğinde, AI ajanları çalışma sırasında herhangi bir noktada insan onayı isteyebiliyor
  • İstekleri uygun kişiye Slack veya e-posta ile yönlendiriyor
  • SMS ve Teams desteği yakında gelecek
  • Yanıt beklenirken durumu yönetiyor
  • Uçtan uca denetim izi sunuyor
• “Onay isteği” dışında daha genel bir human as tool işlevini de destekliyor
  • LLM’e veya ajan framework’üne insan yanıtlarını toplayan bir araç olarak sunulabiliyor
  • Örnek olarak “Bu problemde tıkandım, şunları denedim, bana tavsiye ver” türü genel sorular veriliyor
• Tool calling katmanında çalıştığı için CrewAI, LangChain gibi framework’lerle ve tool calling’i destekleyen dil modelleriyle kullanılabiliyor
  • Kendi ajan·araç döngünüzü kuruyorsanız daha düşük seviyeli SDK primitive’leriyle onay akışını doğrudan yönetebilirsiniz
  • Yalnızca AI-insan onayı değil, insan-insan onayı kullanımını da araştırıyorlar

Kullanım örnekleri ve sunum şekli

• Çeşitli üretim ajanları HumanLayer’ın onay akışlarını kullanıyor
  • Bir müşteri, kişiselleştirilmiş satış e-postaları yazan ama göndermeden önce Slack üzerinden insan onayı alan bir AI SDR geliştirdi
  • Başka bir müşteri, abonelerin içerikle ve e-posta üzerinden sohbet edebildiği bir AI bülteninde kullanıyor
  • Bir ekip, bunu müşteri odaklı bir DevOps ajanına uygulayarak PR incelemesi, DB migration planlama ve yürütme, kritik adımlarda insan onayı ve sorun çıktığında ekipten yardım isteme süreçlerini yönetiyor
• Sunum şekli Python ve TypeScript SDK’ları, ücretsiz deneme, ücretsiz katman ve kullanıma dayalı fiyatlandırma
  • Müşteriye dönük ajanlar geliştiren ekiplere white-label desteği, ek özellikler ve öncelikli destek sunuluyor
  • Dokümantasyon humanlayer.dev/docs adresinde bulunabilir

[GN⁺]

Hacker News yorumları

• Bir startup sahibinin, AI kullanarak şirket içinde DIY servisler oluşturmak istediğine dair bir görüş var. SaaS kullanmanın daha iyi olacağını düşünüyor, ancak fiyatların pahalı ve yapının karmaşık olmadığını belirtiyor. Rekabet oluşursa fiyatların düşeceğini öngörüyor

• AI servislerinin yüksek maliyetine dair endişeler var; ücretsiz kredi sağlanması veya fiyat ayarlaması gerektiği yönünde bir görüş bulunuyor

• Otomasyon yanlılığı ve otomasyon ihmali konusunda endişeler var; insanların AI’ın kararlarını eleştirel süzgeçten geçirmeden onaylama riski olduğu belirtiliyor

• AI ajanlarının yapamadığı işleri üstlenecek insan temsilcilerden yararlanma fikri öneriliyor

• Asenkron veya uzun süre çalışan araç çağrılarını ele alan framework’lerin sorunlarına dikkat çekiliyor. Bunu çözmeye yönelik fikirler var, ancak başka bir yazıda ele alınacağı belirtiliyor

• API katmanında kalabilmek için çaba gerektiğine dair bir görüş var

• AI’ın ilk aşamalarında mantığı insanların yürüttüğü, sonrasında insanlar devreden çıkarılınca kalitenin düştüğü yönünde bir görüş var. Bunu çözmek için üçüncü taraf bir şirketin insanları yeniden sürece dahil etmesinin geçici bir çözüm olduğuna dair bir benzetme yapılıyor

• Startup’larda insan müdahalesine önem verildiği, LLM tabanlı potansiyeli gerçek değere dönüştürmek için kontrol ve gözetim gerektiği düşünülüyor. Bunun için özelleştirilmiş iş akışları ve manuel süreçler kurulmuş

• Temel girdi/çıktı işlevleri sunan servislerin zaten birçok sistemde mümkün olduğuna dair bir görüş var. Doğrudan uygulamadan önce denemeye değer olduğu düşünülüyor

• Bir tıbbi cihaz şirketinde, iş akışı ajanı olarak AI değerlendiriliyor ve ISO13485 kalite güvence süreçlerini desteklemek için LLM kullanılması planlanıyor. Diğer HN kullanıcılarının görüşleri isteniyor