Arkeoloji kökenli bir geliştiricinin hazırladığı LLM tabanlı bülten otomasyon kiti
(github.com/kimhongyeon)Merhaba. Üniversitede arkeoloji okudum, ancak bitmek bilmeyen manuel işleri çözmeye çalışırken geliştirici olan bir mühendisim.
Uzun süren düşüncelerden sonra, bizzat kullanmak için geliştirdiğim bülten otomasyon motorunu (LLM Newsletter Kit) açık kaynak olarak paylaşıyorum.
Bu motor şu anda benim yönettiğim kültürel miras bülteni "Research Radar"ın çekirdeğini oluşturuyor; tıklama oranını (CTR) %15 seviyesinde korurken, her sayı için LLM API maliyeti yaklaşık $0.20 olacak şekilde optimize edilmiş durumda.
Bu, basit bir bağlantı derlemesi değil; uzmanlık alanına ait bilgiyi LLM'in analiz edip özetleyerek içgörü ürettiği bir pipeline.
Geliştirme arka planı ve samimi notlar
Kod tabanlı olduğu için no-code araçlara kıyasla giriş eşiği daha yüksek; bu yüzden geniş kitleler tarafından yaygın kullanılmayabileceğini düşünüyorum. Zaten baştan beri amacım yaygın kullanım değil, kendi net ihtiyacımı çözmekti.
İlk başta sadece kendim okumak için hazırladığım, "kültürel mirasa odaklı bir bülten"di. Daha sonra herkesin abone olabileceği şekilde hizmeti açtım.
Geliştirme ilerledikçe kaynak kod ile kültürel miras alanına özgü domain mantığının fazla sıkı bağlandığını fark ettim. Bunu çözmek için yapıyı DI (bağımlılık enjeksiyonu) ile soyutlayıp herkesin kullanabileceği ayrı bir kütüphane haline getirdim.
npm i @llm-newsletter-kit/core
Şu anda kendi servisimi de geçmişteki sıkı bağlı legacy kodu bırakıp bu açık kaynak çekirdek üzerine migrate ederek işletiyorum.
Tasarım felsefesi: "Logic in code, reasoning in AI"
No-code araçlar yerine kodu seçmemin nedeni tasarım felsefem. "Mantık kodda, akıl yürütme yapay zekada, bağlantılar mimaride (Logic in code, reasoning in AI, connections in architecture)."
No-code araçlar kullanışlı olsa da, karmaşık mantık uygulamak söz konusu olduğunda sınırları çok belirgindi. Kritik iş akışlarını type-safe kodla (TypeScript) kontrol edip, yalnızca akıllı analizi LLM'e bırakarak öz değerlendirme (Self-reflection) veya çok aşamalı doğrulama gibi sofistike mantıkları hayata geçirdim.
Başlıca özellikler
Type-First ve DI tasarımı: TypeScript ile yazıldı; crawling, analiz, üretim gibi tüm aşamalar Provider arayüzü temelli olduğu için parçaları modüler şekilde değiştirip kullanabilirsiniz.
Bring Your Own Scraper: Belirli bir kütüphaneye lock-in olmaz. Puppeteer, Cheerio ya da yapay zeka tabanlı bir parser dahil istediğiniz her şeyi asenkron olarak enjekte edip kullanabilirsiniz.
Production Ready: Gerçek kullanım için retry mantığı, chain seçenekleri ve %100 test kapsamı içerir.
Bağlantılar
- GitHub (Core): https://github.com/kimhongyeon/llm-newsletter-kit-core
- Gerçek çıktı örneği (Research Radar): https://heripo.com/research-radar-newsletter-example.html
- Referans implementasyon kodu: https://github.com/kimhongyeon/heripo-research-radar
Teşekkürler. Geri bildirim her zaman memnuniyetle karşılanır!
Henüz yorum yok.