CRoM v1.0.2 açık kaynak araç seti - Daha az token tüketimi · Daha yüksek hız · Uzun sohbetlerde bozulmayı önleme

Kendi geliştirdiğim ve düzenli olarak güncellediğim CRoM’un (Context Rot Mitigation for Efficient LLMs) yeni sürümü v1.0.2’yi duyuruyorum.

CRoM, uzun prompt’larda ortaya çıkan Context Rot (talimatların bulanıklaşması, muhakeme drift’i, bellek kaybı) sorununu hafifleterek LLM’lerin bağlamı daha kararlı ve verimli şekilde kullanmasına yardımcı olan bir Python araç setidir.

🔑 Başlıca özellikler:
▫️Budget Packer: token bütçesi içinde yalnızca önemli metni güvenilir biçimde sıkıştırma
▫️Hybrid Reranker: TF-IDF + Dense embedding tabanlı belge yeniden sıralama
▫️Drift Estimator: yanıtlar arasındaki anlamsal değişimi izleme
▫️Observability: Prometheus metrikleri tabanlı izleme
▫️Eklenti genişletme: FlashRank, LLMLingua, Evidently desteği
▫️Benchmarking: CLI ile uçtan uca değerlendirme ve performans analizi

📊 En güncel v1.0.2 sürümünde ImportError ve SyntaxError düzeltmeleri, sürüm yönetimi tutarlılığında iyileştirmeler, entegre testler (10+ vaka) eklenmesi ve 1.000+ belge üzerinde performans doğrulaması yer alıyor.

🔗 Bağlantılar
▫️GitHub Release: https://github.com/Flamehaven/…
▫️Demo: https://huggingface.co/spaces/Flamehaven/crom-demo
▫️Yapım hikayesi: https://medium.com/p/ab356e656d88