1 puan yazan jsb4702 8 시간 전 | Henüz yorum yok. | WhatsApp'ta paylaş

Uydurma parça numaralarının ya da sessizce yanlış hesapların çizimlere, BOM'a ve siparişe kadar sızabildiği bir sektörde
çalışınca, LLM yanıtlarını "kontrolden geçmeden sevk yasak" belgesi gibi ele alan bir harness
geliştirip aylardır gerçek işte kullanıyorum. Kişisel ve alan bilgileri çıkarılmış kürasyonlu bir anlık görüntüyü paylaşıyorum.

  • Yanıt gönderilmeden önce 13 doğrulama kapısı: halüsinasyon engelleme (parça numarası ve DOI tahmini üretimi yasak),
    aritmetiği Bash ile yeniden çalıştırma, prompt injection izolasyonu, "çalıştırdım" iddiası varsa gerçek araç çıktısıyla
    karşılaştırma, başarısız örnekleri regresyon gold set'ine sabitleyen ve tekrarı önleyen kapılar vb.
  • Tüm kritik sayılar, alıntılar ve nedensellik iddialarına 3 kademeli güven düzeyi ekleniyor — belleğe dayalı alıntılar
    en fazla sarı, yeşil yalnızca gerçek sorgulamayla
  • Güvenlik eşiğindeki sonuçlar, heterojen modellerle (Gemini, Groq, OpenAI CLI) paralel yeniden türetilip yakınsama
    kararı veriliyor — aynı modelin öz denetiminin aynı kör noktaları paylaşacağı varsayımıyla
  • Harici skill/plug-in'ler ancak izolasyon → statik tarama → insan tarafından dikkatli okuma → yeniden derleme sonrasında içeri alınan bir
    tedarik zinciri INTAKE hattından geçiyor (doğal dil yönergeleri de kodla aynı seviyede tehdit sayılıyor)
  • Yeni denetleyiciler, yanlış pozitif oranı ölçülmek için shadow mode'da çalıştırıldıktan sonra terfi ettiriliyor; doğrulanmış iddialar da deftere yüklenip
    çelişkilerle otomatik karşılaştırılıyor

Kapı hook'ları ve denetleyiciler gerçekten çalışan Python kodu; regresyon testleri de birlikte geliyor.
Klonlayıp ek bağımlılık olmadan hemen çalıştırabilirsiniz:
python3 eval/tests/test_g9_regression.py --hook hooks/g9_arith_enforce.py
python3 hooks/tests/test_glossary_hook.py
settings.example.json ile hook'ları bağlarsanız kapılar kendi ortamınızda da çalışır.
Bu, baştan sona paketlenmiş bir dağıtım değil; hook ve denetleyici bazında seçip takabileceğiniz bir yapı.
Belgelerin önemli bir kısmı Korece, mimari ve README ise İngilizce.

Henüz yorum yok.

Henüz yorum yok.