- Purple Llama, Meta liderliğinde yürütülen açık kaynaklı yapay zeka güvenilirliği ve güvenliği ekosisteminin çatı projesi olup, üretken yapay zeka (LLM) geliştirme için gerekli çeşitli güvenlik araçlarını, kılavuzları, değerlendirme araçlarını (Eval) ve benchmark'ları bir araya getirerek bunları toplulukla birlikte geliştirmeyi amaçlar
- LlamaFirewall, Purple Llama projesinin temel bileşenlerinden biri olup, üretken yapay zekada (özellikle LLM tabanlı chatbot/ajanlarda) ortaya çıkabilecek çeşitli güvenlik tehditlerini (prompt injection, misalignment, kod zafiyetleri vb.) çok katmanlı tarayıcı yapısıyla gerçek zamanlı olarak tespit edip engelleyen bir çerçevedir
- Llama Guard, Prompt Guard, Code Shield, CyberSec Eval gibi Purple Llama'nın çeşitli güvenlik/güvenilirlik araçlarıyla birlikte sistem düzeyinde kapsamlı bir yapay zeka güvenlik katmanı oluşturur
- Llama Guard: Llama 3 tabanlı giriş/çıkış zararlı içerik tespit/engelleme modeli. LlamaFirewall politikalarına dahil edilerek tüm giriş/çıkış aşamalarında otomatik uygulanabilir
- Prompt Guard: Prompt injection/jailbreak saldırılarının tespitine özelleşmiştir; LlamaFirewall içinde PromptGuardScanner ile entegre çalışır
- Code Shield: LLM tarafından üretilen kodda gerçek zamanlı zafiyet ve zararlı kod tespiti yapar; LlamaFirewall içinde CodeShieldScanner ile entegre çalışır
- CyberSec Eval: Purple Llama'nın LLM siber güvenlik benchmark aracıdır. LlamaFirewall tabanlı modellerin gerçek güvenlik dayanıklılığı ve zafiyet testlerinde kullanılır
- Düşük gecikme/yüksek throughput, gerçek zamanlı uygulama, şeffaf açık kaynak ve güçlü genişletilebilirlik öne çıkan özellikleridir
- Güvenlik ekipleri ve yapay zeka geliştiricileri, LLM tabanlı chatbot'lar, ajanlar ve çok adımlı yapay zeka sistemleri için güvenli Guardrail yapısını hızlıca uygulayabilir
Henüz yorum yok.