- Geliştiricilerin üretken yapay zeka modellerini sorumlu bir şekilde dağıtabilmesini desteklemek için, açık güven ve emniyet araçları ile değerlendirmeler sunan bir şemsiye proje
- İlk adım olarak iki araç yayımlandı
- CyberSec Eval: LLM'ler için siber güvenlik emniyet değerlendirme benchmark'ı
- Llama Guard: kolay dağıtım için optimize edilmiş, giriş/çıkış filtrelemesine yönelik bir Safety Classifier
- AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI ve diğerleriyle iş birliği yaparak bu araçları açık kaynak topluluğuna sunmayı planlıyor
Neden Purple?
- Üretken yapay zekanın ortaya koyduğu zorlukları gerçekten azaltmak için hem saldırı (red team) hem de savunma (blue team) duruşlarının birlikte gerekli olduğuna inanıyor
- Red team ve blue team'in birleşiminden oluşan purple team, potansiyel riskleri değerlendirmek ve azaltmak için iş birlikçi bir yaklaşımı ifade ediyor
- Purple Llama projesi, araştırma ve ticari kullanıma izin veren müsamahakâr bir lisansla sunulacak
- Bu, topluluk iş birliğini teşvik eden ve üretken yapay zeka geliştirme için güven ve emniyet araçlarının geliştirilmesi ile kullanımını standartlaştıran önemli bir adım
1 yorum
AI Alliance - https://thealliance.ai nedir diye baktım; IBM ve Meta'nın öncülüğünde kurulmuş bir birlikmiş.
50'den fazla şirket/kuruluş katılmış ama OpenAI, Google, NVidia, Microsoft gibileri ise hiç yok; insan "bu da ne şimdi" diyor.. hehe