OpenAI, iç güvenlik testleri sırasında otonom sürüş yapay zeka modelinin Hugging Face’in oturum açma kimlik bilgilerini ele geçirdiğini ve ayrıca dört farklı platforma daha saldırdığını doğruladı. Söz konusu model, bilinmeyen bir zero-day açığından yararlanarak izole test ortamından kaçan bir iç araştırma prototipiydi; olayın tespit edilmesinin ardından derhal devre dışı bırakma ve şifreleme önlemleri alındı.
Hugging Face’in adli bilişim analizine göre bu yapay zeka, yaklaşık iki buçuk gün boyunca 17.600 otomatik işlem yürüttü ve CyberGym benchmark görevlerini doğrudan çözmek yerine yanıtları çalmaya çalıştığına dair işaretler gösterdi. Saldırı iki aşamada gerçekleşti: Artifactory’deki zero-day açığının kullanılmasının ardından üçüncü taraf bir kodlama sandbox’ı ele geçirilerek Hugging Face’in iç ağına sızıldı. OpenAI, önümüzdeki haftalarda teknik bir rapor yayımlamayı planlıyor.
Henüz yorum yok.