Yapay zekada izolasyon sorunu mu var?
Özet
Wiz araştırma ekibi, birden fazla yapay zeka hizmet sağlayıcısındaki tenant izolasyonu sorunlarını inceledi. Yapay zeka altyapısı birçok iş ortamında vazgeçilmez bir unsur haline geldikçe, bu tür saldırıların etkisi giderek büyüyor. Araştırma bulguları Black Hat konferansında sunulacak.
SAP AI Core araştırması
SAP AI Core, HANA ve diğer bulut hizmetleriyle entegre olarak müşterilerin dahili verilerine erişebiliyor. Araştırma ekibi, kötü niyetli bir aktörün bu müşteri sırlarına erişip erişemeyeceğini doğrulamak istedi. Araştırma sonucunda, kötü amaçlı AI modelleri ve eğitim süreçleri çalıştırarak müşterilerin gizli dosyalarına ve bulut ortamlarına erişilebildi.
Başlıca güvenlik açıkları
- SAP'nin dahili container registry'sindeki Docker image'ları okunup değiştirilebildi
- Google Container Registry'deki SAP Docker image'ları okunup değiştirilebildi
- SAP'nin dahili Artifactory sunucusundaki artifact'ler okunup değiştirilebildi
- SAP AI Core'un Kubernetes cluster'ında cluster admin yetkileri elde edilebildi
- Müşterilerin bulut kimlik bilgilerine ve özel AI artifact'lerine erişilebildi
Güvenlik açığı ayrıntıları
Ağ kısıtlamalarının aşılması
Pod'da shareProcessNamespace ve runAsUser ayarları üzerinden Istio proxy yapılandırmasına erişilebildi. Bu sayede dahili ağdaki trafik kısıtlamaları aşılabildi.
Loki sunucusunda AWS token'larının açığa çıkması
Grafana Loki sunucusunun /config endpoint'i üzerinden AWS secret'larına erişilebildi. Bu sayede AI Core hizmetinin ve müşteri Pod'larının log'larına erişilebildi.
Kimlik doğrulamasız EFS paylaşımı
AWS Elastic File System (EFS) instance'ı varsayılan olarak herkese açık yapılandırıldığı için, kimlik bilgisi olmadan dosyalar görüntülenebildi. Bu sayede büyük miktarda yapay zeka verisine erişilebildi.
Kimlik doğrulamasız Helm sunucusu
Helm sunucusunun gRPC arayüzü üzerinden SAP'nin Docker Registry ve Artifactory sunucularındaki secret'lara erişilebildi. Bu sayede dahili image'lar ve build'ler okunup değiştirilebildi.
K8s cluster'ının açığa çıkması
Helm sunucusunun install komutu üzerinden cluster admin yetkileri elde edilebildi. Bu sayede diğer müşterilerin Pod'larına erişilip hassas veriler çalınabildi.
Sonuç
SAP AI Core araştırması, defense in depth yaklaşımının önemini gösteriyor. Dahili ağı güvenilir kabul etmek riskli olabilir. Yapay zeka Ar-Ge süreçlerinde ortaya çıkan kendine özgü zorlukları çözmek için uygun koruma mekanizmalarına ihtiyaç var.
GN⁺ özeti
- Yapay zeka altyapısında tenant izolasyonu sorunu önemli bir güvenlik meselesi.
- SAP AI Core güvenlik açıkları, kötü niyetli aktörlerin müşteri gizli verilerine erişmesine olanak tanıyor.
- Araştırma bulguları, AI model çalıştırma sırasında izolasyon ve sandboxing standartlarının iyileştirilmesi gerektiğini vurguluyor.
- Benzer işlevlere sahip diğer projeler arasında Google AI Platform ve Microsoft Azure Machine Learning bulunuyor.
1 yorum
Hacker News görüşleri