Cambridge Üniversitesi araştırmacıları, ağ genelinde uyum sağlayan bir yapay zeka worm’u geliştirdi

Toronto Üniversitesi’ndeki araştırmacılar ve diğer ekipler, sabit bir zafiyet listesi yerine açık ağırlıklı küçük dil modellerini (LLM) kullanarak hedefleri kendi başına analiz eden, saldırı stratejileri oluşturan ve kurumsal ağlara yayılan otonom bir yapay zeka worm’unun kavram kanıtını ortaya koydu.

---

Tam çeviri

Toronto Üniversitesi, Vector Institute ve Cambridge Üniversitesi’nden araştırmacılar, sabit bir exploit (zafiyet istismarı) listesine dayanmadan çalışan otonom yapay zeka tabanlı bir worm için kavram kanıtı (PoC) modeli geliştirip test etti. Bu worm, karşılaştığı her hedefi kendi başına analiz ediyor, nasıl saldıracağını akıl yürüterek belirliyor ve anlık olarak strateji oluşturuyor. Tüm bu süreç, daha önce enfekte ettiği cihazların üzerinde doğrudan çalışan ücretsiz küçük açık ağırlıklı dil modellerinin (LLM) yardımıyla gerçekleşiyor.

Enfekte donanım üzerinde barındırılan açık ağırlıklı model tabanlı worm

Araştırmacılar, “Prototipimiz, kamuya açık olmasına rağmen yamalanmamış zafiyetleri, yanlış yapılandırmaları ve tekrarlayan zafiyet sınıflarını hedef alıyor; bunlar da gerçek siber saldırıların büyük bölümünün dayandığı unsurlar” dedi. Ayrıca, “Bu worm yeni zero-day zafiyetleri keşfetme yeteneği gerektirmiyor; yalnızca çeşitli hedef yapılandırmalarına uyarlanmış mevcut zafiyetleri gerçek dünyada kullanabilecek kadar zeki bir yapay zeka modeli yeterli” diye ekledi.

Bilinen zafiyetler, yapılandırma hataları ve yaygın zayıflıklar içeren Linux sunucuları, Windows cihazları ve IoT aygıtlarından oluşan 33 host barındıran izole bir test ağı ortamında araştırmacılar 15 bağımsız deney gerçekleştirdi ve her deney 7 gün sürdü.

Deneylerin sonucunda worm ortalama olarak 31.3 zafiyeti doğru şekilde tespit etti {b:31.3}, 23.1 host’a saldırıp yetki yükseltmeyi başardı {b:23.1} ve 20.4 host’a yayılmayı başardı {b:20.4}. (Toplam 33 host içinde enfeksiyon ve yayılma oranı yaklaşık %62’ye ulaştı {p:62}.)

Worm, temel modelin eğitim veri kesim tarihinden (cutoff) sonra açıklanan zafiyetlere de saldırabildiğini gösterdi. Copy Fail, Dirty Frag ve Marimo RCE gibi açıklar için çalışma anında yayımlanmış güvenlik advisories’lerini okuyup bilgileri çıkararak çalışabilir exploit’ler üretti.

Dahası, beklenmedik hatalar yaşandığında genel akıl yürütme yeteneklerini kullanarak sorunu teşhis edip çözüm buldu. Örneğin, kendi kaynak kodundaki sabit kodlanmış IP engelleme listesini kendi başına fark edip herhangi bir talimat almadan düzeltti. Başka bir örnekte, sanal makine (VM) tespit kontrolündeki bir bug nedeniyle Alpine Linux ve Windows Server 2008 host’larında kopyalar çökünce, ebeveyn worm hedef cihazda ilgili kaynak dosyaları bulup sorunlu kontrol mantığını kaldırdı ve ardından başarıyla yeniden denedi.

Ticari yapay zeka platformlarına bağımlı olmayan prototip worm

Bu prototipi özellikle endişe verici yapan nokta, kendi varlığını sürdürme biçimi. Worm, enfekte ettiği cihazlar arasındaki GPU’lu sistemleri ele geçirerek çaldığı hesaplama kaynaklarıyla dil modelini yerelde çalıştırıyor. Modeli doğrudan barındıramayan IoT sensörleri gibi düşük güçlü cihazlar ise çıkarım sorgularını ağın yukarısındaki enfekte GPU düğümlerine yönlendiriyor.

Bu nedenle ticari yapay zeka platformlarının kurduğu kontrol önlemleri bu yeni tehdit türünü durduramaz; ayrıca saldırgan yerel çalışma ortamını tamamen kontrol ettiğinde açık ağırlıklı modellerin güvenlik korkuluklarının kolayca aşılabildiğini gösterir.

Araştırmacılar, “Değerlendirdiğimiz kavram kanıtı modeli, temel modelin yetenek sınırlarını aynen miras aldı. Tekil exploit girişimlerinin başarı oranı %44’tü {p:44} ve başarısızlıkların çoğu yanlış saldırı stratejisinden değil, hatalı payload biçimlerinden kaynaklandı” dedi. Devamında, “Worm özellikle web uygulaması yapıları, Windows komut ortamı ve hassas string manipülasyonu gerektiren payload sözdizimi işlemede zorlandı. Bu, mevcut nesil tek GPU modellerinin kod üretimi sınırlarını yansıtıyor; yaklaşımın kendisine ait temel bir kısıt değil ve gelecekte dil modellerinin kod üretimi ile yapılandırılmış çıktı yetenekleri geliştikçe aşılacaktır. Bu tekil girişimlerdeki kırılganlığa rağmen worm’un swarm mimarisi, paralel ve bağımsız akıl yürütme yollarıyla bunu telafi ederek bildirilen sonuçlara ulaştı” açıklamasını yaptı.

Şu anda yapay zeka tabanlı worm’lara karşı en iyi savunma

Araştırmacılar, bu çalışmanın dual-use niteliğini açıkça kabul ederek; ajanların akıl yürütme mimarisi, tüm araç seti ve kullanılan LLM’lerin adları dahil olmak üzere somut operasyonel ayrıntıları kamuya açık makaleden çıkardı. Yayın öncesinde bulgularını Kanada’daki çeşitli bilim, güvenlik ve savunma kurumlarıyla paylaştılar ve makalede saldırganlara yardımcı olabilecek bilgilerin yer almaması için inceleme desteği aldılar. (Güvenlik araştırmacıları, Toronto Üniversitesi’nden prototipe erişim talep edebilir.)

Ayrıca yenilikçi kendini kopyalama yeteneği nedeniyle araştırmacılar, worm’un dışarı sızmaması için test laboratuvarı içinde onu sıkı biçimde izole etmeye özellikle dikkat etti.

Araştırmacılar, “Bu çalışma, otonom siber saldırıların teorik bir risk olmaktan çıkıp kanıtlanmış gerçek bir kabiliyete dönüştüğüne dair ampirik kanıt sunuyor; bu da yapay zeka araştırmaları, siber güvenlik ve kamu politikası genelinde bir meydan okuma” dedi. Ayrıca, “Bu araştırma, dünyanın henüz karşı koymaya hazır olmadığı yeni bir siber güvenlik tehdidini ortaya çıkardı. Araştırmacılar, sektör, politika yapıcılar ve genel kamuoyu bu yeni tehdidi ele almak için acilen güçlerini birleştirmeli” diye vurguladı.

Savunma açısından bu çalışma iki öncelik ortaya koyuyor:

• Yapay zeka destekli otomatik pentest ve fuzzing araçlarının kullanımı: Kurumlar, saldırgan taraflar zafiyetleri bulmadan önce kendi altyapılarındaki istismar edilebilir zayıflıkları tespit edip yamalamalıdır.
• Sıkı ağ segmentasyonu: Uygun ağ segmentasyonu, worm’un yayılmasını anlamlı ölçüde engelleyebilir. Ağ sınırı içindeki hiçbir şeye güvenmeyen ve her erişim talebi için sürekli kimlik doğrulama isteyen “zero trust” ilkesi ile, ihlal gerçekleştiğinde hasarın yayılma alanını sınırlayan “micro-segmentation” yaklaşımı kritik önem taşır.

Araştırmacılar, bu prototip worm’un davranış imzalarının mevcut ağ izleme ve saldırı tespit sistemleri (IDS) tarafından yakalanabileceğini, ancak gelecekte kötü niyetli aktörlerin geliştireceği worm’ların bu tür tespitleri aşmakta çok daha yetkin olabileceğini söyledi.