Google, deneysel siber güvenlik yapay zeka modeli Sec-Gemini v1'i duyurdu

• Siber güvenlik uzmanlarının yeteneklerini artırmaya ve savunmacıların konumunu güçlendirmeye odaklanıyor
• Saldırganların yalnızca tek bir zafiyet bulmasının yeterli olmasına karşın savunmacıların tüm tehditlere karşı hazırlıklı olması gereken saldırgan lehine asimetriyi çözmeyi amaçlıyor
• Yapay zeka tabanlı siber güvenlik iş akışları, dengeyi yeniden savunmacılar lehine çevirebilir

Başlıca özellikler ve performans

• Gemini modelinin gelişmiş akıl yürütme yeteneklerini, güncel güvenlik bilgisi ve araçlarıyla birleştiriyor
• Temel siber güvenlik görevlerinde üstün performans gösteriyor
  • Olayların kök neden analizi
  • Tehdit analizi
  • Zafiyet etki değerlendirmesi
• Google Threat Intelligence (GTI), OSV verileri ve diğer temel güvenlik bilgileriyle entegre

Benchmark sonuçları

• CTI-MCQ tehdit istihbaratı benchmark'ında diğer modellere kıyasla en az %11 daha iyi performans
• CTI-RCM (kök neden eşleme) benchmark'ında da %10,5'ten fazla artan doğruluk kaydetti
  • CWE sınıflandırma sistemini temel alarak zafiyetlerin kök nedenlerini doğru biçimde analiz edip sınıflandırıyor

Tehdit analizi örneği: Salt Typhoon

• Sec-Gemini v1, Salt Typhoon'u bir tehdit aktörü olarak tanıyor ve ayrıntılı açıklama sunuyor
  • Bu, Mandiant Threat Intelligence verileriyle entegrasyon sayesinde mümkün oluyor
• Salt Typhoon ile ilgili sorularda bu tehdit aktörünün kullandığı belirli zafiyet bilgilerini sağlıyor
  • OSV verileri ve Mandiant istihbaratı temelinde analiz sonuçlarına bağlam ekliyor
  • Bu sayede analistler, tehditler ile zafiyetler arasındaki ilişkiyi ve risk seviyesini daha hızlı kavrayabiliyor

Kullanım ve dağıtım

• Araştırma amacıyla yalnızca seçilmiş kuruluşlara, kurumlara, güvenlik uzmanlarına ve STK'lara ücretsiz sunuluyor
• Google, güvenlik topluluğuyla iş birliği yoluyla yapay zeka tabanlı güvenlik yeteneklerinin sınırlarını aşmayı hedefliyor

[GN⁺]

Hacker News görüşleri

• Gemini modeli, Claude, ChatGPT ve Mistral'a kıyasla biraz farklı bir his veriyor

  • Mühendislik işlerine odaklanan bir modelle konuşuyormuş hissi veriyor
  • Mizah ya da gösteriş peşinde olmayan bir ciddiyeti var
  • Bunun nedeni Gemini ile yalnızca AI Studio üzerinden etkileşim kuruyor olmam da olabilir
  • gemini.google.com kullanmamamın nedeni basit bir dışa aktarma özelliğinin olmaması
  • AI Studio'nun Google Drive'a kaydetme özelliği çok kullanışlı
  • gemini.google.com'un "Markdown olarak kaydet" özelliği sunmasını isterdim

• Salt Typhoon açıklamasındaki güvenlik açıklarıyla ilgili soruya Sec-Gemini v1, yalnızca güvenlik açığı ayrıntılarını değil, tehdit aktörüne dair bağlamı da sağlıyor

  • Güvenlik açıklarını açıklamak için OSV verisi ve Mandiant verisini kullanıyor
  • LLM'lere karşı hâlâ şüpheliyim, ancak OSV'nin ilerlemesi olumlu

• Google'ın AI yanıtlarını dikkatle gözden geçirmemesi şaşırtıcı

  • CVE-2024-3400 hakkında bir soruda Hitachi cihazlarının savunmasız olduğundan bahsediliyor, ancak gerçekte öyle değil
  • Hitachi'nin güvenlik açığı listesinde ilgili CVE yer almıyor
  • "portal" özelliğinin savunmasız olduğuna dair de bir ifade yok

• Bunun güvenlik işi yapan bir model mi, yoksa veri sorgulayıp araç kullanan bir sistem mi olduğu soruluyor

  • Veri entegrasyonu açıklamasına bakılırsa ikincisi olma ihtimali yüksek
  • Güvenliğe uyarlanmış bir model ile önceden oluşturulmuş bir güvenlik LLM uygulaması arasındaki fark önemli

• Özelleşmiş modellerin ortaya çıkışı ilgi çekici

  • Eğitilmiş insanlara benziyorlar

• LLM'ler ve analiz işleri konusunda her zaman soru işaretleri var

  • Bir güvenlik açığının riskini ve etkisini değerlendirmek ya da karmaşık kötü amaçlı yazılımları analiz etmek gerektiğinde, veri noktalarını çok dikkatli incelemek gerekir
  • LLM'ler çok yardımcı olabilir, ancak yürüttükleri muhakemenin gözden geçirilmesi gerekir
  • İnsanların da aynı şekilde vardıkları sonucun dayanaklarını göstermesi gerekir

• AI sistemleriyle yüksek hızlı güvenlik çalışması gerekli, ama tek başına yeterli değil

  • Saldırganlar da AI sistemleri kullanacağı için savunmacıların da onlara ayak uydurması gerekiyor
  • Daha güvenli sistemler inşa etmeliyiz

• Siber güvenlik uzmanlarının çalışmalarına yardımcı olmak için iyi olabilir

  • Ancak sorumluluğu üzerinden atma aracı olarak kullanılmasından endişe ediliyor

• Olasılıksal olarak doğru olan bir şeye güvenliği emanet etmek kötü bir fikir olabilir

• wiz satın alımıyla ilgili olabilir