Microsoft, yapay zeka araçlarının kullanıcılarını izliyor

Microsoft, yapay zeka araçlarının kullanıcılarını izliyor

• Microsoft, Çin, Rusya ve İran'ın hackerlarının şirketin yapay zeka (AI) araçlarını kullanarak hacking yeteneklerini artırdığını tespit ettiğini duyurdu.
• Bu saldırganlar Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon ve Salmon Typhoon olarak takip ediliyor; büyük dil modellerinin (LLM'lerin) siber operasyonlarını güçlendirmek için kullanıldıkları tespit edildi.
• Microsoft veya OpenAI'nin bu etkinlikleri anlayabileceği tek yolun chatbot oturumlarını izlemek olduğu belirtiliyor.
• Kullanım şartlarında kullanıcı izlemeye izin veren bir madde yer alıyor; Microsoft ve OpenAI'nin AI kullanımını izlemesi şaşırtıcı değil ama bu duyuru bunun teyit edilmesi anlamına geliyor.

GN⁺ Görüşü

• Bu makale, Microsoft'un yapay zeka araçlarının kullanımını izlediğini ve bunun yoluyla devlet destekli hackerların faaliyetlerini izleyebildiğini gösteren önemli bir bilgi sağlıyor.
• Kullanıcı izleme kişisel gizlilik ve güvenlik konusunda endişe yaratabilirken, aynı zamanda siber güvenliği artırmak ve ulusal güvenliği korumak için önemli bir adım olarak da görülebilir.
• Bu tür izleme faaliyetleri, AI teknolojisinin çift yönlü kullanım potansiyelini göstererek, teknolojik gelişmenin doğurduğu yeni etik ve hukuki tartışmaları tetikleyebilir.

[GN⁺]

Hacker News yorumları

• OpenAI API kullanıcı verisi işleme hakkında yorum özeti

  • OpenAI API kullanım koşulları (TOS) uyarınca, OpenAI hizmet sunumu ve kötüye kullanım tespiti amacıyla API girdisi ve çıkışı en fazla 30 gün süreyle saklayabilir.
  • Yasal bir gereklilik yoksa, 30 günden sonra veriler sistemden silinir.
  • Kullanıcılar, belirli kullanım senaryoları için veri saklama hakkını (ZDR) talep edebilir.
  • Veri işleme hakkında ayrıntılar OpenAI'nin platform dokümantasyonu sayfasında bulunabilir.

• Microsoft yapay zeka araçları kullanıcı verisi işleme hakkında yorum özeti

  • Bazı kullanıcılar Microsoft'un yapay zeka araçlarını kullananları izlediğini iddia etse de, anlatılan asıl durum, Microsoft'un otoriter bir devlette düşmanca bir hükümetin bu araçları yasadışı faaliyetlerde kullandığını tespit etmesidir.
  • Kullanım koşullarını kabul ederek kullanıcı, Microsoft'un bu tür veri izlemesini yapmasına onay vermiş olur.

• Google Bard ve Gemini hakkında yorum özeti

  • Google, Gemini'de kullanıcı sohbetlerinin anasayfada belirtilen şekilde insan denetçileri tarafından incelenip Gemini uygulamasının teknik geliştirilmesinde kullanıldığını açıkça belirtir.
  • Kullanıcılar, denetçilere gösterilmesini veya Google tarafından kullanılmasını istemediği bilgileri girmemelidir.
  • Google Workspace içeriği, Gemini geliştirmesi için incelenmez veya kullanılmaz.
  • Kullanıcılar, Gemini uygulama etkinliğini kapatarak ilerideki sohbetlerinin gözden geçirilmeyeceğini ya da makine öğrenimi modeli geliştirmek için kullanılmayacağını ayarlayabilir.

• Kullanım koşulları ve gizlilik politikası hakkında yorum özeti

  • Birçok teknoloji şirketi, kullanım koşullarında yer alan hükümler üzerinden kullanıcının yapay zeka kullanımını izleme yetkisine sahiptir.
  • Kullanım koşullarında gözetimi izin veren bir madde varsa, şirketin gerçekten gözetim yaptığı varsayımı mantıklıdır.
  • Gizlilik politikası, kullanıcıları şirkete güvenmeye teşvik etse de, şirketin politikaya gerçekten uyup uymadığını doğrulamanın bir yolu yoktur.

• Microsoft'ta kullanıcı verisi izleme hakkında yorum özeti

  • Microsoft'un kullanıcı yapay zeka araçları kullanımını izlemesi şaşırtıcı değildir; bu zaten çoktan bilinen bir gerçektir.
  • Microsoft da dahil olmak üzere birçok teknoloji şirketinin, kullanıcının açık ve geri alınabilir onayı olmadan kullanıcının sohbet içeriğini görmesi mümkün olmamalıdır.

• Yapay zeka araçlarını kullanma ve veri toplama hakkında yorum özeti

  • Yapay zeka araçlarını kullanmak, büyük ölçekte kullanıcı verisi toplanması anlamına gelir.
  • Yalnızca yerel olarak çalışan yapay zeka, kullanıcı verisini korumaya gerçekten önem verenler için tercih edilmelidir.

• Yapay zeka geliştirme ve veri toplama arasındaki ilişkiye dair yorum özeti

  • Yapay zeka veriye dayanır; ne kadar çok veri toplanırsa, yapay zeka o kadar iyi eğitilir ve bu da daha fazla kullanıcının veri paylaşmak istemesine yol açan bir geri besleme döngüsü yaratır.

• Platformların veri toplama ve kötüye kullanım tespiti hakkındaki yorum özeti

  • Tüm platformların kullanıcı girdilerini toplayıp bir sonraki modeli eğittiği ve kötüye kullanım tespiti yaptığı açıktır.