Meta, Responsible AI ekibini dağıttı

• Meta, sorumlu yapay zeka (RAI) ekibini dağıttı ve ekip üyelerini diğer üretken AI ürün ekipleri ile AI altyapısı tarafına yeniden yerleştirdi.
• RAI ekibi, 2019'dan beri AI eğitimi yöntemlerindeki sorunları tespit etme görevini yürütüyor ve modellerin çeşitli verilerle eğitilmesini denetliyordu.
• Ekip zaten bu yılın başında yeniden yapılanma yaşamıştı; o dönemde Business Insider, ekibin yalnızca bir "kabuk" olarak bırakıldığını ve işten çıkarmalar yapıldığını yazmıştı.
• Meta'nın otomatik sistemleri; Facebook çeviri hatası nedeniyle yanlış tutuklama, WhatsApp AI çıkartma üretiminde önyargılı görseller oluşturulması ve Instagram algoritmasının çocuk cinsel istismarı materyallerinin bulunmasına yardımcı olması gibi sorunlara yol açtı.

Küresel AI düzenleme eğilimleri

• Meta'nın bu adımı, ABD hükümetinin AI güvenlik kuralları hazırlanmasını istemesi ve AI şirketleriyle mutabakatlar yapması dahil, dünya genelindeki hükümetlerin yapay zeka geliştirmeye yönelik düzenlemeler oluşturmaya çalıştığı bir dönemde geldi.
• Avrupa Birliği (AB), AI ilkelerini açıkladı ve hâlâ AI yasa tasarısını geçirmek için çalışıyor.

GN⁺ görüşü

• Bu haberde en önemli nokta, Meta'nın sorumlu AI geliştirme için kurulan ekibi dağıtması ve üyelerini başka departmanlara yeniden yerleştirmesi.
• Bu değişim, AI teknolojisinin hızla gelişmesiyle birlikte sorumlu AI kullanımının öneminin arttığı bir dönemde, şirketlerin AI etiği ve güvenliğini nasıl yönettiğine dair ilgi çekici bir örnek sunuyor.
• Ayrıca haber, dünya genelinde AI düzenlemelerine yönelik tartışmaların yoğunlaştığı mevcut durumu yansıtıyor; bu da içeriği teknoloji ile hukukun kesişimine ilgi duyanlar için cazip hale getiriyor.

[GN⁺]

Hacker News görüşleri

• Meta'nın AI modellerini açık şekilde yayımlaması nedeniyle, en etik büyük ölçekli yapay zeka şirketi olarak görüldüğü düşünülüyor.
  • AI modellerini 'etik' gerekçesiyle kapalı tutmanın, insanları büyük şirketlerin keyfi kararlarına daha bağımlı hale getirdiği için etik dışı olduğu görüşü var.
• Tüm AI ekipleri etik sorumluluğu dikkate almalı; bunu tek bir ekipte toplamak verimsiz.
  • 'Sorumlu AI ekibi'nin tüm AI çalışmalarını gözden geçirmesi bir darboğaz yaratabilir ya da diğer ekiplerin sorumsuz AI geliştirme konusunda serbest kalmasına yol açabilir.
• AI güvenliği, başkalarının çalışmalarına asalak gibi tutunan bir topluluk olarak görülüyor ve Meta'nın bunu tasfiye etmesi tercih edilir bulunuyor.
• Teknoloji etiği ekipleri, erken aşamalarda gerçeğe kıyasla imaja daha fazla odaklanıyor.
  • Teknolojinin temel yönünü belirleyen az sayıdaki kişi etik sorumluluk taşıyor ve bunlar sorumsuz davranırsa büyük zararlar ortaya çıkabilir.
• Meta'nın etik ekibinin olumlu katkı sağladığı somut bir örnek yok.
  • Son birkaç yıldaki Meta performansını inceleyip gerçeği korumada ne kadar etkili olduklarını değerlendirmek gerekiyor.
• Fon yetersizliği ve kriz anında (OpenAI'da olduğu gibi), yalnızca imaj için var olan bir departmanı kapatmak en iyi seçenek.
• AI model eğitimi pahalı olduğu için, teknoloji geliştikçe bunu kontrol etmeye çalışanlar kazanç sağlamaya çalışacak; ancak bu uzun vadede ters tepebilir.
• AI güvenliği ile hukuk veya güvenlik ekipleri arasında kıyaslama yapmak geçerli değil.
  • Güvenli AI inşa etmenin ne anlama geldiğini kimse bilmediği için, bu tür ekipler sadece ilerlemeyi yavaşlatabilir.
• AI'ı sorumlu hale getirmenin en iyi yolu onu açık kaynak yapmak.
  • Böylece tek bir şirket tüm kontrolü elinde tutmaz ve araştırmacılar kötüye kullanım olasılıklarını ve iyi kullanım yollarını daha iyi anlayabilir.
• AI konusundaki sorumluluk kullanıcıda olmalı; ancak şu anda hiçbir şirket kullanıcılara ürünü sorumlu biçimde şekillendirecek yetki vermiyor.
  • Hukuki çerçeve bu tür dışsallıkları zaten ele alıyor ve şirketlerin sorumluluktan kaçma girişimleri daha beceriksiz ve daha işe yaramaz sistemler ortaya çıkarıyor.