- AB içinde “kabul edilemez risk (unacceptable risk)” olarak sınıflandırılan yapay zeka sistemlerinin kullanımı tamamen yasaklandı
- 2 Şubat, AB AI Act için ilk uyum son tarihi ve ilgili düzenleme AB içinde sunulan veya kullanılan tüm yapay zeka teknolojileri için geçerli
- Bunun ihlali durumunda yıllık cironun %7’si ya da en fazla 35 milyon avrodan (yaklaşık 36 milyon dolar) hangisi daha yüksekse o tutarda para cezası uygulanabiliyor
AB AI Act genel bakış
- Yapay zeka risk düzeyi 4 kategoriye ayrılarak düzenleniyor
- Asgari risk: ör. spam filtreleri
- Sınırlı risk: ör. müşteri danışmanlığı için chatbotlar
- Yüksek risk: ör. tıbbi karar destek sistemleri
- Kabul edilemez risk: insanlar için fiziksel veya zihinsel zarar ya da ayrımcılık yaratma ihtimali yüksek yapay zeka
- Kabul edilemez risk olarak belirlenen yapay zekalar tamamen kullanım yasağı kapsamında
- Öne çıkan örnekler
- Sosyal puanlama: bireyin davranışlarına dayalı risk profili oluşturan yapay zeka
- Bilinçdışı manipülasyon: insanların kararlarını gizlice veya aldatıcı biçimde yönlendiren yapay zeka
- Kırılgan grupların istismarı: yaş, engellilik, ekonomik durum gibi unsurları kötüye kullanan yapay zeka
- Dış görünüşe dayalı suç tahmini: kişinin görünümüne bakarak suç işleme olasılığını öngören yapay zeka
- Biyometrik temelli özellik analizi: cinsel yönelim gibi kişisel özellikleri çıkarımlayan yapay zeka
- Kamusal alanlarda gerçek zamanlı biyometrik veri toplama: kolluk kuvvetleri amacıyla gerçek zamanlı biyometrik veri toplayan yapay zeka
- Duygu çıkarımı yapan yapay zeka: işyeri veya okulda insanların duygularını analiz eden yapay zeka
- Yüz tanıma veritabanı oluşturma: internetten veya güvenlik kameralarından görüntü toplayarak yüz tanıma veritabanı oluşturan ya da genişleten yapay zeka
Ön taahhüt
- 2 Şubat son tarihinden önce, 2024 Eylül civarında yaklaşık 100 şirket ‘EU AI Pact’i imzalayarak AI Act yürürlüğe girmeden önce de kurallara gönüllü olarak uyacaklarını taahhüt etti
- Amazon, Google, OpenAI katıldı; ancak Meta, Apple, Mistral gibi şirketler imzalamadı
- Pact’e katılmayan şirketler için de uygun olmayan risk taşıyan yapay zekanın kullanımının yasak olması temel ilke
Olası istisna maddeleri
- Kolluk kuvvetleri, yalnızca belirli durumlarda (ör. kaçırılma mağduru arama, acil tehditler) biyometrik bilgileri kullanabilsin diye sınırlı istisnalar tanındı
- Bu durumda da yalnızca tek bir yapay zeka sisteminin sonucuna dayanarak kişi aleyhine karar verilemeyeceği düzenleniyor
- Okul ve işyerlerinde duygu tespiti yapan yapay zeka da “tıbbi amaçlar veya güvenlik” gibi meşru gerekçeler varsa sınırlı olarak izin alabiliyor
- 2025 başında ek kılavuzların yayımlanması bekleniyor, ancak ayrıntılar henüz açıklanmadı
Önümüzdeki görevler
- Fiili ceza kesilmesi ve tam uygulamanın ağustos sonrasına kalması bekleniyor
- Bu aşamada her ülkede “yetkili makamlar (competent authorities)” belirlenecek ve para cezaları ile yaptırım önlemleri yürürlüğe girecek
- GDPR, NIS2, DORA gibi diğer düzenlemelerle çakışan uygulama ihtimali şirketler için kafa karışıklığı yaratabilir
- Birden fazla düzenlemenin aynı anda getirdiği bildirim yükümlülükleri veya veri yönetimi yöntemlerinin birbiriyle çelişmemesine dikkat etmek gerekiyor
- Şirketlerin ileride açıklanacak standartlar, kılavuzlar ve davranış kurallarını izleyerek sistemli biçimde hazırlık yapması gerekiyor
2 yorum
Son zamanlarda AB'nin büyümesinin düzenlemeler yüzünden sekteye uğradığına dair çok yazı görüyorum; yine ortada belirgin bir sonuç yokken önce düzenleme geliyor gibi bir his var.
Bu kadarı belki de gerçekten yasayla sınırlandırılmayı hak ediyor olabilir.
Bunun bu haberle epey tezat oluşturduğunu düşünüyorum.
Bu aralar insanın kafası gerçekten çok karışıyor gibi.