Tasarımı Gereği Yasadışı: Üretken Yapay Zekanın İnsan Hakları Maliyetini Ortaya Koymak

• Bağımsız üretken yapay zeka sistemleri, yasa dışı web scraping’e dayandığında tasarım, geliştirme ve dağıtımın tüm aşamalarında uluslararası insan hakları hukuku (IHRL) ve ilgili standartlarla çatışır
• Bu teknoloji gelişmiş otomasyon ve verimlilik vaat etse de, veri toplama ve model eğitimi pratikleri mahremiyet hakkını kötüye kullanan bir yapıya dayanır
• Aynı pratikler ayrımcılığı mümkün kılar ve ifade özgürlüğü ile düşünce özgürlüğünü tehdit eden insan hakları maliyetleri üretir
• Amnesty International, yasa dışı web scraping tabanlı sistemlerin tasarımı gereği büyük ölçekli mahremiyet ihlallerine dayandığı sonucuna varıyor
• Bu sistemler uluslararası insan hakları hukuku ile temelden bağdaşmaz ve Amnesty International bu sistemlerin yasaklanmasını talep ediyor

---

Temel değerlendirme

• Yasa dışı web scraping’e dayanan bağımsız üretken yapay zeka sistemleri; tasarım, geliştirme ve dağıtım aşamalarında uluslararası insan hakları hukuku (IHRL) ve ilgili standartlarla çatışır
• Amnesty International, bu sistemlerin tasarımı gereği büyük ölçekli mahremiyet ihlallerine dayandığını ve uluslararası insan hakları hukuku ile temelden bağdaşmadığını değerlendiriyor

İnsan hakları ihlali mekanizması

• Üretken yapay zeka teknolojisi gelişmiş otomasyon ve verimlilik vaat eder
• Ancak veri toplama ve model eğitimi pratikleri, mahremiyet hakkının kötüye kullanılmasına dayanır
• Bu pratikler ayrımcılığı mümkün kılar, ifade özgürlüğü ve düşünce özgürlüğünü tehdit eder

Sonuç ve talep

• Amnesty International, yasa dışı web scraping tabanlı bağımsız üretken yapay zeka sistemlerinin yasaklanmasını talep ediyor
• İngilizce rapor Download PDF bağlantısından indirilebilir

[GN⁺]

Lobste.rs görüşleri

• Yasa dışı web scraping ifadesi yüzünden, bir başka yan etki olarak web scraping’in de yasaklanması yönünde bir akım oluşmasa keşke

  • Bunun, scraping yasağını dayatmak gibi görünmediğini düşünüyorum; ilgili bölümü okuyunca kaygıların oldukça somut ve makul olduğu görülüyor
    Sorun, şirketlerin rıza olmadan kişisel verileri toplu halde toplaması ve ardından bu verileri açığa çıkma riski taşıyan biçimlerde ticarileştirmesi
  • Amnesty’nin yayıncıların söylemine kapılıyor gibi görünmesi üzücü

• Amnesty International’ın bu tür sistemlerin yasaklanmasını talep etmesi, oldukça sert bir tutum aldığını gösteriyor

  • Keşke bunu öyle ifade etmeseydi. Bazı okurlar bunu, “zaten açılmış Pandora’nın kutusunu yeniden kapatmaya mı çalışıyorlar?” türünden, uygulanamaz bir idealizm olarak görebilir
    Yine de yapay zeka temelli karar alma süreçlerinde başvuru yollarına ihtiyaç duyulması, modellerde gözlenen önyargılar ve rıza, atıf, telafi olmadan yapılan scraping gibi sorunları yerinde biçimde işaret ediyor

• Henüz tamamını okumadım ama 5.6 bölümünün sonuç kısmında, s.35’te dikkat çeken bir nokta vardı
  Amnesty International, DeepSeek, Google, OpenAI, Meta, Stability AI, Intel, VMware, Midjourney, Microsoft ve Amazon’dan bağımsız üretken yapay zeka sistemleri ile insan hakları risklerine ilişkin bulgu ve kaygılara yanıt istemiş, ancak Anthropic dikkat çekici biçimde listede yok
  Raporda Anthropic’e yapılan atıfları aratınca, yalnızca 2026 Şubat’ında ABD ordusunun İsrail ile birlikte İran’a saldırırken Anthropic’in Claude’unu kullandığına dair bir ifade gördüm; ayrıca ABD hükümetinin, Anthropic’in “geniş çaplı yurt içi gözetim” ve “denetimsiz tamamen otonom silahlar” kullanımını sınırlayan sözleşme şartlarını görmezden geldiği söyleniyor
  Anthropic ürünlerinin 2024’ten itibaren ABD hükümeti ve ordusunda kullanıldığı, gizli işler yürüten devlet kurumları genelinde ürünleri dağıtılan ilk “ileri düzey yapay zeka şirketi” olarak bilindiği ve Anthropic bu kısıtları değiştirmeyince Pentagon’un 6 Mart 2026’da bunu “Supply Chain Risk” olarak sınıflandırdığı da belirtiliyor
  Amnesty’nin Anthropic yanlısı bir önyargısı olduğunu söylemeye çalışmıyorum ama neden o listeye dahil edilmediği kafa karıştırıcı. Rapor OpenAI, Google, Meta gibi şirketlerden somut zarar örneklerinin kaynaklarıyla birlikte birçok kez söz ettiği için belki liste bu şekilde oluşmuştur; Anthropic hakkında benzer kaynaklar olmayabilir ama yine de tuhaf geliyor

• Amnesty artık eski Amnesty gibi görünmüyor

• Bu brifing, üretken yapay zeka ürünlerinin tedarik zincirindeki veri hattına odaklandığını ve özellikle veri toplama, analiz ve işleme aşamalarına yoğunlaştığını belirtiyor
  Ayrıca Amnesty International, bağımsız üretken yapay zeka araçlarını; yapay zeka sohbet botları, görsel·video·ses·metin üreticileri gibi yalnızca üretken yapay zeka işlevleri için geliştirilip dağıtılan ve pazarlanan ürünler olarak tanımlıyor; bir kelime işlemcideki isteğe bağlı üretken yapay zeka özelliği gibi daha büyük bir ürün grubuna sonradan eklenen işlevleri ise bunun dışında tutuyor