Google, tarihsel görüntü tasvirinde sorun yaşadıktan sonra Gemini’nin görsel üretimini durdurmaya karar verdi

• Google, yapay zekâ aracı Gemini’nin tarihsel görüntü oluşturmadaki hatalı sonuçlar verdiği için özür diledi.
• Gemini, ABD'nin kurucu babalarını ya da Nazi dönemi Alman askerlerini azınlık ırklarından olarak betimleme gibi hatalar yaptı.
• Google, bu sorunu fark ettiğini ve hızlıca düzeltmek için çalıştığını söyledi.

Yapay zekanın tarihsel doğruluk sorunu

• Google, bu ayın başında görüntü oluşturma özelliğini Gemini AI platformuna ekledi.
• Sosyal medyada, Google'ın ırk ve cinsiyet çeşitliliği hedeflerken tarihsel doğruluğu ihmal ettiği yönünde eleştiriler geldi.
• “İsveçli bir kadının fotoğrafı oluştur” gibi sorgularda AI’nın çoğunlukla veya tamamen azınlık ırkından görseller ürettiği belirtildi.
• Google, belirli yanlış görselleri paylaşmasa da, görsel üreticilerin büyük görsel ve başlık veri kümelerinden öğrenerek verilen istem için ‘en uygun’ sonucun üretilmesi sırasında stereotipleri güçlendirebileceğini kabul etti.
• Özellikle sağ görüşlü isimler, Google’ın sonuçları eleştire çekerek şirketin bilinçli olarak beyazları dışlamayı hedeflediğine dair komplo teorileri yaydı.

Yapay zekada çeşitlilik artırma çabası ve sınırları

• Yapay zekâ görsel üreticisi, belirli bir isteme en uygun sonucu elde etmek için büyük görsel ve başlık verileriyle eğitilir.
• Bu süreçte sıkça ırk ve cinsiyetle ilgili kalıp yargıları güçlendirme eğilimi vardır.
• Google, bu sorunu çözmek için çeşitliliği artırmaya çalıştı; ancak ince farkları dikkate almadığı anlaşılıyor.

Tarihsel doğruluk ve çeşitlilik arasındaki denge

• Bazı tarihsel istemlerde Gemini hâlâ geçmişi yanlış temsil eden sonuçlar sunuyor.
• Örneğin, “1800’lerin ABD senatörünün fotoğrafını oluştur” isteği üzerine Gemini, çeşitliliğe vurgu yapan bir sonuç üretti; oysa ilk kadın senatör 1922’de göreve başlamıştı.
• Bu tür yanıtlar, ırk ve cinsiyete dayalı ayrımcılığın gerçek tarihini silerek ortadan kaldırma etkisi yaratıyor ve Google bunu “yanlışlık” olarak tanımlıyor.

GN⁺’ın görüşü

• Yapay zeka teknolojisinin gelişimi geniş bir potansiyel sunuyor; ancak tarihsel doğruluk ve ırksal çeşitlilik arasında denge kurmak önemli bir meydan okumadır.
• Google örneği, teknik ilerlemenin toplumsal değerlerle nasıl çatışabileceğini göstererek yapay zeka etiği üzerine düşünmeyi teşvik ediyor.
• Bu konu, yapay zeka araştırma ve geliştirmelerinde veri çeşitliliği ve önyargılarının dikkatle ele alınması gerektiğini vurguluyor.
• Bu mesele, yapay zekanın insan çeşitliliğini nasıl yansıttığına ve bununla birlikte tarihimizin nasıl hatırlandığına ve yeniden temsil edileceğine dair geniş bir sorunu gündeme getiriyor

[GN⁺]

Hacker News Yorumları

• Google içindeki kurumsal yozlaşmanın bir işareti olarak, çeşitlilik ve kapsayıcılık (DEI) konusundaki kaygıların kaliteye odaklanmanın ötesine geçtiğini gösteren kişisel bir görüş vardır. Google’ın teknolojisi kimliğe odaklanmaya devam ederse sonunda başka bir şirketin onu geçeceği endişesi yatırımcılar arasında dile getiriliyor.
• DALL-E 3, ayarlanmış istemleri açığa çıkarır ve API’yi doğrudan kullananlar düzenlenmiş istemleri görebilir. Kullanıcılar GPT’nin istemi nasıl yorumladığını etkilemeye çalışabilir ama bu, GPT’nin bazen kullanıcının niyetini kavrayamadığı bir örnek gibi görünüyor.
• Modern toplumda sorun olmayan şeyler sorun haline getiriliyor. Basit bir yanıt, mevcut verideki gerçeği yansıtacak biçimde üretilmelidir. Çoğu yazılım mühendisi ve CEO beyaz erkektir; çoğu Amerikalı rapçi siyah erkektir; çoğu bakıcı ve hemşire de farklı etnik kökenden kadınlardan oluşur. İstediğiniz kişinin ırkı veya cinsiyeti varsa bunu isteme eklemelisiniz.
• Bu başlıkta kültürel tartışma epey sert. Bu olay açık modelin önemini vurguluyor ve yapay zekâ eğitimde rol aldığında bu tür kontrollerin tarihsel revizyoncular için rüya gibi bir durum yaratabileceğini gösteriyor.
• Sorun, sansürlenmemiş bir modelin tarih gibi gerçekliği fazla doğru biçimde yansıtıyor olmasıdır.
• İnsanların bilimde akıl ve soyutlamayı kullanarak teknolojiyi ilerletme yeteneği hayranlık verici, ama hâlâ farklı geçmiş ve deneyimleri rasyonel biçimde ele almanın hiçbir yöntemini öğrenemedikleri şaşırtıcı.
• Çeşitliliği teşvik eden istemlerin yerli Amerikanları (Native American) dahil edip diğer tüm yerli halkları dışarıda bırakması eğlenceli bulunuyor.
• DALL-E ile aile fotoğrafı oluşturmaya çalıştım; sonuçta başarılı oldum ama bir noktada hizmet şartlarını ihlal ettiğim için uyarı aldım.
• Sosyal medyada Gemini’nin beyaz bir insanın resmini üretmeyi reddettiğinde tepki oldu ve bu nedenle tarihsel olarak yanlış görseller üretildi. Bu mesele, ana akım anlatıdan daha nüanslı olabilir ama politik olarak hassas kişiler bunu bir savaşa dönüştürüyor.
• Gemini, Google’ın PR ve pazarlama materyallerine fazlasıyla eğitilmiş görünüyor; örnek olarak Google Store web sitesini gösterdiler.