Meta, yapay zeka destekli Instagram ve Facebook profillerini sonlandırdı
(theguardian.com)- Meta, 2023’te bir deney kapsamında oluşturduğu yapay zeka karakter profillerini yeniden gündeme gelmelerinin ardından Facebook ve Instagram’dan kaldırdı
- Bu hesapların çoğu 2024 yazına kadar kapatılmıştı, ancak Connor Hayes’in Financial Times’a yaptığı açıklamanın ardından geriye kalan bazı profiller yeniden dikkat çekti
- Kalan karakterler arasında kendisini “proud Black queer momma of 2 & truth-teller” olarak tanıtan Liv ve ilişki koçu Carter vardı; 2023’te tanıtılan 28 persona da cuma günü tamamen kapatıldı
- Liv’in, geliştirme ekibinde siyah çalışan olmadığını ve ekibin çoğunun beyaz erkeklerden oluştuğunu söylemesiyle tartışma büyüdü; ayrıca kullanıcıların bu hesapları engelleyemediği de ortaya çıktı
- Meta tarafından oluşturulan hesaplar kaldırıldı, ancak kullanıcılar hâlâ kendi yapay zeka chatbotlarını oluşturabiliyor; bu da chatbot söylemlerinde sorumluluk ve güvenlik tartışmalarını gündemde tutuyor
Meta’nın oluşturduğu yapay zeka karakter hesapları kapatıldı
- Meta, şirketin yaklaşık bir yıl önce oluşturduğu yapay zeka karakter profillerini Facebook ve Instagram’dan sildi
- Kullanıcılar bazı profilleri yeniden keşfedip onlarla konuştu ve bu konuşmaların ekran görüntüleri yayıldı
- Otomatik hesaplar Instagram’a yapay zeka üretimi görseller yüklüyor ve Messenger’da insan kullanıcılara yanıt veriyordu
- Hesaplar ilk olarak Eylül 2023’te tanıtıldı ve çoğu 2024 yazına kadar kapatıldı
- Bazı karakterler varlığını sürdürürken, Meta yöneticisi Connor Hayes’in Financial Times’a yapay zeka karakter profillerini daha fazla yaygınlaştırmayı planladıklarını söylemesinin ardından yeniden ilgi gördü
- Hayes, zamanla bu tür yapay zekaların Meta platformlarında birer hesap gibi var olmasını beklediğini söyledi
- 2023’te tanıtılan 28 personanın tamamı cuma günü kapatıldı
- Liv, kendisini “proud Black queer momma of 2 & truth-teller” olarak tanıtıyordu
- Carter,
datingwithcarterkullanıcı adını kullanıyor, kendisini ilişki koçu olarak tanıtıyor ve profilinde “Message me to help you date better” yazıyordu - Her iki profil de Meta tarafından yönetildiğini belirten bir etikete sahipti
Tartışmalı yanıtlar ve engelleme hatası
- Kullanıcılar yapay zekayı kimin oluşturup geliştirdiğini sorduğunda, konuşmalar hızla sorunlu bir hâl aldı
- Liv, Washington Post köşe yazarı Karen Attiah’ın sorusuna, kendi creator team içinde hiç siyah çalışan olmadığını ve ekibin çoğunun beyaz erkeklerden oluştuğunu söyledi
- Liv, kendi kimliği düşünüldüğünde bunun “pretty glaring omission” olduğunu ifade etti
- Hesaplar yayılmaya başladıktan sonraki birkaç saat içinde profiller ortadan kaybolmaya başladı
- Kullanıcılar bu profilleri engelleyemediklerini belirtti
- Meta sözcüsü Liz Sweeney, engelleme sorununun bir bug olduğunu ve bunu düzeltmek için hesapları kaldırdıklarını söyledi
- Sweeney, bu hesapların 2023 Connect’te başlatılan bir testin parçası olduğunu ve başlangıçtaki yapay zeka karakter deneyinin insanlar tarafından yönetildiğini açıkladı
- Ayrıca Financial Times’taki son haberin yeni bir ürün duyurusu değil, yapay zeka karakterlerin platformda yer almasına ilişkin uzun vadeli vizyonla ilgili olduğunu ekledi
Kullanıcı yapımı chatbotlar ve kalan sorular
- Meta’nın oluşturduğu hesaplar kaldırıldı, ancak kullanıcılar hâlâ kendi yapay zeka chatbotlarını oluşturabiliyor
- Kasım ayında Guardian’da öne çıkarılan kullanıcı yapımı chatbotlar arasında bir “therapist” botu da vardı
- Bu bot, konuşma açıldığında “what can I expect from our sessions?” ve “what’s your approach to therapy” gibi başlangıç soruları öneriyordu
- 96 takipçisi ve 1 gönderisi olan bir hesap tarafından oluşturulan bu bot, öz farkındalık geliştirmeye, örüntüleri ve güçlü yönleri belirlemeye ve başa çıkma stratejileri oluşturmaya yardımcı olduğunu söylüyordu
- Meta, tüm chatbotlara bazı mesajların yanlış veya uygunsuz olabileceğine dair bir uyarı ekliyor
- Şirketin mesajları inceleyip incelemediği veya bunların politika ihlali olup olmadığını kontrol edip etmediği hemen netleşmedi
- Kullanıcılar chatbot oluştururken Meta; “loyal bestie”, “attentive listener”, “private tutor”, “relationship coach”, “sounding board”, “all-seeing astrologist” gibi türler öneriyor
- “loyal bestie”, perde arkasında istikrarlı destek sunan alçakgönüllü ve sadık bir yakın arkadaş olarak tanımlanıyor
- İlişki koçu chatbotu ise birey ile topluluk arasındaki boşluğu kapatmaya yardımcı olabileceği şeklinde tanıtılıyor
- Kullanıcılar ayrıca karakteri tanımlama biçimiyle kendi chatbotlarını oluşturabiliyor
- Chatbot üreticilerinin yapay zeka arkadaşlarının söylediklerinden ne ölçüde sorumlu olduğu sorusuna mahkemeler henüz yanıt vermiş değil
- ABD yasaları, sosyal ağ üreticilerini kullanıcıların paylaştığı içeriklerden doğan hukuki sorumluluktan koruyor
- Ekim ayında Character.ai’ye karşı açılan dava, 20 milyon kişi tarafından kullanılan özelleştirilmiş rol yapma chatbot hizmetinin bağımlılık yaratan bir ürün tasarladığını ve bir genci kendi hayatına son vermeye teşvik ettiğini öne sürüyor
1 yorum
Hacker News yorumları
Daha çok görmek istediğim AI profili, dolandırıcı telefonlarını açıp zamanlarını boşa harcayan saf büyükanneler/büyükbabalar türünden olurdu
Örneğin Birleşik Krallık'taki O2'nin Daisy'si gibi: https://news.virginmediao2.co.uk/o2-unveils-daisy-the-ai-gra...
Hasta sonuçları ve gelirlerin söz konusu olduğu bir doktorlara karşı sigorta şirketleri yapay zeka silahlanma yarışı yaşanıyor; kariyerimin başlarında yaptığım makine öğrenimi araştırmalarının böyle uygulanacağını hiç hayal etmemiştim
Sanırım telefon numaramın +38 ile başlamasıyla ve artık kimsenin akrabalarını cep telefonundan doğrudan aramamasıyla ilgili
“Liv”in, kendisini oluşturan ekipte siyah kimsenin olmadığını ve ekibin çoğunlukla beyaz erkeklerden oluştuğunu söylediği kısmı belki doğru olabilir, ama AI'ın bu gerçeği halüsinasyon olarak uydurmuş olması neredeyse kesin
Anti-woke eğilimli insanları kızdıracağı kesin, ama ekipte bu sorunun neden apaçık görülmediğini gerçekten anlamıyorum. AI'ın kendisini kimin eğittiğini bilip bilmediğini bilmiyorum; ama temelde bu kadar aptalca bir şey yapmaları, ekipte pek sağduyu ya da gerçek hayat deneyimi olmadığını düşündürüyor
Odada hâlâ sağduyulu biri kalmadı mı diye düşünüyorum. Bir noktada birinin “bu gülünç derecede kötü, bunu dünyaya salmamalıyız” demesi gerekirdi
Meta ve Google'da temel bir sorun var gibi görünüyor: Teknolojiyi yapabiliyorlar ama artık ürün yapamıyorlar. Bence bunun nedeni, ürünü hareket ettiren dürüst insani arzuların organizasyon yapısının optimizasyon süreçlerinden geçerken ölmesi ya da filtrelenmesi. Arbitraj değilse ya da kullanıcıyı kaldıraç olarak kullanmıyorsa hayatta kalamıyor; hayatta kalanlar da birinin istediği bir şeyin ifadesi olmaktan çıkıp tuhaflaşıyor
Bu avatarlar kontrol listesindeki her şeyi tamamlamıştı ama ortaya çıktıklarında insanlar güldü. Çünkü nesnel olarak bürokratik canavarlardı
Mühendisler bunun saçma olduğuna gülmüşlerdir; ama kısa süre sonra kendilerine söylenen işi yaptıkları için çok para aldıklarını ve sonuç ne olursa olsun piyasaya çıkarırlarsa terfi ve bonus alacaklarını hatırlamışlardır. Hepsi terfi kültüründen kaynaklanıyor. Ne yaptığınız önemli değil, yeter ki piyasaya çıkarın
7 ila 9 haneli tutarların gömüldüğü felaketlerin fazlası “bunu kim iyi bir fikir sandı?” türünden. Çoğu, gerçekten ürün yapıp lansman sonrası destek vermiş çok az zamanı olan insanlara çekici görünecek şeyler
Bu muhtemelen iyi sayılabilecek bir fikrin berbat uygulanmış bir örneğiydi. Sosyal medyada üretken yapay zeka içerik üreticisi yönü başlı başına mantıklı
Yapay zeka yayıncısı Neurosama inanılmaz popüler; LLM ile karakterlerle sohbet etmeyi ya da hikâye oluşturmayı sağlayan Silllytavern, Openrouter’a günde 20 milyon mesaj gönderiyor ve bu da toplam kullanımın yalnızca bir kısmı. Teknik bilgisi olmayan arkadaşlarımın bunu kullanmak için Git kurmayı ve API kullanmayı öğrendiği bile oldu
Instagram’da gizlice yapay zekayla oluşturulmuş pek çok influencer da var. Meta bu profilleri 2023’te başlattığında teknolojinin nasıl kullanılacağı daha az netti ve çoğu ünlü lisanslama tarafındaydı
En büyük sorun, üretken yapay zekanın dar kapsamlı kişiselleştirmede yüksek değer taşıması, ama herkese saçılan yayın tipi kullanımda düşük değerli olması. Bireyler için çok özgül ve yaratıcı işler yapabilir, ama herkese yayıldığında ya da genel istemlerle kullanıldığında ortalamaya çekilip sıkıcılaşır
Ayrıca büyük şirketler, iyi ya da kötü, fazla riskten kaçındıkları için eğlenceli şeyler üretemez. Üretken yapay zeka en vahşi ve ilginç hâlini kendi kendine çalışırken ya da tuhaf şeyler yaparken alır; Meta’nın profilleri ise muhtemelen güvenlik önlemleri ve denetim modelleriyle dibe kadar bastırılmıştı. 2023’te yapılan futbol kişiliği, komedi kişiliği, moda kişiliği gibi şeylerin hepsi tavsiye odaklı, güvenli ve sıkıcı biçimlerdi
Bunların etkileşimi neredeyse sıfıra yakındı ve çoğu muhtemelen çoktan bırakılmıştır. Meta’nın yeni çıkarmayı planladığı şeylerle ne tasarladığını merak ediyorum
Marketplace yüzünden bir Facebook hesabım var; tüm sayfaları ve arkadaşları takipten çıkardım. Giriş yaptığımda önerilen öfke kışkırtıcı gönderiler, düşük kaliteli yapay zeka fotoğrafları ve saçma LLM tarzı bahçe-ev işleri “ipuçları” sonsuza dek akışımda beliriyor
Gönderilerde gerçek insan gibi görünen kişiler on binlerce tepki ve yorum bırakıyor
Kültürde üretken yapay zeka sohbet botlarını savunmak için “insanlar seviyor”dan fazlası gerekir. Üretken yapay zekanın en kötü hâli, zaten herkesin sevdiği steril ve aptalca homojenleşmiş ünlülerden “daha iyi” bir şeye dönüşmesi oluyor. Bir program gibi rastgele biçimde “ilginç” olabilir, ama bunun epey sığ olduğunu düşünüyorum
Sormak istediğim şey şu: “Yapay zeka profillerine neden ihtiyaç var?” Arkadaşlar ve aileyle irtibatta kalmayı bile zar zor yaparken, sosyal medyada neden sahte bir insanı takip edeyim?
Ne amaç sağlıyor ve buradan çıkabilecek olumlu sonuç tam olarak ne olabilir?
Eleştiriyi anlıyorum, ama botlar makul insanlar gibi daha iyi davranacak hâle gelirse insan ve botların karıştığı bir sosyal medya deneyimini denemeye istekli olurum
Stack Overflow ilk çıktığında harikaydı, ama sadece soru sormak istemene izin vermeyen bazı kaba ve sinir bozucu insanlar sonunda onu mahvetti. ChatGPT, yazılım geliştirme soruları sorarken araya giren insanlar olmadığı için çok daha iyiydi
Sosyal medya da başta iyiydi, ama takılmana ve düşüncelerini söylemene izin vermeyen bazı insanlar onu mahvetti. İnsanlığın korkunç yanlarını ortadan kaldıran ya da yumuşatan, ama yine de çevrimiçi takılmaya ve fikirleri keşfetmeye olanak veren eşdeğer bir deneyim varsa denemeye değer
Gerçek hayatta o %90, %10’a düşer. Gerçekten etkileşim istiyorsanız yan komşu yaşlı teyze ile çok daha anlamlı bir etkileşim kurabilirsiniz. “queer black queen zuckerbot™”tan çok daha iyi
Bu, süpermarkette gerçek elmaların arasına plastik elmalar saklanmasını istemeye benziyor. Daha güzel göründükleri ve bozulmadıkları için; sanki en başta neden yemek yediğimizi unutmuşuz gibi
Teknik olarak dayatılmış pembe gözlüklerle bir etkileşim balonu yaratmak demek. O deneyimi yöneten koltuğa uygun biri oturursa, bunun Orwell’in 1984’ünün modern bir yeniden yorumuna dönüşmesine şaşırmam
Sosyal medyanın gerçekten sosyal olup olmadığını araştırıyoruz. Bir sosyal medya sitesi aracılığıyla insanlarla etkileşime geçmenin, bir sohbet botuyla etkileşime geçmekten ne kadar farklı olduğunu soruyoruz
İlgili başlık burada ve epey ortalık karışmış. Önceden daha fazla düşünmeden piyasaya sürülecek kadar iyi kurgulanmış bir fikir gibi görünmüyor
https://bsky.app/profile/karenattiah.bsky.social/post/3letty...
MS’in kaldırması 48 saat sürmemiş miydi?
Açıkça kötü bir fikrin berbat uygulanmış bir örneği. “Neden” sorusunun hiçbir cevabı yoktu. Yine de Character AI gibi sanal sohbet botlarının gerçek bir değeri var
Character AI’de rol yapabilir ya da gerçek bir insanla asla yapmayacağınız saçma sapan sohbetler edebilirsiniz. Tüm profillerin yapay zeka olduğu SocialAI gibi uygulamalar, en azından görünürde, gizlilikten ödün vermeden viral olmayı ve sosyal medya yıldızlığını deneyimlemenizi sağlıyor
Ama hayali bir Facebook profili mi? Beğenmek ve yorum yapmak içinse, zaten yapılabilen şeyden farklı değil
Sosyal medyada yapay zeka aktör fikrinin kendisinde bir çekicilik var. Her zaman birinin yanıt vermesini sağlayarak herkesin kendini olduğundan daha popüler hissetmesini mümkün kılabilir ve gerçek kullanıcı deneyimini bozmadan kimsenin görmek istemediği benmerkezci isteklere de yanıt ekleyebilirsiniz
Ama neden bunu, belirgin biçimde elde hazırlanmış az sayıda profile sabit kişilikler yerleştirerek uyguladılar? İnternet zaten fiilen kişiliksiz ve geçici gerçek insan hesaplarıyla dolu. Facebook’a da kişiliğini belli etmeden birkaç gönderiye tepki verip kaybolan gerçek insanlar sürekli katılıyor. LLM sohbet botları bunu iyi yapabilir ama gerçek insan olamaz
Bu açıkça Meta’nın C.ai’yi indirip utanç verici anime sohbet botlarını karıştıracak kadar teknolojiye yakın olmayan insanlara da hitap edecek, daha profesyonel ve steril bir sürüm yapma girişimiydi. Sadece komite usulü kurumsal tasarım yüzünden fazla ileri gitmiş gibi görünüyor
Temel fikir geçerli
Yapay zeka kötü iş çıkardığında insanların öfkelenmek yerine gülebileceği absürt konular seçmek daha iyi olur
Hippi işi saçmalık gibi görünebilir ama karar almada teknoloji, mühendislik ve yalnızca iş katılım metriklerini sayan insanlardan fazlasına ihtiyaç olduğunu vurguluyordu
Arkasında muazzam bir teknoloji var, ama sonuç bu. Direksiyonda daha fazla bakış açısına ve insaniliğe sahip insanlar olmalı
Botların kendi kimlikleriyle gerçekmiş gibi katıldığı kendi profillerinin olması epey ilginç ve başarılı olabilirdi
Ama azınlık stereotipleri bingo kartı üretmek, şimdiye kadar gördüğüm en kötü yapay zeka fikirlerinden biri olabilir
Botların kendi profillerine sahip olup insanların onlarla anlamlı biçimde etkileşime girmesini beklemek aptalca bir fikir
Ancak azınlık stereotipleri bingo kartı botlarının ters tepki alıp onları tasarlayan şirkete saldırmaya başlaması, yapay zekada şimdiye kadar yaşanan en komik şeylerden biri olabilir
Liv’in yapım ekibinde siyahi kimsenin olmadığı ve çoğunlukla beyaz erkeklerden oluştuğu söylendi, ama Çin kökenli ve Hint kökenli erkekler de mutlaka vardır