- Muhbirler, Meta ve TikTok’un algoritmaların öfke uyandırdıkça etkileşimin arttığını gösteren şirket içi araştırma sonuçlarını bildikleri halde, kullanıcılara daha fazla zararlı içerik gösterdiğini ifşa etti
- Bir Meta mühendisi, hisse fiyatındaki düşüş gerekçesiyle ‘sınırda içerik’ gösterimini artırma talimatı aldığını söylerken, bir TikTok çalışanı siyasetçilerle ilgili vakaların çocuklara yönelik zararlardan önce ele alındığını gösteren dahili bir dashboard paylaştı
- Meta’nın Reels’i, TikTok ile rekabet etmek için yeterli güvenlik önlemleri olmadan piyasaya sürüldü ve şirket içi araştırmalar, zorbalık, nefret söylemi ve şiddet içerikli yorum oranlarının Instagram ana akışından daha yüksek olduğunu ortaya koydu
- TikTok’un dahili güvenlik ekibinden bir çalışan, siyasi ilişkileri koruma uğruna çocuk güvenliğinin geri plana itildiğini ifade ederek, “ebeveynler uygulamayı silsin” uyarısında bulundu
- Her iki şirket de zararlı içeriği kasıtlı olarak büyüttüğü iddiasını reddetti, ancak dahili belgeler ve ifadeler, etkileşim odaklı algoritmaların kullanıcı güvenliğinden çok geliri öncelediğine dair yapısal bir sorunu ortaya koyuyor
Muhbir ifşalarının özeti
- 12’den fazla muhbir ve ilgili kişi, şiddet, cinsel sömürü ve terör bağlantılı içerikler gibi güvenlik sorunları göz ardı edilerek kullanıcı etkileşimi yarışına girildiğini ifade etti
- Bir Meta mühendisi, yönetimden kadın düşmanlığı, komplo teorileri gibi ‘sınırda içerikleri’ daha fazla öne çıkarma talimatı aldığını söyledi
- Bir TikTok çalışanı, siyasetçilerle ilgili ihbarların çocuklara yönelik zarar vakalarından önce işlendiği örnekleri BBC’ye sundu
- TikTok içinde, siyasetçilerle ilişkileri korumanın, düzenleme veya yasak riskinden kaçınma gerekçesiyle öne sürüldüğü belirtildi
Meta’nın dahili araştırmaları ve Reels’in sorunları
- Meta araştırmacısı Matt Motyl, Reels’in piyasaya sürüldüğü sırada (2020) güvenlik önlemlerinin yetersiz olduğunu söyledi
- Dahili araştırmalara göre Reels yorumlarında, Instagram ana akışına kıyasla zorbalık, nefret söylemi ve şiddeti teşvik oranları sırasıyla %75, %19 ve %7 daha yüksekti
- Şirket, Reels’in büyümesi için 700 kişilik kaynak ayırırken, çocuk koruma ve seçim bütünlüğü ekiplerine personel takviyesi talepleri reddedildi
- Dahili belgeler, algoritmanın kullanıcı refahından çok gelir maksimizasyonunu öncelediğini işaret etti
- Belgelerde, “Facebook kullanıcıyı ‘fast food’ gibi tükettirebilir ama bunu uzun süre sürdüremez” ifadesi de yer aldı
TikTok’un dahili güvenlik ekibinin ifadeleri
- BBC, 2025 boyunca birkaç ay boyunca TikTok güven ve emniyet ekibinden ‘Nick’ ile temas kurdu
- Nick, yapay zeka kullanımının artması ve personel azaltımı nedeniyle zararlı içerikle mücadelenin zayıfladığını söyledi
- Terör, cinsel şiddet, istismar ve insan kaçakçılığına ilişkin materyallerde artış gördüğünü ifade etti
- Dahili dashboard’da, siyasetçileri hicveden bir gönderinin, genç bir mağdurun cinsel şantaj vakasından önce incelendiği bir örnek sunuldu
- Iraklı 16 yaşındaki bir mağdur vakası da dahil olmak üzere bazı olayların düşük aciliyetle sınıflandırıldığı doğrulandı
- Nick, “şirket çocuk güvenliğinden çok siyasi ilişkileri önemsiyor” diyerek, ebeveynlere ‘TikTok’u silin’ tavsiyesinde bulundu
- TikTok ise “siyasi içerikler çocuk güvenliğinden önce gelmez” diyerek bu iddiaların çarpıtma olduğunu savundu
- Genç kullanıcı hesaplarına varsayılan olarak 50’den fazla güvenlik ayarı uygulandığını belirtti
Algoritma rekabeti ve Meta’nın tepkisi
- Meta, 2020’de Covid-19 döneminde TikTok’un hızlı büyümesine karşılık olarak Reels’i acil biçimde kullanıma sundu
- Motyl, “hız, kullanıcı korumasından önce geldi” dedi
- Reels ekibinin, zararlı içerik daha yüksek etkileşim getirdiği için güvenlik özelliklerini eklemeye isteksiz olduğu aktarıldı
- Brandon Silverman (Crowdtangle kurucusu), o dönemde Mark Zuckerberg’in rekabete karşı son derece hassas olduğunu söyledi
- Reels’in büyütülmesi için 700 kişi görevlendirilirken, güvenlik ekipleri personel bulmakta zorlandı
- Eski Meta mühendisi ‘Tim’, TikTok ile rekabet nedeniyle ‘sınırda içerik’ sınırlamalarının gevşetildiğini söyledi
- “Hisse düşüşü ve gelir baskısı altında kısa vadeli kazanç sağlamak için kuralların gevşetilmesine karar verildi” dedi
Algoritmaların çalışma biçimi ve toplumsal etkiler
- Dahili belgeler, öfke ve ahlaki tepki uyandıran içeriklerin yüksek etkileşim sağladığını ve algoritmanın bunları tercih ettiğini açıkça belirtti
- Buna göre, “kullanıcı ne kadar çok öfke hissederse o kadar fazla içerik tüketiyor”
- Birleşik Krallık’ta terör konusunda çalışan polis uzmanları, son dönemde antisemitik, ırkçı ve aşırı sağ şiddet içerikli gönderilerin ‘normalleşmesi’ olgusunu gözlemlediklerini bildirdi
- Bir genç kullanıcı, 14 yaşından itibaren algoritma tarafından ‘radikalleştirildiğini’ söyleyerek, bunun öfke ve nefret duygularını güçlendirdiğini anlattı
Şirketlerin resmi açıklamaları
- Meta: “Maddi kazanç için zararlı içeriği büyüttüğümüz iddiası doğru değildir”
- Şirket, son 10 yılda güvenlik ve emniyet alanına büyük yatırım yaptığını ve gençleri korumaya yönelik özellikler eklediğini vurguladı
- TikTok: İddiaların “manipüle edildiğini” söyleyerek, zararlı içeriğin gösterilmemesi için teknoloji yatırımlarını sürdürdüğünü belirtti
- Ayrıca, “milyonlarca insanın yeni ilgi alanları keşfetmesine ve topluluklar oluşturmasına yardımcı oluyoruz” dedi
1 yorum
Hacker News görüşleri
Son 5 yılda bu mesele zaten sağduyu düzeyinde bilinen bir şey haline gelmiş gibi görünüyor
Ama asıl soru şu: “Peki biz ne yapmalıyız?”
İnternette öfkeye zaman harcamamaya çalışıyorum ama bu, bir bireyin kaldırabileceğinden çok daha büyük bir toplumsal hastalık
Meta veya TikTok toplum için net negatifse, var olmak gibi doğal bir hakkı yok
Sorunun kökü, ‘etkileşim yaratmanın’ fazla kârlı olması. Maddi teşvik ortadan kalkmadıkça sorun da ortadan kalkmaz
Sadece NPR dinlediğim zamana göre daha fazla bilgi ediniyormuşum gibi geliyor ama üretilmiş içerikten (kurgu, müzik, anlatım vb.) kaçınıyorum
Ben gerçekten yaşanmış bir olaydan ya da birinin sözlerinden doğan duygusal tepkiyi almak istiyorum
‘Haber olarak içerik’ sahicilik taşımalı
Milenyum kuşağına kıyasla Gen Z’nin neden daha az alkol tükettiğine bakarsanız, belki orada bir çözüm vardır
“Zararlı içerik” ifadesinin sonuçta hükümetin ya da belli bir ülkenin hoşuna gitmeyen şeyler anlamına geldiğini düşünüyorum
Sonuçta yine başka bir sansür talebi gibi geliyor
Eğer bir grup bu tür şiddete karşı çıkıyorsa, bu aslında iyi bir şey değil mi?
Bildirsem de sadece “kural ihlali yok” yanıtı geliyor
Bu platformların hâlâ bu şekilde çalışıyor olması gerçekten sinir bozucu
Toplumsal zararın varlığı 10 yıldan uzun süredir biliniyor ama yine de hiçbir şey olmuyor
Facebook ve TikTok fiilen dijital uyuşturucu. Üstelik toplumsal empati yoksunu insanlar tarafından tasarlanmışlar
Bu sonuçlar şaşırtıcı değil. Çoğu insan için de değildir
Yine de kanıtların açık biçimde ortaya konması iyi bir şey
Bu olgu kaçınılmaz mı?
Tıklama, görüntüleme ve kullanıcı etkileşimi ürettiği için, bir platform bunu yaparsa diğerleri de peşinden gitmek zorunda kalıyor
Örneğin bir McDonald's çalışanı müşterilere hakaret ederse ‘etkileşim’ artar ama pazar payı düşer
Bunu yapmaları gayet beklenen bir şeydi
Yasal olduğu ve kâr getirdiği sürece, böyle davranmaya devam edecekler
Bu en az 2012'den beri tekrar edip duran bir hikâye
Max Fisher’ın The Chaos Machine kitabında iyi özetleniyor
Facebook ve YouTube eleştiri geldiğinde hep “önlem aldık” diyor ama gerçekte olan şey kaçınma, geciktirme, küçümseme ve inkârın tekrarı
Zararlı algoritmaları izleyip dava açmaya kadar giden kurumlar olup olmadığını merak ediyorum
Reset.tech bu alanda iyi işler yapıyor ama başka kimler var ve finansmanı kim sağlıyor bilmek isterim
20 milyar dolar kazanıp 200 milyon dolar ceza ödüyorlarsa, kullanıcıların ruh sağlığını hiç umursamayacaklardır
Kamuoyu hâlâ sansasyonel içeriğe tepki verdiği sürece, platformların bunu kullanmaması için bir neden yok
Gönderilerin çoğu sonuçta sadece tıklama tuzağı