TikTok, çocuklara endüstriyel ölçekte zarar veriyor

• ABD’de 14 eyalet başsavcısı, TikTok’un çocuklara ve gençlere ciddi zarar verdiğini öne sürerek dava açtı
• İç belgeler ve çalışan ifadeleri, bağımlılık yaratan algoritmalar, ruh sağlığı sorunları, cinsel sömürü ve çocuk pornografisine maruz kalma gibi durumları ortaya koyuyor
• TikTok, bu sorunların farkında olmasına rağmen gelir ve kullanıcı etkileşimini önceliklendirerek bunları görmezden geliyor
• İçerik filtreleme sistemi ve ebeveyn denetimi özellikleri son derece etkisiz, ayrıca çocukların platforma girişini engellemesi gereken yaş doğrulaması da başarısız oluyor
• Z kuşağındaki pek çok kullanıcı da “bağımlı olduğunu biliyor ama bırakamıyor” düşüncesine sahip ve genel olarak topluma net katkısı çok olumsuz

TikTok’un çocuklara verdiği endüstriyel ölçekte zarar

ABD Yüksek Mahkemesi’nin TikTok yasak yasasına ilişkin kararı bekleniyor

• ABD Yüksek Mahkemesi, TikTok yasak yasasına müdahil olup olmayacağına karar verecek
• Yasa yürürlüğe girerse, ByteDance TikTok’u satmadığı sürece hizmet ABD’de durdurulacak
• Ancak ruh sağlığı, çocuk sömürüsü ve bağımlılık gibi gerçek zararlarla ilgili kanıtlar hukuki değerlendirme dışında bırakılıyor
• Bu nedenle kamusal yargının, yani kamuoyunun önemi vurgulanıyor

TikTok içinden tanıklıklar ve sızdırılmış belgeler

Başsavcı davaları ve temel belgeler

• Kentucky, Utah, Nebraska, New York dahil 14 eyaletin başsavcısı dava açtı
• İç Slack konuşmaları, planlama belgeleri ve deney verileri dahil çok sayıda belge yayımlandı
• Gençleri kasıtlı olarak hedefleyen tasarım ve algoritma stratejileri tespit edildi
• Sansürlenen belgelerde yalnızca siyah kutular kullanıldığı için içerikler kolayca yeniden ortaya çıkarılabildi

Zarar kümesi 1: Bağımlılık ve kompulsif kullanımın teşviki

• TikTok, en fazla zaman ve etkileşim sağlayabilecek hedef kitlenin gençler olduğunu açıkça belirtiyor
• Bağımlılık yaratan algoritmalar, sonsuz kaydırma, otomatik oynatma ve bildirim tasarımı ile kompulsif kullanım teşvik ediliyor
• Gençler özellikle sosyal ödüllere (beğeni, yorum vb.) duyarlı ve özdenetim becerileri zayıf
• Şirket içindeki çalışanlar da “ürünümüz çocuk gelişimine zarar veriyor” yönünde kaygı dile getirdi
• TikTank raporu, özellikle genç kullanıcıların özdenetim kaybı, uyku bozulması ve öğrenme kapasitesinde düşüş gibi yan etkiler yaşadığını belirtiyor

Zarar kümesi 2: Ruh sağlığı sorunları ve filtre balonu

• Kompulsif kullanım; kaygı, depresyon, kendini aşağılama, kendine zarar verme ve intihar düşüncelerini tetikliyor
• Deney hesapları, yalnızca 20 dakika içinde depresyon, intihar ve yeme bozukluğu içerikleriyle dolu bir filtre balonuna sürükleniyor
• TikTok, güzellik filtrelerinin beden algısını bozduğunu ve düşük özsaygıya yol açtığını bildiği halde müdahale etmiyor
• İçerik moderatörleri, dili yorumlayamama, bağlam eksikliği ve belirsiz standartlar nedeniyle kendine zarar verme/intihar içeriklerini uygun biçimde engelleyemiyor

Zarar kümesi 3: Porno, şiddet ve uyuşturucu içeriğinin dolaşımı

• Reşit olmayan hesaplara müstehcen içerikler, uyuşturucu reklamları ve şiddet videoları otomatik olarak öneriliyor
• TikTok’un içerik filtreleme sistemi, ima yoluyla kullanılan kodlu dili doğru biçimde işleyemiyor
• İç belgeler, uyuşturucu ticareti, fuhuş ve kara para aklama gibi faaliyetlerin TikTok LIVE üzerinde gerçekleştiğinin bilindiğini gösteriyor
• Utah başsavcısı, soruşturma sırasında bir çocuğa doğrudan uyuşturucu satıcısının ulaştığı bir vakayı sundu
• Ciddi derecede zararlı içeriğin %30 ila %100’ü filtrelenmeden kullanıcıya gösteriliyor

Zarar kümesi 4: Cinsel sömürü, CSAM ve çocukların canlı yayında seks ticareti

• TikTok, çocuk cinsel istismarı materyali (CSAM) tespit teknolojisini kasıtlı olarak devreye almıyor
• 13-15 yaş arası çocuklar, LIVE yayınlarında yetişkinlerden hediye (sanal para) alıp cinsel içerik sunuyor
• TikTok, bunu bildiği halde kârlılık ve etkileşimi koruma gerekçesiyle görmezden geliyor
• Çocukların doğrudan “dondurma = penis, uzay = soyunmak” gibi mesajlar taşıyarak yayına çıktığı örnekler de var
• LIVE özelliği çocuklar için son derece zararlı olsa da, TikTok içinde bunun “fazla kârlı olduğu için kısıtlanamayacağı” ifade ediliyor

Zarar kümesi 5: Yaş sınırının göz ardı edilmesi ve yetersiz müdahale

• TikTok’ta yaş sınırı bulunmasına rağmen şirket, 13 yaş altı kayıtların ve çocuk kullanımının farkında olduğu halde yaptırım uygulamıyor
• Yaş doğrulama neredeyse tamamen etkisiz ve reşit olmayanlar yaşlarını kolayca yanlış beyan edebiliyor
• Ebeveyn denetimi özelliği (Family Pairing) de neredeyse hiç kullanılmıyor ve gerçek bir koruma sağlamıyor
• TikTok’un güvenlik özelliklerini sadece hükümet ve medya için bir “vitrin” olarak kullandığını gösteren şirket içi belgeler bulunuyor
• DAU (günlük aktif kullanıcı sayısı) ve etkileşim oranını korumak tüm kararların ana hedefi, güvenlik ise öncelikler arasında yer almıyor

Genç kullanıcıların pişmanlığı ve bağımlılığı

• TikTok kullanıcılarının önemli bir kısmı “bağımlı olduklarını biliyor ama bırakamıyor” tepkisini veriyor
• Deney sonuçlarına göre pek çoğu, “herkes birlikte bıraksa seve seve bırakmak isterim” diyor
• Harris Poll anketinde TikTok için “keşke en başından hiç var olmasaydı” diyenlerin oranı %47 ile sosyal medya platformları arasında en yüksek seviye oldu
• TikTok, davranışsal bağımlılık ve sosyal bağımlılığı aynı anda barındıran bir platform; kullanıcılar da bunun kendilerine zarar verdiğinin farkında

Sonuç: Çocukları korumak için TikTok’un düzenlenmesi gerekiyor

• TikTok’taki zararlar basit kazalar değil, tasarımın doğrudan sonucu
• ABD’de milyonlarca çocuk, yalnızca normal kullanım sonucunda bile zihinsel ve fiziksel olarak ciddi zarar görüyor
• Mevcut algoritma ve içerik politikaları altında TikTok, bizzat çocukluk dönemini ihlal eden bir platforma dönüşüyor
• ABD toplumunun geneli açısından da 19 Ocak’ta TikTok hizmetinin durdurulması olumlu bir değişim olabilir

[GN⁺]

Hacker News görüşleri

• Haidt veri analizinde her zaman en temkinli isim olmayabilir, ancak son on yılda temel iddiaları genel olarak büyük ölçüde doğru yönde ilerliyordu

  • iptal kültürü demokratik normlarla uyumlu değil
  • sosyal medya birçok insan üzerinde küçük bir olumsuz etki yaratıyor, bazı insanlar üzerinde ise büyük bir olumsuz etki yaratıyor
  • sürekli telefonu yanında taşımak, özellikle romantik ilişkiler ve flört dahil, sürekli dikkat gerektiren her şey için kötü
  • teknoloji bu sorunu çözmeyecek. Yapay zeka durumu daha da kötüleştirecek. TikTok yasaklanıp daha iyi bir sürümü ortaya çıksa bile yön yanlış. Kültürel bir değişim gerekiyor ve Haidt bunun için elinden geleni yapıyor

• Kentucky Başsavcılığı TikTok hakkında bir rapor yayımladığında metni siyah kutularla kapatmıştı, ancak imleçle kopyalayarak gizlenmiş metin okunabiliyordu. Oldukça komik bir durumdu

• Çocuğu olmadığını ama teknoloji ve çocuklar konusunda başka yolların da mümkün olduğuna dair kişisel deneyimini paylaşıyor

  • 1980'lerde Ortabatı'da yaşarken, ailesinden 1973 baskısı Encyclopedia Britannica'yı ikinci el olarak almalarını istemişti. Bu, çevrimiçi kaynaklardan elde edilebilen merak ve keşif sevincini sunuyordu
  • seyahat ederken bile ansiklopediyi yanında götürüp okurdu. Bu, çocukların teknolojiye bağımlı olmadan da çeşitli ihtiyaçlarını karşılayabilecekleri yollar olduğunu gösteriyor

• Genç kadınların ve ergenlerin hediye talepleri ve cinselleştirilmiş yorumlar almasının yaygın olmasına şaşırıyor. Bunun 18 yaş altındaki kişiler üzerinde büyük etkileri olabilir

• İç raporların yöneticilerin duymak istemediği şeyleri neden yazdığına dair soru işaretleri var

  • yöneticilerin duymak istemedikleri şeyi fark etmedikleri için mi
  • yöneticiler aslında duymak istiyor ama kasıtlı olarak yanlı bir yorum mu bekliyor
  • bilginin yapıcı biçimde kullanılacağını mı düşünüyorlar
  • dürüst araştırmacılar olarak rollerini yerine getirmeye mi çalışıyorlar
  • işten çıkarılmamak için bir tür iş güvencesi mi sağlıyorlar
  • skandal ortaya çıkarsa diye belge kaydı mı bırakmak istiyorlar

• Kentucky Başsavcılığının uygunsuz sansür uygulama biçimini komik buluyor

• Ebeveynlerin çocuklarının cihazlarında belirli siteleri engellemiş olmasını diliyor. Sansürü ve gözetimi daha da büyütmeye gerek kalmayabilirdi

• Sosyal medyanın bağımlılık yapıcı olduğu için kendisinin engellemek zorunda kaldığı deneyimini paylaşıyor. Eğitim açısından video izlemek yararlı olabilir, ancak faydalı içeriği LLM özetleriyle belirlemek daha iyi olur