Ölçekten Kaynaklanan Verimsizlik: Dolandırıcılık, Spam, Kötüye Kullanım ve Moderasyon
- Büyük platformlarda, küçük platformlara kıyasla dolandırıcılık, spam ve kötüye kullanım oranı daha yüksektir.
- Örneğin, Signal'de bir kez bile spam mesajı görmedim ama WhatsApp'ta düzenli olarak alıyorum.
- Teknik içerik okurken karşılaştırma yaptığınızda, daha az bilinen küçük forumlar veya lobste.rs gibi sitelerde kötü içerik oranı büyük platformlara göre daha düşüktür.
- Reddit, YouTube, Facebook ve Google arama sonuçları gibi orta ve büyük sosyal medya platformlarında daha yüksek oranlarda olumsuz içerik bulunur.
- Platform büyüdükçe, iyi destek alma olasılığı azalır ve yanlışlıkla askıya alma ya da yasaklama nedeniyle hesapların geri getirilme şansı da düşer.
Büyük Platformların Sorunları
- Büyük platformların daha iyi moderasyon ve daha iyi spam/dolandırıcılık filtreleme yapacağı iddialarını sorguluyor.
- Google'daki mühendisler ve düşünürler, sadece büyük platformların etkili moderasyon, spam filtreleme ve dolandırıcılık tespiti yapabileceğini savunur; ancak pratikte küçük arama motorları SEO suistimallerine karşı daha dirençlidir.
- E-posta yönetiminin, spam yükü nedeniyle mümkün olmadığına dair yaygın bir algıya karşın, birçok kişi kendi e-postasını yönetiyor ve Gmail ile benzer ya da daha iyi sonuçlar alıyor.
Büyük Platformların Moderasyon Sorunu
- Mark Zuckerberg, büyük teknoloji şirketlerinin bölünmesinin moderasyon sorunlarını daha da artıracağını öne sürmüştür.
- Zuckerberg'ın argümanı, büyük platformların daha fazla kaynağa sahip olmaları nedeniyle daha iyi moderasyon yapabilecekleri yönündeydi; ancak bu kaynaklar genellikle başka alanlarda kullanılıyor.
- Örneğin Meta, metaverse geliştirmeye 50 milyar dolar yatırım yapmış olsa da, moderasyon platformu ve teknolojisine yatırım yapmamıştır.
Destek Sorunu
- Büyük platformlarda kullanıcı desteği genellikle tatmin edici değildir.
- Standart destek kanalları verimsizdir; kullanıcılar sık sık standart ret mektuplarıyla veya Kafkaesk bir kabusla karşılaşır.
- Ücretli destek kullananlarda da çoğunlukla ücretsiz destekle büyük ölçüde aynı deneyimle karşılaşılır.
- Büyük şirketler büyüdükçe, destekte etkinliği artırmak yerine daha ucuz ve kârı maksimize eden destek sağlamaya kayarlar.
GN⁺ Görüşü
- Büyük platformlar daha fazla kaynağa sahip olmalarına rağmen kullanıcı deneyimi sıklıkla daha küçük platformlardan daha kötü kalmaktadır; çünkü bu platformlar kaynakları, kârı azamiye çıkarmak için kullanıp kullanıcı deneyimini geliştirme amaçlı harcamıyorlar.
- Kullanıcı desteğinin kalitesi, platform büyüklüğüyle ters orantılı bir eğilim gösterir; bu, büyük platformların karmaşıklığına ve verimsiz destek sistemlerine bağlıdır.
- Bu yazı, büyük platformların sorunlarını işaret ederek kullanıcıların daha küçük platformları tercih ederken göz önünde bulundurmaları gereken önemli unsurları sunar.
1 yorum
Hacker News yorumları
Yazının bu sorunun kapsamını hafife aldığını düşünüyorum. Kısaca değinip geçiyor ama genel olarak şirketlerin aşırı devasa hâle gelmesinin kendisinin kötü olduğunu düşünmeye başladım; bu sadece içerik moderasyonu meselesi değil.
Büyük şirketler tekil tüketicileri önemsemek zorunda kalmıyor ve fiilen de önemsememeye başlıyor. Bunun sonucunda, “yaptıkları işi iyi yapmaktan” çok pazar konumlarını savunmaya zaman harcıyorlar; kimi zaman da büyük holdingler gibi tamamen alakasız pazarlara açılmaya çalışıyorlar.
“Ölçek ekonomileri” yalnızca tek tek şirketlerin para kazanması anlamında iyi; tüm ekonomi, toplum ve insanlık açısından faydaya bakınca neredeyse tüm ölçek ekonomilerinin zararlı olduğunu düşünüyorum.
Ölçek ekonomileri çimlerin ya da yabani otların gür biçimde büyümesi gibi doğal; ama bu onların iyi olduğu anlamına gelmiyor ve çoğu pratik amaç için aktif biçimde dizginlenmeleri gerekiyor. Şirketlerin büyümesi doğal, ancak büyük şirketlerin sırf büyüdükleri için bile düzenli olarak bölünmesi gerektiğini düşünüyorum.
Ahlaki tehlike, kötü niyetli ya da yetersiz destek gibi başkalarına doğrudan verilen zararların yanı sıra kirlilik veya yerel ekonominin durgunlaşması gibi dışsallıklar üzerinden dolaylı zararları da kapsar. Bu sezginin açıkça doğru olduğunu düşünüyorum.
Ahlaki tehlike, aile ya da köy gibi küçük gruplarda bulunan toplumsal düzeltme devrelerini koparır; ama aynı zamanda muazzam servetin yaratılmasını ve biriktirilmesini de mümkün kılar. Felsefede buna kirli eller sorunu denir.
https://en.wikipedia.org/wiki/Moral_hazard
https://plato.stanford.edu/entries/dirty-hands/
Temel ihtiyaçlarda ölçek ekonomileri sayesinde herkesin geçimlik tarım yapması gerekmiyor ve dikilmiş kıyafetler giyebiliyoruz.
İki tarafın da haklı olduğu noktalar var. Çivi üretiminin elle yapılmasını istemem; ama müşteri desteğini aradığımda gerçekten yetkisi olan birinin yanıt vermesini de isterim.
İnternet dolandırıcılığıyla ilgili sorun, dolandırıcılardan gerçekten hesap soran neredeyse kimsenin olmaması. Şu anda fiilen yapılan şey sadece “kapı dışarı etmek”; dolandırıcı da kovulduktan sonra tekrar deniyor ve sonunda neredeyse her zaman başarılı oluyor.
Bu yüzden dolandırıcılık endüstrisi genel olarak kârlı ve büyümeye devam ediyor.
Blizzard’da çalışırken, sahte kredi kartı işlemlerini tespit edip gerçek tahsilattan önce iptal eden birçok mekanizma vardı; ama dolandırıcıları bildirip ertesi gün aynı şeyi yapmalarını engelleyecek bir süreç yoktu.
Muhtemelen tüm şirketler benzer bir strateji izliyordur. Çünkü hiçbir şirketin dolandırıcıdan hesap sorup tekrar denemesini engelleyecek gerçekçi bir aracı yok.
Bu nedenle dolandırıcılık sorunu giderek büyüyor, yönetilemez hâle geliyor ve kontrolden çıkıyor. Hükümetlerin dolandırıcılık endüstrisinin ölçeğini küçültmek için özel birimler kurup dolandırıcıları yakalayarak hesap sormasını gerektiren siyasi bir açmaz bu.
Daha da zor olan, bunun yargı yetkilerini aşması; bu yüzden birden çok ülke hükümetinin birlikte çalışması gerekiyor. Şimdilik imkânsız görünebilir, ama o zamana kadar dolandırıcılığın kötüleşmeye devam edeceğini düşünüyorum.
20 dolarlık bir satın alma için FBI’ı çağıramazsınız.
Uyuşturucuyla savaş benzetmesi yapılabilir. Başlıca hedefler hep alt düzey satıcılar ve kullanıcılar oldu; bunları yakalamak kolaydı ve “bir şey yapıyoruz” demek de kolaydı. Ama uyuşturucu satış işi ve sokaktaki arz üzerinde etkisi görece küçüktü; kök nedenleri hedeflemek ise çok daha zor.
Blizzard’ın dolandırıcılığı bildirmesinin kısa vadeli bir ödülü yok; uzun vadede işe yarayıp yaramadığını bilmek de zor. Yine de sonuçta doğru olanı yapmak önemlidir.
“Hızlı hareket et ve bir şeyleri kır” harika bir strateji olabilir, ama tek başına kullanılmamalı. Yoksa geride temizlenmemiş bir yıkım izi kalır. Hedefleri sayısallaştırmak zor olduğu için tüm amaç fonksiyonları sapmaya yatkındır; insanların bunu görüp mümkün olduğunca yönü düzeltmesi gerekir.
Hızla bastıran insanlara da, yavaşlatıp onarmaya çalışan insanlara da ihtiyaç var; uyum bu gerilim içinde bulunur. Hangi tarafı seçerseniz seçin, karşı tarafta da değer olduğunu kabul etmelisiniz.
Örneğin şirketin bildirim için $X ödemesi, bu bildirim para cezasıyla sonuçlanırsa $X5 alması, bildirimin saçma olduğu ortaya çıkarsa ek olarak $X10 ödemesi gibi bir yöntem akla geliyor. Bildirim geçerli görünür ama para cezasıyla sonuçlanmazsa ödül olmaz.
Yanlış teşviklerin aşırı bildirimlere veya başka yan etkilere yol açmasından endişe ediyorum.
Birden dolandırıcılığı kovuşturmaya başlarsanız parası bol aktörler için rahatsız edici şeyler olur.
Bu tür platformların gerçek “ölçek ekonomisi”, destek, moderasyon ve dolandırıcılık önlemeyi daha iyi sunmalarında değil; fiilen hiçbir şey yapmayıp piyasa hâkimiyetine dayanarak bunu geçiştirebilmelerinde yatıyor.
Küçük bir kasabada Andy’nin taksi hizmetini işletirken müşteri desteğiyle ilgili bir sorun çıkarsa, bunu bizzat düzgünce çözmek zorundasınız; yoksa batarsınız. Uber ise bunu görmezden gelir.
Bunun verimlilikle ilgisi yok; müşterilere kötü davranıp yine de paçayı kurtarabilecek tekel gücünü elde etme meselesi. Buna daha büyük bir saldırı yüzeyi de eklenince, büyük platformlar spam, dolandırıcılık ve destek konusunda daha da kötüleşiyor.
Uber hakkında çok şikâyet var ama Uber öncesi taksi deneyimi çok daha kötüydü. Örnek düzeyde hizmet sunan Andy’nin küçük kasaba taksi servisi ya hiç yoktu ya da seyahat sırasında güvenilir biçimde bulunamayan bir istisnaydı.
Büyük şehirlerde de taksilerin çoğu sokaktan çevrilir ya da merkezi bir çağrı hattıyla çağrılırdı; bu yüzden tek tek taksi şoförlerinin kendi itibarını önemsemesi için pek neden yoktu. Belirli bir taksiyi seçip binmiyorsunuz ve tekrar eden işlem de az olduğundan müşteri hizmetleri önemli değildi.
Umursamasına gerek yok; toplu dava da grup çok küçük olduğu için avukatların üstlenmeyeceği bir şey olurdu.
2014’te Jeff Atwood, yani codinghorror, Stack Overflow’dan Discourse’u yapma tarafına geçtiğinde bununla ilgili bir konuşma yapmıştı; Discourse’un güven düzeyi sistemini neden o şekilde tasarladıklarını kısaca açıklayan bir cümle aklımda kaldı:
“Toplulukla birlikte ölçeklenen tek şey topluluğun kendisidir.”
Özü şu: kullanıcıları moderatör olarak yetiştirmek gerekir. Moderatörleri başka bir yolla sağlamak sürdürülebilir değildir.
http://discourse.bridgefoundry.org/t/link-to-jeff-atwood-tal...
Kullanıcı: “AI, şu anki okuma durumum ne?” AI: “EveningSurfMood2; StuffFromFriends öne çıkarılıyor; EclecticTopicsLarge içinde Dang’in HighQ Discussion v3’ü, Alice12’nin Clueful Author Making Coherent Argument Filter’ı ve hugging’in UnusuallyInsightful51’i var.”
Okurken AI: “Mastatron’dan bir değerlendirme isteği geldi. Bu gönderi büyük ölçekli bir insan-AI hesaplama hibriti fırsatını hafife mi alıyor?” Kullanıcı: “Ah, doğru.”
Yazar seçim etkisinin faydalarını yetkinlikle karıştırıyor gibi.
Platformlarda dolandırıcılıkla mücadele etmiş kişiler, dolandırıcılığın da bir tür piyasası olduğunu bilir. Bir açığı öğrenip uyguladığınızda elde edeceğiniz kazanç, gereken çaba ve bunun kaç kez tekrarlanabileceğine bağlı olarak her platformda piyasanın temizlendiği düzeyde bir dolandırıcılık oluşur.
Küçük platformlarda dolandırıcılığın çok daha az olmasının nedeni genellikle saldırı değerinin çok daha düşük olmasıdır; bunun nedeni de zaten küçük olmalarıdır.
Büyük platformların dolandırıcılık ve spam önleme yetkinliği gerçekten çok daha yüksektir, ancak faaliyet alanları o kadar cazip bir hedef olduğu için yine de çok darbe alırlar.
Dünyadaki dolandırıcıların Amazon, Google ve Facebook’la karşı karşıya olduğu bir tablo bu. Çok dengesiz bir mücadele ve bütüne bakıldığında platformların şaşırtıcı biçimde iyi dayandığını düşünüyorum.
Ancak bu argüman doğruysa ve sistemler gerçekten iyiyse, mutlak ölçütte Reddit’te veya Facebook’ta spam yaymak ya da dolandırıcılık yapmak HN’ye göre daha zor olmalı; oysa gerçekte hiç de öyle değil, diye karşı çıkıyor.
Bu yanıt sezgisel olarak makul. Büyük şirketler gerçekten kötüye kullanım ve dolandırıcılık önleme konusunda daha yetkin olsaydı, uzun süre boyunca dışarı sızan dolandırıcılıklar daha incelikli ve daha az bariz olmalıydı.
İş modelleri “ne pahasına olursa olsun ölçek” ise ve bu yüzden müşteri deneyimi kötüleşiyorsa, ne kadar yetkin oldukları pek önemli değil.
Mümkün olan en büyük kullanıcı havuzuna erişim satma iş modeliyle iç içe geçmiş durumda.
Büyük platformların dolandırıcılık ve spam önlemede çok daha yetkin olduğu sözüne katılmıyorum. Bunlar kasıtlı olarak beceriksiz. Çünkü otomatik algoritmaların ürettiği hata miktarını ele alacak yeterli insan desteğini sağlayan gerçek bir yetkinliği hayata geçiremezler.
Sebep maliyet değil; bunu yaparlarsa gerçek müşterileri olan reklamverenlere veya erişim satın alanlara sundukları değer azalır.
Genel olarak katılıyorum, ama bazı örneklerin hedefi ıskaladığını düşünüyorum.
Reddit bu etki yüzünden kötü bir örnek değil, aksine iyi bir örnek. Reddit tek bir dev platform değil; bağımsız biçimde modere edilen binlerce subreddit’in birleşimi. Küçük subreddit’ler küçük ölçekleri sayesinde Reddit’in ayakta kalmasını sağlıyor.
Kendi e-posta sunucunu çalıştırmak da karşı örnek değil; gerçekten kötü bir örnek. Çünkü özünde küçük bir topluluğu düzenlemek değil, tüm dünyayı —ama yalnızca kendi bakış alanından— düzenlemek anlamına geliyor. Herkes herkese e-posta gönderebilir.
Bu yüzden iki dünyanın da en kötüsünü yaşıyor. Büyük ölçeğin getirdiği bütçe yok, ama büyük ölçekli sorunlar aynen var.
Ben dünyayı düzenlemek için uğraşmıyorum; dünya beni düzenliyor.
Küçük kuruluşlar spam gibi görünmemeyi pek bilmiyor ve şirketlerde yaygın olan sinir bozucu e-posta imzası gibi anti-pattern’leri de kullanıyor.
Bu yüzden Gmail’in benim spam filtrem kadar isabetli olması çok daha zor. Benim filtrem yalnızca birkaç yüz kişinin tercihini öğrenmek zorunda; Gmail ise kaçınılmaz olarak overfitting riski taşır.
Bu yazıyı bir bütün olarak ele alınca, net bir dev liderin olmadığı daha büyük bir rekabete ihtiyaç olduğu sonucuna varılıyor. Potansiyel olarak orta ölçekli ve daha küçük birçok şirket olursa ve güç tek bir tarafta toplanmazsa, daha iyi deneyim sunmak için teşvik doğar; kötü niyetli aktörler açısından da hedefler çok olduğu için iş zorlaşır.
Düzenleme ve piyasa rekabeti ruhu açısından, birkaç trilyon dolarlık dev yerine toplam değeri 100 milyar doların üzerinde olan orta ölçekli yazılım şirketleri yaratmayı teşvik etmemiz gerektiğini düşünüyorum.
Donanım, ölçek ekonomileri açısından biraz farklı olduğu için aynı argümana dahil etmek istemem; ama orada da bir şeyler olabilir.
Rockefeller, antitröst davası başlamadan önce yaklaşık %90 pazar payına sahipti; ama karar çıktığında payı zaten düşmüştü. Bu, tek bir aktör %90’a sahip olsa bile piyasanın sonunda bu büyüklüğü küçültebileceğini gösteriyor.
Aynı zamanda Rockefeller topluma çığır açıcı yenilikler de getirdi. Başta sermayenin onda toplanması, toplumu ileri taşımak için kullanıldığı anlamında iyiydi; daha sonra sermayenin kendiliğinden dışarı akması da başka yerlerde ihtiyaç olduğu için iyiydi.
Bugün aşırı büyük şirketlere merkezileşme birçok faktörden etkileniyor; ölçek ekonomileri bunlardan biri ama fikrî mülkiyet hukuku da büyük bir etken. Aslında fikrî mülkiyete gerek olmadığını düşünüyorum.
Çoğu düzenlemenin, düzenlenen şirketler tarafından yazıldığını ve rekabeti engelleme işlevi gördüğünü tahmin ediyorum. Ayrıca merkezileşmenin WWI/WW2 sırasında hükümetin, otomobil yerine tank üretme emrini yalnızca birkaç kişiye vermesinin daha kolay olmasıyla iyice başladığını ve bunun ABD hükümetinin stratejik hedefi de olduğunu düşünüyorum.
Yazılım ve çevrimiçi hizmetlerde durum özellikle kötüydü; çünkü düzenlemeleri dolanmanın çok fazla yolu var. Apple’ın AB’ye karşı kötü niyetli biçimsel uyumu bunun bariz bir örneği; Facebook’un WhatsApp satın almasına izin verilmesi için sohbet ile sosyal medyanın farklı pazarlar olduğuna ikna etmesi ise daha incelikli bir örnek.
İdeal olarak hedef yalnızca tekelci suistimali engellemek değil, tekelin kendisini engellemek olmalı: https://pietersz.co.uk/2009/11/fix-capitalism
Kolayca düzeltilebilir. Amazon’u kendi platformundaki tüm satışlar için garanti sorumluluğu taşır hâle getirmek yeterli.
Amazon, satıcının kendisi olmadığını, platforma ilan koyan anonim tarafın satıcı olduğunu iddia ediyor. Bu konuda Pennsylvania’da bir dava vardı; Amazon’un ağır bir yenilgi alma ihtimali yükselince emsal karardan kaçınmak için uzlaştı.
Reklam tarafında ise üçüncü taraflar adına reklam yayımlayan herkes, talep edildiğinde reklamverenin gerçek adını ve adresini sunabilmeli; sunamıyorsa reklam içeriğinden sorumlu olmalı. Şirketlerin anonim olma hakkı yoktur. AB’de ve California’da zaten böyle yasalar var.
Dolandırıcılığın sorun olmasının nedeni, bunun zor olması değil; büyük platformların buna olanak sağlasalar bile sorumluluktan muaf olmaları.
Reklamverenlerin para alması gerektiği için bunun zaten böyle olmaması biraz şaşırtıcı. Yine de reklam vermeyi zorlaştırıp küçük işletmelere zarar verebilir; ama müşterileri kandırmak da bir sorun.
Büyük platformlar doğrulama maliyetini umursamaz; dolandırıcılar da planları bozulursa aynı şeyi tekrarlar.
Meşru işletmeler içinse yalnızca bir baş ağrısı daha ortaya çıkar. Özel durumlarda kullanıcılar bitmek bilmeyen bürokratik bir arafta kalabilir. İnsan destek ekibi olsa bile “Sağladığınız belgelerle kimliğinizi doğrulayamıyoruz. Bu, 2026 Çevrimiçi Platform Güvenliği Yasası kapsamında bir uyum gerekliliğidir” gibi anlamsız ifadeleri tekrarlayacaktır.
Bu sırada dolandırıcılar müşteri tanıması tamamlanmış hesaplar üretmeye devam edecektir. Platform yalnızca yeni düzenlemeye uyuma odaklanacak, bu süreç güvenlikle ilgisiz hâle gelecektir. Amazon her satıştan komisyon kazanmaya devam eder; büyük platformlar da uyum gerekliliklerini rakipler için giriş engeli olarak keyifle kullanır.
Sonunda tüm kişisel verilerin sızdığı gün de gelecektir. İhlal herkesin gözü önüne serilir; bu da dolandırıcıların yaşamadığı türden bir baş ağrısıdır.
“Devleti biraz daha kullanırsak kolayca düzelir” diyen her yazıyı gördüğümde 1 dolar alsaydım bir VC fonu kurabilirdim. İnsanlarla ve teşviklerle uğraşırken işler asla bu kadar basit değildir. İnsan toplumu, hataları ortadan kaldırmak için yama yapılabilecek bir codebase değildir.
Bu yazıda açılacak çok konu var ama özünde mesele büyüklük miti ve küçük olanın güzel olması.
Big Tech’in kendine ait güçlü bir mit yaratarak başarılı olması şaşırtıcı değil. Büyük örgütler de ulus devletler de benzersiz yetkinlik, hatasızlık ve istisnailik mitleri üretir.
Aynı zamanda ölçeğin verimsizlik, yozlaşma, hantallık ve duyarsızlık getirdiği de söylenmeye gerek bırakmayacak kadar açık. Büyük tekelleri ayakta tutan korumacı önlemler olmasaydı, gerçek rekabet koşullarında paramparça olurlardı.
Ölçek ekonomilerinin kullanıcılara nasıl fayda sağladığını kolayca düşünebiliriz; ama bu, her alanda ölçek ekonomilerinin ölçek kaynaklı verimsizliklere üstün geldiğini varsaymamız gerektiği anlamına gelmez.
Bir şirket büyürken nelerin iyileştiğine ve nelerin kötüleştiğine birlikte bakmak gerekir; bazı şeyler iyileşiyor diye her şeyin iyileşeceğini ya da tersini varsaymamak gerekir.
Amazon’un bariz şekilde sahte SD kartlar veya flash depolama aygıtları satmasını anlamak zor. Bunları tespit etmek de çok kolay; sahte depolama aygıtları kullanıcı verilerini yok ettiği için ciddiye alınmalı gibi görünüyor.
https://a.co/d/auXcxrZ 1TB’ı 29 dolara satıyor ve bunu “overall pick” olarak öne çıkarıyor.
Çünkü üreticiden mağaza rafına kadar gözetim zinciri var ve kaynağı belli.
Amazon gibi yerler, birden fazla satıcının “aynı” ürünlerini tek bir büyük satış stok kutusunda karıştırıyor.
Bu akışı durdurabileceklerini sanmıyorum.
Çevremdeki teknik olmayan kullanıcılar, her şeyde 1TB’a ihtiyaçları olduğunda ısrar ediyor. Bir kişi sırf 1TB alanı olsun diye iPad Pro aldı. Önceki iPad’ini 8 yıl kullanmış ve yaklaşık 64GB’ı doldurmuştu; bir daha asla yetersiz kalmasını istemiyordu.