- Kredi puanı, LinkedIn tavsiyeleri, Uber puanı gibi günlük uygulamalar zaten sosyal kredi sistemi gibi çalışıyor
- Batı'nın Çin'in sosyal kredi sistemi hakkındaki algısı büyük ölçüde yanlış; gerçekte sistem daha sınırlı ve dağınık bir yapıda
- Batı toplumları çeşitli davranış puanlama sistemleri kuruyor ve bunları birbirine bağlayacak altyapı da gelişiyor
- Şirketler ve devletler arasındaki veri paylaşımı ve iş birliği, ayrıca yüksek geçiş maliyetleri nedeniyle bu sistemlerden fiilen kaçmak zorlaşıyor
- İleride kurallar ve puanlar daha şeffaf hale gelirse kullanıcılar da oyunun kurallarını anlayıp seçim yapabilecek
Zaten var olan "sosyal kredi" sistemleri
- Kredi puanları, LinkedIn tavsiyeleri, Uber yolcu puanları, Instagram etkileşim metrikleri, Amazon yorumları, Airbnb ev sahibi statüsü gibi sistemlerin tümü kullanıcı davranışlarını izleyip puanlıyor; buna göre de erişim haklarını, fırsatları ve toplumsal konumu belirliyor
Sosyal kredi kavramının genişlemesi
- Başlangıçta sosyal kredi (social credit), tüketici satın alma gücünü artırmak için sanayinin faydalarını dağıtmaya yönelik bir ekonomik kavramdı
- Bugün ise davranışları izleyen, puanlayan ve bu puanlarla hizmetlere erişimi ile toplumsal statüyü belirleyen tüm sistemleri ifade ediyor
Zaten içinde yaşadığımız gerçeklik
- Bir algoritma güvenilirliği, sorumluluk duygusunu veya toplumsal değeri değerlendirdiği her an, fiilen bir sosyal kredi sistemine katılmış oluyoruz
- Bu değerlendirme görünmeden, sayısız platformda yapılıyor ve gerçek hayatın tamamına uygulanıyor
- Çin ile fark şu: Çin devleti bunu açıkça anlatırken Batı bunu "kullanıcı deneyimi" kisvesi altında gizliyor
Çin'in sosyal kredisi: yanlış algılar ve gerçek durum
- Batı'da Çin'in sosyal kredi sistemi çoğu zaman totaliter gözetim olarak hayal ediliyor, ancak gerçekte 2024 itibarıyla ülke çapında tek bir sistem yok
- Çok sayıda özel puanlama sisteminin kaldırılması ve yerel pilotların sona ermesi nedeniyle bugünkü yapı daha çok finansal ve kurumsal denetimle sınırlı
- Bireysel davranışların puanlanması pilot şehirlerde ya da sınırlı deneylerde kalıyor; kapsamı ve etkisi oldukça dar
- Fiilen takip edilen şey çoğunlukla mahkeme kararlarına uymama ile sınırlı; örneğin borçların veya para cezalarının ödenmemesi
Batı'nın gerçekliği: dağınık puanlama ve bağlantı altyapısı
- Kredi puanları, Uber, Instagram, LinkedIn, Amazon gibi platformların her biri için ayrı davranış profilleri bulunuyor; bunlar da hizmetlere erişimi, fırsatları ve sosyal bağlantıları belirliyor
- Bazı alternatif kredi kuruluşları, kredi değerlendirmesinde sosyal medya profillerini bile kullanıyor
- Ödeme uygulamaları ve finansal hizmetler, kullanıcıların ödeme alışkanlıklarını ve işlem davranışlarını analiz ederek daha kapsamlı risk profilleri oluşturuyor
- LinkedIn algoritma tabanlı görünürlüğü ve ağ bağlantı gücünü değerlendiriyor; Amazon ve Instagram da davranış verilerini kullanımını artırıyor
- Bu sistemler henüz tamamen birleşmiş değil, ancak aralarında bağlantı kurulmasını sağlayacak altyapı giderek oluşuyor
Şeffaflık ve kurallar
- Çin'de yapı dağınık olsa da değerlendirme ölçütleri çoğu zaman kamuya açık
- Batılı şirketlerde ise algoritmik karar ölçütleri tamamen kara kutu olarak saklanıyor
Şirketler ve devlet: temel fark ve fiili durum
- Platform değiştirmenin yüksek maliyeti var; örneğin Google ekosistemi veya LinkedIn ağı
- Her platformdaki davranış ve kredi verileri giderek birbirleriyle paylaşılıyor, bağlanıyor ve ortak kullanılıyor; böylece etkileri büyüyor
- Devletler de hukuki süreçler ve veri satın alma gibi yollarla şirket verilerinden yararlanıyor
Sosyal kredi sistemleri neden genişliyor?
- Uluslararası ölçekte sosyal kredi sistemleri; dolandırıcılığı önleme, iş birliğini teşvik etme ve büyük ölçekli davranış yönlendirme sorunlarını çözebildiği için yayılıyor
- Batı toplumları da şimdiden daha kapsamlı ve daha entegre davranış puanlama yönüne ilerliyor
- Avrupa, dijital kimlik ile puanların bağlantısını güçlendiriyor
- ABD'deki bazı şehirler davranış teşviki deneyleri yürütüyor
- Büyük platformlar itibar verisi paylaşımını artırıyor; finansal hizmetler de sosyal medya analizini devreye alıyor
Karşımızdaki gelecek ve seçimlerimiz
- Sistemler zamanla davranış puanlarını daha şeffaf biçimde ortaya koyar ve kurallar görünür hale gelirse, kullanıcılar hangi davranışların puanlarını etkilediğini anlayabilir
- Eğer algoritma tabanlı tavsiyeler aslında gizli bir sosyal kredi değerlendirmesi ise, değerlendirme ölçütlerini açıkça gösteren bir sistem daha iyi olabilir
- Kuralları anlayan kullanıcı, oyuna aktif olarak katılıp katılmayacağına karar verebilir
Sonuç
- Önümüzdeki dönemde Çin tarzı sosyal kredi sistemlerinin Batılı platformları giderek daha fazla etkilemesi ve davranış puanlarının kural ile yapısının daha açık hale gelmesi mümkün görünüyor
- Artık mesele, bu sistemlerin nasıl çalıştığını anlamak ve kişinin kendisinin de bu oyunun bir oyuncusu olduğunu fark etmesi
1 yorum
Hacker News görüşü
ABD medyasında ve söyleminde, otoriter rejimlerde yaşamın son derece çarpıtılmış biçimde tasvir edildiğine dikkat çekiliyor. Gerçekte birçok ülkede, azınlık, siyasi aktivist ya da suçlu gibi özel bir durumda değilseniz gündelik hayatın Batı’dan çok da farklı olmadığı söyleniyor. Ancak çoğu insan bunu duymak istemiyor. Çünkü böyle bir hayata asla katlanmayacaklarına inanmak istiyorlar. Batılı ülkelerde de otoriterleşme ilerliyor ama insanlar bunu doğrudan hissetmedikleri için inkâr etme eğiliminde oluyor. Elbette hayat tamamen aynı değil, ancak otoriterliğin etkisinin düşünüldüğünden daha sinsi biçimde içeri sızdığı hissediliyor
Birçok ülkede, hatta savaş bölgelerinde bile farklı siyasi sistemler altında yaşamış olma deneyiminden söz ediliyor. Buna rağmen gündelik hayatın neredeyse her yerde benzer olduğu anlatılıyor. Alışveriş yapmak, işe gitmek, arkadaşlarla buluşmak, bir şeyler içmek, dışarıda yemek yemek, düğüne katılmak gibi yaşam kalıplarının aslında birçok yerde benzer biçimde sürdüğü belirtiliyor. Batı’nın OECD dışı, demokratik olmayan ülkeleri tasvir ederken yanlış bir üstünlük duygusu ürettiği ve aynı sorunların orada da yaşandığı açıklanıyor: servetin yoğunlaşması, yoksulluk, baskı gören azınlıklar, göstermelik siyasi katılım, tehlikeli polis ve yolsuzluk. Elbette her ülkenin tamamen aynı olduğu söylenmiyor; siyasi yapıdan çok kültürel ve coğrafi farklar daha belirgin görülüyor
Bir süre göçmen ya da yabancı bir ülkede yeni biri olarak yaşarken yerelin gerçeklerinin çok görünür olmadığı söyleniyor. Ancak zamanla dil öğrenilip daha derine inildikçe güven vermeyen aile ilişkileri, rüşvet ve beceriksizlik üzerine kurulu hiyerarşiler, hukuki korumanın yokluğu ve umutsuz sınıf toplumu gibi sorunlarla karşılaşılıyor. Barış zamanında bile durum buyken savaş başlayınca çoğunluk etnisite azınlıklara zulmedip onları sürgün ediyor
Kısa vadede benzer görünebilir ama aslında eğitimli orta-üst sınıf göçmenlerin neden uzun süre ABD’ye göç etmek istediğini de bu açıklıyor. ABD’nin inovasyonu, ekonomik gücü ve askeri gücü de yolsuzluk yaygınlaşırsa darbe alır; bu yüzden yolsuzluğun ya da toplumsal güven sorunlarının hafifletilmesi gerektiği vurgulanıyor
Azınlıklar, siyasi aktivistler ve hukuki sorunlarla ilgisi olmayan hayatların benzer olduğu doğru olsa bile, tam da bu nedenle Batı’daki liberal hükümetleri tercih ettiğim söyleniyor. Bunun ötesindeki idealin, otoriter hükümetleri eleştirmek ve Batı’da onu korumak için mücadele edilmesi gereken bir değer olduğu düşünülüyor
Çin’de yaşama deneyiminden söz edilerek, sıradan bir vatandaş için gündelik hayatın büyük ölçüde iyi hissettirdiği anlatılıyor. Elbette Asya’nın diğer yerlerinde olduğu gibi iş-yaşam dengesi sorunları var, ancak eski Rusya’daki ya da GDR’deki kadar aşırı devlet kontrolünün olduğu bir ortam olmadığı belirtiliyor. Hatta faşist rejimler altında bile “popüler olmayan” bir azınlığa mensup değilseniz ve ilgisiz kalırsanız gündelik hayat sakin olabilir. Tabii bu ancak savaş başlayana kadar geçerli oluyor
Kanada’dan Kaliforniya’ya iş değiştirince yaşanan kredi sistemi sorunları anlatılıyor. Maaş yüksek olsa da kredi skoru olmadığı için ev bulmak zor olmuş ve bu durum bir yıllık kirayı peşin ödeyerek çözülmüş. Kanada’dan ABD’ye büyük miktarda para transfer etmek de kolay olmamış. Araç satın alırken yeni alınmış SSN sistemde görünmediği için kimlik doğrulanamıyor diye bayi satışı reddetmiş. Buna karşın Amex’teki uzun müşteri geçmişi ABD’de de tanınmış ve yüksek limitli kredi kartı almak kolay olmuş. Zaten şirketlerin işlettiği bir sosyal kredi sistemi içinde yaşadığımız ve bunun tüketici için hatta daha iyi olabileceği düşünülüyor
Kredi skorunun aslen kredi güvenilirliğini ölçmek için var olduğu, ama pratikte çoğu zaman erişimi keyfi biçimde engelleyen bir araç haline geldiği düşünülüyor
Kendisinin de 15 yıl önce Kanada’ya taşındığında neredeyse aynı şeyi yaşadığı anlatılıyor. Teknoloji sektöründe çalışıyor, hiç borcu yok ve yeterli birikimi olmasına rağmen kredi geçmişi olmadığı için uzun süre kredi kartı alamamış, kefil olmadan da kiralık ev tutamamış. Birden fazla ülkede benzer şeyleri yaşayınca, gerçekte birçok topluluğun göçmenlere karşı ayrımcı olduğunu fark ettiği söyleniyor. Eşitlikçilik ideal olabilir ama pratikte kayırmacılık ve önyargıların kurumların içine derin biçimde işlediği hissediliyor
Kredi skorları tamamen şirketler tarafından yönetiliyor. Bu şirketlerin iş modelinin ne olduğu ise bir türlü anlaşılmıyor
Amex’in bu tür durumlarda oldukça esnek davrandığı hissediliyor. Kredi skoru olmadan bile kişisel kart almak kolay olmuş; bunda şirket üzerinden daha önce Amex kartı kullanmış olmanın etkili olduğu düşünülüyor
Yıllar önceki bir HN yorumundaki “gerçek hayatta da sosyal kredi vardır” görüşü paylaşılıyor. Örneğin barmene kaba davranırsanız o barda itibarınız düşer, gönüllü olursanız o kurum içinde itibar kazanırsınız. Algoritma olmasa da insanlar hatırlar
İstenirse bir gün başka bir kasabaya taşınıp yeni bir başlangıç yapılabilir. Merkezi sosyal kredi sisteminin sorunu, itibarın ömür boyu peşinizden gelmesidir. Üstelik bir hata sonucu yanlış kayıt oluşursa bunun telafisi için bir yol yoktur. İnsanlar arasında doğrudan çözülebilecek şeyler sistem içinde çözülemez
Gerçek dünyadaki itibarın, yani sosyal kredinin, genelde gevşek, yerel ve zamanla değişen ya da yok olan bir şey olduğu söyleniyor. Buna karşılık dijital sosyal kredi otomatikleştirilmiş puanlarla ömür boyu peşinizi bırakmıyor ve mutlak sonuçlar dayatıyor
Birinin, barmenlerin müşterileri gerçekten çok iyi hatırladığını düşündüğü ama gerçekte aynı vardiyada daha da kötü birçok örnek bulunduğu için çoğuna dikkat bile etmediği söyleniyor. Kâr amacı gütmeyen kuruluşlarda da zamanla görevli kişiler değişiyor ve geçmiş gönüllüleri hatırlayan kimse kalmıyor. Bazı şeylere gereğinden fazla ağırlık vermek “spotlight effect” yüzünden oluyor
Çevrimdışı itibarın farkı, tüm ilişkilerin fiziksel mekânlarda ve sahada gerçekleşmesidir. Etkileşimin somut bir değeri olması gerekir. Bir yerde kötü bir itibar oluşsa bile başka bir yere taşınırsanız peşinizden gelmez
İtibarın zaten baştan beri bir tür sosyal kredi olduğu, modern farkın ise ölçek ve şeffaflıkta yattığı söyleniyor
Çin ile diğer ülkelerin kayıt sistemleri arasındaki farklar örnekle açıklanıyor
Sosyal krediyi tek bir merkezi gücün kontrol etmesi ve hukukun bireyi o güçten koruyamaması halinde bunun temel bir fark yarattığı vurgulanıyor. Bunun dışında insanlar zaten her zaman birbirlerini çeşitli biçimlerde değerlendirdi
Sosyal kredi “puanı” tek bir merkezi gücün eline geçtiği anda, sıradan toplumsal geri bildirim olmaktan çıkıp yapısal bir güce dönüşüyor
Çin’deki güncel durumun doğru anlaşılması gerektiği vurgulanıyor. 2024 itibarıyla ülke çapında kişisel bir kredi puanı sistemi hâlâ yok; olanların çoğu finans ve şirket denetimine yönelik araç düzeyinde kalıyor. ABD’de ise üç özel kredi kuruluşu finansla bütünüyle iç içe geçmiş bir kredi skoru sistemi oluşturmuş durumda; ama kamuya açık bir kredi sistemi getirilse en azından şeffaflık ve denetim mümkün olabilir deniyor. Equifax ve Experian gibi kurumların veri sızıntılarında neredeyse hiç sorumluluk taşımadığı gerçekliği eleştiriliyor
Elbette insanlar birbirlerini hep değerlendirir, ama şirketlerin beni değerlendirip bunu bir “hizmet” olarak satması çok farklı bir şeydir
Amazon örneği verilerek, alışveriş/iade oranımın üçüncü taraflarla paylaşılmadığı açıklanıyor
“Çin’in sosyal kredisi ile telefon arasındaki fark, Çin’in bunu yaptığını dürüstçe söylemesi” iddiasına karşı, telefonlarda birden fazla seçenek olduğu ve hatta hiç kullanmamayı bile seçebildiğimiz, ama devlet sisteminden tamamen kaçmanın imkânsız olduğu söyleniyor. Şirket sistemleri arasında geçiş maliyeti yüksek olsa da ülkeler arasında geçiş maliyetine göre çok daha düşük kalıyor. Özel sistemler arası işbirliğinin artması sorun olabilir, ancak bunun devletin topyekûn kontrolünden temelde farklı olduğu düşünülüyor. Hükümetler özel verileri satın alıp temel hakları sınırlarsa asıl tehlike o olur; örneğin Kanada’daki protesto bağış hesaplarının dondurulması meselesi. Ama mesele sadece veri satın almaktan ibaret değil. Son olarak, sosyal kredinin tanımının özünde ne olduğu konusunda bile tartışma bulunduğu söyleniyor
Çin’de “çok fazla alkol alırsan puanın düşer” türü anlatılara karşı, ilk Çin seyahatinde reşit olmamasına rağmen hiçbir engelle karşılaşmadan alkol satın alabildiği deneyim paylaşılıyor. Bunun ABD’den çok daha gevşek hissettirdiği belirtiliyor. Ayrıca alkol satın alma miktarını yasayla izlemek yerine sonucu, örneğin kamusal alanda sarhoşluk yüzünden sorun çıkmasını, hedef almanın daha verimli olduğu düşünülüyor
Çinli bir eş ve aile deneyimine dayanarak, reşit olmayanların alkol kullanımı Çin’de daha çok aile meselesi olarak görüldüğü anlatılıyor. 16 yaşındaki biri sarhoş olursa çevresindeki aile ve arkadaşlar itibarı daha çok önemser, polis ise en son devreye girer. Hatta kamusal alanlardaki taşkın içki davranışının Çin’de Batı’ya göre çok daha az hissedildiği söyleniyor
Parti hazırlığı ya da indirimli ürün almak için çok miktarda alkol alınsa bile puanın otomatik olarak düşmesi mantıksız olurdu. Çünkü satın alma anında tüketim anlamına gelmez
Batı’da da Çin’e benzer sistemlerin zaten bulunduğu, ama düzenlemenin daha zayıf olduğu vurgulanıyor. Sosyal kredinin yeni bir kavram olmadığı ve ille de Orwellvari bir kontrol anlamına gelmediği söyleniyor. Böyle sistemlerin hükümetler ya da şirketler tarafından kötüye kullanılmasının sebebinin, bunları yönetmememiz, düzenlemememiz ya da şeffaflık talep etmememiz olduğu belirtiliyor. Bu sistemlerin zaten var olduğunu kabul etmek; veri toplama ve saklama ile hükümetlerin özel verileri edinmesine yönelik düzenleme ihtiyacı etrafında toplumsal bir uzlaşı kurmanın ilk adımıdır. Mevcut durum sadece sermayeye yarıyor, demokrasiye ve yurttaş haklarına zarar veriyor; bu yüzden değişim gerektiği vurgulanıyor
Kredi ya da itibar sistemlerinin piyasanın doğal gelişiminin sonucu olduğu görüşü çerçevesinde İsveç örneği veriliyor ve uzun zamandır “kredi sorgulaması”nın çok yaygın olduğu anlatılıyor. Son dönemde şirketlerin tüketicilerin kredi skorlarını geliştirip, kişinin kendi puanını görebilmesi için ücretli abonelik satın almasını zorunlu kıldığı da belirtiliyor. Bu süreç, şirketlerin riski ve maliyeti yönetmek ve daha verimli işlem yapabilmek için tüketicinin değerini doğrulama çabası olarak açıklanıyor
Topluluk içinde küfür etmeden ya da sorun çıkarmadan davranma biçiminin nedeni anlatılıyor. Geçmişte UseNet döneminde sık sık trolleyen ve saldırgan yazılar yazan biri olduğu, ama bunun son derece olumsuz bir deneyim olduğu söyleniyor. Artık kişisel bütünlük ve üretken bir toplum üyesi olma yönündeki kendi ölçütlerine göre davrandığı ifade ediliyor. Bunu başkalarının değerlendirmesi ya da itibar için değil, kişinin kendisi açısından önemli olduğu için yaptığı belirtiliyor