Meta, yapay zeka eğitimi için çalışanların fare hareketlerini ve tuş vuruşlarını toplamaya başladı

• Meta, ABD’deki çalışan bilgisayarlarına fare hareketlerini, tıklamaları ve tuş vuruşlarını izleyen bir yazılım kurarak bunları yapay zeka model eğitimi verisi olarak kullanıyor; ayrıca iş uygulamaları ve web sitelerinde ekran görüntülerini de düzenli olarak yakalıyor
• Model Capability Initiative (MCI) adı verilen bu aracın amacı, açılır menü seçimi ve klavye kısayolu kullanımı gibi yapay zekanın hâlâ insan davranışını iyi kopyalayamadığı alanlar için eğitim verisi toplamak
• CTO Andrew Bosworth, Agent Transformation Accelerator (ATA) olarak yeniden markalanan şirket içi yapay zeka dönüşüm programı üzerinden, "ajanların işi büyük ölçüde yaptığı, insanların ise yönlendirdiği, gözden geçirdiği ve iyileştirdiği" bir vizyon sundu
• Meta, 20 Mayıs’tan itibaren küresel iş gücünün %10’unu azaltmaya başlarken, çalışanları kodlama gibi işlerde AI agent kullanmaya aktif biçimde teşvik ediyor
• Hukuk akademisyenleri, bu adımın beyaz yaka çalışanlara mevcut kurye ve gig çalışanı düzeyinde gerçek zamanlı gözetim uyguladığını ve Avrupa GDPR’yi ihlal etme olasılığının yüksek olduğunu söylüyor

---

MCI aracının çalışma şekli

• MCI, çalışanların iş uygulamaları ve web siteleri üzerinde çalışıyor ve fare hareketlerini, tıklamaları ve tuş vuruşlarını kaydediyor
• Çalışan ekranı içeriğinin düzenli aralıklarla anlık görüntüsünü alma özelliği de bulunuyor
• Bu durum, bir AI araştırma bilimcisinin Meta SuperIntelligence Labs ekip kanalında paylaştığı şirket içi not ile ortaya çıktı
• Amaç, açılır menü seçimi veya klavye kısayolu kullanımı gibi AI modellerinin insanın bilgisayar etkileşimlerini kopyalamakta zorlandığı alanları geliştirmek
• Açıklamaya göre, "tüm Meta çalışanları günlük işlerini yaparak bile model iyileştirmesine katkı sağlayabilir"

Yapay zeka odaklı iş dönüşümü stratejisi

• CTO Andrew Bosworth, ayrı bir notta şirket içi veri toplamayı artıracaklarını söylerken, bu programı Agent Transformation Accelerator (ATA) olarak yeniden markaladı
• "Ajanların işi büyük ölçüde yaptığı, insanların rolünün ise yönlendirme, gözden geçirme ve iyileştirmeye destek verme olduğu" bir vizyon sundu
• Hedef, ajanların insan müdahalesi gerektiğini düşündükleri noktaları otomatik olarak belirleyip bir sonraki sefer daha iyi hale gelmeleri
• Bosworth, ajanların nasıl eğitileceğini açıkça anlatmasa da, "iş akışındaki her türlü etkileşime ilişkin veri ve değerlendirmeleri biriktirme" konusunda katı olacaklarını söyledi
• Meta sözcüsü Andy Stone, MCI verisinin model eğitimi girdilerinden biri olduğunu kabul etti

Yapay zeka temelli iş gücü yeniden yapılanması

• MCI verisi performans değerlendirmesinde kullanılmayacak ve yalnızca model eğitimi amacıyla değerlendirilecek; "hassas içerikleri" korumaya yönelik önlemler olduğu söylense de hangi verilerin toplamadan çıkarıldığı açıklanmadı
• Yapay zeka araçlarının uygulama geliştirme, büyük ölçekli veri düzenleme gibi karmaşık işleri asgari insan gözetimiyle yürütme kapasitesi Silikon Vadisi’ni etkisi altına almış durumda; bu da geleneksel yazılım şirketlerinin hisselerinde düşüşe ve büyük çaplı işten çıkarma planlarına yol açıyor
• Meta, 20 Mayıs’tan itibaren küresel iş gücünde %10 küçülmeye başlayacak ve bu yıl ek büyük kesintileri de değerlendiriyor
• Amazon, son birkaç ayda yaklaşık 30.000 beyaz yaka çalışanı (yaklaşık %10) işten çıkardı; Block ise şubatta çalışanlarının neredeyse yarısını işten çıkardı
• Meta, çalışanlarını kısa vadede yavaşlatsa bile kodlama gibi işlerde AI agent kullanmaya teşvik ediyor
• Belirli görevler arasındaki ayrımı kaldırıp bunları "AI builder" adlı genel bir unvanda birleştirme çalışmaları da sürüyor
• Geçen ay, Meta AI modellerinin kodlama yeteneklerini güçlendirmek ve gelecekte ürün ile altyapı geliştirme işlerinin büyük bölümünü üstlenecek AI agent’lar geliştirmek için Applied AI (AAI) mühendislik ekibi kuruldu
• Ayın başından bu yana "üst düzey" yazılım mühendisleri AAI ekibine kaydırılmaya başlandı

Beyaz yaka gözetimi endişeleri

• Yale Üniversitesi hukuk profesörü Ifeoma Ajunwa’ya göre, bilgisayar kayıt ve ekran görüntüsü teknolojileri tarihsel olarak çalışan suistimalini veya işle ilgisiz faaliyetleri tespit etme amacıyla kullanıldı
• Tuş vuruşu kaydı veri toplamayı bir adım daha ileri taşıyor ve beyaz yaka çalışanlara, daha önce yalnızca kurye ya da gig çalışanlarının yaşadığı düzeyde gerçek zamanlı gözetim uyguluyor
• ABD federal yasalarında çalışan gözetimine dair bir sınırlama bulunmuyor; eyalet yasalarının çoğu da yalnızca işverenin izleme yaptığını genel biçimde bildirmesini şart koşuyor
• York Üniversitesi hukuk profesörü Valerio De Stefano, Avrupa hukukunda bu tür izlemenin yasak sayılma olasılığının yüksek olduğunu belirtti
  • İtalya’da elektronik izleme yoluyla çalışan üretkenliğini takip etmek açıkça yasa dışı
  • Alman mahkemeleri, tuş vuruşu kaydına yalnızca ciddi suç şüphesi gibi istisnai durumlarda izin veren içtihadı sürdürüyor
• Bu tür uygulamaların Avrupa’daki GDPR ihlali kapsamına girme olasılığı yüksek
• İşveren gözetimine yönelik algı, iş yerindeki güç dengesini işveren lehine kaydırma etkisi yaratıyor

[unsure4000]

O izleme sistemini kodlayan kişi acaba ne düşünüyordu?

[t7vonn]

Modeli iyileştirme söylemi göstermelik; gerçekte ise işten çıkarmaları meşrulaştırmak için veri biriktiriyorlarmış gibi görünüyor.

[winkagn]

Bunun Big Brother'dan ne farkı var diye düşünmeden edemiyorum.

[GN⁺]

Hacker News görüşleri

• Bu düpedüz zehirli bir çöp gibi görünüyor. Umarım geniş çapta hacklenir ve birileri Meta'nın açgözlü veri toplama boru hattına tonla saçma sahte veri yedirecek bir karşı önlem geliştirir
• Bunun çalışanlar üzerinde çok ciddi bir caydırıcı etki yaratacağını düşünüyorum. Artık işle ilgili olmayan konuşmalar ya da laflamalar bile en ufak bir mahremiyet beklentisi olmadan yapılmak zorunda kalacak. Eskiden de loglara bakılabiliyor olabilirdi ama bir olaydan sonra sınırlı biçimde incelemekle büyük ölçekli sürekli gözetim bence tamamen farklı şeyler
  • Bunun daha çok yakıştığı başka bir topluluk yok gibi geliyor. İroni seviyesi dedektörü patlatacak kadar yüksek
  • Ben zaten en başından beri şirket cihazında yaptığım her şeyin IT tarafından izlenebileceğini varsayıyordum. O yüzden şirketin hoşuna gitmeyecek hiçbir şeyi şirket donanımı üzerinden yapmadım; onun yerine kendi akıllı telefonumu ve kişisel bilgisayarımı kullandım. Geçmişte bir startup'ta mühendislerle yönetim arasında gerilim olduğunda da mühendisler kendi kişisel Signal hesaplarıyla özel bir grup kurup sorunsuz şekilde konuşmuştu
  • Açıkçası Meta'nın çalışanları sindirmesi umurlarında olurmuş gibi gelmiyor. Zaten daha fazla değer çıkarma aşamasına geçmiş durumdalar ve artık en üst düzey yeteneği çeken bir şirket de değiller
  • İş makineleri şirketin malı olduğu için mahremiyet beklentisi olmaması gerektiği görüşünü anlayabiliyorum. Ben Hindistan'da bir teknoloji şirketinde çalışıyorum ve kilit personele bağımlılık riskini azaltmak için ekip arkadaşlarının özelliklerine dayanarak skills.md oluşturmamız teşvik ediliyor. Hatta yeniden yapılanma nedeniyle işten çıkarılan birkaç mühendisin kodu şu anda onların yapay zeka karşılıkları tarafından bakım görüyor. Meta da o yöne gidiyor olabilir
  • Sosyal hayata atıldığım günden beri şirket varlıkları ve ekipmanları üzerinde şirketin gözetim ya da hatta keylogging yapma hakkı olduğunu düşünürüm. Pratikte çoğu zaman bu kadar ileri gitmemelerine şaşırmışımdır ama hakkın kendisi olduğunu düşünüyorum. İnsanların çalışma saatlerinde işle ilgisiz şeyler yapma hakkı beklemesini pek anlamıyorum. Çalıştığım tüm şirketlerde sözleşmeler ve politikalar izin verilen sınırları açıkça belirliyordu; şirketi çekiştirmek istiyorsan bunu Slack ya da Teams'te değil, şirket dışında ya da gerçekten su sebilinin yanında veya kişisel numaralar üzerinden yap
• Gelecek nesil yapay zeka herhalde Hacker News scroll etme konusunda çok iyi olacak diye dalga geçiliyor
• Bunun nasıl yasal olduğunu gerçekten anlamıyorum. ABD'de Facebook için fiilen hiç compliance gereksinimi yok mu diye düşündürüyor. SRE ekranlarının zaman serisi ekran görüntülerinde kaçınılmaz olarak parolalar, şifreleme anahtarları, PII gibi hassas bilgiler olur; böyle bir veri elektrik süpürgesinin bunları saklaması nasıl mantıklı olabilir? Çalışan bunu istediği zaman kapatabiliyor mu diye de merak ediyorum; biri yanlışlıkla şirket genelindeki ssh root özel anahtarını ekranda açık bırakıp bunu kapatamazsa ne olacak diye endişeleniyorum. Yasallık bir yana, böyle eğitim verilerine erişimi olan kişiler şirket sistemlerinin geneline gereğinden fazla geniş erişim elde etmiş oluyor; bu da sonuçta sadece hack riskini artırır
  • ABD hukukunda, özellikle şirket cihazlarında, bu çoğu şirket için yasal olabiliyor ve ne yazık ki pek de nadir değil. Genelde bu tür verilerin compliance tarafı, diğer hassas verilerde olduğu gibi ekran görüntülerine yalnızca belirli grupların erişmesini sınırlayarak ele alınıyor. Ben de destekliyor değilim ama birçok şirket bunu güvenlik kaygılarını yok sayarak değil, tam tersine güvenlik sorunlarını çözme gerekçesiyle yapıyor. Yine de Meta'nın havası biraz farklı; daha çok iş gücünün bir kısmının yerini alacak bir model yapmaya çalışıyor gibiler
  • Bu veri eninde sonunda bir sızıntı olayıyla dışarı çıkacak. Mahkemede aleyhte kullanılacak, eğitimde kullanılacak ve kim ne derse desin yapay zeka işi devralabildiğinde sonunda işten çıkarmalar için de kullanılacak. Ve bütün bunlar olduğunda bile Meta büyük ihtimalle sorumluluktan sıyrılacak. Bu yüzden bunu engelleyecek yasal düzenlemeler daha da acil görünüyor
  • Web'le azıcık bile ilgili olan psikolojik deneyler, A/B testleri normalleştikten sonra fiilen otomatik olarak yasal sayılmaya başladı gibi bir sorun var. Aslında bunlar genel bir onam formuyla geçiştirilecek şeyler değil; gönüllü katılım ve bağımsız inceleme gibi süreçler gerektiren bir alan. Cin şişeden çıktı belki ama bu onun sorun olmadığı anlamına gelmiyor
• Bu gerçekten çılgınca. Eskiden mühendislik gerçekten bir uzman meslek gibi görülürdü; şimdi ise şirketlerin güven yerine casus yazılım talep ettiği bir noktaya gelmişiz gibi. Sanki bir avukat hakime arka kapıdan iş çevirebilir diye hukuk bürosu dizüstülerine izleme yazılımı kuralım ya da bir doktorun her hareketini 7/24 izleyelim demek gibi geliyor. İnsan en sonunda bu tür açıkça denetlenebilir 24 saat gözetimi bari siyasetçilere uygulayalım diye taşlama yapıyor
  • Siyasetçiler kesin ilk iş kendilerine güvenlik gibi gerekçelerle istisna yaratır. Normalde güç arttıkça hesap verebilirlik ve denetim de artmalı ama gerçek dünya tam tersine işliyor
  • Verdiğin örneklerde masrafını doğrudan vergilerimle ödediğim ve prensipte benim için çalışan tek taraf siyasetçiler. Avukatlar ve doktorlar benim çalışanım değil, benim varlıklarım üzerinde de çalışmıyorlar. Hatta bu meselenin gösterdiği şey, ABD'deki işveren-çalışan ilişkisinde maskenin artık neredeyse tamamen düşmüş olması; üstelik sağlık sigortası da istihdama bağlıyken buraya kadar gelindiği için direnecek çok az alan kalmış durumda
  • Hukuk bürosu dizüstülerine böyle izleme yazılımı kurma fikri kulağa aslında iyi fikir gibi geliyor diyen de var
  • Ben gerçekten birkaç avukat tarafından kazıklandım. E-postadan çok telefon konuşmaları konusunda endişelenmek gerekir diye daha pratik bir yorum da var
• Meta çalışanlarının, toplanan verinin performans değerlendirmesi ya da başka amaçlarla değil de sadece model eğitimi için kullanılacağı sözüne inanacağını mı sanıyorsun?
  • Bu çalışanlar zaten dünyanın en büyük gözetim ağlarından birini gönüllü olarak kodlamış insanlar; belki de çok şeye inanmaya hazırdırlar diye alay ediliyor
  • Dört yıl üst üste işten çıkarmalar yaşanmışken ve bir yüzde 20 küçülme daha ufukta görünüyorken, Meta çalışanlarının sayıca az olsalar da oldukça kuşkucu olacağı tahmin ediliyor
  • Sonuçta belirleyici olan şey tazminat ve yüksek maaşların uyumu getireceği yönünde soğuk bir bakış da var
  • Bu sözün güvenilirliği geçmişteki "It's free and always will be" ile aşağı yukarı aynı seviyede diye eleştiriliyor
• Meta'nın mülakat sürecine en baştan hiç başlamamış olmama gerçekten seviniyorum. O zaman da şirket oldukça gülünç görünüyordu ama şimdi bambaşka bir seviyede
• Meta'nın tam tersi bir şirket nasıl olurdu diye düşündürüyor. Küçük ve mahremiyet odaklı olurdu herhalde; belki de iş yerinde HN'nin engelli olduğu bir yer. Acaba benim gözden kaçırdığım bir şey mi var diye de merak ettiriyor
• Bu sistemin sonunda Meta çalışanlarının yapay zekayla çalıştığı anları toplu halde kaydedeceğini hayal ediyorum. Sonra bununla eğitilen modeli tekrar dağıtacaklar; bir sonraki turda yapay zekayı iyi kullanan yapay zekayı kullanan çalışanları yeniden toplayacaklar; bunu birkaç kez tekrarlayınca da en sonunda umutsuzluk içinde klavyeye abanıp model neden hiçbir şey yapamıyor diye bağıran insanların girdilerine kadar toplayacaklar gibi bir kara komedi çıkıyor ortaya
  • Bunun yapay zeka eğitimi için olduğu bahaneden ibaret olabileceği, aslında büyük çaplı işten çıkarmalarla insanları görünmeden tasfiye etmek ve kıdem tazminatını azaltmak için bir gerekçe olabileceği tahmin ediliyor
  • Bu veri kimin yapay zekayı yeterince kullanmadığını da göstereceği için, sonunda o çalışanların PIP alabileceği ya da işten çıkarılabileceği endişesi var
  • Komik bir başarısızlık modu gibi dursa da teknik olarak aslında iyi bir şey de olabilir diyen bir bakış açısı var. Model zaten insanların yapay zekaya yaptırdığı bazı becerilere kısmen sahip; ister alt ajanlar kullanan bir yaklaşım olsun ister yapay zekanın devraldığı işleri doğrudan modelin içine katmak olsun, insanlar görev dağılımını yapay zeka dağılımına daha yakın hale getirdikleri için eğitim kolaylaşıyor deniyor
  • Son dakika: Meta nihai "klavyenin üstüne oturan kedi" simülatörünü yapmış diye şaka geçiliyor
• İlgili bir çağrışım olarak Marshall Brain'in Manna eseri anılıyor ve https://marshallbrain.com/manna1 bağlantısındaki metnin bugünkü durumla oldukça örtüştüğü söyleniyor