- Meta, çalışanların tuş vuruşları ve fare tıklamalarını yapay zeka modeli eğitiminde kullanmayı amaçlayan planını daralttı ve veri toplamayı tek seferde en fazla 30 dakika durdurmaya yarayan bir kontrol ekledi
- Yeni kontrol, çalışanların MCI veri toplamayı geçici olarak duraklatmasına veya tamamen muafiyet talep etmesine olanak tanıyor; Meta ise resmi yorum yapmayı reddetti
- Çalışan tepkisi haftalardır sürüyor ve takibin devreye alınmasına karşı çıkan dilekçe 1.500'den fazla imza topladı
- Meta, bilgisayarda günlük işleri yapmaya yardımcı olan ajanlar geliştirmek için gerçek kullanım örneklerine ihtiyaç olduğunu, verilerin başka amaçlarla kullanılmadığını ve hassas içerikler için korumalar bulunduğunu söylüyor
- Şirket içi notta, çalışanların dile getirdiği kişisel veriler, pil ömrü ve kayıt zamanlaması üzerindeki kontrol sorunları kabul edilirken, MCI ekibinin dizüstü bilgisayar pili üzerindeki etkiyi azaltmaya yönelik optimizasyonlar sunduğu belirtildi
Meta'nın çalışan etkinliği takibi planında geri adım
Meta, salı günü yayımlanan şirket içi bir notla çalışan bilgisayar etkinliklerini izleme planını daralttı. Bu plan, çalışanların tuş vuruşlarını ve fare tıklamalarını kaydederek yapay zeka modellerinin eğitiminde kullanacak bir araçla bağlantılı.
Reuters'ın aktardığına göre yeni kontrol, çalışanların veri toplamayı “tek seferde en fazla 30 dakika” durdurmasına olanak tanıyor ve ayrıca bu plandan tamamen muaf tutulmayı talep etmelerine de izin veriyor. Meta resmi yorum yapmayı reddetti.
Model Capability Initiative ve tepki
Bu aracın adı Model Capability Initiative (MCI). Meta, ilk duyuruda “Bilgisayar kullanarak günlük görevleri tamamlamaya yardımcı olan ajanlar geliştirmek için, modellerin insanların bilgisayarları gerçekte nasıl kullandığını gösteren gerçek örneklere ihtiyacı var” demişti.
Meta ayrıca söz konusu verilerin “başka amaçlarla kullanılmadığını” ve araçta “hassas içeriği korumaya yönelik önlemler” bulunduğunu ekledi.
Çalışan tepkisi haftalardır sürüyor ve bazı çalışanlar bu uygulamaya karşı bir dilekçe başlattı. Söz konusu dilekçe şu anda 1.500'den fazla imza toplamış durumda.
Çalışanların dile getirdiği endişeler
Bir Meta çalışanı, kendi davranışlarının yapay zeka modeli eğitiminde kullanılmasının “oldukça distopik” hissettirdiğini söyledi. Çalışanlar ek işten çıkarmalar bekliyordu.
Meta bu yıl yaklaşık 2.000 kişiyi işten çıkardı. Nisan ayında ise çalışanlara toplam iş gücünün %10'unu, yani yaklaşık 8.000 kişiyi azaltmayı planladığını bildirdi.
Yakın zamanda Meta'dan ayrılan başka bir kişi, takip aracını “yapay zekayı herkese zorla dayatmanın en yeni yolu” olarak tanımladı.
Şirket içi nottaki düzenlemeler
Reuters'ın gördüğü şirket içi notun, Meta Superintelligence Labs biriminin başkan yardımcısı Stephane Kasriel tarafından yazıldığı bildirildi.
Kasriel, MCI ekibinin dizüstü bilgisayar pil ömrü üzerindeki etkiyi azaltmak için “çeşitli optimizasyonlar” uyguladığını söyledi. Bu değişiklik, çalışanların araç nedeniyle evden çalışırken veri kullanımının keskin biçimde arttığını ve internet kullanımının yükseldiğini bildirmesinin ardından geldi.
Kasriel, notta, ürünün yayımlanması sırasında çok aşamalı risk incelemelerinden geçen gizlilik önlemlerine hâlâ güvendiğini, ancak çalışanların iş cihazlarındaki kişisel veriler, pil ömrü ve kayıt zamanlaması üzerinde daha fazla kontrol isteme yönündeki endişelerini duyduğunu belirtti.
1 yorum
Hacker News yorumları
Snow Crash'te “Fed Land”deki işi anlatan müthiş bir bölüm aklıma geldi
Y.T.'nin annesi yeni bir not açıp okumaya başlıyor ve tahmini okuma süresi 15,62 dakika. Daha sonra yönetici her çalışanın bu notu okumak için ne kadar zaman harcadığını görüyor; 10 dakikanın altındaysa tutum görüşmesi, 10-14 dakikaysa isteksizlik ihtimali, tam 15,62 dakikaysa “ukala herif” diye yine tutum görüşmesi, 18 dakikanın üstündeyse izinsiz tuvalet molası gibi bir şeyden şüphelenip güvenlik görüntülerini kontrol ediyor
Y.T.'nin annesi 14-15 dakika arasında okumaya karar veriyor, düzenli aralıklarla Page Down'a basıyor ve arada sırada önceki sayfaya dönüp yeniden okuyormuş gibi yapıyor. Bilgisayar bu davranışları da kaydediyor, yeniden okumayı olumlu değerlendiriyor ve bu küçük alışkanlıkların yaklaşık 10 yıl sonra iş alışkanlığı özetinde büyük şekilde görüneceği anlatılıyor
Alttaki yorumda dendiği gibi gözetimin hangi seviyede yapıldığını bilmek mümkün değil. Bunu okuyan bir CEO varsa, selam
Gerçekte ne kadar sert takip yapıldığını anlamak her zaman zordu ve BT uzmanları da bu konular hakkında pek konuşmuyor
ABD'de şirketin verdiği cihazı kullanıyorsanız, üzerindeki tüm faaliyetlerin tamamen izlenip kaydedilebileceği ve herhangi bir nedenle çalışanın aleyhine kullanılabileceği varsayımı var. Pratikte ise makul düzeyde internette gezinmeyi, Hacker News'e bakmayı ya da kişisel işlerini iş bilgisayarında halletmeyi çok dert etmeyen birçok insan da var
Ama AI yüzünden durum ciddi biçimde değişiyor. Artık “eğitim” bahanesiyle robotlar her küçük davranışı sınıflandırıp ayrıntılı şekilde inceleyebiliyor; bu yüzden yakında mutlak derecede sert bir takip düzeyine hazırlıklı olmamız gerekecek gibi görünüyor
Bunların arasında, yalnızca temel güvenliği zorunlu tutup bir sorun çıktığında inceleme hakkını saklı bırakan çok sayıda şirket de var. Şirket liderleriyle bunları konuştuğunuzda, inanması zor olsa da en müdahaleci takip yöntemlerini sert biçimde reddedenler de epey fazla
Yine de hangi gözetim biçimi olursa olsun AI'ın yükselişi, çok daha hedefli izlemeyi mümkün kılan tehlikeli bir fırsat yaratıyor. Çünkü bir insanın zaman harcayıp bakmasına gerek kalmadan, AI'a sürekli izleyip ilgilendiği şeyleri bulmasını söyleyebilirsiniz
Sıradan bir çalışanın iş bilgisayarını kişisel işler için kullanmasındaki gerçekçi risklerden biri, yeterli denetim olmadan şirket cihazlarına erişebilen kötü niyetli bir BT yöneticisi kaynaklı içeriden tehdit olabilir
İlginç şekilde HN'de bu epey tartışmalı oluyor. Banka işi yapmak ya da HN'e yazı yazmak için kişisel telefonu işe getirmenin muazzam bir rahatsızlık olduğunu düşünür gibi, bunu yapmaları önerildiğinde tuhaf biçimde öfkelenen çok kişi gördüm. Akıllı telefonlardan önceye kıyasla bugün bu iki dünyayı ayırmak çok daha kolay
İşverenimin gün içinde hangi kişisel işlerimi halletmem gerektiğini bilmesi için hiçbir neden yok; aynı şekilde şirketin de benim gizli işi kişisel cihazımda yapmamı onaylaması beklenmez, yani iki taraf için de kazançlı
Muhasebe, bankacılık, hisse işlemleri gibi alanlarda teorik olarak %100 dolandırıcılığı engelleyen bir sistem kurabilirsiniz ama o kadar zahmetli olur ki kimse kullanmaz. Bir taco almak için 15 kez retina taraması, kan alma ve banka onay gözetmeni isterseniz bu işlemez
Burada da aynı şey geçerli. AI ve büyük dil modelleriyle insanların ne kadar çalıştığını saniye saniye ölçüp optimize etmeye çalışabilirsiniz. Amazon depolarda bunu zaten yapıyor ve yerde bir çalışan ölmüşken başkalarının cesedin yanında çalışmaya devam etmek zorunda kaldığı örnekler durmadan ortaya çıkıyor
Amazon, bu sistemlerde çalışacak insan bulmak için toplulukları teker teker tüketmek zorunda kalıyor ve SEC bildirimlerinde nüfusun tükenmesinin iş gücü açısından gerçek bir tehdit olduğu yazıyor
Bu yüzden şeytani dev şirketler için bile gözetimin optimum miktarı %100 değildir. Amazon o denge noktasını zaten aştı ve şimdi yeniden optimum noktaya doğru itiliyor gibi görünüyor. O nokta, düşündüğümüzden çok daha ileride olabilir
Önümüzdeki 10 yılda başarılı olacak şirketler, çalışanlarının temel onuruna saygı duyan ve onlara yetkin, sorumlu profesyoneller gibi davranan şirketler olabilir. Geçmişte de büyük şirketlerde çalışan arkadaşlarımdan, dizüstü bilgisayar gözetim yazılımını tatmin etmek için masadan kalkarken fare oynatıcı taktıklarını duyduğumda aynı şeyi düşünmüştüm
Bu biraz uyuşturucu testine de benziyor. Devlet ya da güvenlik izni gerektiren işler değilse, uyuşturucu testini çalışanlara saygı olmayan bir kültürün ve sektörün düşük statüsünün iyi bir göstergesi olarak gördüm
Meta nereye gittiğini çok net gösterdi ve bu bana 2012 Cisco'ya işe girmek gibi geliyor. Umarım artık 20'li yaşlarında olan Gen Z içinden AI ve yeni ortaya çıkan teknolojiler için gereken yeteneği iyi şekilde işe alabilirler
Yasal olarak mümkün olduğunu anlıyorum ama böyle bir yerde asla çalışmam
Meta’da çalışmıyorum ama teknoloji sektöründe daha kaç yıl çalışmam gerekecek diye düşünüyorum. 40’lı yaşlardayım ve çocuklar hâlâ küçük. Çocuklar için 529 hesaplarını çoktan açtım ve pahalı ev tadilatları da sürüyor
Bunlar bittikten ve bir tampon fon oluşturduktan sonra, kalan 5-10 yıllık çalışma hayatımda başka bir sektöre geçebilirim gibi geliyor. Benzer planları olan başka biri var mı merak ediyorum
Teknoloji sektöründen ayrılmayı gerçekten güçlü biçimde tavsiye ederim. Kortizol seviyem eskisine göre çok daha düşük ve artık normal çalışma saatleri dışında EMEA ve APAC toplantıları yüzünden hayatımı ayarlamak zorunda değilim. 40 saatin üzerinde çalışmam ancak ben istersem oluyor, bazen de oluyor. Çünkü artık iş gerçekten keyifli
İnsanların gözle görebileceği bir fark yaratabiliyor ve önemsediğim bir iş yapabiliyorum. Yatırımcıları ya da risk sermayedarlarını memnun etmek yerine, her yıl etkiyi en üst düzeye çıkarmaya ve başabaş noktasına ulaşmaya odaklanıyoruz
Ücret ve yan haklar açısından kötüleşen yönler var ama bunu çok da önemsemiyorum. İyi bir sağlık sigortası olan bir eşim var, onu kullanıyorum; ayrıca teknoloji sektöründe çalışırken konut kredimi ödedim ve epey birikim yaptım. Teknoloji sektöründekilerin anladığı anlamda zengin değilim ama istersem sahip olduklarımı satıp Latin Amerika’daki bir sahilde oldukça iyi bir hayat yaşayabilir ve bir daha hiç çalışmayabilirim
Asıl tavsiyem, bırakmak için ne kadar paraya ihtiyacınız olduğunu oturup hesaplamanız. Altı haneli maaşa alışmıştım ama gerçek yaşam giderlerim beş haneli düzeyi aşmıyordu; bu yüzden ihtiyacım olan miktar düşündüğümden çok daha düşüktü
Liderliği de bir tür etik kurallara bağlayabilmeliyiz. Ölümcül robotlar yapan ya da iklim taahhütlerini geri çeviren şirketlerde çalışmak istemiyorum
En üstten en alta kadar çalışanlara yönelik açık küçümseme giderek daha da kötüleşiyor ve sonu görünmüyor. 50 yaşıma geldiğimde her yıl kıdemli çalışanların ayıklanmasının hedefi olup olmayacağım tamamen şansa kalacak
Bu sektörün nasıl işlediğini bilmiyormuş gibi davranmak için artık hiçbir mazeret yok. Maske zaten yıllar önce düşmüştü
Gerçekten akıllı ve kullanıcı için çalışan dumbphone’lar, açık kaynak TV’ler, yerel yapay zeka modelleri ve gözetlemeyen tarayıcılar gibi şeyler yapılabilir
Yazılım yapmayı seviyorum ama bu sektörde çalışmaya dayanamıyorum
Kötü şirket kültürü ile şüpheli ahlaki ilkelerin birleştiği lanetli bir karışım bu
Meta’da çalışıp da bunu okuyanlara ciddi bir sorum var. Bu şirkette hâlâ nasıl çalışabiliyorsunuz?
Bu kadar zehirli bir şirketten ayrılıp başka bir yere gitmediğinizi ya da kendi işinizi kurmadığınızı gerçekten anlayamıyorum. Meta’yı ölmeye bırakın gitsin
İyi bir iş yapmaktan çok muazzam parayı daha önemli gören bu kadar çok insan olması şaşırtıcı. Nakit uğruna değerlerini kenara bırakmaya hazır olan herkes sorunun parçası. İğrenç
Aile geçindirmek ve emekliliğe hazırlanmak gibi gerçekler de var. Mükemmel değil ama bir şirketin ne zaman zehirli olduğuna dair çizgiyi nereye çekersiniz? Başka avantajlar varken ne kadar taviz verilebilir? Bu soruların cevabı kişiden kişiye değişir. Bazıları çevre sorunları nedeniyle teknoloji sektöründe çalışmanın kendisinin bile yanlış olduğunu söyleyecektir
Kişisel olarak, Meta’da memnuniyetle çalışırdım sanırım. Birçok insan onların hizmetlerini kullanıyor ve seviyor. Toplum için yapılabilecek en iyi iş olmayabilir ama Netflix, Amazon ya da Apple için de durum farklı değil
Meta’da çalışırsanız şirket size ihanet ediyor demektir. Çünkü ekranınızı açıkça kaydedip yapay zeka ile yerinize geçecek sistemi eğitiyor. Başka bir yerde çalışmak ise sizin Meta’ya ihanet etmenize benzer
Aşırı basitleştirirsek hangisi daha iyi? 5 yıl boyunca yılda 400 bin dolar alıp sonra işten çıkarılmak ve Meta’nın ikame teknolojisini kurmasına yardım ettiğiniz için işlerin büyük ölçüde ortadan kalkması riskini almak mı? Yoksa kariyeriniz boyunca yılda 200 bin dolar alıp, ikame teknolojisinin kurulmasına yardım etmediğiniz için istihdam fırsatlarının kurumaması mı?
Elbette bunun çok uç ve nadir bir durum olmasını umarım ama paranın gerçekten büyük fark yarattığı durumlar oldukça yaygın. Ayrıca karardan etkilenen tek kişi ben miyim yoksa başkaları da var mı, buna göre de büyük fark oluyor
Böyle pozisyonlar seçilirken bu tür pratik sonuçlar da ciddi biçimde hesaba katılabilir
Meta mülakatlarının genelde o kadar da zor olmadığı düşünülüyor ve bu da sahtekârlık sendromunu daha da artırıyor. Kolay girmiş olmak, kişide fazla ücret aldığını düşündüren bir his yaratıyor. Neredeyse kasıtlı bir strateji olup olmadığını düşündürüyor
Tüm dünyadaki herkesi takip etme işi yapan çalışanların artık kendilerinin de takip ediliyor olması, bundan daha ironik olabilir mi ki? :)
Bu şirketler zaten kullanıcı davranışlarını çok yoğun biçimde takip ediyor ve bunun hatırı sayılır bir kısmı güvenlik açısından mantıklı. Daha neyin hâlâ takip edilmediğini ve değerli olabileceğini gerçekten merak ediyorum
Tek tek tuş vuruşları ve fare hareketleri, zaten uygun değer birimleriyle büyük ölçüde takip edilen iş çıktılarından nasıl daha değerli olabilir, aklım almıyor
Belki de gerçekten yetenekli insanları kaybetmeyi hiç umursamıyorlar ve daha fazla insanın istifa etmesini sağlamaya çalışıyorlar
MAG-7’nin tamamı Ar-Ge harcamalarını maaşlardan AI veri merkezi sermaye harcamalarına kaydırmak istiyor gibi; bu yüzden gerçek değerin %99’unu üreten yeteneklerin %90’ının ayrılmasını bile göze alacak gibiler
Sahada gerçekte ne olup bittiğini bilmeyen aptallar olduklarından değil. Ne yaparlarsa yapsınlar, kibirli özgüvenleri ve piyasa konumları sayesinde, kararları ne kadar felaket olursa olsun herkesin buna katlanmak zorunda kalacağına inanıyorlar
Model berbatsa Kongre’ye lobi yapıp açık ağırlıklı modelleri yasa dışı ilan ettirirler, fiyatlar beğenilmezse devlete ürünün maliyetini ödettirirler, Çin ya da Avrupa daha iyi olursa da ulusal güvenlik bahanesiyle rekabeti yasaklatırlar
The Onion’ın 2015 tarihli hiciv yazısı “HR Director Reminds Employees That Any Crying Done At Office Must Be Work-Related” aklıma geldi
Ama opt-out etmenin kendisi de elbette takip edilecektir. Bunu seçersen performans değerlendirmene girebilir
O’Brien’ın telescreen’i kapattığı sahne aklıma geliyor
“Sen…”
“Evet… bize bu ayrıcalığa izin veriliyor”
Bu politikayı yapan insanlar neredeyse kesin olarak muaf olacaktır
Winston, duvardaki girintide oturup geriye yaslandığında, en azından görüş alanı bakımından telescreen’in kapsama alanının dışında kalabiliyordu. Elbette sesi duyulabilirdi ama şu anki konumunda kaldığı sürece görülemezdi. Şimdi yapmak üzere olduğu şeyi düşünmesine yol açan da odanın alışılmadık yapısı olmuştu.