"Baskın biçimde olumsuz ve moral bozucu bir güç" - Geliştiricilere yapay zeka kullanmayı dayatan bir şirkette çalışmak nasıl bir şey

Yapay zeka teknolojisinin geliştiriciler üzerindeki gerçek etkileri

• Yapay zeka teknolojisinin tekrarlayan işleri azaltıp yaratıcı çalışmayı mümkün kılacağına dair bir ideal vardı
• Ancak kapitalist baskılar ve teknoloji sektörünün ideolojik yaklaşımı nedeniyle birçok geliştiricinin geçimi tehdit altında
• Oyun sektöründe çalışanların kişisel deneyimleri üzerinden, sahada yapay zekanın nasıl bir etki yarattığı somut biçimde inceleniyor

AAA oyun stüdyolarında yapay zekaya bağımlılık sorunu

• Bradley, bir AAA oyun stüdyosunda çalışan deneyimli bir sanatçı ve stüdyonun giderek daha fazla AI tarafından üretilmiş görseli sanat hattına dahil ettiğini söylüyor
• Sanat yönetmeni fikirleri doğrudan geliştirmek yerine tekrar tekrar yapay zeka çıktıları üretiyor, sonra beğendiklerini seçip ekibe bunları tersine mühendislikle çözdürüyor
• Bunun yalnızca sunum materyallerinde kullanılacağı söylenmişti, ancak gerçekte üretim sürecinin geneline yapay zeka yayılmış durumda
• Bradley, yapay zeka kullanımının bu şekilde sürmesi halinde istifayı değerlendirdiğini belirtiyor
• Oyunun tasarımının yapay zeka prompt seviyesinde kaldığını, gerçek eğlence ya da tasarım üzerine bir tartışma olmadan yalnızca yatırım çekmek için kullanıldığını eleştiriyor

Startup'larda yapay zeka benimsenmesi ve geliştiricilerin direnci

• Mitch, savunma sanayi geçmişine sahip, 7 yıllık deneyimi olan bir geliştirici
• Küçük bir startup'ta çalışırken yapay zeka kullanmaya zorlandı; şirket ChatGPT ve Claude'u devreye almaya çalıştı
• CEO, kod kalitesinden çok üretim hızına takıntılıydı ve sürekli yapay zeka kullanımını öne çıkarıyordu
• Yapay zekanın ürettiği kod düşük kaliteli, ekip çalışması açısından verimsizdi ve onu kullanmak geliştiricilerin motivasyonunu da düşürüyordu
• Sonunda şirkette yapay zekaya bağımlılık arttı, ancak şirket yine de battı

Yapay zeka benimsenmesine dair bir sanat danışmanının kuşkuları

• Francis, çeşitli stüdyolar ve yayıncılarla çalışan bir sanat yönetmeni ve danışman
• İşverenlerin çoğu “yapay zeka sanatçıların işine yardımcı olur” diye düşünse de, gerçekte projenin en temel fikir aşamasını bile yapay zekaya bırakmak istiyorlar
• Bu eğilim, sanatsal keşif sürecinin değerini anlamayan bir tutumdan kaynaklanıyor
• Francis, yapay zeka geliştiricilerinin oyun üretiminin genelini bir sorun olarak gördüğünü ve bunu yalnızca kendilerinin çözebileceğine inandığını eleştiriyor

Yapay zeka fikir üreticisinin sınırları

• Ricky, kıdemli bir oyun tasarımcısı; yapay zeka ile mevcut oyun sistemlerinin taslak özetlerini sık sık hazırladı, ancak yanlışlıklar ve sürekli düzeltme ihtiyacı yüzünden bunun verimsiz olduğuna karar verdi
• Fikir üretimi için yapay zeka kullanmanın da yaratıcılığı bastırdığını, geliştiricinin deneyimini ve bağlamını yansıtamadığını söylüyor
• Yapay zeka ancak pazarlama metni seviyesinde fikirler üretiyor; insan duygusunu ya da kültürel bağlamı yansıtamıyor

Ses ve animasyonda yapay zeka kullanımına dair kaygılar

• Sally, bağımsız bir VR oyun projesinde animatör olarak çalışıyordu; stüdyo ses sentezini ve animasyon üretimini yapay zeka ile ikame etmeye çalıştı
• Midjourney ile üretilen görseller 2D varlık olarak kullanıldı ve seslendirme sanatçılarının kayıt verilerini yapay zeka eğitimi için kullanma girişimleri de oldu
• Seslendirme sanatçılarının onayı olmadan ses sentezi deneyleri yapıldı; Sally bununla ilgili kaygılarını dile getirdi ama görmezden gelindi
• Sonunda işten çıkarıldı ve stüdyo sonraki projelerinde de yapay zeka animasyonu kullanmayı planladı

Yapay zeka benimsenmesine karşı sanatçıların etik tepkisi

• Audrey, bir konsept sanatçısı; istemese de hızlı fikir eskizleri için yapay zeka kullanması yönünde talimat aldığını anlatıyor
• Ekip arkadaşlarının kullandığı yapay zeka üretimi işleri düzeltmek zorunda kalıyor ve bu da iş takvimini bozuyor
• Tüm ekip büyük ölçüde yapay zeka kullanımına karşı, ancak bazı üst düzey yöneticiler bunu düzenli olarak kullanıyor
• Şirkete defalarca yapay zekanın en aza indirilmesini talep etti, ancak etkisi sınırlı kaldı

İşe alım sürecinde yapay zekanın yarattığı hayal kırıklığı

• Alfie, bir 2D sanatçısı; haftalar süren mülakatlardan sonra bir oyun startup'ının aslında sanatçı işe almayıp bunun yerine yapay zeka sanatı kullanmayı seçtiğini gördü
• Projenin ilk fikir toplantılarına kadar katılmıştı, ancak sonunda iletişim kesildi; şu anda o ekip sanatçı olmadan, yalnızca yapay zeka ile varlık üretiyor
• Daha sonra yapay zeka deneylerini durdurmuş yeni bir stüdyoya katıldı ve insan merkezli bir sanat üretim ortamına geri döndü

Seslendirme sanatçılarının yaşadığı yapay zeka tehdidi

• Douglas, bağımsız oyunlarda çalışan bir seslendirme sanatçısı; Audible gibi şirketlerin oyuncuların sesini yapay zeka ile klonlayıp satma denemeleri konusunda kaygılı
• Yapay zeka ile üretilen seslerin insan duygularını ifade etmenin yerini tutamayacağını, birçok meslektaşının mesleki kimliğini kaybetme riski hissettiğini söylüyor
• Bazı küçük bağımsız ekipler bu kaygıları anlıyor, ancak büyük şirketler ilgili konuşmalardan kaçıyor ya da bunları görmezden geliyor
• Tutkuyla kurdukları mesleğin yapay zeka yüzünden yok olabileceği korkusu yaygın

Sonuç: Yapay zekaya dair farklı sesler ve sanatçıların direnişi

• Yapay zeka teknolojisi oyun sektörünün geneline yayılırken bireylerin hayatı ve çalışma ortamı üzerinde somut etkiler yaratıyor
• Veri ya da istatistikler önemli olsa da, gerçek tabloyu en doğru biçimde doğrudan etkilenen kişilerin sesleri gösteriyor
• Sanatçılar, yapay zekanın insan yaratıcılığının değerini tehdit ettiğini düşünüyor ve buna güçlü biçimde direniyor
• İnsan merkezli üretim ve sanatı koruma iradesi sektörün birçok köşesinde sürüyor

[ztaka]

Yapay zeka kullanımına bakarken buna geliştirme hızı açısından değil, düşünceyi genişletme açısından bakmak gerekir; ama belli ki hâlâ hız diye tutturup duran yöneticiler var. Yapay zekayı savunan ürünlere bakınca çoğu çok da özel görünmüyor, arada sırada pazar doğrulaması yapan bir düzeydeler; acaba kendileri geliştirdikleri ürünün seviyesini de buna mı uyarlıyorlar?

[bbulbum]

Beynimizi yapay zekaya emanet etmemeliyiz; ama sanki yapay zeka tüm düşünme işini bizim yerimize yapacakmış gibi bir inanç eğilimi var gibi görünüyor.

[savvykang]

İnsanın doğrulama yanlılığı ya da eleştirel olmayan düşüncesi gerçekten çok korkutucu.

[kylian]

Az değil... Thread'lerde dolaşırken gerçekten aklına gelen her şeyi GPT'ye soran insanın düşündüğümden çok daha fazla olduğunu görüyorsunuz. Hatta GPT'nin ürettiği içeriği doğrulamadan doğrudan paylaşıyorlar; bunun en tipik örneği de hukuki konular. Emsal kararlar falan diye paylaşıyorlar ama aratınca öyle bir karar numarası olmadığı ya da mevzuatın içeriğinin tuhaf olduğu ortaya çıkıyor; profiline tıklıyorsunuz, bir de üstünde uzman unvanı var.
AI zombileri ortalığı istila ediyor

[bbulbum]

Bir tartışmaya dair bir argümanı GPT'ye sorduğu şeyi olduğu gibi getirip ortaya koyan ekip arkadaşlarını gördükçe iç çekerek geçirdiğim günler yaşıyorum.

[kuber]

Sorun yapay zekanın iyi ya da kötü olması değil; yapay zekayı da bir araç olarak görüp, şirket içi ortak kütüphane ya da platform geliştirme ekibi gibi, onu şirkete en uygun hale getirecek bir ekibin olması gerekiyor.

Böyle bir şey olmadan alelacele devreye alıp bunu bireysel yetkinlik sorunuymuş gibi görmek ya da “yapay zeka daha oralarda değilmiş” demek asıl sorun değil mi diye düşünüyorum.

[kandk]

PC'nin kokusu..

[GN⁺]

Hacker News görüşü

• Geçenlerde bir arkadaşımla ilginç bir sohbet ettim. Yıllık performans değerlendirme dönemindeymiş ve yönetim, ona ve ekibine AI araçlarını daha fazla kullanmaları için yoğun baskı yapıyormuş. Kendisi biyomedikal bir araştırma enstitüsünde çalışıyor ve LLM'lere hiç ihtiyaçları yok. Ama ekiptekiler, şirketin dil modelini kullanarak farklı karakterler adına istifa mektupları yazıp eğlenmiş. Gerçekte istifa eden olmamış ama ekip moralini tamamen mahvetmenin iyi bir yolu olmuş

• Ben her zaman diff'lerinde yeşilden çok kırmızı satır olmasını isteyen bir geliştiriciydim. Yüzlerce entegrasyon testini deklaratif olarak oluşturabilmemizi sağlayan kütüphaneler yazmayı severiz. İki gün ortadan kaybolup iki döngü değişkeninin yerini değiştirerek sistemi 10 kat hızlandıran geliştirici benim

  • Bu ortamda bana yer yok. Sorun, araçları kullanarak çok fazla kod üretememek değil; AI kullanımının başarı ölçütünü üretim hızına indirgemesi
  • Kötü kodun çözümü daha fazla kod oluyor. AI asla silme işi üretmeyecek. "Yayınla ya da yok ol" baskısı bize de geldi ve bu üzücü
  • Python programlama mainframe kuşağını nasıl yaşlandırdıysa, beni de öyle yaşlandırıyor. AI'nin geliştiricileri neyin yaşlandıracağını merak ediyorum

• GenAI yorumlarında en sevdiğim kısım şu: Biri "bu, AI kullanımıyla ilgili kişisel deneyimim" dediğinde, bir sürü insanın koro halinde "Yanlış kullanıyorsun!" diye çıkışması

• Soruları nasıl kurduğum ve benim için neyin daha uygun olduğu üzerine düşünmek ilginç

  • AI'yi "basit" işleri yapmak için kullanmaktan memnunum. Alanlara ayrıştırılabilecek bir metin dosyam vardı ve içinde bazı tuhaflıklar vardı (sağa hizalı metin gibi). Alan semantiğini tanımlayıp bir ICS takvim dosyası üreten bir prompt yazdım ve doğrudan içe aktarabildim
  • Metin notlarını yapılandırıp takvime aktarmak çok tatlıydı. Bunu bizzat yapmak için AI'yi eğitmeme gerek yok. Alanların ne olduğunu verimli biçimde nasıl ifade edeceğimi ve sınırların nerede olduğunu düşünmek, veriyi anlamama yardımcı oluyor
  • ICS dosyasına bakıp bunun tür:değer yapısı olduğunu anlayabiliyorum ama türlerin ne olduğunu ya da tarih/saat için gereken özel GMT/Z biçimini, onay/beklemede gibi anlam ayrımlarını bilmiyorum. Bu üst düzey yapı, takvim ile AI açıklamaları arasında işe yarar bir davranış üretmiş oldu
  • AI kullanarak basit bir rezervasyon işi yapan bir DJANGO web uygulaması yazdım. Kodun olduğu gibi çalışmasını beklemiyordum ama çalıştı. Bu ürünle yaşayabilir miyim? Evet, ama ölçeklenebilirlik konusunda endişeliyim. Özellik eklerken tek bir kötü prompt her şeyi darmadağın edebilir. Kırılgan

• Üniversitede derleyiciler, sistemler vb. dersler veriyorum. AI'nin öğrencileri tamamen yanlış yola sürüklediği sayısız örnek gördüm

  • Artık her projeye .noai dosyası ekliyorum
  • AI deneyimli geliştiriciler için yararlı olabilir ama deneyimsiz geliştiriciler için felaket
  • "Sorun değil, biz sadece deneyimli geliştirici işe alıyoruz" diyenler var
  • Peki deneyimli geliştiriciler nereden gelecek?
  • Bu AI çağında aklıma sürekli Fantasia'daki Büyücünün Çırağı sahnesi geliyor

• Bu, sadece gösterişçi yöneticiliğin bir örneği gibi geliyor. Onlar için mesele yalnızca "üretkenlik-gelecek-teknoloji" anını yaşamak. Böylece özgeçmişlerine "AI odaklı geliştirmeye başarıyla geçiş yaptım" yazabiliyorlar. AI sonuçta sadece bir yazılım; stratejiye uyabilir de uymayabilir de. Sırf yazılım kullanmaya başladı diye başarılı olan bir şirket olmadığı gibi, sırf AI kullanmaya başladı diye başarılı olan şirket de olmaz

• Şirketlerin AI'ye bağımlı hale gelmenin uzun vadeli etkilerini fark etmesi gerekiyor. Bu körelmeye yol açıyor ve bir bug çıktığında, onu anlamak ve düzeltmek, kendi yazdığınız koda kıyasla daha fazla zaman alıyor

  • Üretilmiş koddaki bir eşzamanlılık hatasını düzeltmek için bir hafta harcadım. Testler vardı ama bug'ı, testlerin hatalı olduğunu fark ettiğimde bulabildim
  • Güçlü tavsiyem, üretilen koddaki her satırı özümsemeniz. Onun sizi geçip gitmesine izin vermeyin

• Yakın zamanda konsept sanat alanına girmeye çalışmaktan vazgeçen bir arkadaşın bakış açısı

  • AI'den önce outsourcing vardı. Ucuz, seri üretilmiş işler yüzünden yabancı stüdyolar junior pozisyonların çoğunu ortadan kaldırmıştı
  • Şimdi AI bu eğilimi mantıksal uç noktasına taşıyor: makineye outsourcing, outsourcing'in nihai biçimi. Maliyet sıfıra yaklaşıyor, miktar ise sonsuza

• Bu hikâye geliştiriciler için üzücü. Özellikle oyun tarafında, AI'nin sunmadığı türden bir yaratıcılık gerekiyor. "Temel engine boilerplate"in ötesine geçtiğinizde bu daha da belirgin. Bu, AI'nin size hiç yardımcı olamayacağı anlamına gelmiyor ama bu "herkes dahil" yaklaşımı zorlayıcı ve acı verici görünüyor

  • Oynadığım en iyi oyunlardan bazıları, bolca vizyon, iyi uygulama, incelik ve titiz zanaatkârlıkla yapılmış, "oynamak istediğim oyun" türündeydi
  • Umarım bu tür aşırı girişimler hızla başarısız olur ve biz de bundan ders çıkarırız

• Bradley'nin oyunu DOA. Yoksa ARK: Aquatica mı?