- Ünlü Linux performans uzmanı ve BPF'nin ana katkıcılarından Brendan Gregg'in OpenAI'ye katılma nedenleri
- Hızla artan yapay zeka veri merkezi maliyetleri ve enerji tüketimi sorununu çözmek için OpenAI'ye katıldı; başlangıçta ChatGPT performans optimizasyonuna odaklandı
- Mevcut performans mühendisliğinin tek başına yeterli olmayacağını düşünerek, yeni mühendislik yöntemleri tasarlayıp daha büyük optimizasyon etkilerini hızlıca bulmayı hedefliyor
- Gündelik kullanıcıların ChatGPT'yi geniş biçimde kullandığı örnekler—örneğin kuaförler, emlak danışmanları, mali müşavirler, arıcılar—üzerinden teknolojinin topluma yayılışını somut biçimde hissetti
- 26 görüşme boyunca çeşitli yapay zeka şirketlerinin mühendislik düzeylerini karşılaştırdı ve OpenAI'nin yetenek yoğunluğu ile işbirliği ortamının en etkileyici unsur olduğunu değerlendirdi
- OpenAI'deki rolü sayesinde gezegen ölçeğinde verimlilik artışı ve sürdürülebilirliğe katkı sağlama fırsatını hayatının bir dönüm noktası olarak görüyor
Yapay zeka veri merkezleri ve performans mühendisliğinin zorlukları
- Yapay zeka veri merkezlerinin maliyeti ve büyüme hızı tarihte benzeri görülmemiş seviyede; bunu yalnızca maliyet azaltma değil, aynı zamanda gezegenin korunması meselesi olarak görüyor
- OpenAI'de bu sorunu doğrudan çözmek için katıldı; ilk aşamada ChatGPT performansını iyileştirmeye odaklandı
- Mevcut performans mühendisliğinin sınırlarını aşarak daha büyük optimizasyonlar ve daha hızlı iyileştirmeler için yeni yaklaşımlar arıyor
- Büyük ölçekli ortamlarda bile değişimi engelleyen kısıtların neredeyse olmadığı açık bir yapıyı vurguluyor
- Bunu “ne varsa dene, büyük ölçekte yap ve hemen şimdi uygula” yaklaşımıyla açıklıyor
ChatGPT'nin günlük yaşama yayılışı ve kişisel dönüm noktası
- Yapay zeka benimsenmesine şüpheyle yaklaşırken, kuaför Mia ile yaptığı konuşmada ChatGPT'nin halk arasında ne kadar kullanıldığını doğrudan fark etti
- Mia, arkadaşının seyahat ettiği yerler hakkında ChatGPT üzerinden bilgi kontrol ettiğini ve böylece duygusal bağı koruduğunu anlatarak farklı kullanım örnekleri paylaştı
- ChatGPT'nin hafıza özelliğini, bir insanla konuşuyormuş gibi hissettiren bir deneyim olarak tarif etti
- Emlak danışmanları, mali müşavirler ve arıcılar da ChatGPT'yi işlerinde aktif biçimde kullanıyor
- Örnek: Bir arıcı, küçük işletme evrak işlerini ChatGPT ile hallediyor
- Bu deneyimler sayesinde ChatGPT'nin günlük bir araç haline geldiğini fark etti ve teknik katkısının toplumsal anlamına ikna oldu
OpenAI'yi seçme nedeni ve görüşme süreci
- Çeşitli sektör uzmanlarının tavsiyesiyle, OpenAI dahil büyük yapay zeka teknoloji şirketleriyle 26 görüşme yaptı
- Netflix dönemine benzer şekilde büyük ölçekli bulut ortamı, hızlı kod değişimi ve mühendis özerkliği gördü
- Yalnızca GPU'larla sınırlı olmayan, tüm teknoloji yığını boyunca performans sorunlarını kapsayan geniş bir problem alanı olduğunu belirtti
- OpenAI'de daha önce tanıdığı yetkin mühendis arkadaşlarının önemli bir kısmı zaten çalışıyordu
- Netflix'ten çalışma arkadaşı Vadim gibi isimlerle işbirliği deneyimi, katılma kararını olumlu etkiledi
- OpenAI'de zaten deneyimli bir performans mühendisliği ekibi bulunduğunu, kendisinin ise aralarına “en son katılan kişi” olduğunu söyledi
Çocukluk hayali 'Orac' ile yapay zeka arasındaki bağ
- Çocukken İngiliz bilim kurgu dizisi Blake’s 7'deki süper bilgisayar Orac'a hayran kaldığını ve bu yüzden yapay zeka geliştirmeyi hayal ettiğini anlattı
- Üniversite yıllarında doğal dil işleme yazılımını kendisi geliştirmeye çalıştı ancak bellek kısıtları nedeniyle bunu bırakmak zorunda kaldı
- ChatGPT kullanırken Orac'ı hatırladı; ayrıca ChatGPT'nin Orac'ın kişiliğini kusursuz biçimde yeniden üreten yanıtlar verdiğini görüp etkilendi
- Sonrasında ChatGPT ayarlarında kendisi için Orac modu kişiselleştirmesi yaparak kullanmaya başladı
- Blake’s 7 için planlanan yeniden yapımdan da söz etti
OpenAI'deki mevcut rolü ve gelecek planları
- Şu anda Sidney'den uzaktan çalışıyor ve ChatGPT performans mühendisliği ekibinde Member of Technical Staff olarak görev yapıyor
- İlk projeleri, ekipler arası işbirliğiyle performans iyileştirme ve maliyet azaltma stratejileri oluşturmak üzerine
- eBPF, Ftrace, PMC gibi mevcut teknolojileri OpenAI'nin ihtiyaçlarına uygun şekilde uygulamayı planlıyor
- Codex'i yalnızca kodlama için değil, çeşitli görevlerde de kullanıyor
- Intel'den ayrıldıktan sonra Linux Plumber’s Conference'da birçok kişi bir sonraki adımını merak etmişti; bu yazıyı da bunun üzerine kaleme aldı
- Son olarak kuaför Mia'ya ChatGPT kullanıp kullanmadığını yeniden sorduğunda, “günün 24 saati kullanıyorum” yanıtını aldığını aktardı
- Bu yazının şirket talebiyle değil, kişisel bir kayıt olarak gönüllü biçimde yazıldığını belirtti
3 yorum
Dünya genelindeki belleğin %40’ını stoklamış bir şirketin, gezegenin kamu yararını gözettiğini söylediğinizde de...
Bu da ne şimdi... Yonga setinden veri merkezine kadar doğrudan üretip kullandığı tek bir şey bile olmayan OpenAI açısından bakınca, yazılım yığını optimize edilirse elde kalan pay kadar ölçek büyütülecektir; yani amaç çevreyi korumaktan çok kârı maksimize etmek (HN yorumunda dendiği gibi, Jevons paradoksu).
Kendini fazlasıyla PR eden bir gönderi olduğu için bakması bile utanç verici.
Hacker News yorumları
“Maliyet düşürmek değil, gezegeni kurtarmak” söylemi kulağa biraz tuhaf geliyor
Acaba mesele basitçe para değil mi diye düşündürüyor
İşe tutku duymak güzel ama ille de Mother Teresa gibi görünmeye gerek yok
Bu arada bu, Silicon Valley dizisindeki bir parodi sahnesini hatırlatıyor
Büyük şirketlerin amacı dünyayı kurtarmak değil, kâr etmektir
Donanım verimliliği artarsa sonunda sadece daha fazla iş yükü doldurulur
Yine de bu problem alanından çıkacak yeni yenilikleri merak ediyorum
Brendan’ın kitabının hayranı olarak OpenAI’ye katılmasını destekliyorum ama analizine katılmak zor
OpenAI X dolar karşılığında Y kadar enerji alıyorsa, verimlilik artışı sadece daha fazla token üretimine yol açar
Bu enerji tasarrufu değil, daha çok Jevons paradoksu gibi görünüyor
Ama “chatbot’a basketbol skorunu sormak” gibi isteklerin enerji maliyetinin düşmesi mümkün
Ücret konusundan bahsetti ama tek neden para değil
AI veri merkezlerinin enerji maliyeti sorununu doğrudan çözmek istemiş
Son 20 yıldır ders kitaplarını neredeyse asgari ücret düzeyinde yazarak başka geliştiricilere yardım etti,
open source ile sayısız startup’ın temelini oluşturdu
uzaktan çalışma kültürünün yayılmasına da katkı sağladı
Verimlilik artınca sonuçta daha fazla GPU satın alınan bir yapı ortaya çıkıyor
Bu tür yan etkileri azaltmak için regülasyon gerektiğini düşünüyorum
“dünya için çalışmak” söylemi boş geliyor
Hayal kırıklığı yaratıyor ama seçim senin, buna saygı duyuyorum
İlgili bağlantı
OpenAI rekabet avantajı için bazı kısımları kapalı tutmayı seçebilir
Yazının kendini beğenmiş tonu o kadar baskındı ki okumak zor oldu
“Kuaför Mia, Intel Fellow olduğumu söyleyince sustu” kısmı utandırıcıydı
Sanki onu etkilemek istemiş ama tepki gelmeyince iş değiştirmeye karar vermiş gibi duruyor
Teknoloji sektörünün dışındaki dünyayla karşılaşınca bu tür tepkiler gayet doğal
Tersinden bakarsak kuaförün söylediği makas markası da bize yabancı gelebilir
Silikon Vadisi’nin işe alım tarzı insanların benlik algısını okşuyor
kendilerini dünyayı değiştiren kişiler olarak görmelerini sağlıyor,
bunun sonucunda da olumsuz etkileri doğrudan görmek zorlaşıyor
Böylesine iyi bir sistem mühendisi olan birinin bu kadar gerçeklikten kopuk yazması şaşırtıcı
Teknik doğrulardan çok siyaset ve kişisel PR öne çıkmış gibi
Kendini ya da fikirlerini tanıtmak da sonuçta mühendisliğin bir uzantısı sayılabilir
Bir hayran olarak yazıyı okudum ama “dünyayı kurtarmak” söylemi özrasyonelleştirme gibi geliyor
“Lastik yangınından mümkün olan en fazla ısıyı çıkarıp gezegeni kurtaracağım” gibi ironik bir benzetme hissi veriyor
Arkadaşının uzakta seyahatte olduğu sırada ChatGPT ile o şehir hakkında konuşup bağ kurma hissi yaşadığını anlatan kısım üzücüydü
Böyle bir kullanım için gigawatt düzeyinde elektrik gerekmiyor
Küçük bir local model yeterli olur
İnsanlar arası asenkron iletişim zaten çözülmüş bir problem
Seyahat programı izlemekten daha az depresif