Karpathy şirketten her ayrıldığında, boş zamanında harika eğitim materyalleri hazırlıyor ve alanın bir seviye atladığı hissi oluşuyor
Örnek var mı? Bu alana o kadar aşina değilim
Doğru, bu kez açık kaynakla ilgili içeriklerin bolca çıkması güzel olurdu
Karpathy gerçekten harika bir öğretmen. Onun bilgisayarlı görü dersini almıştım; daha çok ders vermesini ve bu işi ciddiye almasını isterdim
Popüler bir yapay zeka influencer'ı olmak iyi bir araştırmacı olmak anlamına gelmiyor; iyi bir iş lideri ya da kurucu olmakla da hatta güçlü bir negatif korelasyonu var gibi görünüyor
Karmaşık şeyleri zarif biçimde açıklama gibi bugünlerde çok ihtiyaç duyulan o kayıp sanata geri dönüp işi sakin sakin yapmasını ve Silikon Vadisi'nin dolandırıcılarıyla vakit harcama tarafına fazla kaymamasını umuyorum
Düşündükçe, birinin tweet'inin doğrudan Hacker News ana sayfasına çıkmasının insan üzerinde epey etkisi olabileceğini düşünüyorum. İsmi ve etkisi nedeniyle teklif ve fırsatlar yağıyor olabilir, ama bunlar gerçekten en uygun pozisyonlar olduğu için olmayabilir
Keşke bilgiyi düzgün şekilde ödüllendirsek. YouTube buna en yakın görünen yer, ama YouTube eğitimcileri bile uzmanlık öğretmek yerine izlenme çekmeye ne kadar çok zaman harcamaları gerektiğini gösteriyor
İsim ve etki nedeniyle tekliflerin yağması ve bunun gerçek uygunlukla aynı şey olmaması, ne yazık ki hayatın küçük bir özeti gibi. Belirli bir pozisyona en uygun kişinin o yeri alması nadirdir; fazla nitelikli diye elenebilir, İK aşamasında takılabilir ya da ofise dönüş talebi, karşı teklifin reddi, açıklanmayan yasa dışı etkenler gibi muğlak nedenlerle reddedilebilir
Pek iyi bir oyun değil; bu yüzden elindeki kartları değerlendiren birini suçlamak zor
Bazen bir meslek olarak öğretmenliğe daha çok değer verilmesini istiyorum. Araştırma yapmadan, ders vererek geçimimi sağlamak isterdim
İyi öğretmenlerin harika araştırmacılar olacağını düşünüyorum. Çünkü kendi alanlarını çok iyi anlamaları, gerekli soruları öngörüp kendilerine sormaları, alana her zaman taze gözlerle bakmaları, işbirliğinde iyi olmaları ve en önemlisi iletişim becerilerinin güçlü olması gerekir
Karpathy gibi harika eğitimciler bir şeyi sıfırdan kuruyor ve benim anlayabileceğim şekilde açıklıyor. Bunun eğitmenin becerisiyle mi ilgili olduğunu, yoksa benim gibi öğrencilerin diğer materyalleri anlayacak seviyede olmamasından mı kaynaklandığını merak ediyorum
Küçük bir düzeltme: “b-lined” değil, bee-lined
Normalde böyle şeyleri belirtmem ama “b-lined”, “B-list celebrity”deki gibi düşük önceliği ifade eden ters bir anlamda da okunabilir
Açıkçası OpenAI hızla parıltısını kaybediyor gibi
Eklentiler başarısız oldu; GPTs biraz daha iyi ama hâlâ ürün-pazar uyumu görünmüyor. GPT-4 hâlâ tahtta ama eskisi kadar ezici değil; makale yayımlamadıkları için araştırmada iyi gidip gitmedikleri de net değil
Artık GPT-5'in inanılmaz iyi olması gerekiyor, ama gerçekten öyle olup olmayacağını bilmiyorum
Bu alanın özellikle hızlı ilerlediğini biliyorum ama GPT-4 çıkalı daha 1 yıl bile olmadı. Her çeyrekte yer yerinden oynatacak yeni bir model çıkarmıyorlar diye parıltısını kaybettiğini söylemek biraz komik görünüyor
Popülaritesi patladığı ve etik sorular da daha önemli hale geldiği için, her ne pahasına olursa olsun ilk yayımlayan olmak yerine bazı unsurları düzgünce rafine etmek için zamana ihtiyaç duyabilirler
Az önce Gemini Ultra'yı denedim ve GPT-4'ten o kadar kötüydü ki epey şaşırdım. Birkaç kodlama sorusu sorunca her seferinde var olmayan yeni söz dizimleri uyduruyor; çalışmayan ve gerçekte de var olmayan A ya da B seçeneğiyle devam etmek isteyip istemediğimi sorup duruyor, bu da tuhaf ve sinir bozucu bir zaman kaybına dönüşüyor
Sonunda istediğim dilde bir çıktı aldırmaya bir saat harcadıktan sonra tamamen işe yaramaz olduğunu fark ettim
Google'ın bu kadar geride kalması ve böylesine değersiz bir şeyi piyasaya sürmesi şaşırtıcı. Üstelik bunun için para istemeye kalkmaları da ayrı cesaret
Elbette GPT-5'i merakla bekliyorum, ama küçük bir iyileştirme bile olsa OpenAI hâlâ çok daha önde
Google çalışanları muhtemelen OpenAI'ın ortadan kaybolmasını ister. Çünkü OpenAI yüzünden Google tam IBM gibi bir şirket görünümüne bürünüyor
Komik sahne burada: https://twitter.com/Suhail/status/1757573182138290284
Ollama ile 80GB'lık Mistral modelini çalıştırınca ChatGPT 3.5 ile aynı ya da daha iyi çalışıyor. Sihrin artık yalnızca OpenAI'a ait olmaması dünya için iyi bir şey bence
Rakiplerin sadece son 3 ayda bile yetişme hızı şaşırtıcı
OpenAI hızla parıltısını kaybediyorsa bu iyi
Şirketin içinde gerçekte neler olup bittiğini hiç bilmiyorum ama Altman görevden uzaklaştırıldığında çalışanların Twitter'da sergilediği davranışlar gerçekten ürkütücüydü; tehlike işaretleri ve kötü hava her yerdeydi
Popüler olmayan bir görüş olabilir ama Karpathy’nin itibarı ve etkisinin neredeyse tamamının olağanüstü bir eğitimci ve iletişimci olmasından geldiğini düşünüyorum.
Bu itibara kıyasla yapay zekayı ileri taşıyan gerçek katkı düzeyinden pek emin değilim.
Eğitim içerikleri için derin minnet duyuyorum; bu sayede etki kazanıp kariyerini sürdürebilmiş olmasına da seviniyorum. Umarım bundan yeterince zengin olup %100 eğitime odaklanabilir.
Katılmıyorum. Bence iyi eğitim materyallerinin değeri sık sık hafife alınıyor. Karpathy, aşırı karmaşık ve yoğun matematiksel açıklamalarla dolu yapay zeka alanına canlılık kattı.
Örneğin CS 231, Stanford’daki en popüler yapay zeka/ML derslerinden biriydi. 2015-2017 civarında o dersi alıp sonrasında yapay zekada büyüyen öğrenci sayısını düşünürsek, ciddi bir payı o derse vermek abartı olmaz.
Adım adım rehberlik edip bunun ne kadar sadeleştirilebileceğini gösteren eğitmenler son derece değerlidir. Alana giriş bariyerini düşürmede kilit rol oynarlar.
Uzun vadede, Karpathy’nin ürettiği materyaller sayesinde yapay zekaya giren yeni insanlar büyük atılımlar yapacak. Onun “Hacker's Guide to Neural Networks”ü neredeyse 10 yıllık bir kaynak olmasına rağmen, geri yayılımı anlamamda en net “aha” anını yaşatmıştı.
Eğitim ve iletişim önemlidir. Yeni insanları alana çeker, hâlihazırda alanda olanları da geliştirir; ikisi de uzun vadeli büyüme ve ilerleme için zorunludur.
Eğitim dışı faaliyetleri “gerçek katkı” diye adlandırmak, iyi bir eğitimcinin ilerleme yürüyüşündeki rolünü tamamen küçümseyen bir ifade. Böyle bir eğitim olmasaydı bugün nerede olurduk?
O, yapay zekayı ileri taşımaya katkı sağladı. “Gerçek” diye bir niteleme eklemeye de gerek yok. İyi bir eğitimciyi kaybetmek, iyi bir mühendisi kaybetmek kadar üzücü görülmeli.
Karpathy, image captioning alanında öncü çalışmalar yaptı ve görsel-metin anlamsal uzaylarını hizaladı. Bu, modern görüntü üreticilerin kavramsal temelidir.
Ayrıca yinelemeli sinir ağlarını mükemmel biçimde analiz etti ve dil modellerinin içinde neler olduğunu açıklayan erken dönem ve en iyi anlatımlardan birini sundu.
Hacker News yorum bölümü, birinin özgeçmişini kamuya açık biçimde değerlendirmek için hayal edilebilecek en az meşru forumlardan biri. Belki Kongre hariç.
“Şimdilik planım kişisel projeler üzerinde çalışıp nereye varacağını görmek. Beni uzun süredir takip edenler bunun nasıl bir şeye benzeyeceğine dair fikir sahibidir” demiş; burada bilen var mı?
Sanırım onun YouTube serisinden bahsediyor. Heyecan verici.
Eski profilinde OpenAI’da JARVIS üzerinde çalıştığı yazıyordu.
Video serisinde GPT-3’ün küçük ve verimli bir sürümünü yapıyordu.
GitHub’da görülebilir: https://github.com/karpathy
Açık kaynak modellerle de ilgileniyor ve /r/localllama’da da var.
Hikâye anlatma becerisi ve küp çözmesi de olduğuna göre çocuk partilerinde de epey iyi olabilir. Üstelik öğretebilir ve bir şeyler de yapabilir. Everest’e hâlâ çıkmadı mı?
Kesinlikle katılıyorum. Harika bir kısa hikâyeydi. Bir gün daha genişletilmiş hâlini görmeyi isterim.
YouTube kanalına mı odaklanacak acaba? Heyecan verici. İçerikleri gerçekten mükemmel.
Ben de heyecanlıyım. Yaklaşık 8 yıl önce yayımladığı char-rnn gibi yinelemeli sinir ağları için Python minyatürleri öğrenmemde gerçekten yardımcı olmuştu.
Bunu yaparsa milyonlarca dolardan vazgeçmiş olur gibi geliyor. Elbette durumu iyidir ve erken emeklilik de mümkündür ama yine de milyonlarca dolar büyük para.
O makalede sert bir paywall var; bu yüzden ilgili yorumları buraya birleştireceğim. Lütfen biraz bekleyin.
Sabitlenmiş tweet’i “En popüler yeni programlama dili İngilizcedir”e bakınca, yazının sonundaki “beni tanıyanlar ne yaptığımı bilir ;)” mesajı bir tür geliştirici aracına işaret ediyor gibi.
Bir teknoloji vizyoneri için gayet olası; hacker’lar da nihayetinde kendilerini daha iyi hâle getiren araçlar yapmaya karşı koyamıyor gibi.
Benim boş tahminimden daha iyi bilgisi olan var mı?
Tam zamanlı YouTuber olacak.
Birkaç kez LLM tabanlı işletim sistemi üzerine spekülasyon yapmıştı. O olursa gerçekten harika olur.
1 yorum
Hacker News görüşleri
Karpathy şirketten her ayrıldığında, boş zamanında harika eğitim materyalleri hazırlıyor ve alanın bir seviye atladığı hissi oluşuyor
Karpathy gerçekten harika bir öğretmen. Onun bilgisayarlı görü dersini almıştım; daha çok ders vermesini ve bu işi ciddiye almasını isterdim
Popüler bir yapay zeka influencer'ı olmak iyi bir araştırmacı olmak anlamına gelmiyor; iyi bir iş lideri ya da kurucu olmakla da hatta güçlü bir negatif korelasyonu var gibi görünüyor
Karmaşık şeyleri zarif biçimde açıklama gibi bugünlerde çok ihtiyaç duyulan o kayıp sanata geri dönüp işi sakin sakin yapmasını ve Silikon Vadisi'nin dolandırıcılarıyla vakit harcama tarafına fazla kaymamasını umuyorum
Düşündükçe, birinin tweet'inin doğrudan Hacker News ana sayfasına çıkmasının insan üzerinde epey etkisi olabileceğini düşünüyorum. İsmi ve etkisi nedeniyle teklif ve fırsatlar yağıyor olabilir, ama bunlar gerçekten en uygun pozisyonlar olduğu için olmayabilir
İsim ve etki nedeniyle tekliflerin yağması ve bunun gerçek uygunlukla aynı şey olmaması, ne yazık ki hayatın küçük bir özeti gibi. Belirli bir pozisyona en uygun kişinin o yeri alması nadirdir; fazla nitelikli diye elenebilir, İK aşamasında takılabilir ya da ofise dönüş talebi, karşı teklifin reddi, açıklanmayan yasa dışı etkenler gibi muğlak nedenlerle reddedilebilir
Pek iyi bir oyun değil; bu yüzden elindeki kartları değerlendiren birini suçlamak zor
Normalde böyle şeyleri belirtmem ama “b-lined”, “B-list celebrity”deki gibi düşük önceliği ifade eden ters bir anlamda da okunabilir
Açıkçası OpenAI hızla parıltısını kaybediyor gibi
Eklentiler başarısız oldu; GPTs biraz daha iyi ama hâlâ ürün-pazar uyumu görünmüyor. GPT-4 hâlâ tahtta ama eskisi kadar ezici değil; makale yayımlamadıkları için araştırmada iyi gidip gitmedikleri de net değil
Artık GPT-5'in inanılmaz iyi olması gerekiyor, ama gerçekten öyle olup olmayacağını bilmiyorum
Popülaritesi patladığı ve etik sorular da daha önemli hale geldiği için, her ne pahasına olursa olsun ilk yayımlayan olmak yerine bazı unsurları düzgünce rafine etmek için zamana ihtiyaç duyabilirler
Sonunda istediğim dilde bir çıktı aldırmaya bir saat harcadıktan sonra tamamen işe yaramaz olduğunu fark ettim
Google'ın bu kadar geride kalması ve böylesine değersiz bir şeyi piyasaya sürmesi şaşırtıcı. Üstelik bunun için para istemeye kalkmaları da ayrı cesaret
Elbette GPT-5'i merakla bekliyorum, ama küçük bir iyileştirme bile olsa OpenAI hâlâ çok daha önde
Komik sahne burada: https://twitter.com/Suhail/status/1757573182138290284
Rakiplerin sadece son 3 ayda bile yetişme hızı şaşırtıcı
Şirketin içinde gerçekte neler olup bittiğini hiç bilmiyorum ama Altman görevden uzaklaştırıldığında çalışanların Twitter'da sergilediği davranışlar gerçekten ürkütücüydü; tehlike işaretleri ve kötü hava her yerdeydi
Popüler olmayan bir görüş olabilir ama Karpathy’nin itibarı ve etkisinin neredeyse tamamının olağanüstü bir eğitimci ve iletişimci olmasından geldiğini düşünüyorum.
Bu itibara kıyasla yapay zekayı ileri taşıyan gerçek katkı düzeyinden pek emin değilim.
Eğitim içerikleri için derin minnet duyuyorum; bu sayede etki kazanıp kariyerini sürdürebilmiş olmasına da seviniyorum. Umarım bundan yeterince zengin olup %100 eğitime odaklanabilir.
Bu yazı, OpenAI’dan Alec Radford’a Unsupervised sentiment neuron araştırmasını yapması için ilham verdi: https://openai.com/research/unsupervised-sentiment-neuron
OpenAI, Google’ın geliştirdiği yeni Transformer mimarisini kullanarak bu modeli büyütürlerse ne olacağını görmeye karar verdi ve GPT denen şeyi yaptı: https://cdn.openai.com/research-covers/language-unsupervised...
Örneğin CS 231, Stanford’daki en popüler yapay zeka/ML derslerinden biriydi. 2015-2017 civarında o dersi alıp sonrasında yapay zekada büyüyen öğrenci sayısını düşünürsek, ciddi bir payı o derse vermek abartı olmaz.
Adım adım rehberlik edip bunun ne kadar sadeleştirilebileceğini gösteren eğitmenler son derece değerlidir. Alana giriş bariyerini düşürmede kilit rol oynarlar.
Uzun vadede, Karpathy’nin ürettiği materyaller sayesinde yapay zekaya giren yeni insanlar büyük atılımlar yapacak. Onun “Hacker's Guide to Neural Networks”ü neredeyse 10 yıllık bir kaynak olmasına rağmen, geri yayılımı anlamamda en net “aha” anını yaşatmıştı.
Eğitim dışı faaliyetleri “gerçek katkı” diye adlandırmak, iyi bir eğitimcinin ilerleme yürüyüşündeki rolünü tamamen küçümseyen bir ifade. Böyle bir eğitim olmasaydı bugün nerede olurduk?
O, yapay zekayı ileri taşımaya katkı sağladı. “Gerçek” diye bir niteleme eklemeye de gerek yok. İyi bir eğitimciyi kaybetmek, iyi bir mühendisi kaybetmek kadar üzücü görülmeli.
Ayrıca yinelemeli sinir ağlarını mükemmel biçimde analiz etti ve dil modellerinin içinde neler olduğunu açıklayan erken dönem ve en iyi anlatımlardan birini sundu.
“Şimdilik planım kişisel projeler üzerinde çalışıp nereye varacağını görmek. Beni uzun süredir takip edenler bunun nasıl bir şeye benzeyeceğine dair fikir sahibidir” demiş; burada bilen var mı?
GitHub’da görülebilir: https://github.com/karpathy
Boş zamanında daha fazla kurgu yazmasını isterim. https://karpathy.github.io/2015/11/14/ai/ yazısını gerçekten sevmiştim.
YouTube kanalına mı odaklanacak acaba? Heyecan verici. İçerikleri gerçekten mükemmel.
OpenAI’a yeniden katıldığı zaman neredeyse tam olarak 1 yıl önce gibi görünüyor: https://twitter.com/karpathy/status/1623476659369443328
İlgili yazı: “Andrej Karpathy Departs OpenAI”[0] (159 puan, 2 saat önce, 71 yorum)
[0]: https://news.ycombinator.com/item?id=39365288
Sabitlenmiş tweet’i “En popüler yeni programlama dili İngilizcedir”e bakınca, yazının sonundaki “beni tanıyanlar ne yaptığımı bilir ;)” mesajı bir tür geliştirici aracına işaret ediyor gibi.
Bir teknoloji vizyoneri için gayet olası; hacker’lar da nihayetinde kendilerini daha iyi hâle getiren araçlar yapmaya karşı koyamıyor gibi.
Benim boş tahminimden daha iyi bilgisi olan var mı?