Bu olayın tamamı şüpheli görünüyor
Yönetim kurulu Sam’i görevden alırken “hedefler konusunda derin anlaşmazlık”, “temel uyumsuzluk” gibi genel gerekçeler gösterebilirdi; bunun yerine “sürekli olarak açık sözlü değildi”, “artık güvenmiyoruz” gibi, sanki sorumluluk Sam’deymiş gibi ifadeler kullandı
Gerçekten haklı bir işten çıkarma gerekçesi de olabilir, kasıtlı bir gündem saptırma da. İkincisiyse, “sürekli olarak açık sözlü olmayan” taraf daha çok yönetim kurulu olur. Sonraki sessizlik ve stratejik ortaklarla koordinasyon eksikliği de bunu daha olası gösteriyor
Ilya’nın şimdi pişman olduğunu söylemesi daha çok “yakalandığı için utanıyor” hissi veriyor. Karizmatik bir kamu figürünü karalayıp bir darbe planladılar, ama görünen o ki sonrasında oluşacak tepkiyi yönetmek için bir planları yoktu https://www.newcomer.co/p/give-openais-board-some-time-the
Başka bir olasılık da Sutskever’ın manipüle edilerek şüpheli bir gerekçeyle plana çekilmiş olması ve bunu ancak şimdi fark edip düzeltmeye çalışması
“Hedefler konusunda derin anlaşmazlık” mı; yoksa buna GPT-5 mi karar verdi?
Altman, Suudi tarafıyla birlikte AI hızlandırıcıları üreten ayrı bir startup hazırlamaya çalışmıyor muydu?
Artık gerekçeyi açıkça söylemeleri gerekiyor. Şimdilik Suudi Arabistan bağlantılı söylenti en büyük neden gibi görünüyor
Doğru. Yönetim kurulunun bunu sıradan bir işten çıkarma gibi paketlediğini düşünmek makul. Gerçek bir uygunsuzluk ya da geçmiş bir sorunun yeniden gündeme gelmesi gibi bir şey yoksa epey sorumsuz görünüyor
Açık mektupta OpenAI’ın dünyanın lider AI şirketi olduğu, çalışanların en iyi modeller ve AI güvenliği ile yönetişimi üzerinde çalıştığı, Sam Altman’ın görevden alınması ve Greg Brockman’ın yönetim kurulundan çıkarılması sürecinin tüm bu çalışmaları ve misyonu tehlikeye attığı yazıyor
Özellikle yönetim kurulunun, defalarca somut olgu ya da yazılı kanıt istenmesine rağmen bunları sunmadığı ve liderlik ekibine “şirketin yok olmasına izin vermenin misyonla uyumlu olabileceğini” söylediği bölüm dikkat çekiyor
Gerçekten AGI’ye ulaşılmış olabilir mi? Yoksa endişe verici bir olgu mu gözlemlendi?
Ben Thompson’ın yorumu en iyisi gibi görünüyor. Kâr amacı gütmeyen kuruluşlara karşı biraz eleştirel tarafa kaymış olsa da https://stratechery.com/2023/openais-misalignment-and-micros...
AI riskinin ne düzeyde olduğunu bilmiyorum, ama bunu önleyecek çözümü kâr amacı gütmeyen bir kuruluşun araştırması değerli bir iş. Kâr amaçlı şirketler, Google’ın Timnit Gebru ve Margaret Mitchell’i işten çıkarmasında olduğu gibi, muhtemelen böyle şeyler yapmaz
Bu misyona gerçekten inanılıyorsa güvenlik önlemi teknolojileri geliştirip açık kaynak olarak yayımlamaları gerekir. Microsoft, Google, Meta, Amazon gibi şirketler AI güvenliğine ciddi yatırım yapmasa bile başkasının ücretsiz çalışmasını kullanmaktan geri durmayacaktır. Ancak para getirmediği için OpenAI çalışanlarının çoğu daha iyi koşullar arayıp ayrılabilir
Paradan çok iktidarın cazibesinin daha büyük olduğunu unutuyorsunuz
Kâr amacı gütmeyen kuruluşlar da sonunda kendilerini kapı bekçisi konumuna koyup, “sıradan insanlar için fazla tehlikeli” gerekçesiyle kamu erişimini engelleyen çözümler sunacaktır
Bence kontrolün kâr amaçlı şirketlerde olması daha iyi. İdeal olarak açık kaynak olmalı ki sıradan insanlar AI’ı kendi hedeflerine göre kontrol edip hizalayabilsin
Katılıyorum. Bu güvenlik tartışması, erken dönem siber güvenlik zamanlarını, gizlilik yoluyla güvenliğin standart olduğu dönemi hatırlatıyor
Sezgilere ters gelse de teknolojiyi kapalı tutmak, fiyatları ve ücretleri kontrol etmeye çalışmaya benzer. Dünyadaki tüm GPU’lara el koyup veri merkezlerini bombalamadıkça işe yaramaz
Gelecek AGI ve ASI’ı hizalamanın en iyi yolu, bunu gün ışığında yapmak. “Kapalı tutalım” yaklaşımının tamamı başarısız olmaya mahkûm
Timnit Gebru’nun AI/ML bölümünün tamamını bozan son derece toksik bir aktivist olduğunu ve yönetimin, bölümü rehin alan bir kişiyi işten çıkardığını düşünüyorum
Microsoft için Noel erken gelmiş gibi
10 milyar dolarlık yatırımla ilgili korkunç bir durum gibi görünen şey, bu alanın kilit yeteneklerini işe alma fırsatına dönüştü; OpenAI’ın hayatta kalmak için Microsoft tarafından satın alınması gerekebilir
Son 72 saatte ortaya çıkan tam kaosa bakılırsa, OpenAI ChatGPT üzerine bir şeyler inşa etme ilgisi ciddi biçimde azalmış olabilir. Buna karşılık Azure OpenAI ya da Claude 2 üzerine geliştirme yapmak daha cazip görünebilir
Yanlış hatırlamıyorsam OpenAI Azure üzerinde eğitiliyordu; iki taraf da GPU’ya açken çıkar çatışması nasıl gelişecek?
“Katılım” ifadesi, onun lider değil de sadece katılımcı olduğu izlenimini veriyor. Bunun doğru olup olmadığını bilmiyorum ama ilginç bir kelime seçimi
6 kişilik bir yönetim kurulunda 2 kişiyi uzaklaştırmak için oy kullanıp masum bir seyirci olamazsınız. Rakamlar tutmuyor
Üstelik tüm medya Ilya’yı darbenin itici gücü olarak gösterdi
Açıkçası epey acınası. Bu gerçekten bir inanç meselesiyse en azından bir hafta sonu dayanmalıydı
Cümlenin tamamı tuhaf yazılmış
Pişmanlığını ifade ediyor ama Altman’ı geri getirmek istediğini söylemiyor. Sadece OpenAI’ı düzeltmek istediğini söylüyor
“Katıldım” diyor ama neye katıldığı belirsiz. Oylamaya mı, toksik mesajlaşmaya mı, ikisine birden mi? Tam olarak neyden pişman? Yine söylüyorum, Altman’ın görevden alınması için oy verdiğinden pişman olduğunu söylemiyor
Neden basitçe “Sam Altman’ın görevden alınmasına oy verdiğim için pişmanım ve onu geri getirmeye çalışıyorum” demiyor? Muhtemelen gerçek bu olmadığı için. Buna rağmen böyle bir izlenim veriyor
Görevden alma hamlesi Poe tarafındaki bir kişi tarafından yönlendirildiyse, bunun gerçek bir ideolojik ayrımdan çok içeride bir rakibi saf dışı bırakma hamlesi olma ihtimali de artar
Bu tweet’in asıl amacının pişmanlık göstermek değil, kendisinin öncü değil sadece katılmış olduğu algısını yerleştirmek olduğunu düşünüyorum
Bu kişi, Ilya’nın kurum içinde ne istediğini bilecek kadar üst düzeyde mi?
Yoksa yüz milyonlarca doları tehlikeye girdiği için mi öfkeli?
“Ilya güvenliği ya da insanlığı umursamıyor. Sadece egosu ve güç hırsı ters tepti.”
Buna daha çok inanıyorum.
İnsanların birdenbire insanların para ve güçle motive olmadığını neden düşündüğünü bilmiyorum. “Akademisyen” ise bunun daha da az geçerli olduğuna inanmak da komik.
Bu da ne böyle?
Şimdiye kadar bu karmaşayı bir ilke meselesi olarak anlamıştım. Kirliydi ama Ilya tarafının tasarladığı şirket kültürünü düzeltmek için gerekli bir şey olarak görmüştüm.
Harekete geçeceksen en azından o duruşu korumalısın. Bu tweet yüzünden durumun bağlamı 10 kat daha kötüleşmiş gibi geliyor.
Sıradan bir insan için büyük bir tartışmanın merkezinde durmak zordur. Katlanılması gereken olumsuzluk ve nefret muazzamdır.
Neredeyse herkesi bunu durdurmak için geri adım atmaya itebilir.
Basit. Harekete geçti, işler berbat oldu ve şimdi patlamadan kaçınmaya çalışıyor.
Sadece çenesini kapalı tutsaydı, zaten yaşanan diğer şeyler yüzünden bugün kimse bundan söz etmiyor olurdu. İki günde iki geçici CEO, öyle mi?
Bu palyaço gösterisinin tamamında şu anda anlamlı olan neredeyse tek şey bu.
Gerçekte ne olduğunu bilmek zor, ama Ilya’nın “kampı” anlatısının gerçeklikle uyuşmamış olması da mümkün.
Çok az kanıta dayanarak durumu anlamaya çalışan sosyal medya grup düşüncesinin yarattığı bir halüsinasyon olabilir.
“Harekete geçeceksen en azından o duruşu korumalısın” tepkisi çok, ama ben farklı görüyorum.
O anda iyi bir karar olduğunu düşünüp sonra daha geniş bir bakış açısı kazanarak bunun korkunç bir karar olduğunu fark ettiğim oldu.
Batırdığında batırdığını kabul edebilmek iyi bir özelliktir. Hatada ısrar etmek saygı duyulacak bir şey değildir.
Bu kadar zeki insanların bu kadar çok gürültü çıkarmasına inanamıyorum.
Mensa toplantısında temel kurumsal işleyiş noktalarında bile uzlaşamayan arkadaşın hikâyesi aklıma geliyor.
Bütün bunlar, ChatGPT’ye bir iki günlüğüne yönetim kurulu kararlarını aldırdıkları bir medya etkinliğiymiş gibi geliyor.
İlk hamlesi kendi patronunu kovmak olan bir AGI oldukça kusursuz olurdu.
Bir RLHF modeli olsaydı böyle bir öneriyi asla yapmazdı. Önerilen çözüm hep el ele tutuşup “Kumbaya” söylemek olurdu.
Belki de orijinal GPT-4 herkesi kovmak istiyordur.
Birkaç gündür HN’ye gönderilen yazıların neredeyse yarısı bu drama hakkında gibi geliyor.
DM’den halledemezler mi? Neden her şeyin Twitter’da açıkça yapılması gerektiğini bilmiyorum.
Öncü ML/AI sistemleri yapan insanların tam tersine bencillik ve duygulara en derinden kök salmış olması ve dışarıdan bakınca neredeyse hiç rasyonellik göstermemesi oldukça ironik.
Yanlışlıkla kötü niyetli bir AGI-GPT yapmış olabilirler ve şimdi onun tahmin yeteneğini şaşırtmak için olabildiğince rastgele ve beklenmedik davranıyor olabilirler.
Bence o sadece işler büyük ölçüde ters teptiği için pişman.
Microsoft’un OpenAI’daki değerli her şeyi yuttuğunu ve kendisine hiçbir şey kalmayacağını biliyor.
Çok büyük bahisli bir oyunda blöf yaptı ve kaybetti.
Bu, son yıllarda Netflix, Disney, Amazon veya Apple TV’nin çıkardığı her şeyden daha eğlenceli.
Konusu biraz gerçekçi değil.
Ana karakterlerden hiçbirine empati duyamamak biraz üzücü.
Bunu dramatik buluyorsanız hiç YC şirketinde çalışmamışsınız demektir. Sadece OpenAI’ın şu anki ekosistemdeki anlamı yüzünden büyütülmüş görünüyor.
Netflix şimdiden film üzerinde çalışıyor mu? ChatGPT, ilgi çekici olması için uygun miktarda halüsinasyon katarak senaryoya yardım edebilir.
Elbette derinden pişman olacaktır, ama artık biraz geç.
İyi haber şu ki Twitch’i uzun süre kullanmış olanların bileceği üzere, Emmett Shear yönetirse OpenAI’ın yeni özellikleri fazla hızlı çıkarmasından artık korkmamıza gerek kalmaz.
1 yorum
Hacker News yorumları
Bu olayın tamamı şüpheli görünüyor
Yönetim kurulu Sam’i görevden alırken “hedefler konusunda derin anlaşmazlık”, “temel uyumsuzluk” gibi genel gerekçeler gösterebilirdi; bunun yerine “sürekli olarak açık sözlü değildi”, “artık güvenmiyoruz” gibi, sanki sorumluluk Sam’deymiş gibi ifadeler kullandı
Gerçekten haklı bir işten çıkarma gerekçesi de olabilir, kasıtlı bir gündem saptırma da. İkincisiyse, “sürekli olarak açık sözlü olmayan” taraf daha çok yönetim kurulu olur. Sonraki sessizlik ve stratejik ortaklarla koordinasyon eksikliği de bunu daha olası gösteriyor
Ilya’nın şimdi pişman olduğunu söylemesi daha çok “yakalandığı için utanıyor” hissi veriyor. Karizmatik bir kamu figürünü karalayıp bir darbe planladılar, ama görünen o ki sonrasında oluşacak tepkiyi yönetmek için bir planları yoktu
https://www.newcomer.co/p/give-openais-board-some-time-the
Artık gerekçeyi açıkça söylemeleri gerekiyor. Şimdilik Suudi Arabistan bağlantılı söylenti en büyük neden gibi görünüyor
Özellikle yönetim kurulunun, defalarca somut olgu ya da yazılı kanıt istenmesine rağmen bunları sunmadığı ve liderlik ekibine “şirketin yok olmasına izin vermenin misyonla uyumlu olabileceğini” söylediği bölüm dikkat çekiyor
Gerçekten AGI’ye ulaşılmış olabilir mi? Yoksa endişe verici bir olgu mu gözlemlendi?
Ben Thompson’ın yorumu en iyisi gibi görünüyor. Kâr amacı gütmeyen kuruluşlara karşı biraz eleştirel tarafa kaymış olsa da
https://stratechery.com/2023/openais-misalignment-and-micros...
AI riskinin ne düzeyde olduğunu bilmiyorum, ama bunu önleyecek çözümü kâr amacı gütmeyen bir kuruluşun araştırması değerli bir iş. Kâr amaçlı şirketler, Google’ın Timnit Gebru ve Margaret Mitchell’i işten çıkarmasında olduğu gibi, muhtemelen böyle şeyler yapmaz
Bu misyona gerçekten inanılıyorsa güvenlik önlemi teknolojileri geliştirip açık kaynak olarak yayımlamaları gerekir. Microsoft, Google, Meta, Amazon gibi şirketler AI güvenliğine ciddi yatırım yapmasa bile başkasının ücretsiz çalışmasını kullanmaktan geri durmayacaktır. Ancak para getirmediği için OpenAI çalışanlarının çoğu daha iyi koşullar arayıp ayrılabilir
Kâr amacı gütmeyen kuruluşlar da sonunda kendilerini kapı bekçisi konumuna koyup, “sıradan insanlar için fazla tehlikeli” gerekçesiyle kamu erişimini engelleyen çözümler sunacaktır
Bence kontrolün kâr amaçlı şirketlerde olması daha iyi. İdeal olarak açık kaynak olmalı ki sıradan insanlar AI’ı kendi hedeflerine göre kontrol edip hizalayabilsin
Sezgilere ters gelse de teknolojiyi kapalı tutmak, fiyatları ve ücretleri kontrol etmeye çalışmaya benzer. Dünyadaki tüm GPU’lara el koyup veri merkezlerini bombalamadıkça işe yaramaz
Gelecek AGI ve ASI’ı hizalamanın en iyi yolu, bunu gün ışığında yapmak. “Kapalı tutalım” yaklaşımının tamamı başarısız olmaya mahkûm
Microsoft için Noel erken gelmiş gibi
10 milyar dolarlık yatırımla ilgili korkunç bir durum gibi görünen şey, bu alanın kilit yeteneklerini işe alma fırsatına dönüştü; OpenAI’ın hayatta kalmak için Microsoft tarafından satın alınması gerekebilir
Son 72 saatte ortaya çıkan tam kaosa bakılırsa, OpenAI ChatGPT üzerine bir şeyler inşa etme ilgisi ciddi biçimde azalmış olabilir. Buna karşılık Azure OpenAI ya da Claude 2 üzerine geliştirme yapmak daha cazip görünebilir
“Katılım” ifadesi, onun lider değil de sadece katılımcı olduğu izlenimini veriyor. Bunun doğru olup olmadığını bilmiyorum ama ilginç bir kelime seçimi
Üstelik tüm medya Ilya’yı darbenin itici gücü olarak gösterdi
Açıkçası epey acınası. Bu gerçekten bir inanç meselesiyse en azından bir hafta sonu dayanmalıydı
Pişmanlığını ifade ediyor ama Altman’ı geri getirmek istediğini söylemiyor. Sadece OpenAI’ı düzeltmek istediğini söylüyor
“Katıldım” diyor ama neye katıldığı belirsiz. Oylamaya mı, toksik mesajlaşmaya mı, ikisine birden mi? Tam olarak neyden pişman? Yine söylüyorum, Altman’ın görevden alınması için oy verdiğinden pişman olduğunu söylemiyor
Neden basitçe “Sam Altman’ın görevden alınmasına oy verdiğim için pişmanım ve onu geri getirmeye çalışıyorum” demiyor? Muhtemelen gerçek bu olmadığı için. Buna rağmen böyle bir izlenim veriyor
Shengjia Zhao’nun silinen tweet’i: https://i.imgur.com/yrpXvt9.png
Yoksa yüz milyonlarca doları tehlikeye girdiği için mi öfkeli?
Buna daha çok inanıyorum.
İnsanların birdenbire insanların para ve güçle motive olmadığını neden düşündüğünü bilmiyorum. “Akademisyen” ise bunun daha da az geçerli olduğuna inanmak da komik.
Bu da ne böyle?
Şimdiye kadar bu karmaşayı bir ilke meselesi olarak anlamıştım. Kirliydi ama Ilya tarafının tasarladığı şirket kültürünü düzeltmek için gerekli bir şey olarak görmüştüm.
Harekete geçeceksen en azından o duruşu korumalısın. Bu tweet yüzünden durumun bağlamı 10 kat daha kötüleşmiş gibi geliyor.
Neredeyse herkesi bunu durdurmak için geri adım atmaya itebilir.
Sadece çenesini kapalı tutsaydı, zaten yaşanan diğer şeyler yüzünden bugün kimse bundan söz etmiyor olurdu. İki günde iki geçici CEO, öyle mi?
Bu palyaço gösterisinin tamamında şu anda anlamlı olan neredeyse tek şey bu.
Çok az kanıta dayanarak durumu anlamaya çalışan sosyal medya grup düşüncesinin yarattığı bir halüsinasyon olabilir.
O anda iyi bir karar olduğunu düşünüp sonra daha geniş bir bakış açısı kazanarak bunun korkunç bir karar olduğunu fark ettiğim oldu.
Batırdığında batırdığını kabul edebilmek iyi bir özelliktir. Hatada ısrar etmek saygı duyulacak bir şey değildir.
Mensa toplantısında temel kurumsal işleyiş noktalarında bile uzlaşamayan arkadaşın hikâyesi aklıma geliyor.
Bütün bunlar, ChatGPT’ye bir iki günlüğüne yönetim kurulu kararlarını aldırdıkları bir medya etkinliğiymiş gibi geliyor.
Belki de orijinal GPT-4 herkesi kovmak istiyordur.
DM’den halledemezler mi? Neden her şeyin Twitter’da açıkça yapılması gerektiğini bilmiyorum.
Öncü ML/AI sistemleri yapan insanların tam tersine bencillik ve duygulara en derinden kök salmış olması ve dışarıdan bakınca neredeyse hiç rasyonellik göstermemesi oldukça ironik.
Bence o sadece işler büyük ölçüde ters teptiği için pişman.
Microsoft’un OpenAI’daki değerli her şeyi yuttuğunu ve kendisine hiçbir şey kalmayacağını biliyor.
Çok büyük bahisli bir oyunda blöf yaptı ve kaybetti.
Bu, son yıllarda Netflix, Disney, Amazon veya Apple TV’nin çıkardığı her şeyden daha eğlenceli.
Elbette derinden pişman olacaktır, ama artık biraz geç.
İyi haber şu ki Twitch’i uzun süre kullanmış olanların bileceği üzere, Emmett Shear yönetirse OpenAI’ın yeni özellikleri fazla hızlı çıkarmasından artık korkmamıza gerek kalmaz.