Bu Fable vakasının üzerine düşen devasa gölge
(12gramsofcarbon.com)- Güçlü yapay zeka modelleri Fable 5 ve Mythos 5'e tüm müşteri erişimi, ABD hükümetinin ihracat kontrolü talimatının ardından aniden kesildi
- ABD hükümetinin talimatı, ABD içinde ve dışında bulunan yabancı uyrukluların yanı sıra Anthropic'in yabancı uyruklu çalışanlarını da erişim engeli kapsamına aldı; Anthropic de uyum sağlamak için tüm erişimi kapattı
- Anthropic, hükümetin belirli bir jailbreak aşma tekniğini sorun ettiğini düşündüğünü, ancak gösterilen zafiyetlerin zaten bilinen az sayıdaki hafif zafiyetten ibaret olduğunu ve başka açık modellerde de bulunabileceğini savunuyor
- Bu adımın yapay zeka güvenliği düzenlemesi mi yoksa Anthropic'i hedef alan siyasi ve rekabetçi baskı mı olduğunu ayırt etmek zorlaşıyor; bu da hükümet kararlarının güvenilirliği sorununu büyütüyor
- Güçlü LLM'lere açık erişimin devlet kontrolüyle sınırlandığı bir emsal oluştu ve bunun ileride sıradan kullanıcıların en yüksek performanslı modellere erişmesini zorlaştırabileceği endişesini doğuruyor
Cuma akşamı kesilen model erişimi
- Cuma akşamı bir AI agent ile HTML oyunu yaparken agent "bu model artık mevcut değil" yanıtını verdi ve çalışma durdu
- Başta bunun yeniden giriş yapma sorunu ya da paralel agent kullanımından kaynaklanan garip bir kota hatası olduğu düşünüldü, bu yüzden API'ye geçildi ama erişim yine sağlanamadı
- Ekibin geliştirdiği özel Rust agent client için kullanılan harness'in bozulduğundan şüphelenilip Rust koduna bakılırken, bir arkadaştan hükümetin Fable'ı yasakladığı haberi geldi
Hükümetin erişim engeli talimatı
- ABD hükümeti, ulusal güvenlik yetkilerini gerekçe göstererek bir ihracat kontrolü talimatı yayımladı ve Fable 5 ile Mythos 5'e tüm yabancı uyruklu kişilerin erişiminin durdurulmasını istedi
- Kapsam, ABD içinde ya da dışında bulunmasına bakılmaksızın tüm yabancı uyrukluları ve yabancı uyruklu Anthropic çalışanlarını da içeriyor
- Anthropic, buna uymak için Fable 5 ve Mythos 5'i tüm müşteriler için derhal devre dışı bıraktı; Anthropic'in diğer tüm modellerine erişim etkilenmedi
- Talimat aynı gün 17:21 ET'de alındı ve mektupta somut güvenlik kaygılarının ne olduğuna dair ayrıntı yer almadı
Anthropic'in resmi tutumu
- Anthropic, hükümetin Fable 5 jailbreak aşma tekniklerinden haberdar olduğunu anladığını, ancak ilgili gösterimi incelediğinde bunun zaten bilinen birkaç hafif zafiyetin tespitinden öteye gitmediğini söylüyor
- Bu zafiyetlerin nispeten basit olduğu ve aşma tekniği olmadan da başka açık modellerde aynı şekilde bulunabileceği belirtiliyor
- Talimatın dayanağı olduğu tahmin edilen rapor incelendi; söz konusu yetenek seviyesinin OpenAI GPT-5.5 gibi diğer modellerde de yaygın biçimde bulunduğu ve güvenlik savunucuları tarafından her gün kullanıldığı doğrulandı, 24 saat içinde ek bilgi paylaşılacağı belirtildi
- Hukuki talimata uyulacağı, ancak dar kapsamlı olası bir jailbreak bulgusunun yüz milyonlarca kişiye dağıtılmış ticari bir modelin geri çekilmesi için gerekçe olmaması gerektiği savunuluyor
Yapay zeka güvenliği ve optimizasyon kaygıları
- Yapay zekaya bakış ikircikli; çok sayıda derin öğrenme modeli eğitmiş olmanın etkisiyle optimizasyon araçlarının yanlış çalışabileceği biçimlere dair güçlü kaygılar var
- İnsanlar gerçekten ulaşmak istedikleri hedefleri değil, ölçülebilir metrikleri optimize etme eğilimi gösteriyor
- İyi bir ürün yapmak istense bile nasıl yapılacağı bilinmediği için etkileşim optimize ediliyor; çocuklara okuma ve yazma öğretmek istenirken test puanlarının optimize edilmesi gibi sorunlar ortaya çıkıyor
- AGI ve ASI sistemleri birer optimizasyon aracı ve ölçülebilir olanı optimize ederken iyi olandan uzaklaşabildikleri için öngörülmesi zor riskler taşıyabiliyor
- Şirketler de optimizasyon araçları gibi çalıştığından, çok sayıda geliştirici risklerden söz etse bile ölçülebilir hedef olan hızlı gelir üretimine yönelinebiliyor
Hükümet ile Anthropic arasındaki gerilimin arka planı
- Anthropic ile mevcut yönetim arasında dostane olmayan bir ilişki var; şirket DoD entegrasyonu ve askeri işbirliği arayışındaydı ve modelleri çok gizli sistemlerde kullanılmıştı
- Buna rağmen Trump yönetimi Anthropic'i supply chain risk olarak tanımladı ve hükümetle çalışan tarafların Anthropic modellerini kullanmasını yasakladı
- Sonraki 6 ay boyunca Venezuela savaşı, İran savaşı gibi askeri operasyonlarda Anthropic modelleri kullanılmaya devam etti; Chinese LLM'ler ise supply chain risk olarak bile tanımlanmadı
- Aşırı sağın bazı kesimleri, yönetimin Anthropic'i yok etmek istediğini öne sürerek Anthropic'i 'woke' olarak damgalayan bir söylem geliştiriyor
- Bu adımın zararlı yapay zeka düzenlemesi amacı mı taşıdığı, yoksa kültürel olarak düşman görülen bir hedefe darbe vurmak için fırsat mı olduğu sorgulanıyor
Rekabet dengesi ve IPO zamanlaması
- Rakiplerin yönetim genelinde kendilerine yakın güç odakları bulunuyor; örneğin Kushner ailesi OpenAI'ye büyük yatırım yaptı
- Bu adım, başka laboratuvarların Anthropic'e darbe vurması için bir fırsat olarak yorumlanabilir
- Fable çok güçlü bir model olarak değerlendiriliyor ve Anthropic'in IPO'sunun yaklaştığı bir dönemde tüketici erişiminin kesilmesi dikkat çekici bulunuyor
- Ganimet siyaseti anlamına gelen spoils system, her meselenin optics'ini şüpheli hale getiriyor; onlarca yılda biriken güvenin çöktüğü söyleniyor
Cuma 17:21 duyurusu ve piyasa kaygıları
- Duyurunun Cuma günü 17:21'de yapılmış olması şüpheli bir zamanlama olarak görülüyor
- Cuma akşamı yapılan duyuruların, kötü haberlerin hafta sonu boyunca piyasa tarafından sindirilmesinin beklendiği bir yöntem olduğu düşünülüyor
- Claude'un aktardığı The Kobeissi Letter örnekleri arasında, Cuma kapanışından sonra ya da Cumartesi sabaha karşı gelen jeopolitik ve ticaret duyuruları yer alıyor
- Örnekler arasında İran nükleer tesislerine saldırı, Karayipler'de uyuşturucu taşıyan gemiye askeri müdahale, Çin'e %100 gümrük vergisi tehdidi, Venezuela hava sahasının kapatılması, Nijerya'da askeri eylem ve 2026 Şubat'ında İran'a doğrudan saldırı bulunuyor
- 11 Ağustos 2025 tarihli Intel işlem duyurusu da CEO Lip-Bu Tan'a yönelik kamuoyu baskısının ardından, aktif işlem saatleri dışında yapılan kurumsal örnekler arasında sayılıyor
- AI patlaması büyük ölçüde bilgisayar zekasına sürekli talep olacağı varsayımına dayanıyor
- Borçtan kurulum yatırımlarına, veri merkezlerinden GPU, bellek, disk ve sunucu raflarına kadar uzanan AI zincirindeki borsa yükselişi, trilyonlarca dolarlık değer yaratılacağı kabulüne bağlı
- Hükümetin herhangi bir anda tüm erişimi tek taraflı olarak kesebileceği algısı, çok trilyon dolarlık veri merkezi yatırımları önünde büyük bir engel olabilir
- HN ve Reddit'teki bazı kullanıcılar bu olayı, hükümetin insanların erişmesine izin vereceği model kapasitesinin üst sınırı olarak görüyor
- Hükümet izin vermezse, talep ne kadar yüksek olursa olsun erişim mümkün olmayacak
Topluluk tepkisi ve 'tehlikeli model' pazarlamasının geri tepmesi
- HN ve Reddit'teki bazı kullanıcılar, Anthropic'in Mythos etrafındaki pazarlama şovunun bedelini ödediğini düşünerek buna seviniyor
- Geçmişte OpenAI de GPT-2'yi "yayınlamak için fazla tehlikeli" diyerek sınırlı biçimde açmış, gerekçe olarak da büyük ölçekli aldatıcı, önyargılı ve kötüye kullanılabilir dil üretimi kaygılarını göstermişti
- GPT-2 sonrasında AI üretimi düşük kaliteli içeriklerin ortalığı kaplaması ve gerçekliği birlikte kavrama yeteneğimizi sarsması açısından, OpenAI'nin kaygılarının oldukça isabetli olduğu düşünülüyor
- Fable'ın gerçekten güçlü bir model olduğuna inanılıyor ve Anthropic'in Fable'ın geniş çaplı erişiminin güvenlik riski yaratabileceğine dair sözlerine bir ölçüde güveniliyor
- İlgili HN başlığındaki en üst yorum, Anthropic'in kendi modelini başkalarından çok ilerideymiş gibi pazarlamak için korku pompalamasının bedelini ödediğini söylüyordu
- Hükümetin tutumu olduğu gibi kabul edilirse, Anthropic modeli o kadar güçlü ki kelimenin tam anlamıyla kullanılamayan bir model haline geliyor; bu da ironik biçimde güçlü bir reklama dönüşebilir
- Başka bir HN yorumu, ürününüzün ne kadar tehlikeli olduğunu uzun süre anlatırsanız, piyasada onu durdurma yetkisi olan insanların bunu duyabileceğine dikkat çekiyordu
- Bernie Sanders, AI CEO'larının sözlerini okuduğu politika videoları hazırlayarak yapay zeka risklerini vurgulayan bir siyasetçi olarak anılıyor
- AI modelleri gerçekten güvensiz olabilir ve düzenleme gerekebilir; ancak kapatılma riskini gören AI CEO'ları bundan sonra bunları dile getirmemeyi tercih edebilir
Güçlü LLM erişim kısıtlaması için emsal
- Son olarak alıntılanan HN yorumu, bu olayın özünün hükümetin güçlü LLM'lere kamusal erişimi sınırlamaya başlaması olabileceğini savunuyor
- Yorum, Fable'ı piyasadaki en güçlü model olarak görüyor; ABD hükümeti ilke olarak yalnızca ABD vatandaşı olmayanlara yasak getirmiş olsa da pratikte ABD vatandaşları da kullanamaz hale geldi
- Açık kaynak Chinese model'lerin ya da kendi donanımında çalıştırmanın çözüm olacağı fikrinin de yeniden değerlendirilmesi gerektiği belirtiliyor
- ABD hükümeti en güçlü Amerikan modellerini engellerken, Çin'in bir yıl sonra Mythos düzeyi yeteneğe sahip en güçlü yerli LLM'sini açık kaynak yapmasına izin vermesinin düşük ihtimal olduğu düşünülüyor
- Güçlü LLM'ler güçlü siber güvenlik silahları yönüne gidiyor ve ulus devletlerin bunları sınırlamak ve kontrol etmek için çıkarı bulunuyor
- İki yıl sonra en güçlü LLM'nin genel amaçlı kullanım için sunuluyor olması şaşırtıcı olur
- Güçlü LLM'lerin sınırlandırılmasının insanları daha yoksul mu yoksa daha güvenli mi yapacağı net değil; ancak bu olay emsal oluşturan önemli bir kırılma noktası olarak görülüyor
3 yorum
Sanırım bu konuyu iyice araştırmam gerekecek.
Ah ah..
Hacker News görüşleri
AI araçları sayesinde bir “Flash oyunu” rönesansının geri gelebileceği fikrini anlıyorum, ama
aigamedevsubreddit’inde insanların yaptığı oyunları oynamaya devam ettikçe epey hayal kırıklığına uğradımOyun tasarımı öğrenmesi zor bir sanat ve LLM’lerin çok yardımcı olabileceği bir alan gibi görünmüyor
Bu oyunların “eğlenceli” olduğu iddiası, çocukların çizimlerinin “güzel” olduğunu söylemeye benziyor; kod üretimine harcanacak 25 dolardan fazlasıyla çok daha iyi bir sürü indie oyun satın alabilirsiniz
Harika oyun tasarımı sanatı ayrıntılarda yatar; sadece İngilizceyle tuval üzerindeki her fırça darbesini aktarmak mümkün değil
O subreddit’te neler üretildiğini görmek için ben de baktım ama ben de pek etkilenmedim
Sıkıcı kodlama işlerinde LLM’lerden yardım alıp ipi kısa tutan ve yaratıcı kısımları kendisi yapan çok sayıda geliştirici de vardır
Eskiden beri kodlamadan hoşlanmayan ve onu yalnızca fikirlerini hayata geçirmek için gerekli bir adım olarak gören indie geliştiriciler vardı, yine de iyi oyunlar yaptılar
Undertale’daki tüm diyaloglar 5 binden fazla satırlık devasa bir
switchifadesiyle uygulanmışBoxhead, Motherload, Bloons gibi oyunları bulmak için çöp yığınını eşelemek gerekiyordu
Burada önemli olanın hacim olduğunu düşünüyorum
Harika bir oyun tasarımcısı olmak için harika bir programcı olmak gerekmez, ama eskiden başlamak için bile programlama ön koşuldu
AI araçlarını oyunlara uygulamanın güzelliği ikinci kısımda, yani yalnızca oyun tasarımına odaklanabilmekte; zamanla mücevher gibi işler yukarı çıkacaktır
Eskiden 4 Flash oyunu çıkardım; 2’si tamamen battı, 1’i idare ederdi, 1’i ise oldukça başarılı oldu
Toplam oynanma süresi yüzlerce yıla ulaştı
Doğru yapmak için yapılacak çok şey var ve her yazılım gibi hedef pazara uygun üretilmesi gerekiyor
Eğlenceli ve sürükleyici bir çekirdek döngü oluşturmanın kolay bir AI çözümü yok; doğru karmaşıklıkla öğrenme eğrisini dengelemenin de bir çözümü yok
Kod yazamayan ya da yazmayan pek çok insan kendini oyun tasarımcısı sanıyordu ve AI’nın oyun yapmalarını sağlayacağını umuyordu, ama sonunda meselenin kod olmadığını fark ediyor gibiler
Ayrıca kod yazamıyorsanız, vibe coding şu anda Flash seviyesinin üstünde oyunlar yapmak için hâlâ yetersiz
Birçok alt alanda bol bol programlama yaptım ama hâlâ AI’nın aşması en zor alan gibi geliyor
Çıktı hızını artıran bir araç olarak kesinlikle etkileyici, ama genel anlamda ürünleştirme AI için en zor alan olacak gibi görünüyor
Yazar, OpenAI’nin GPT-2 döneminde “yayınlamak için fazla tehlikeli” şeklinde bir pazarlama taktiği kullandığını ve iki tarafın da bu kartı oynadığını söylüyor, ama o dönemde Dario OpenAI’deydi ve GPT-2 araştırma makalesinin ortak yazarlarındandı
“Yayınlamak için fazla tehlikeli” yaklaşımı, aslında iki şirkette de onun uzun süredir yaptığı şeye daha yakın
2019’daki ilk yayımlama yazısında yanıltıcı haber makaleleri üretme, internette kimliğe bürünme, sosyal medya için istismarcı ve sahte içeriklerin otomatik üretimi, spam ve phishing içeriklerinin otomatik üretimi gibi kötüye kullanım ihtimallerini sıralamışlardı
Sentetik görsel, ses ve video çıktılarıyla birlikte bu tür teknolojilerin sahte içerik ve dezenformasyon kampanyalarının maliyetini düşürdüğünü, halkın da çevrimiçi metinlere deepfake görseller kadar şüpheyle yaklaşması gerektiğini söylemişlerdi
Bu yüzden temkinli dağıtım yaptıklarını belirtmişlerdi
https://openai.com/index/better-language-models/
Yalan ve dezenformasyondan, tedavi ya da insan ilişkileri yerine chatbot seçen insanlara kadar toplumsal etkisi derin ve daha da kötüleşecek
AI devre dışı kaldığında da bir şeyler başarabilecek kadar yetkin junior programcılar bulmak moral bozucu derecede zor, ve daha da kötüye gidecek gibi görünüyor
“Çocuk cinsel istismarı materyali üretimi yasak olmalı”, “iddialar olgusal ya da kanıta dayalı olmalı” gibi önemli güvenlik özellikleri bu sistemlerin tasarımına en baştan dahil edilmedi ve hâlâ da düzgün biçimde çözülmedi; buna rağmen AI şirketleri bariz kusurlarla bu sistemleri halka açtı
AI’nın saçmalık üretme becerisini ve ilginç oyuncak tarafını seviyorum, ama şu ana kadar bunun net faydası yalnızca insanları işten çıkarıp işi bilgisayarlara yarım yamalak yaptırarak kâr eden en zengin küçük azınlığa oldu; geri kalan herkes için net zarar olduğunu düşünüyorum
Artık çok geç, ama geriye dönüp bakınca bu haliyle yayınlamak için gerçekten fazla tehlikeliydi görüşüne katılıyorum
Hacker News’teki aşırı şüphecilik, makul AI tartışmasını mahvetti.
ABD hükümeti, AI üzerindeki kontrol savaşı büyürken devlet gücünü Anthropic’e karşı beceriksiz, yozlaşmış ve cezalandırıcı bir şekilde silah olarak kullandı.
Buna rağmen HN, tek açıklama olarak “pazarlama abartısı”na saplanıp kalıyor ve tüm kanıtları giderek daha zorlama açıklamalara uydurmaya çalışıyor.
AI; işleri, statüyü, inançları ve yaşam tarzlarını tehdit ediyor.
HN’de insanların bu gerçeğe inanmak yerine onun kesinlikle doğru olamayacağına dair gerekçeler üretmesi daha kolay görünüyor.
Dünyanın epey tuhaf bir şekilde değişmek üzere olduğunu kabul edip asıl meseleleri analiz etmeye çalışanlara minnet duyuyorum.
SSL güvenli açık web ödeme aktarımının net çözümü haline gelmek üzereyken ABD neredeyse SSL’i yasaklayacaktı.
Ekonomik baskı, alternatif eksikliği ve yoğun muhalefet sayesinde kapı açık kaldı gibi görünüyor ama o zaman da “ulusal çıkar ve güvenlik” saçmalığı devreye sokulmuştu.
Bu sefer büyük fark, Fable/Mythos olmadan hiçbir şey yapılamıyor olmaması.
Burada sihirli bir eşik yok; sadece müdahalenin azaltıldığı bir bağlantı sürecinde iyileştirme var.
Yine de bu sürerse ABD’de AI geliştirme üzerinde büyük bir caydırıcı etki yaratması çok muhtemel ve diğer laboratuvarlar eninde sonunda Fable/Mythos’un performansını dolanarak aynı seviyeye gelecektir.
Araba benzetmesiyle, bir model V6’dan V8’e geçen bir motor iyileştirmesi gibi geliştiriliyor olabilir; ama başka kuruluşlar aerodinamiği ya da yakıt enjeksiyonunu iyileştirerek benzer hız artışı sağlayabilir.
Zincirin her yerinde iyileştirme alanı olduğu için bu tür önlemler anlamsız.
Bu yönetimin ve Anthropic’in sert taktiklerine bakınca, bir hafta içinde bir tür “anlaşma”yla sonuçlanıp yüksek riskli bir pazarlığın parçası olduğu izlenimi veriyor.
Hatta Anthropic’in lehine bile olabilir; çünkü tatlı bir uzlaşma çıkarsa OpenAI nerede kalacak?
Emsal zaten oluştu.
Benim gibi çoğu nerd bu keskin tavrı lise ya da üniversite yıllarında geride bıraktı.
Gerçekte bu tavır insanı her şeye sadece en karanlık mercekten bakmaya itiyor.
İnsanların kötü şeyler okuyup kötü fikirler yayacağını söylüyorlardı; gerçekten de öyle oldu ama genel tabloda bu, okuryazarlığın yayılması için ödenmeye değer küçük bir bedeldi.
Bunun %100 bir tanıtım numarası olduğunu söylemiyorum ama Anthropic sanki insanların bunu gerçekten öğrenmesini istiyor.
“Anthropic sadece pazarlama için gürültü çıkarıyor”, “AI NFT gibidir”, “bu bir wash trade”, “balon yakında patlar”, “abartıcılar dolandırıcı gibi hızlıca çıkabilmek için borsayı ayakta tutuyor” gibi şeyler söylüyorlar.
Son ifade, onların kullandığı terminolojiye uydurmaya çalışarak benim uydurduğum bir şey.
Asıl sorun, AI’nın bizim gibi sıradan insanlara öylece verilemeyecek kadar güçlü hale geliyor olması.
Hâlâ her şeyin tamamen abartı olduğuna inanıyorsanız, gerçek sorundan dikkatiniz tamamen sapmış demektir.
Bir gün bu retorik kaybolur ve insanlar gerçek sorunlara odaklanır diye düşünüyorum.
Anthropic’in rakiplerinin yönetimin çeşitli yerlerinde dostları olması ve örneğin Kushner tarafının OpenAI’ye büyük yatırım yapmış olması hem esas mesele hem de alakasız.
“Güvenlik” açıkça bir bahaneye benziyor; gerçekten güvenlik gerekçe olsaydı talepler yalnızca yabancı uyruklularla sınırlı olmazdı.
Hiçbir ABD yönetimi tüm ABD vatandaşlarına güvenmiş değildir.
Ama kısıtlamanın gerekçesi başlı başına neredeyse önemsiz.
Bunun yaşanmış olması, AB’nin dijital egemenlik konusunu lafta değil gerçek bütçe ve çabayla ciddiye alması için son alarm olmalı.
Şu aşamada AB’nin dümeni o yöne kırma ihtimali düşük görünüyor.
Çok küfürlü ve ideolojik olarak yüklü, düşük kaliteli bir sızlanma yazısı; Hacker News’e uygun görünmüyor.
Bu önlem, Opus 4.8’den daha iyi AI modellerine yönelik kurumsal pazarın tamamını öldürüyor.
Bürokratların ya da kötü niyetli siyasetçilerin temel zekâyı anında geri çekebileceği iş akışları veya yetenekler kuracak hiçbir şirket olmayacaktır.
Diyelim ki bir şirket bu riski alacak kadar aptal; o zaman Anthropic tüm kurumsal müşterilerinden tüm çalışanların pasaportlarını teslim etmesini ve Mythos erişimini denetlemek için her çalışan adına ayrı Claude hesapları açmasını mı isteyecek?
Basit bir API anahtarı artık yeterli olmayacak.
Zamanlama da cuma günü piyasa kapanışına yakın “çöküşten kaçınalım” anına denk geliyor gibiydi; pazartesi nasıl gelişeceğini görmek lazım.
Diğer yanıtlarda dendiği gibi bu aynı zamanda hükümet ile Anthropic arasında bir bilek güreşi.
OpenAI yetişip Anthropic de avukatlarını devreye sokarsa, büyük ihtimalle ya tersine çevrilir ya da “modellerin ABD AI onay damgası alması gerekir, bu nedenle yeni ABD doğrulamalı Fable 5.1 onaylanmıştır” gibi bir şeye dönüştürülür.
Bu da muhtemelen DoD, Pentagon ve ilgili kurumlara büyük ölçekli dağıtım dönemine denk gelecektir.
Ya da iş, Çin yetişiyor diye bunun saçma olduğu yönüne evrilecektir.
Böyle bir yasaktan güvende olan hiçbir model yok.
Çok eleştirilen AB AI Act, AI geliştirmeyi temellendirebileceğiniz güvenli ve öngörülebilir bir düzenleyici çerçeve sunuyor.
ABD yönetiminin öngörülemez ve keyfi kararlarına kıyasla hukuki istikrar sağlıyor.
AI şirketlerinin biraz olsun sağduyusu varsa Avrupa’ya taşınmayı düşünmeleri daha iyi olur.
Fable için aşırı denebilecek güvenlik protokollerinin zaten devreye alınmış olduğunu düşününce bu durum son derece şüpheli.
ABD hükümeti, ekonomideki etkisini kullanarak Anthropic’e IPO’nun diz çökmeye bağlı olduğu sinyalini veriyor.
Son birkaç ayda Anthropic’e kıyasla OpenAI’ye çok daha fazla güvenir oldum
Dario Amodei’nin yazılarını satır aralarını da okuyarak ele alınca, ASI’ye insanlık için kusursuz ve hatasız bir yönetici olarak inanan doktriner bir mürit ve oldukça aşırı bir Amerikan milliyetçisi gibi görünüyor
Şirket de benzer şekilde ideolojik olarak tek bir çizgide hizalanmış gibi duruyor
Kendileriyle ideolojik olarak hizalı olduğuna inandıkları kontrolden çıkmış ASI’ye izin verme ya da onu bilinçli olarak yaratma ihtimallerini de hayal edebiliyorum
OpenAI ise genel olarak daha az doktriner ve daha pragmatik görünüyor
Bunun özellikle iyi bir şirket olduğu anlamına geldiği söylenemez, ama en azından sıradan bir şirketin nasıl davranacağını tahmin edebilirsiniz
Hele ortada milyonlarca, milyarlarca dolarlık teşvikler varsa bu daha da geçerli
Miras meselesi yüzünden kendi ailelerine neler yaptıklarını da görmüşsünüzdür; buna rağmen OpenAI’ye “güveniyor” musunuz
“Saf olan kim, Kay?” - Godfather
Aynı noktayı birkaç hafta önce de yazmıştım https://news.ycombinator.com/item?id=48341224, son blog yazılarına bakarsanız kalan tüm şüpheler de tamamen ortadan kalkacaktır
Bunun, hükümetin insanların erişimine “izin verebileceği” sınır noktası olabileceği yönünde HN ve Reddit’te şimdiden konuşmalar var
Talep ne kadar yüksek olursa olsun, hükümet vermezse bunun bir faydası yok
Kara borsa LLM fikri, William Gibson romanından fırlamış bir kurgu gibi
Özet iyiydi ve okurken güçlü şifreleme tartışmalarını hatırladım
“Biz aslında ulaşmak istediğimizi değil, ölçebildiğimizi optimize ederiz. İkisinin aynı olmasını umarız ama çoğu zaman öyle olmaz” cümlesi, LLM’lerin temel sorununa işaret ediyor
Modelin herkes ve her niyet için güvenli biçimde hizalanacağını garanti etmek imkansız ya da aşırı pahalı görünüyor
Üstelik “güvenli”nin anlamı da kime göre değişebilir