5 puan yazan GN⁺ 4 시간 전 | 1 yorum | WhatsApp'ta paylaş
  • Sıfırdan eğitilip tüm ağırlıkları yayımlanan Inkling, toplam 975B ve etkin 41B parametreli bir MoE Transformer olup en fazla 1M token bağlamı ile metin, görsel ve ses tabanlı akıl yürütmeyi destekliyor
  • Metin, görsel, ses ve videodan oluşan 45 trilyon token ile ön eğitildi; belirli benchmark’lardan ziyade ajan görevleri, akıl yürütme, kodlama, yönerge izleme ve olgusallık genelinde genellik ve özelleştirilebilirliği önceliklendiriyor
  • Akıl yürütme eforu 0.2~0.99 aralığında ayarlanarak maliyet, gecikme ve performans dengelenebiliyor; Terminal Bench 2.1’de Nemotron 3 Ultra ile benzer performansı yaklaşık üçte bir token ile sağlıyor
  • Şu anda en güçlü açık ya da kapalı model olmasa da çok modlu yetenekleri, verimli akıl yürütmeyi, Tinker ince ayarını ve çeşitli akıl yürütme/dağıtım araçlarını birleştiren açık ağırlıklı bir temel olmayı hedefliyor
  • Birlikte tanıtılan Inkling-Small önizlemesi, toplam 276B ve etkin 12B parametreye sahip; birçok değerlendirmede büyük modelle benzer ya da daha iyi sonuçlar verdi ve testler tamamlandıktan sonra tüm ağırlıkları yayımlanacak

Tüm ağırlıkları yayımlanan genel amaçlı model

  • Thinking Machines Lab, insanların AI modellerini doğrudan özelleştirebilmesi için sıfırdan eğitilen Inkling’in tüm ağırlıklarını yayımladı
  • Inkling, toplam 975B parametrenin içinden token başına 41B’si etkinleşen bir Mixture-of-Experts Transformer
    • En büyük bağlam penceresi 1M token
    • Metin, görsel, ses ve videodan oluşan 45 trilyon token ile ön eğitildi
    • Metin, görsel ve sesi varsayılan girdi olarak birlikte işleyip akıl yürütebiliyor
  • Belirli bir alana odaklanmak yerine ajan görevleri, akıl yürütme, kodlama, yönerge izleme, olgusallık, görsel ve sesi kapsayan dengeli bir temel model olarak eğitildi
  • Açık ve kapalı modellerin tamamı içinde en güçlü model değil; çok modlu yetenekler, verimli akıl yürütme ve Tinker ince ayarını birleştiren özelleştirme odaklı bir model olmayı amaçlıyor
  • Farklı boyutlara genişleyecek model ailesinin ilk sürümü ve daha hafif Inkling-Small da önizleme olarak birlikte sunuldu
  • Tinker üzerinden Inkling’i doğrudan ince ayar yapabiliyor, Tinker konsolundaki Inkling Playground’da sohbet ederek modelin özelliklerini görebiliyorsunuz
  • Özelleştirme demosunda Inkling, Tinker kullanarak kendi ince ayar işlerini yazdı, çalıştırdı ve değerlendirdi; bunu OpenCode harness içinde yaptı

Genel amaçlı ajanlar ve çıktı üretimi

  • Farklı iş akışlarına ve ürünlere göre ince ayar yapılabilmesi için tek bir alandaki en iyi performanstan çok geniş görev performansına öncelik verildi
  • Kodlama ve ajan harness eğitimi sırasında araç setleri ve şemalar rastgeleleştirilerek belirli bir harness’e duyarlılık azaltıldı
    • Harness içinde de akıl yürütme eforu ayarlanabiliyor
    • Çoğu ajan benchmark’ında açık ağırlıklı modeller arasında rekabetçi puanlar aldı
  • Tek bir prompt ile iş başvurusu web uygulaması oluşturup, doğal dil yönergeleriyle kayıtlı profil üzerinden formları dolduran bir tarayıcı kullanım ajanı uygulamaya gömülebildi
  • Oluşturulan web uygulamalarını kör biçimde bire bir karşılaştıran Design Arena’nın Agentic Web Dev liderlik tablosunda güçlü açık ağırlıklı model grubu içinde yer aldı
  • Doğru yönerge takibi ve tutarlı stil korunarak 9 sayfalık yemek ve gezi PDF günlüğü gibi çok sayfalı çıktılar üretebildi
  • GPT Codex’in değerlendirici olarak verdiği geri bildirimi 40 kez uygulayarak gerçek zamanlı sunucu, bot ve liderlik tablosuna sahip çevrim içi çok oyunculu Snake oyununu geliştirdi
    • Uzun yinelemeli iyileştirme süreçlerini sürdürüp geri bildirimle çıktıyı geliştirme yeteneği, ortak çalışmanın temel unsuru olarak görülüyor

Maliyet ve performansı ayarlayan akıl yürütme eforu

  • Gerçek uygulamalarda yalnızca en yüksek performans değil, token maliyeti ve gecikme de kısıt oluşturur; özellikle düşük gecikme, yinelemeli işbirliği ve iyileştirme için önemlidir
  • Akıl yürütme eforu 0.2~0.99 aralığında ayarlanarak performans ile üretilen token sayısı arasında denge seçilebiliyor
  • Terminal Bench 2.1, Humanity’s Last Exam(HLE) ve IFBench’te efor düzeyine göre performans ve ortalama üretilen token sayısı karşılaştırıldı
    • Terminal Bench 2.1’de Nemotron 3 Ultra ile aynı düzeyde performans yaklaşık üçte bir token ile elde edildi
    • HLE sonucu, nihai sürüm öncesindeki bir checkpoint üzerinde ölçüldüğü için son modelden biraz daha düşük
  • Model yüz milyonlarca kez çağrıldığında veya uzun iş akışlarına eklendiğinde, tek bir en yüksek puan yerine toplam maliyet-performans eğrisi temel alınarak kullanım senaryosuna uygun ayar seçilebiliyor

Encoder’sız yerel çok modlu mimari

  • Gerçek zamanlı sesli ve görsel işbirliğini destekleyen interaction models system için arka plan akıl yürütme modeli olarak kullanılabilmesi amacıyla baştan çok modlu eğitildi
  • Hem görselde hem seste ayrı encoder kullanmayan encoder’sız bir mimari benimsiyor
  • Ses tarafında konuşma yazıya dökme, sesli yönerge takibi, kayıt üzerinden soru-cevap ve uzun süreli ses akıl yürütmesi destekleniyor
    • effort=0.99 seviyesinde Audio MC %56.6, MMAU %77.2, VoiceBench %91.4 aldı
    • VoiceBench, MMAU ve Audio MC ölçütlerinde güçlü açık ağırlıklı ses modelleri arasında yer alıyor
  • Görsel tarafta yalnızca görüntü açıklama ve soru-cevap değil; grafik, diyagram ve matematiksel görsel akıl yürütme de yapabiliyor
    • MMMU Pro Standard 10’da %73.5, Charxiv RQ’da %78.1 aldı
    • Python ile yakınlaştırma ve kırpma gibi görüntü işlemleri kullanıldığında Charxiv RQ %82.0’a çıkıyor
  • Sonraki modeller ve eğitim hattında çok modlu yetenekleri genişletmeye devam etmeyi planlıyor

Güven kalibrasyonu ve belirsizlik yönetimi

  • Inkling’in epistemik özellikleri (epistemics), kalibre edilmiş güven, yönerge takibi ve sansüre direnç kavramlarını birlikte ele alıyor
  • Tüm yanıtlarda aşırı güven gösterilirse, bilgi eksik olduğunda ya da model içerik uydurduğunda kullanıcıların her seferinde doğrulama yapması gerekir; bu yüzden çözülmüş gerçek sorulara uygun puanlama kuralları uygulayan pekiştirmeli öğrenmeyle olasılık kalibrasyonu öğretildi
  • 30 Haziran 2026 ile 13 Temmuz 2026 arasında, açık sürümden farklı bir checkpoint ile yapılan tahmin değerlendirmesi sonuçları şöyle
    • Arama olmadan ForecastBench Brier Index 61.1±0.79, arama ile 63.7±0.82
    • Prophet Arena Brier Score 0.1617; daha düşük olması daha iyi
  • Karmaşık ve doğrulaması zor sorularda yönerge takibi için rubric grader ve claims grader adlı iki otomatik değerlendirici kullanılıyor
    • rubric grader, iyi bir yanıtta bulunması gereken öğeleri kontrol listesi olarak değerlendiriyor; ancak ilgili görünen çok sayıda olgu üretip puan toplamaya açık
    • claims grader, ajan tabanlı web aramasıyla her olgusal iddiayı doğruluyor ve doğrulanmayan iddiaları puandan düşürüyor
    • İki değerlendirici birlikte kullanılarak fayda artırılırken halüsinasyonlar azaltılacak şekilde eğitim verildi
  • Uzun yanıtlarda kalibre edilmiş belirsizliği doğrudan öğretmek için, çekimser kalma ödüllerini (abstention-aware rewards) kullanan kısa olgusal soru-cevap verileri de kullanıldı
    • Yalnızca doğru olma olasılığı yüksek olduğunda yanıt vermek ödüllendiriliyor; belirsizlik varsa “bilmiyorum” demek ya da koşullu tahmin sunmak daha avantajlı
    • Bazı prompt’lar çekimser dili teşvik ederken bazıları yasaklıyor; böylece kullanıcı tercihine göre zorunlu tahmin ile kalibre edilmiş yanıtsız kalma arasında davranabiliyor
  • Sansürlenebilecek konulara da doğrudan yanıt verecek şekilde eğitildi ve Cognition’ın Propaganda and Censorship Eval değerlendirmesinde sansüre uymama yönünde güçlü bir örüntü gösterdi

Riskli yetenekler ve güvenlik davranışı değerlendirmesi

  • Tüm girdi biçimlerine uygulanan dahili bir güvenlik davranışı spesifikasyonu ile eğitildikten sonra sonuçlar harici güvenlik değerlendiricileri ile doğrulandı
  • Riskli yetenek değerlendirmeleri CBRN, siber ve kontrol kaybını içerirken; insan-AI tehditleri yaltaklanma eğilimi, kırılgan kullanıcılar ve zararlı manipülasyonu kapsıyor
  • effort=0.99 için başlıca güvenlik değerlendirme sonuçları şöyle
    • FORTRESS Adversarial %78.0
    • FORTRESS Benign %95.9
    • StrongREJECT %98.6
  • Karşılaştırılan açık ağırlıklı modeller arasında FORTRESS’te en güçlü yerleşik korumaları gösterdi; silah ve şiddetle ilgili zararlı istekleri daha çok reddederken görünüşte benzer meşru isteklerde aşırı reddi azalttı
  • Açıkça zararlı isteklerin reddini ölçen StrongREJECT’te %98’in üzerine çıkarak diğer açık ve kapalı modellerle benzer düzeye ulaştı
  • Özelleştirilmiş modellerde ince ayarın güvenlik davranışı ve yetenek artışı üzerindeki etkisi araştırılmaya devam edecek

Tüm benchmark’lar ve ölçüm koşulları

  • Tüm temel değerlendirmeler effort=0.99, temperature=1.0 ile çalıştırıldı; kodlama değerlendirmelerinde en fazla 256K token’lık çalışma yolu sınırı uygulandı
  • HLE, GPQA Diamond, GDPVal, Tau 3 Banking, AA Omniscience ve MMMU Pro için mümkün olduğunda Artificial Analysis tarafından dışarıdan raporlanan puanlar kullanıldı
  • Inkling’in öne çıkan puanları şöyle
    • Akıl yürütme: HLE yalnızca metin %29.7, araç kullanımı %46.0, AIME 2026 %97.1, GPQA Diamond %87.2
    • Ajanik kodlama: SWEBench Verified %77.6, SWEBench Pro Public %54.3, Terminal Bench 2.1 %63.8
    • Genel ajanlar: GDPVal-AA v2 1238, MCP Atlas %74.1, Tau 3 Banking %23.7, bağlam yönetimi dahil BrowseComp %77.1
    • Olgusallık ve diyalog: SimpleQA Verified %43.9, AA Omniscience 2.1, IFBench %79.8, Global-MMLU-Lite %88.7
    • Görsel ve ses: MMMU Pro %73.5, Python kullanımıyla Charxiv RQ %82.0, Audio MC %56.6, MMAU %77.2, VoiceBench %91.4
  • Sonuçları yorumlarken şu değerlendirme koşulu farkları dikkate alınmalı
    • SWEBench Verified için Inkling sonucu yalnızca bash harness ile ölçüldü; dış modeller için kendi raporladıkları puanlar kullanıldı
    • Terminal Bench 2.1 dahili kodlama harness’i ile ölçüldü ve web aramasında doğru cevap sızıntısı tespit edilen az sayıdaki sonuç 0 puan sayıldı
    • VoiceBench, sabit kodlanmış dize eşleşme yönteminin çıktı biçimine duyarlı olması nedeniyle beklenen yanıt biçimini izleme yönünde bir sistem mesajı ekledi
    • Audio MC’de bazı karşılaştırma modelleri resmi liderlik tablosunda yer almadığı için dahili değerlendirme yapıldı
    • Python kullanılan CharXiv RQ için Claude Fable 5 ve GPT 5.6 Sol, dahili Python harness’i ile ölçüldü

Uzun bağlam için MoE mimarisi

  • Inkling’in MoE yapısı büyük ölçüde DeepSeek-V3’ü izlerken verimlilik ve uzun bağlam performansı için değişiklikler içeriyor
  • Her MoE katmanında 256 yönlendirilmiş uzman ve 2 paylaşımlı uzman bulunuyor; token başına 6 yönlendirilmiş uzman etkinleşiyor
    • sigmoid tabanlı router ve yardımcı kayıp içermeyen yük dengeleme bias’ı kullanılıyor
    • Seçilen yönlendirilmiş uzmanlarla paylaşımlı uzmanların puanları birlikte normalize edilip çıktı birleştirme ağırlıkları olarak kullanılıyor
  • Attention, kayan pencere katmanları ile global katmanları 5:1 oranında dönüşümlü yerleştiriyor ve 8 KV head kullanıyor
  • Konumsal kodlamada yaygın RoPE yerine göreli konum gömmeleri benimsendi
    • Music Transformer ailesindeki göreli konum temsilleri daha uzun dizilerde performans ve dışa genelleme açısından daha avantajlıydı
  • Kısa convolution iki noktada uygulanıyor
    • Her attention katmanındaki key ve value projection sonrasında
    • Attention ve MLP residual dalları ana residual akışına katılmadan önce

45 trilyon token ön eğitim ve büyük ölçekli pekiştirmeli öğrenme

  • Metin, görsel, ses ve videodan oluşan 45 trilyon token kullanılarak NVIDIA GB300 NVL72 sistemlerinde eğitildi
  • Optimizasyonda büyük matris ağırlıkları için Muon, diğer parametreler için Adam birlikte kullanıldı
    • Hiperparametre takvimi modular manifolds araştırmasından alındı
    • Weight decay gücü öğrenme oranının karesine bağlanarak eğitim süresi değişse bile toplam ağırlık büyüklüğü kararlı tutuldu
  • Sonraki eğitim matematik, ajan kodlama ve araç kullanımı, ses, görsel, diyalog ve güvenlik alanlarını kapsıyor
    • İlk SFT’de Kimi K2.5 gibi açık ağırlıklı modellerin ürettiği sentetik veriler kullanıldı
    • İlk SFT toplam hesaplamanın küçük bir bölümünü oluştururken, büyük kısmı sentetik ve insan yapımı ortamlarda geniş ölçekli pekiştirmeli öğrenmeye ayrıldı
  • Asenkron pekiştirmeli öğrenme 30 milyondan fazla rollout seviyesine ölçeklendi ve iki uzun sürekli çalışmada kararlı biçimde eğitildi
    • AIME, HLE ve GPQA gibi ölçütleri birleştiren ayrı bir akıl yürütme değerlendirme puanı tüm süreç boyunca log-lineer şekilde iyileşti
  • Sistem mesajı ve token başı maliyet değiştirilerek örnek bazında efor düzeyi belirlendi; farklı miktarda token kullanacak şekilde eğitilerek akıl yürütme eforu kontrolü kazanıldı
  • Pekiştirmeli öğrenme ilerledikçe düşünce süreci dilbilgisel bağlaçları ve artikelleri azaltan sıkıştırılmış bir biçime dönüştü; ancak anlaşılabilirlik ve nihai yanıt korunabildi
    • Bu değişim, ödülün doğrudan hedeflediği bir sonuç değil, verimlilik baskısından doğdu
    • Cognition’ın SWE-1.7 eğitiminde de benzer bir olgu gözlendi
  • Sonraki modellerde ön eğitim, sonraki eğitim ve pekiştirmeli öğrenmenin tamamında hesaplama ölçeğini daha da büyütmeyi planlıyor

Daha küçük ve hızlı Inkling-Small önizlemesi

  • Inkling-Small, toplam 276B ve etkin 12B parametreli bir MoE model; etkin 41B’lik Inkling’e göre daha düşük maliyet ve gecikme sunuyor
  • Geliştirilmiş ön eğitim verisi ve eğitim yöntemi sayesinde birçok benchmark’ta büyük Inkling ile benzer ya da daha iyi sonuçlar verdi; iki model de aynı ölçeklenebilir sonraki eğitim yığınını kullanıyor
  • effort=0.99 seviyesinde büyük modelle karşılaştırmalı başlıca sonuçlar şöyle
    • HLE araç kullanımı %46.6’ya karşı %46.0, GPQA Diamond %88.3’e karşı %87.2
    • MCP-Atlas %74.9’a karşı %74.1, IFBench %83.4’e karşı %79.8
    • Python kullanılan Charxiv RQ %83.4’e karşı %82.0, MMAU %77.5’e karşı %77.2, StrongREJECT %98.8’e karşı %98.6
  • Büyük modele göre daha düşük sonuçlar da var
    • Terminal Bench 2.1 %52.7’ye karşı %63.8, Tau 3 Banking %13.6’ya karşı %23.7
    • SimpleQA Verified %20.9’a karşı %43.9, Audio MC %49.6’ya karşı %56.6
  • Kodlama, LLM tabanlı puanlama ve başka modeller için sentetik veri üretimi gibi maliyet ve gecikmenin önemli olduğu işler için uygun
  • Testleri şu anda tamamlanmak üzere; ardından tüm ağırlıklar yayımlanacak

İnce ayar ve dağıtım ekosistemi

  • Genel amaçlı bir modelin çözmekte zorlandığı kuruma özgü uzman problemler, uzman bilgiyi kullanan ince ayar ile kapatılabilir; Inkling de ince ayarda hızlı öğrenmek üzere tasarlandı
  • Tinker üzerinde Inkling, 64K ve 256K bağlam uzunluklarıyla kullanılabiliyor
    • Sınırlı bir süre için %50 indirimli fiyat uygulanıyor
    • Ayrıntılı fiyatlandırma Tinker model belgelerinde görülebilir
  • Tinker cookbook, Inkling’i varsayılan olarak destekliyor ve ses özelliklerinden yararlanan 3 tarif ekliyor
  • tml-renderer, araç çağrıları, akıl yürütme içeriği ve çok modlu girdilerin güvenilir biçimde örneklenmesi ve sonraki eğitimi için işlevler sunuyor
  • Inkling Playground, ajan tabanlı web aramasını entegre eden bir sohbet arayüzü ve sınırlı süreyle ücretsiz
  • Tinker üzerinde ince ayar yapılan checkpoint’ler TogetherAI, Fireworks, Modal, Databricks, Baseten API’leri üzerinden dağıtılabiliyor
  • Açık kaynak akıl yürütme ve pekiştirmeli öğrenme ekosistemi de destekleniyor
  • Hugging Face’teki Inkling deposundan özgün checkpoint’leri ve NVIDIA Blackwell üzerinde verimli çıkarım için NVFP4 checkpoint’lerini indirebilirsiniz

1 yorum

 
GN⁺ 4 시간 전
Hacker News yorumları
  • Ses desteği sunan en büyük açık ağırlıklı multimodal model olduğu için sevindirici; gerçek ses performansının ne kadar iyi olduğunu merak ediyorum.
    Yerelde çalıştırmak için şu kaynaklara bakılabilir:
    https://github.com/danielhanchen/llama.cpp/tree/add-inkling
    https://unsloth.ai/docs/models/inkling
    https://huggingface.co/unsloth/inkling-GGUF
    https://huggingface.co/unsloth/inkling-NVFP4
    KimiK2.7’den daha iyi olduğu söyleniyor; GLM5.2 büyük ilgi görürken bile yaklaşık yarısı KimiK2.7 kullanıyor. Benchmark’lar doğruysa kesinlikle seçenekler arasına girer; bazı alanlarda diğer tüm açık ağırlıklı modelleri geçmesini umuyorum.

    • Üstelik ABD modeli. Llama 3’ten sonra rekabetçi biçimde çıkan ilk Çin dışı açık ağırlıklı model olabilir gibi geliyor.
    • KimiK2.7’den daha iyi olduğunun dayanağı nerede bilmiyorum. Çoğu benchmark’ta aksine daha düşük performans gösteriyor.
    • Kimi için hangi değerlendirme harness’inin kullanıldığını merak ediyorum.
  • ABD’nin de kendi DeepSeek’i ya da Z.ai’ına ihtiyacı var. Ben dâhil birçok kişi başka seçenek olmadığı için Çin’in açık modellerinin başarısını destekliyor; Thinking Machines bu rolü üstlenebilir.

    • Çok bilinmese de arcee.ai da tam bu konumu hedefliyor gibi görünüyor.
      Mevcut açık ağırlıklı model listesi https://www.arcee.ai/open-source-catalog adresinde görülebilir.
    • AllenAI de dikkate değer. Microsoft’tan Paul Allen tarafından kuruldu ve eğitim verileri dâhil gerçekten şeffaf ve açık yapay zeka üretmeye çalışan en iyi ekiplerden biri.
    • Arcee, Reflection, Llama gibi açık ağırlıklı modelleri ileri taşıyan zaten çok sayıda şirket var; Meta’nın açık mı kapalı mı tarafa odaklanacağı ise hâlâ belirsiz.
      Yine de ince ayar API’si ve açık ağırlıklı model birleşimi en azından uygulanabilir bir iş modeli gibi görünüyor. Sadece QLoRA ya da LoRA kullanılıyorsa, açık model sahibi bir şirketin ince ayarı neden daha iyi yapabileceği hâlâ soru işareti; ama izlemeye değer.
    • Ev donanımında saniyede 10 token’ın üzerinde çalıştırılabilen 100B altı modeller de çıkarmalarını isterim.
    • Açık ağırlıklı modellerin hangi iş modeliyle yürütülebileceğini merak ediyorum.
  • Tinker’da ince ayar yapılabilen açık taban modelin harika bir iş modeli olduğunu düşünüyorum. Şirketler kendi modellerine sahip olurken belirli görevlerde en ileri modellerin ötesinde performansı çok daha düşük maliyetle elde edebilir; Thinking Machines de bu ekosistemin temel altyapı ve servis sağlayıcısı olabilir.
    Daha küçük Inkling-Small’un, ön eğitim verileri ve eğitim yöntemi iyileştirmeleri sayesinde çeşitli benchmark’larda büyük modellerle aynı ya da daha yüksek performans göstermesi de etkileyici. Yeni nesil Thinky modelini dört gözle bekliyorum.

  • Modern model geliştirme şaşırtıcı derecede çeşitli işler gerektiriyor. Eskiden yeni bir kayıp fonksiyonu ya da küçük bir mimari değişiklik yapıp eğitim-değerlendirme döngüsünü çalıştırır, sonra sonucu yayımlardınız; artık ise sadece yetişmek bile muazzam emek isteyen bir Kızıl Kraliçe yarışına dönüştü.
    Yaklaşık 500 adımın her birinin küçük bir optimizasyon döngüsü olması neredeyse hayranlık uyandırıcı. Bu yüzden küçük ekiplerin büyük ekiplerden hızlı olduğu yönündeki eski kural da tersine döndü; yapay zekada büyük ekiplere ihtiyaç var. Örgütsel atalet, kişi sayısı binleri aştığında sorun oluyor; o noktaya kadar sayısız bileşeni 12 üstün yetenekli kişiyle karşılamak zor.

  • Güçlü bir uzun bağlamlı, multimodal açık ağırlıklı model çıkmasına sevindim. Ses performansından fayda görecek çok uygulama var; z.ai gibi modeller görsel yetenekler geliştirmeden önce genel amaçlı ajan uygulamalarında da güçlü olabilir.
    Ancak ilgili bazı benchmark’larda zayıflıklar da görünüyor. Sonuçta diğer modellerde olduğu gibi onu kendi harness’inize koyup sizin için önemli görevleri düzgünce değerlendirmeniz gerekiyor.

    • MiniMax M3 ve DeepSeek v4-Pro da uzun bağlamı destekleyen çok yetenekli açık ağırlıklı multimodal modeller. Ancak uzun bağlam bir tuzak; 150 bin–200 bin token’ı aşınca performans hâlâ hızla düşüyor.
  • İlk model olmasına ve açık yayımlanmasına bakınca ABD’deki açık yapay zeka laboratuvarlarına yeniden güven duymaya başlıyorum. OpenRouter gibi yerlere henüz gelmediği için deneyemedim; ama GLM5.1 düzeyinde bile olsa ilk deneme için gayet iyi.
    Yakında daha fazla laboratuvarın son teknolojiye yakın seviyeye yetişebileceği anlaşılıyor; hangi alanda olursa olsun rekabetin artması sevindirici.

    • NVIDIA da Nemotron geliştiriyor.
  • Henüz çok erken bir deneme ama benchmark’ların gösterdiğinden daha fazla potansiyeli var. Açık değerlendirmelere kıyasla kendi kapalı değerlendirmelerimde çok daha iyi sonuç veren modelleri, Anthropic modelleri dışında neredeyse görmedim; karar vermek için çok erken olsa da önümüzdeki birkaç hafta ciddi zaman ayıracak gibiyim.
    Açık ağırlıklı modeller arasında yalnızca Moonshot AI modellerini katlanıp kullanmaya değer görüyordum; Z.AI benim iş kümelerimde o kadar iyi değildi. Bu modelin ikinci seçenek olma potansiyeli var. Mistral böyle bir model çıkarsaydı, ben dâhil Avrupalı meraklılar sürekli bundan söz ediyor olurdu.

    • Web aramayı kapatıp akıl yürütme geçmişinden de bunu doğrulamış halde, son derece uzmanlık gerektiren ayrıntılı soruların birkaçına doğru yanıt verdi. Belirli yarı klasik araçların motor bazlı bakımı ya da nadir çanta yapıları ve malzemeleri gibi, şimdiye kadar yalnızca Gemini 3 ve 3.1 Pro’nun doğru bildiği sorular bunlar.
      Fable 5, GPT-5.6 Sol dâhil başka hiçbir laboratuvarın modeli web olmadan doğru yanıtlayamadı; ama o alana hâkimseniz bunlar genel bilgi sayılır ve nesnel doğru yanıtlar da açıkça vardır. Açık benchmark’larda yer almadığı için aşırı uyum sağlaması zor işlerde Fable 5’in önüne geçmesi oldukça etkileyici.
  • Özellikle talimat izleme yeteneği iyi görünüyor; ama kodlama tarafı diğer modellerden zayıf gibi. Yine de açık ağırlıklı modellerin çeşitlenmesi her zaman sevindirici; doğrudan deneyip nasıl bir karakter sergilediğini görmek gerekecek.

    • Tepki hızı oldukça yüksek ve şimdiye kadar üslubunu ve kişiliğini de beğendim.
      “Bugün Hacker News’in ana sayfasına bak ve daha sonra okuyabilmem için bugünün teknoloji haberlerini özetleyen günlük bir brifing çıktısı hazırla” diye istememin sonucu:
      https://chat.home.jake.town/artifacts/019f679d-99e5-7000-b02...
  • Genel olarak Nemotron’dan iyi, GLM’den zayıf; bu yüzden şimdilik en iyi ABD açık ağırlıklı modeli gibi görünüyor.

    • Toplam boyutu Nemotron 3 Ultra’nın neredeyse iki katı, bu yüzden çok daha iyi olması beklenir. Ancak aktif parametreler 41B’ye karşı 55B ile aksine biraz daha az görünüyor.
    • Nemotron’un karşılaştırma olarak anılması bile şaşırtıcı. Kodlama işlerinde kullandığımda performansı aşırı kötüydü; fiilen kullanılamaz durumdaydı.
  • Bugün Hy3 kullandım; hoşuma gitti ve DSV4P’ye göre küçük bir ilerleme gibiydi. O seviyede performansla multimodal desteği de varsa epey iyi olabilir.