Kimi K2 Thinking, SOTA açık kaynak trilyon parametreli muhakeme modeli

 (moonshotai.github.io)
2 puan yazan GN⁺ 2025-11-07 | 1 yorum | WhatsApp'ta paylaş
  • Kimi K2 Thinking, araçları kullanırken adım adım düşünebilen bir açık kaynak muhakeme modeli olarak, karmaşık problem çözümünde insan düzeyine yakın düşünme sürecini hayata geçiriyor
  • Humanity’s Last Exam(HLE), BrowseComp, SWE-Bench Verified gibi başlıca benchmark'larda en güncel en iyi performansa (SOTA) ulaştı
  • En fazla 200~300 ardışık araç çağrısı gerçekleştirebiliyor ve test-time scaling ile düşünme token'ları ile araç çağrısı adımlarını aynı anda ölçeklendiriyor
  • Agentic muhakeme, arama ve kodlama alanlarında öne çıkan performans göstererek karmaşık matematik, kodlama ve web gezinme problemlerini uzun vadeli planlamayla çözüyor
  • INT4 nicemleme tabanlı çıkarım verimliliği ile 2 kat hız artışı ve GPU bellek tasarrufu sağlıyor; büyük ölçekli açık kaynak modeller arasında en üst düzey verimlilik sunuyor

Kimi K2 Thinking'e giriş

  • Kimi K2 Thinking, Moonshot AI tarafından yayımlanan en yüksek performanslı açık kaynak düşünme modeli
    • Araç kullanımı sırasında da adım adım muhakeme yapan bir “thinking agent” yapısına sahip
    • HLE, BrowseComp gibi benchmark'larda en güncel en iyi performans kaydetti
  • Test-time scaling ile düşünme token sayısını ve araç çağrısı adımlarını aynı anda genişletiyor
  • Şu anda kimi.com üzerinde sohbet modunda kullanılabiliyor; tam agentic modun yakında yayımlanması planlanıyor
  • API üzerinden harici entegrasyon mümkün

Değerlendirme sonuçları

  • HLE(araç kullanımı) %44.9, BrowseComp %60.2, SWE-Bench Verified %71.3 elde etti
  • Çok alanlı uzmanlık düzeyindeki problemlerde tutarlı genelleme yeteneğini kanıtladı
  • Agentic muhakeme, arama ve kodlama genelinde mevcut modellere kıyasla daha yüksek performans gösterdi
Reklam

Agentic muhakeme (Agentic Reasoning)

  • Humanity’s Last Exam(HLE) üzerinde %44.9 ile en yüksek skora ulaştı
    • 100'den fazla akademik alanda uzman düzeyi sorular içeren kapalı bir benchmark
    • Arama, Python ve web tarama araçlarını birlikte kullanıyor
  • 23 adımlık muhakeme ve araç çağrısını dönüşümlü olarak yürüterek doktora düzeyinde matematik problemi çözümü örneği sundu
  • Yüzlerce adımlık planlama, muhakeme, yürütme ve uyum sağlama ile karmaşık akademik problemleri çözebiliyor

Agentic kodlama (Agentic Coding)

  • SWE-Multilingual %61.1, SWE-Bench Verified %71.3, Terminal-Bench %47.1 kaydetti
  • HTML, React gibi frontend bileşen odaklı görevlerde yüksek tamamlanmışlık düzeyi gösterdi
  • Araç çağrılarıyla çok adımlı geliştirme iş akışları yürüterek doğru ve esnek kod üretimini destekliyor
  • Tek bir prompt ile web sitesi, belge düzenleyici gibi karmaşık uygulamalar oluşturma örnekleri sundu

Agentic arama ve gezinme (Agentic Search and Browsing)

  • BrowseComp %60.2 ile insan referansını (%29.2) açık ara geçti
    • Gerçek zamanlı web bilgisi toplama ve bunun üzerinde muhakeme kurma yeteneğini kanıtladı
  • 200~300 ardışık araç çağrısı yaparak uzun vadeli planlama ve uyarlanabilir muhakeme sergiliyor
  • “Düşün → ara → tarayıcıyı kullan → düşün → kodla” döngüsünü tekrar ederek
    karmaşık açık uçlu problemleri yapılandırılmış alt görevlere ayırıyor
Reklam

Genel yetenekler (General Capabilities)

  • Yaratıcı yazma: zengin anlatım gücü ve duygusal derinliğe sahip anlatılar üretiyor
  • Pratik yazma: mantıksal yapı ve talimat doğruluğunu geliştirerek akademik ve araştırma amaçlı içeriklere uygunluk sağlıyor
  • Duygusal yanıt: empatik ve somut tavsiyeler sunarak daha insani bir denge kuruyor

Çıkarım verimliliği (Inference Efficiency)

  • INT4 yalnızca ağırlık nicemlemesi (QAT) ile 2 kat hız artışı ve bellek tasarrufu sağlıyor
  • Büyük ölçekli çıkarımda da performans düşmeden hassas düşünme sürecini koruyor
  • Tüm benchmark sonuçları INT4 hassasiyetine göre raporlandı

Genel performans karşılaştırması

  • Başlıca benchmark'larda GPT‑5, Claude Sonnet 4.5, DeepSeek‑V3.2 ile eşdeğer veya daha iyi performans gösterdi
  • Reasoning, Coding, Agentic Search alanlarının tamamında açık kaynakta en üst düzey performansa ulaştı

Özet:
Kimi K2 Thinking, araç tabanlı adım adım düşünme gerçekleştiren trilyon parametre sınıfında açık kaynak bir muhakeme modeli olarak,
karmaşık problem çözümü ve uzun vadeli planlamada SOTA düzeyinde performans ve verimliliği aynı anda sağlayan yeni bir yapay zeka sistemi.

İlgili okumalar

1 yorum

 
GN⁺ 2025-11-07
Hacker News görüşleri

  • uv tool install llm ile Moonshot Kimi-K2-Thinking modeli kuruldu ve llm -m moonshot/kimi-k2-thinking 'Generate an SVG of a pelican riding a bicycle' komutuyla SVG üretildi
    Çıktı bu bağlantıdan görülebilir
    OpenRouter üzerindeki moonshotai/kimi-k2-thinking ile çalıştırılan sonuç ise bu sürümde olduğu gibi çok daha rafine çıktı

    • OpenRouter sonucunun quantized bir barındırma sağlayıcısından gelmiş gibi göründüğü söyleniyor
      Moonshot’un doğrudan API çağrısıyla karşılaştırınca neredeyse geceyle gündüz kadar fark var
      OpenRouter’ın quantization kısıtını hesap düzeyinde değil yalnızca API düzeyinde uygulaması kullanıcı deneyimini biraz kafa karıştırıcı hale getiriyor
    • Her yeni model çıktığında bu benchmark’ın giderek daha sembolik hale gelmesi ilginç
      GPT-5 ailesinin performansı hâlâ inanması zor düzeyde, ama açık kaynak modellerin giderek daha iddialı denemeler yapması sevindirici
    • Çalıştırırken tutarlılığı korumak için temperature’ın 0’a sabitlenip sabitlenmediği merak ediliyor
    • 1 trilyon parametreli modelin nerede çalıştırıldığı merak ediliyor

  • Rekabetin artması ve açık kaynak seçeneklerin çoğalması güzel, ama benim için dev modellerden ziyade küçük LLM + ajan kombinasyonlarının kodlama ve akıl yürütmede ne kadar iyi olabildiği daha ilginç
    Bunların yerelde ya da ucuz kümelerde çalışabilmesi ideal olurdu
    OpenAI’nin başlangıçtaki hedefi tüm insanlığın yararıydı, ancak şimdi ücretli merkezli bir yapıya kaymış olması ve faydanın daha çok varlıklı kesime gitmesi üzücü

    • Bu tür küçük model deneyleri zaten epey yapılıyor
      Ancak sonuçlar henüz yeterli değil ve verimli küçük modeller üretilebilseydi büyük modellerin var olması için pek neden kalmazdı
      Elbette yeni fikirler gelirse bu tablo değişebilir
    • Ben de eskiden “en akıllı model”e takıntılıydım ama pratikte kullanınca küçük modellerin çok daha hızlı aynı işi yaptığını gördüm
      Bu yüzden artık hedefim “işimi çözebilen en küçük modeli” bulmak
      Yüksek benchmark puanları ise daha çok aşırı özellik ve israf göstergesi gibi geliyor
    • “Açık kaynak” deniyorsa eğitim verisinin indirilebilmesi ve uçtan uca yeniden eğitimi mümkün kılan script’lerin de bulunması gerekir
      Yalnızca inference için binary dağıtıp buna açık kaynak demek yanlış bir kullanım
    • Neden uzmanlık bazlı ultra küçük modellerin çıkmadığını anlamıyorum
      Örneğin sadece Go kullanan biri için yalnızca bir Go modeli yeterli olabilir
      Birden fazla uzman modeli bellekte değiştirerek kullanan bir yapı çok daha verimli görünüyor
      Ama çoğu yaklaşım hâlâ dev genel amaçlı modellere yöneliyor
      Ben yalnızca CoPilot aboneliği ve Ollama kullandım ama gelecekte 1-2B ölçekli çok sayıda model kombinasyonunun öne çıkacağını düşünüyorum
    • Aslında büyük modellerdeki ilerlemenin çoğu optimizasyon ve ölçekleme sayesinde geldi
      Ama bu teknikler sonunda küçük modellerin performansını artırmaya da yarıyor
      DeepSeek bunun iyi bir örneği; büyük modellerdeki yenilikler küçük modellere de fayda sağlıyor
      Bu arada bu model MoE mimarisine sahip ve bir seferde yalnızca 32 milyar parametre etkinleşiyor

  • Son birkaç ayda Çin’den dört şirketin (DeepSeek, Qwen/Alibaba, Kimi/Moonshot, GLM/Z.ai) çok güçlü açık kaynak modeller çıkardığı görüldü
    ABD veya Avrupa şirketlerinden, hatta Meta’dan bile benzer bir hareket yok. Bunun nedeni ne olabilir?

    • Elbette OpenAI de ağustosta GPT-OSS yayımladı
      Qwen 235 de iyi, ancak “açık kaynak” ifadesinin open-weight mi yoksa tam açıklık mı anlamına geldiği hâlâ net değil
    • Çinli şirketlerin en yeni GPU’lara erişimi kısıtlı olduğu için açık kaynak yayımlama stratejisini seçtikleri söyleniyor
      Buna karşılık ABD’li şirketler yaptıkları dev GPU yatırımını geri kazanmak zorunda oldukları için yayıma isteksiz davranıyor
    • Bir başka neden de gizlilik endişeleri yüzünden ücretli müşteri sayısının az olması
      Sonuçta ücretsiz yayımlamak dışında fazla seçenek kalmıyor
    • Meta’nın DeepSeek’ten sonra open-weight stratejisinden vazgeçmiş gibi göründüğü söyleniyor

  • Örnek biraz cherry-picked gibi görünse de yine de etkileyici
    OSS modelleri iş akışına koymuş biri olarak sınırlarını iyi biliyorum, ama bu tür sonuçlar frontier modeller için bile zor bir seviyede
    Bundan sonra neler geleceğini görmek heyecan verici

    • Bana göre Kimi, benchmark sonuçlarından çok daha “zeki” hissettiren bir model
      Muhtemelen ABD’deki laboratuvarlar kadar puan odaklı tuning yapılmamasından kaynaklanıyor

  • OpenRouter fiyatlandırmasına bakınca girişte milyon token başına $0.60, çıkışta ise $2.50 görünüyor
    Bu performans düzeyi için aynı sınıftaki modellere göre 4 kat daha ucuz; acaba zararına mı barındırıyorlar, yoksa diğer modellerin marjı mı çok yüksek?

    • Eğitim maliyetleri hariç tutulursa diğer modeller gerçekten yüksek marjla çalışıyor
      Ayrıntılar için şu yazıya bakılabilir
    • OpenRouter’daki açık kaynak modeller donanımın ham maliyetine yakın fiyatlanıyor
      Bazıları sübvansiyonlu altyapıda çalıştığı için gerçekte yine de kâr bırakıyor olabilir

  • Son dönemde “stacking problemi”ni insan gibi çözen tek modelin bu olduğu söyleniyor
    İlgili yazıda 9 yumurtayla yükü dağıtma fikrini anlamasının belirleyici olduğu anlatılıyor

    • Ancak biri, “o problemin kendisi eğitim verisine dahil edilmiş olabilir” diye itiraz ediyor
    • Bir başka kullanıcı gerçek bir sohbet örneği paylaşarak modelin birden fazla geri bildirim turu sonunda fiziksel olarak mümkün bir istif düzeni bulma sürecini gösteriyor
      Sonunda “kitap → şişe → dizüstü bilgisayar → çivi” sırasına karar verip gerçekçi bir yanıt veriyor

  • Reasoning model’in tam olarak ne olduğu merak ediliyor
    Bunun yalnızca sistem prompt’unda scratchpad token’larını dinamik kullanan bir model mi, yoksa bu şekilde fine-tune edilmiş bir model mi olduğu karıştırılıyor

    • İkincisi. Yani ara düşünme sürecini öğrenmesi için fine-tune edilmiş bir model kastediliyor
      Bu, yalnızca prompt ile taklit edilmesinden çok daha etkili
    • Genelde <think></think> gibi token’lar içinde içsel düşünme yürütüp sonra yanıt veren modellerden söz ediliyor
      Bu biçim RL veya format temelli ödül öğrenmesiyle eğitiliyor

  • Düşünmeyen (non-thinking) sürümün yazı kalitesi en yüksek olan sürüm olduğu söyleniyor
    Diğer frontier laboratuvarlarından farklı yeni bir yaklaşım deniyor gibi göründüğü için umut verici

    • Ben tam tersini hissettim. Evde çalıştırabildiğim en büyük model olduğu için hoşuma gidiyor ama aşırı yapılandırılmış çıktısı yapay hissettiriyor
      Önceki sürümden çok farklı olmaması biraz hayal kırıklığı yarattı
    • Yine de Kimi K2’nin model hissi rafine ve olgun

  • AWS Bedrock ya da Google Vertex üzerinde data residency garantisiyle kullanılabilse iyi olurdu

    • Önceki modelde olduğu gibi ağırlıklar yayımlanmış durumda, bu yüzden yakında üçüncü taraf barındırma servislerinde de görünmesi muhtemel
      Hugging Face bağlantısı
    • Düşünmeyen sürüm zaten Vertex AI’ye eklenmiş durumda
      Bu modelde özellikle ardışık araç kullanımı ve needle-in-a-haystack RAG performansı vurgulanıyor; bunlar gerçek iş ortamında en çok ihtiyaç duyulan alanlar
      Bu arada Thoughtworks kısa süre önce text-to-sql’i Hold aşamasına taşıdı

  • Zaten OpenRouter üzerinden de kullanılabiliyor

    • Ancak şu anda latency oldukça yüksek