Kimi K2 - Son Teknoloji Uzman Karışımı (MoE) Dil Modeli

 (github.com/MoonshotAI)
4 puan yazan GN⁺ 2025-07-13 | 1 yorum | WhatsApp'ta paylaş
  • Moonshot AI'nin Kimi K2 modeli, 1 trilyon parametreye sahip son teknoloji bir Mixture-of-Experts (MoE) dil modelidir
  • Eğitim sürecinde Muon optimizasyon tekniği kullanılarak büyük ölçekli kararlılık sorunları çözüldü
  • Araç kullanımı, akıl yürütme ve otonom problem çözme için ajan zekasına odaklanır
  • Çeşitli benchmark'larda kodlama, matematik ve genel görevler alanında üst düzey performans gösterir
  • Dağıtım ve kullanım açısından pratiktir; OpenAI/Anthropic uyumlu API ve esnek motor desteği sunar

Kimi K2 neden önemli

  • Kimi K2, Moonshot AI tarafından geliştirilen en yeni Mixture-of-Experts (MoE) dil modelidir
  • 1 trilyon parametre ölçeği ve yenilikçi optimizasyon yöntemi (Muon) sayesinde büyük dil modeli alanında yüksek performans ve kararlılık sunar
  • Mevcut yüksek performanslı açık kaynak modellerle karşılaştırıldığında kodlama, matematik ve araç kullanımı gibi çeşitli gerçek dünya uygulamalarında küresel son teknoloji (SOTA) ve açık kaynakta en üst düzey sonuçlar elde eder
  • Büyük modelleri hızlı ve kararlı biçimde eğitme sorunu ile farklı yapay zeka kullanım senaryolarını destekleyen esneklik açısından güçlü yönlere sahiptir

1. Model tanıtımı

  • Kimi K2, toplam 1 trilyon (1T) parametre ve 32 milyar (32B) aktif parametreye sahip son teknoloji bir MoE dil modelidir
  • Muon optimizer kullanarak büyük ölçekli model eğitimindeki kararsızlığı etkili biçimde çözer
  • Araç kullanımı, karmaşık akıl yürütme ve otonom ajanlar gibi üst düzey yeteneklere odaklanır

Başlıca özellikler

  • Büyük ölçekli eğitim: 1 trilyon parametreli model, 15,5 trilyon token ile ön eğitimden geçirilirken eğitim kararsızlığı (unstability) olmadan ilerler
  • MuonClip optimizer: Büyük ölçekli modellere özel Muon algoritması ile yeni optimizasyon tekniklerini birleştirerek kararlılık sağlar
  • Agentic Intelligence: Araç kullanımı, karmaşık akıl yürütme ve otonom problem çözme göz önünde bulundurularak tasarlanmıştır
Reklam

Model türleri

  • Kimi-K2-Base: Özel fine-tuning ve araştırmacı kullanımı için uygun temel model
  • Kimi-K2-Instruct: Sohbet ve genel ajan çalıştırma için optimize edilmiş post-training modeli

2. Model özeti

  • Mimari: Mixture-of-Experts (MoE)
  • Toplam parametre: 1 trilyon (1,000,000,000,000)
  • Aktif parametre: 32 milyar (32B)
  • Katman sayısı: 61 (Dense layer dahil)
  • Dense layer sayısı: 1
  • Attention hidden dimension: 7168
  • MoE hidden dimension (uzman başına): 2048
  • Attention Head: 64
  • Uzman sayısı: 384
  • Token başına seçilen uzman sayısı: 8
  • Paylaşılan uzman sayısı: 1
  • Vocabulary size: 160K
  • Kontekst uzunluğu: 128K
  • Attention mekanizması: MLA
  • Aktivasyon fonksiyonu: SwiGLU

3. Değerlendirme sonuçları

Instruction model performansı

  • Kodlama görevleri, araç kullanımı, matematik/fen-mühendislik ve genel görevler dahil çeşitli benchmark'larda üst sıralarda yer alır
  • SWE-bench, LiveCodeBench, OJBench, MultiPL-E, TerminalBench, AceBench, Tau2, AIME, MATH-500 gibi çeşitli kod-araç, matematik-mantık ve genel görev kategorilerinde SOTA veya kendi sınıfının en iyi performansını gösterir
  • SWE-bench Verified'da pass@1 %65,8, SWE-bench Multilingual'da %47,3 elde ederek agentic coding ortamlarında da dikkat çekici sonuçlar verir
  • MATH-500 (matematik), AIME, HMMT, CNMO gibi fen ve mühendislik testlerinde de üstün doğruluk sunar
  • MMLU (genel bilgi), SimpleQA gibi çeşitli genel görevlerde rakip açık kaynak ve ticari modellere kıyasla üst düzey performans sağlar

Base model performansı

  • MMLU, TriviaQA, GPQA-Diamond gibi temel benchmark'larda aynı sınıftaki açık kaynak modeller arasında en üst düzey sonuçlar kaydeder
  • Kodlama, matematik ve Çince değerlendirmeleri dahil alanlarda büyük açık kaynak base modellere karşı genel üstünlük sağlar
Reklam

4. Dağıtım ve motor çalıştırma

5. Model kullanım örnekleri

Sohbet arayüzü

  • Yerel çıkarım servisi çalıştırıldıktan sonra OpenAI uyumlu istemcilerde (Chat Completions API vb.) doğrudan etkileşim kurulabilir
  • Önerilen temperature: 0.6, System prompt'un da varsayılan biçimde kullanılması tavsiye edilir

Araç çağırma özelliği

  • Kimi-K2-Instruct, güçlü bir araç çağırma (tool-calling) yeteneğine sahiptir
  • Kullanıcı her istekte kullanılabilir araç listesini ilettiğinde model, araç kullanımını ve çalıştırma zamanını otonom biçimde belirler
  • Uçtan uca pipeline boyunca örnekler ve sonuç mesajları gösterilebilir
  • Motorun, Kimi-K2 araç ayrıştırma mantığını desteklemesi gerekir

6. Lisans

İlgili okumalar

1 yorum

 
GN⁺ 2025-07-13
Hacker News görüşleri
  • Kimi'yi birkaç kodlama probleminde denedim; Claude'un hata yaptığı ya da dolanıp durduğu durumlarda oldukça iyi çalıştı. Model boyutu inanılmaz büyük, bu yüzden "yerel" bir model olarak pek uygun değil; çalıştırmak için yaklaşık 16 adet H200 GPU gerekeceğini düşünüyorum. Diğer modellerden farklı bir karakteri varmış gibi hissettirdi ve memnun kaldım; en azından ensemble kullanılan ortamlarda faydalı olacak gibi görünüyor
    • 4 bit kuantizasyon kullanılırsa iki adet 512GB Mac Studio'da (MLX TB4 Ring yöntemiyle, ilgili bilgi için bu bağlantıya bakın) ya da 1TB+ RAM'e sahip tek bir Epyc sisteminde pratik hızlar alınabiliyor. Yaklaşık 20 bin dolar maliyetle denenebilir, ancak gerçekten prodüksiyon seviyesinde hız isteniyorsa çok daha güçlü donanım gerekir. Buna "yerel" modelden ziyade "kişisel damga modeli" demek daha uygun olur
    • Claude ile doğrudan karşılaştırarak birkaç test yaptım. Kimi daha basit ve okunması daha kolay kod üretti, Claude ise daha fazla over-engineered hissettirdi. Ancak Kimi, Claude'un ele aldığı bazı ince edge case'leri de kaçırdı
    • Claude dedin ama hangisi? Sonnet mi? 3.7 mi? 3.5 mi? Opus mu? 4 mü? Hangi sürüm olduğunu merak ettim
    • Kimi'ye ilk sorduğum soruya verdiği cevap (oldukça basit bir matematik eğlence sorusuydu) feci şekilde yanlıştı. Adil olmak gerekirse OpenAI modelleri de bu soruda başarısız oldu. Ek prompt'larla biraz iyileşti ama yine de şaşırtıcıydı
  • GPT 4o ve DeepSeek-V3 ailesi gibi bu model de (Kimi K2) son derece etkileyici bir genel amaçlı LLM ve üstelik açık kaynak. Bence bugünlerde daha az dikkat çekmesinin nedeni, ön cephenin akıl yürütme ve multimodal modellere kaymış olması. Doğruluk benchmark'larına bakarsanız üst sıralardaki modellerin hepsi akıl yürütme odaklı (ilgili bağlantı). Biri Kimi K2 ile akıl yürütme odaklı bir model eğitirse performansının nasıl olacağını gerçekten merak ediyorum
    • "Kimi K2 ile akıl yürütme odaklı bir model eğitirse" demişsin ama MoonshotAI muhtemelen zaten bunun üzerinde çalışıyordur
    • Kimi'nin mevcut ya da geçmiş modellerinin Artificial Analysis benchmark'ına neden hâlâ eklenmediğini merak ediyorum
  • Teknik artılarının ötesinde, Kimi K2'nin daha az robotik hissettirmesi de takdire değer. Anthropic'in üst düzey modelleri gibi neşeli, zeki ve akıcı bir kişiliği var. O katı bot tarzı cevapları görmemek küçük de olsa bir zafer sayılır
  • Bence OpenAI'nin açık kaynak model duyurusu, Kimi K2 gündemi ele geçirip rakamları geçtiği için ertelendi
    • OpenAI tarafı da "çok büyük, evde kendi başına host etmek zor" diye bir şey söylemişti, o yüzden mantıklı olabilir. Muhtemelen şu sıralar OpenAI'de benchmark çalıştırıp kazanabilecekleri değerlendirme kalemlerini arıyorlardır
    • Benchmark açısından bakınca Kimi K2 birçok alanda GPT-4.1'i geçiyor. OpenAI'nin gerçekten rekabet etmesi için GPT-4.1 ağırlıklarını ya da dengi bir modeli yayımlaması gerekir ama bunun olma ihtimali düşük görünüyor
  • Açık kaynak değil, "değiştirilmiş MIT lisansı". Aylık aktif kullanıcı sayısı 100 milyon ya da aylık geliri 20 milyon dolar (veya üzeri) olan ticari bir hizmette kullanılırsa hizmet arayüzünde "Kimi K2" ibaresinin açıkça gösterilmesi şartı var
    • Bu koşul, Llama'nın "Built with Llama" görünürlük şartıyla "aylık 700 milyon aktif kullanıcı" maddesinin birleşimi gibi duruyor ve bunu biraz "değiştirilmiş MIT" gibi paketlemişler
    • Bunun OSD'yi (Açık Kaynak Tanımı), FSF'nin özgür yazılım tanımını ya da Debian ölçütlerini ihlal ettiğini düşünmüyorum. GPLv2, GPLv3 ve BSD 4-clause'da da benzer duyuru yükümlülükleri var; sadece kullanıcı sayısı ya da gelir eşiği yok. Ayrıca sinir ağları kaynak koddan derlenmiyor, bu yüzden "açık kaynak" ifadesi de biraz muğlak. Gerçek açık kaynağa benzetilecekse eğitim verisi ve sürecinin de açıklanması daha yakın olurdu ama bu milyonlarca dolar gerektiren bir şey ve derlemeye de benzemiyor. Dolayısıyla bu lisans meselesinden ayrı bir konu
    • Bunun özgür yazılımın dört temel özgürlüğünden hangisini ihlal ettiğini merak ediyorum; bunu somut olarak açıklayabilir misin?
    • OpenStreetMap şartlarından bile daha az kısıtlayıcı
    • Bu şart galiba Google'ın bir "uyarlama" yapıp bunu Gemini-3.0-pro olarak piyasaya sürmesinden çekindikleri için eklenmiş
  • Benim için K2 bir dağ adı, SOTA da "summits on the air" anlamına geliyor; o yüzden başlığı görünce afalladım
  • Yeni bir sağlam mantık modeli yerine, akıl yürütme odaklı olmayan bir LLM'nin sınırı ileri taşımasını seviyorum. Bu tür modellerin hâlâ çok iyi kullanım alanları var (STEM ve mantık bulmacaları dışındaki alanlarda). Akıl yürütme token'larına para harcamak istemediğinizde işe yarıyor
  • "Açık kaynak" dedikleri şey aslında açık weight, her zamanki gibi veri seti, eğitim script'leri vb. verilmiyor
    • Şu an açık weight bile değil; weight yayını "değiştirilmiş MIT lisansı" şartına bağlı (yukarıda anlatıldığı gibi)
    • Mevcut telif sistemiyle telifli metin kullanmadan SOTA model eğitmek pratikte imkânsız görünüyor. Bunun nasıl dağıtılabildiğini merak ediyorum
  • Cevap kalitesini ve tonunu beğendim (ChatGPT ya da DeepSeek'e göre daha az kibar ve daha doğrudan), ama mevcut SOTA modellere kıyasla (DeepSeek dahil) yanıt formatını bozma ya da atlama durumu daha sık gibi görünüyor
  • Bu aralar tüm AI modelleri em-dash (—) işaretini aşırı kullanıyor. ChatGPT'ye em-dash kullanma dedim, yine de kullanmaya devam ediyor. Bunun nedenini bilen var mı?
    • Em-dash kullanmayı seven biri olarak, artık bunu LLM'lere özgü özensizliğin bir işareti gibi görmeye başladığım için biraz üzülüyorum