32 puan yazan xguru 2026-03-18 | 3 yorum | WhatsApp'ta paylaş
  • Metin, ses, embedding ve görüntü dahil çeşitli yapay zeka modellerinin yerelde çalıştırılması ve eğitimi için tek bir arayüz sunan açık kaynak araç
  • Mac/Windows/Linux üzerinde GGUF/safetensor modelleri yerelde çalıştırılabilir; eğitim sırasında 2 kata kadar daha yüksek hız ve %70 daha az VRAM kullanımı sağlar
  • llama.cpp + Hugging Face tabanlı çoklu GPU çıkarımı ve çoğu model için destek
  • Unsloth çekirdeği LoRA, FP8, FFT, PT için optimizasyon sağlayarak 500'den fazla metin, görüntü, TTS/ses ve embedding modelini destekler
  • Qwen3.5, NVIDIA Nemotron 3 gibi en yeni LLM'lerin fine-tuning'i yapılabilir ve çoklu GPU otomatik olarak desteklenir
    • Full fine-tuning, 4bit/16bit/FP8 eğitim, reinforcement learning (GRPO) gibi geniş kapsamlı eğitim yöntemlerini destekler
    • MoE LLM'leri 12 kat daha hızlı eğitmek veya 80GB GPU üzerinde 500K'dan uzun bağlam uzunluğuyla 20B modeli eğitmek gibi optimizasyon teknikleri sürekli ekleniyor
  • Fine-tuning yapılmış modeller dahil tüm modeller safetensors/GGUF olarak dışa aktarılabilir; böylece llama.cpp, vLLM, Ollama, LM Studio vb. ortamlarda kullanılabilir
  • PDF, CSV, JSON gibi yapılandırılmamış belgeleri otomatik olarak veri kümesine dönüştüren Data Recipes özelliği ile self-healing tool calling ve kod çalıştırma işlevleri yerleşik olarak gelir
  • Eğitim kaybını ve GPU kullanımını gerçek zamanlı izleyen gözlemlenebilirlik özellikleri içerir
  • Model Arena içinde temel model ve fine-tuning yapılmış model dahil iki modelin çıktısı yan yana karşılaştırılabilir
  • %100 çevrimdışı yerel çalışmayla gizliliği garanti eder; Apple MLX, AMD ve Intel desteği yakında eklenecek
  • İş akışı :
    Studio'yu çalıştır →
    Yerel dosyalardan veya desteklenen entegrasyonlardan model yükle →
    PDF, CSV, JSONL vb. ile eğitim verisini içe aktar veya sıfırdan veri kümesi oluştur →
    Data Recipes içinde veri kümesini temizle ve genişlet → önerilen ön ayarlar veya özel ayarlarla eğitimi başlat →
    Eğitilmiş model ile temel modelin çıktılarını karşılaştır →
    Mevcut kullanım yığınına yerel olarak kaydet veya dışa aktar
  • Lisans
    • Ana Unsloth paketi Apache 2.0 lisansı altında
    • Yalnızca Unsloth Studio UI gibi bazı isteğe bağlı bileşenlerde AGPL-3.0 açık kaynak lisansı uygulanır

3 yorum

 
wedding 2026-03-20

Ben de çıkar çıkmaz denedim ama sayfa bozuluyordu ve öğreticiyi geçemiyordum T_T

 
wedding 2026-03-20

https://github.com/unslothai/unsloth/…

Demek ki hemen düzeltmişler!

 
GN⁺ 2026-03-19
Hacker News yorumları
  • Hâlâ MacBook'ta unsloth studio kurulumunu düzgün yapabilmiş değilim
    Sebebi Python araç zinciriyle ilgili sorunlar
    Bunun yerine zaten Docker container içinde llama.cpp sunucusu çalıştırıyordum, bu yüzden üç kod tabanını karşılaştırmalı olarak denedim
    Birinci karşılaştırma kodu, İkinci karşılaştırma kodu
    Oldukça ilginç sonuçlardı. unsloth studio düzgün çalışırsa gelecek hafta tekrar denemeyi planlıyorum

    • Tekrar deneyebilirsen iyi olur. Az önce yeni bir PyPI sürümü yayımladım
      Aşağıdaki komutlarla kurulabilir
      curl -LsSf https://astral.sh/uv/install.sh | sh  
      uv venv unsloth_studio --python 3.13  
      source unsloth_studio/bin/activate  
      uv pip install unsloth==2026.3.7 --torch-backend=auto  
      unsloth studio setup  
      unsloth studio -H 0.0.0.0 -p 8888
      
  • unsloth'un iş modelini merak ediyorum. Ücretsiz olarak çok şey yayımlıyorlar ama gelir yapısı pek net görünmüyor

    • Şu an ana hedef, açık kaynak topluluğuna faydalı araçlar sunmak
      Kapalı kaynak çözümlerin daha popüler olmasının nedeninin araç kalitesi olduğunu düşünüyorum. İleride açıklayacağımız daha çok şey var
    • Ekip yaklaşık 8 kişiyse, şu anda acil bir nakit sıkışıklığı yaşamıyor olmaları muhtemeldir
  • Eğitim özelliği ilgimi çekmişti ama “on NVIDIA” yazdığı için hayal kırıklığına uğradım
    macOS'un Metal stack'i ile SFT (gözetimli ince ayar) yapmaya yönelik bir alternatif ya da eğitim olup olmadığını merak ediyorum

    • Dokümanın alt kısmında non-Nvidia desteğinin hazırlandığı yazıyor
      Ben de AMD kullanıyorum ve bunu bekliyorum. ROCm acı verici ama AMD'nin kendisini seviyorum
    • Açıkça “Mac: yalnızca CPU tabanlı sohbet mümkün, MLX eğitimi yakında desteklenecek” deniyor
    • O Mac'ten Nvidia GPU kiralayıp kullanmak pratik bir alternatif olabilir
    • haha
  • Unsloth gerçekten oldukça iyi bir proje
    Kendi yapay zeka motorunu çalıştıran biriyseniz kesinlikle denemeye değer

  • Apache lisansı olduğu için şirkette de denemeyi düşünüyorum
    LMStudio özel lisanslı olduğu için onay almak zordu

    • Yalnızca bazı bileşenler Apache lisanslı
  • AMD desteğini mutlaka getirmelerini isterim
    Şu anda AMD GPU ile karmaşık geçici çözümler kullanıyorum

    • AMD desteği üzerinde çalıştıklarını söylüyorlar. Ben de bekliyorum
  • macOS'ta kaynaktan derlemeyi denedim ama aşağıdaki TypeScript hatası oluştu
    'status' is declared but its value is never read

    • Düzeltildi. Aşağıdaki komutlarla tekrar denemenizi öneririm
      curl -LsSf https://astral.sh/uv/install.sh | sh  
      uv venv unsloth_studio --python 3.13  
      source unsloth_studio/bin/activate  
      uv pip install unsloth --torch-backend=auto  
      unsloth studio setup  
      unsloth studio -H 0.0.0.0 -p 8888
      
    • Hızlıca kontrol edip düzelteceğini söyledi
  • macOS'ta pip ile kurulum yapmak sistemi bozma riski taşıdığı için tavsiye edilmiyor
    Bir Homebrew paketi ya da elle kurulum için zip dosyası gerekiyor

    • Katılıyorum. Şu anda “uv” ya da “mise” ile kurmak daha iyi görünüyor
      uv tool install unsloth ile kurulursa yönetimi kolay oluyor
    • Geri bildirim için teşekkürler, kurulum sürecini daha da iyileştiriyoruz
      Ağırlıklı olarak Python ekosisteminden geldiğim için paketleme deneyimim azdı. Sıradaki hedef Homebrew desteği
    • Önce uv'yi kurup ardından sanal ortam içinde Python paketlerini yalıtılmış şekilde kurmanızı öneririm
    • uv sync kullanmak çok daha temiz
      pyproject.toml ile bağımlılıkları yönetip tek komutla yeniden üretilebilir bir ortam oluşturabilirsiniz
      Daha önce ROCm tabanlı yayımlanmamış bir sürümle unsloth kurmuştum, uv sync tek satırda halletmişti
      İlgili issue yorumu
    • Belki pipx ile çözülebilir
      pipx kurulum belgeleri
  • AMD desteği gelince tekrar bakmaya geleceğim

  • Mac'te GPU kullanıp kullanmadığını merak ediyorum
    setup sırasında yalnızca CPU olduğu yazıyordu