GGML ve llama.cpp, Hugging Face'e katıldı

Hugging Face'in, llama.cpp ve GGML motorunun çekirdek geliştiricisi Georgi Gerganov'u bünyesine kattığı haberi.

Başlıca noktalar: llama.cpp (yerel LLM çalıştırmanın fiili standart motoru) ve GGML tabanlı teknolojiler Hugging Face çatısı altına girerek, açık kaynak yerel yapay zeka ekosisteminin iki ana ekseni tek bir yapıda birleşti.
llama.cpp hâlâ %100 açık kaynak olarak kalıyor ve performans odaklı şekilde sürdürülecek.

Beklenen başlıca değişiklikler:

• transformers kütüphanesinde GGUF formatlı modeller için tek tık düzeyinde otomatik dönüştürme ve destek
• Yeni modeller çıktığında manuel optimizasyon gerekmeden doğrudan yerelde yüksek performansla çalıştırabilme
• Yerel yapay zeka araçları ve kullanıcı ortamında büyük çaplı iyileştirme yönelimi

Anlamı: Merkezi sunuculara bağımlı olmadan bireylerin ve şirketlerin yüksek kaliteli LLM'leri yerelde özgürce çalıştırabilmesini sağlayan altyapı daha da güçleniyor.