- Llama.ttf hem bir font dosyası hem de bir büyük dil modeli (LLM) ile bu modelin çıkarım motoru
- Firefox/Chrome’da kullanılan font shaping motoru Harfbuzz, Wasm shaper aracılığıyla metni rastgele kodla "şekillendirmeye" olanak tanıyor
- Bu "rastgele" kod, LLM’yi başlatan ve metin üretiminde kullanan, eğitilmiş parametreleri de içeren tam bir LLM çıkarım motoru olabilir
- Burada Llama adlı bir LLM kullanıldığı için adı llama.ttf
- Yani Wasm etkin Harfbuzz tabanlı uygulamalarda bu font kullanılarak LLM çalıştırılabilir ve metin üretimi gibi işler yapılabilir
- Üreticinin "Copilot" benzeri özellikler sunmasını beklemeye gerek kalmadan her şey yerelde çalışır
- Bu fontu kullanarak fontla sohbet etmek de mümkün
- Kullanım şekli:
llama.ttf dosyasını indirip diğer fontlar gibi kullanmak yeterli
- Harfbuzz’u
Dwasm=enabled ile derleyip wasm-micro-runtime’ı derledikten sonra ortaya çıkan paylaşımlı kütüphaneyi LD_PRELOAD ortam değişkenine ekleyin; ardından gedit veya GIMP gibi Harfbuzz tabanlı uygulamaları çalıştırın
- Font ve LLM ile yapılan diğer ilginç denemeler de tanıtılıyor
GN⁺ görüşü
- llama.ttf, bir font dosyası üzerinden LLM çalıştırabilen yenilikçi bir yaklaşım.
- Yerelde çalıştığı için gizlilik ve performans açısından avantajlı.
- Harfbuzz ve Wasm hakkında bilgi gerektirdiğinden, başlangıç seviyesindeki mühendisler için biraz zor olabilir.
2 yorum
Metindeki Why? alt başlığının altında hiçbir şey yazmıyor 🤣
Hacker News yorumları