11 puan yazan GN⁺ 2024-06-24 | 2 yorum | WhatsApp'ta paylaş
  • Llama.ttf hem bir font dosyası hem de bir büyük dil modeli (LLM) ile bu modelin çıkarım motoru
  • Firefox/Chrome’da kullanılan font shaping motoru Harfbuzz, Wasm shaper aracılığıyla metni rastgele kodla "şekillendirmeye" olanak tanıyor
    • Bu "rastgele" kod, LLM’yi başlatan ve metin üretiminde kullanan, eğitilmiş parametreleri de içeren tam bir LLM çıkarım motoru olabilir
    • Burada Llama adlı bir LLM kullanıldığı için adı llama.ttf
  • Yani Wasm etkin Harfbuzz tabanlı uygulamalarda bu font kullanılarak LLM çalıştırılabilir ve metin üretimi gibi işler yapılabilir
    • Üreticinin "Copilot" benzeri özellikler sunmasını beklemeye gerek kalmadan her şey yerelde çalışır
    • Bu fontu kullanarak fontla sohbet etmek de mümkün
  • Kullanım şekli:
    • llama.ttf dosyasını indirip diğer fontlar gibi kullanmak yeterli
    • Harfbuzz’u Dwasm=enabled ile derleyip wasm-micro-runtime’ı derledikten sonra ortaya çıkan paylaşımlı kütüphaneyi LD_PRELOAD ortam değişkenine ekleyin; ardından gedit veya GIMP gibi Harfbuzz tabanlı uygulamaları çalıştırın
  • Font ve LLM ile yapılan diğer ilginç denemeler de tanıtılıyor

GN⁺ görüşü

  • llama.ttf, bir font dosyası üzerinden LLM çalıştırabilen yenilikçi bir yaklaşım.
  • Yerelde çalıştığı için gizlilik ve performans açısından avantajlı.
  • Harfbuzz ve Wasm hakkında bilgi gerektirdiğinden, başlangıç seviyesindeki mühendisler için biraz zor olabilir.

2 yorum

 
qyurila 2024-06-25

Metindeki Why? alt başlığının altında hiçbir şey yazmıyor 🤣

 
GN⁺ 2024-06-24
Hacker News yorumları
  • Haftalık bir TV programı olarak garip ve eğlenceli içerikler sunulsa iyi olacağı yönünde bir görüş.
  • Tetris’in fonta dönüştürülmesi gibi, LLM ve çıkarım motorunu bir fontun içine koyup sohbet etmeyi veya yazı yazmayı mümkün kılan bir projenin tanıtımı.
  • Projenin harika olduğu, ancak 280 GB’lık TTF dosya boyutu ve diğer fontlarla uyumluluk sorunlarının problem olduğu belirtiliyor.
  • İçine oyun gömülü bir font barındıran web sitesi bağlantısı paylaşılıyor.
  • Harfbuzz motorunun, metni "şekillendirmek" için Wasm shaper kullanan bir özellik sunduğu açıklanıyor.
  • Çalışmanın arşive kaydedildiğine dair bildirim ve teşekkür mesajı.
  • Harfbuzz ile wasm-micro-runtime’ın derlenip LD_PRELOAD ortam değişkenine eklenerek demonun kolayca yapılabilmesi umuluyor.
  • PDF’lerin konuşabildiği bir geleceği hiç hayal etmediğine dair hayranlık ifadesi.
  • Bunun bu hafta gördüğü en havalı şey olduğu yönünde bir görüş.
  • Fontun neden her zaman aynı dizgeyi ürettiği ve LLM’nin yeni bir "çıkarım" üretmesi gerekip gerekmediği soruluyor.
  • Fontun metin stilini otomatik olarak üretme gibi bir işleve sahip olup olamayacağını merak eden bir görüş.