18 puan yazan GN⁺ 2024-01-26 | 1 yorum | WhatsApp'ta paylaş
  • Ollama, Llama 2 ve Mistral gibi LLM'leri yerelde çalıştırmayı kolaylaştıran açık kaynaklı bir proje
    • Mac/Linux destekleniyor; Windows ise yakında WSL2 üzerinde çalışabilecek
  • Ollama için Python ve JavaScript kütüphanelerinin ilk sürümleri yayımlandı; böylece birkaç satır kodla yeni ve mevcut uygulamalar Ollama ile entegre edilebiliyor
    • Ollama REST API'sinin işlevleri ve kullanım hissi aynen korunuyor
Reklam

Başlangıç

  • Python'da pip install ollama ile kurulup, import ollama sonrasında ollama.chat fonksiyonu kullanılarak konuşma başlatılabiliyor.
  • JavaScript'te npm install ollama ile kurulup, import ollama from 'ollama' sonrasında ollama.chat fonksiyonu kullanılarak konuşma başlatılabiliyor.

Kullanım örnekleri

  • Her iki kütüphane de Ollama'nın tam özellik setini destekliyor.
  • Python örnekleri arasında streaming, multimodal, metin tamamlama, özel model oluşturma ve özel istemci yapılandırması yer alıyor.

Yeni GitHub handle'ı

  • Bu kütüphaneler ve Ollama'nın ana deposu artık yeni GitHub organizasyonu ollama altında yönetiliyor.
  • Ollama ile Dart, Swift, C#, Java, PHP ve Rust gibi çeşitli programlama dilleri üzerinden etkileşim kuran kütüphaneleri sürdüren topluluk üyelerine teşekkür ediliyor.

1 yorum

 
joone 2024-01-29

node API de gayet iyi çalışıyordu. Bu kez onu iyi kullandım.