- Ollama, Llama 2 ve Mistral gibi LLM'leri yerelde çalıştırmayı kolaylaştıran açık kaynaklı bir proje
- Mac/Linux destekleniyor; Windows ise yakında WSL2 üzerinde çalışabilecek
- Ollama için Python ve JavaScript kütüphanelerinin ilk sürümleri yayımlandı; böylece birkaç satır kodla yeni ve mevcut uygulamalar Ollama ile entegre edilebiliyor
- Ollama REST API'sinin işlevleri ve kullanım hissi aynen korunuyor
Başlangıç
- Python'da
pip install ollamaile kurulup,import ollamasonrasındaollama.chatfonksiyonu kullanılarak konuşma başlatılabiliyor. - JavaScript'te
npm install ollamaile kurulup,import ollama from 'ollama'sonrasındaollama.chatfonksiyonu kullanılarak konuşma başlatılabiliyor.
Kullanım örnekleri
- Her iki kütüphane de Ollama'nın tam özellik setini destekliyor.
- Python örnekleri arasında streaming, multimodal, metin tamamlama, özel model oluşturma ve özel istemci yapılandırması yer alıyor.
Yeni GitHub handle'ı
- Bu kütüphaneler ve Ollama'nın ana deposu artık yeni GitHub organizasyonu
ollamaaltında yönetiliyor. - Ollama ile Dart, Swift, C#, Java, PHP ve Rust gibi çeşitli programlama dilleri üzerinden etkileşim kuran kütüphaneleri sürdüren topluluk üyelerine teşekkür ediliyor.
1 yorum
node API de gayet iyi çalışıyordu. Bu kez onu iyi kullandım.