- Ollama Turbo, büyük ölçekli açık modelleri yüksek performanslı veri merkezi donanımı üzerinde hızlıca çalıştırmak için yeni bir çözüm sunuyor (aylık $20)
- Ollama'nın uygulaması, CLI'si, API'si ile JavaScript/Python kütüphanelerini aynı şekilde kullanırken büyük modelleri hızlı ve verimli bir biçimde çalıştırmanın bir yolunu sağlar
- Şu anda önizleme aşamasında olup, OpenAI'nın açık modelleri olan gpt-oss-20b ve gpt-oss-120b'yi destekliyor
- Turbo modunda sorgu geçmişi sunucuda saklanmaz veya günlük kaydı olarak tutulmaz
- Donanım yalnızca ABD içindeki veri merkezlerinde çalıştırılır; saatlik ve günlük kullanım limitleri uygulanır ve ileride kullanıma dayalı ücretlendirme sistemi de devreye alınacaktır
Henüz yorum yok.