Ollama, Mac ve Windows için yeni uygulamasını yayınladı

• Ollama, macOS ve Windows için yeni bir masaüstü uygulaması tanıttı
• Artık model indirme ve sohbet işlemleri GUI ortamında kolayca yapılabiliyor
• Dosya sürükle ve bırak özelliği sayesinde metin ve PDF belgeleriyle etkileşim kurmak daha kolay hale geliyor
• Büyük belgeleri işlerken, context length (bağlam uzunluğu) ayarı artırılarak daha uzun içerikler analiz edilebiliyor
• Ollama'nın yeni multimodal motoru temelinde, görsel destekleyen modellere (ör. Google DeepMind'ın Gemma 3 model) görseller de gönderilebiliyor
• Kod dosyaları dahil çeşitli dosya formatlarını destekleyen belge işleme özelliği de yer alıyor
• Ollama'nın yeni uygulaması resmi site üzerinden macOS ve Windows için indirilebiliyor
• Yalnızca CLI sürümüne ihtiyaç duyan kullanıcılar, GitHub Releases sayfasından ayrı olarak indirebiliyor

[GN⁺]

Hacker News görüşleri

• Son zamanlarda Ollama'nın, ana sayfası üzerinden geliştiricilere odaklı bir üründen genel kullanıcılara yönelik bir ürüne dönüştüğü izlenimini edindim; bkz. Ollama ana sayfası Eskiden geliştiricilere yönelik CLI sürümü merkeze alınıyordu, ama artık ondan neredeyse hiç bahsedilmiyor Blogun alt kısmında sadece "CLI sürümü Ollama GitHub releases sayfasından indirilebilir" diye kısa bir not var Bunu özellikle eleştirmek için söylemiyorum, sadece değişim göze çarpıyor ve dikkatimi çekti Geçmişte birçok yerel LLM uygulaması kullandım; beğendiğim iki tanesi LM Studio ve Msty idi Bu uygulamayı da kesinlikle denemeyi düşünüyorum Eksikliğini hissettiğim bir özellik, ChatGPT masaüstü uygulamasındaki 'her zaman açık kısayol (Alt+Space)' ile anında yeni sohbet açıp küçültülmüş arayüzde hızlıca soru sorabilme imkanı Yerel LLM uygulamaları da bu fikri benimserse harika olur

  • Ollama yöneticisiyim Geliştiricileri ihmal ettiğimizi kesinlikle düşünmüyorum Hepimiz geliştiriciyiz ve Ollama'yı bizzat kendimizin kullanacağı şekilde yapıyoruz Herkes farklı prototipler geliştirip kullanıyordu, ama sonunda herkes Ollama'da karar kıldı ve şimdi onu iyileştirmeye odaklanıyoruz Ollama baştan sona geliştiricileri hedefliyor; bu odağı sürdürmeye devam ediyoruz

  • Hiç pygpt.net kullandınız mı diye merak ediyorum Arayüzü biraz fazla gelebilir ve adı çok iyi değil, ama denediklerim arasında beni en çok memnun eden uygulamaydı

  • Bu değişim aslında geliştiriciler için de olumlu olabilir Daha fazla kullanıcı Ollama kurarsa, ileride ayrı model paketlemek zorunda kalmadan Ollama tabanlı masaüstü yapay zeka uygulamaları da dağıtılabilir Ek maliyet çıkmayacağı için kullanıcılara ücretsiz/ucuz abonelikler sunmak da mümkün olabilir En yeni Qwen30B modelleri de oldukça güçlü Buna bir kurulum şablonu eklenip kullanıcının PC özellikleri (RAM, CPU/GPU performansı vb.) kontrol edilse ve Ollama kurulu değilse onun altında kurulum/indirme yapılsa çok daha kullanışlı olurdu Model kurulu olmadığında izin isteyip kurabilmeye yarayan bir API olsa da iyi olurdu

  • HugstonOne'da bu özellikler, örneğin yeni sekmeler gibi imkanlar, zaten var Ek olarak, geliştiricilerin çoğunun rastgele spam benzeri görünürlük peşinde koşması bana garip geliyor Ollama yapay zeka alanında öncü ve harika bir uygulama; içten teşekkür ederim

  • Msty'yi duymuştum ve kısa süre denemiştim, ama yakın zamanda tekrar bakınca özellik açısından epey zengin göründü LM Studio'yu bilmiyordum; bunun ücretsiz ticari kullanımı da mümkünmüş (Msty'de öyle değil) Sohbet arayüzü tabanlı araç olarak kullanılacaksa bu iki uygulamanın artılarını ve eksilerini karşılaştıran bir değerlendirme merak ediyorum

• Ollama'nın bu son yön değişikliğini pek anlayamıyorum

Ön yüz masaüstü uygulaması, Ollama'yı kullanma nedenimle tam ters yönde gidiyor Ben onu baştan beri yerel LLM arka ucu olarak kullanıyordum ve uzun süreli kullanıcılar zaten kendi ön yüzlerini bulmuş, yapmış ya da özelleştirip alışmış durumda Aslında son dönemde en güncel yerel modellerin geç gelmesi de olmuştu; bunun bu ön yüz odağından kaynaklanıp kaynaklanmadığını merak ediyorum Artık Ollama yerine, baştan kendi UI'ı olan ya da sadece CLI arka ucuna sadık kalan alternatiflere bakmayı düşünüyorum Daha iyi bir şey bulursam muhtemelen geçiş yaparım; belki de bunu çoktan yapmalıydım Umarım bu, Ollama'nın CLI odağını bırakıp abonelik tabanlı genel amaçlı bir LLM arayüzüne dönüşmesinin ilk adımı değildir

• Ollama için zaten çeşitli GUI'ler mevcut

Şu anki uygulama, GUI'nin doğrudan Ollama'nın içine gömülmüş bir sürümü gibi görünüyor

• Ollama UI'ını denedim ve uzak bir Ollama örneğine bağlanma seçeneğinin olmaması bana şaşırtıcı geldi En güçlü PC her zaman GUI'ı çalıştırdığım bilgisayar olmuyor

  • Buna gerçekten çok katılıyorum Ben Windows/macOS masaüstü ortamlarını seviyorum ama işletim sistemlerinin kendisini pek sevmiyorum; Linux/BSD tarafında ise işletim sistemlerini seviyorum ama masaüstü ortamlarını pek sevmiyorum, bu yüzden güçlü iş istasyonumu her zaman başsız bir Linux makine olarak tutup Windows/macOS'tan SSH ile bağlanıyorum Geliştiricilerin çoğu bunun ne anlama geldiğini pek bilmiyor Terminalde komut her çalıştırıldığında tarayıcı sekmesi açılması ya da en azından URL'nin terminale yazdırılması yoksa insan çok zorlanıyor ve bu gerçekten sinir bozucu olabiliyor

  • SSH port forwarding (ssh -L 11434:localhost:11434 user@remote) kullanarak uzak Ollama örneğine bağlanmak mümkün Yine de yerel destek olsa çok daha iyi olurdu

  • Uygulamada Ollama'yı ağa açma özelliği var gibi görünüyor, bu yüzden yakında destek gelebilir

• Windows'ta Ollama UI'ını denedim (ondan önce CLI kullanıyordum)

• Sadeliğini sevdim. Teknik olmayan kullanıcılar, arkadaşlar ve aile için yerel LLM kurulumunu kolaylaştırmak adına mükemmel
• Çok modlu kullanım ve Markdown desteği iyi çalışıyor
• Model seçim açılır menüsünde hem yerel modellerim hem de registry'deki popüler modellerin tamamı görünüyor Basit kullanım senaryoları için Open WebUI'den daha rahat olabilir Prompt/ileri ayar düzenlemeleri gibi şeyler muhtemelen yakında gelir; şu anda ise sadeliğin kendisi bir avantaj

• Sadece metin işlemek artık yeterli değil İngilizceyle sınırlı olmadan, 30 saniyeden uzun sesleri metne çevirme, ses üretimi ve görsel üretimi de çok önemli Metin işleme artık temel beklenti

• Linux neden desteklenmiyor merak ediyorum UI Chrome tabanlı gibi görünüyor (muhtemelen Electron), öyleyse Linux'a taşımak da kolay olmalı gibi Kaynak bağlantısını da merak ediyorum

  • Electron platformlar arası olduğunu iddia etse de, gerçek dünyada bu "tek tuşla Linux dağıtımı" anlamına gelmiyor

glibc sürüm sorunları ya da GPU desteği gibi irili ufaklı problemler hep çıkıyor

• Ollama'nın resmi ifadesi şu: “Mac ve Windows için yeni uygulamayı indir / CLI sürümünü GitHub'dan ayrıca indir” Baktığım kadarıyla açık kaynak havası vermiyor Üstelik Chrome değil, sistem webview kullanıyor; bu yüzden bir Tauri uygulaması gibi görünüyor

• Electron tabanlı olduğu söyleniyor; buna rağmen bunu "native" diye tanıtmaları bana tuhaf geliyor

• Linux geliştiricileri ya da ileri düzey kullanıcılar zaten Ollama'yı CLI ile kullanabiliyor Şu anki Mac/Windows uygulaması genel kullanıcıları hedefliyor

• Ollama'nın, şirketler için açık modelleri dağıtmaya yönelik standart arayüz olmayı hedeflediği izlenimini alıyorum "Yerel" odak ikincil bir konu gibi; uzun vadeli hedefin bu olduğunu sanmıyorum Yakında bu uygulamayı bir köprü olarak kullanıp "kendi bulut API'si + açık modeller" stratejisini duyuracaklarına neredeyse eminim

  • "Yerel"in ikincil olduğu fikrine kesinlikle katılmıyorum Bulut tabanlı servisleri kullanamayan şirketler için (örneğin savunma sanayii şirketleri) yerel kullanım varsayılan seçenektir Açık modelleri kullanmanın asıl nedeni de bu, performansları henüz tam yeterli olmasa bile

  • Bizim de Ollama kullanma nedenimiz, verilerin şirket iç ağının dışına kesinlikle çıkmaması gerekmesi İçine azıcık bile bulut karışsa hukuk ekibi ortalığı ayağa kaldırır Bu yüzden Ollama'yı hem dizüstünde (M serisi çok güçlü) hem de kurum içi intranet sunucularında doğrudan çalıştırıyoruz LM Studio kısa süre önce ticari kullanımını özel fiyat görüşmesi olmadan mümkün hale getirdi; bunu da değerlendirmeyi düşünüyoruz

• Güçlü kullanıcıysanız ya da kod yazabiliyorsanız, tam istediğiniz gibi özelleştirilmiş bir sohbet UI'ı yapmanızı tavsiye ederim Herhangi bir OpenAI uyumlu endpoint ve bir sohbet ön yüzü bileşen çatısı alınca gerisi aslında oldukça kolay Ben de Gemini'nin yardımıyla bir haftada toparladım ve her gün kullanıyorum Üretim hazır değil, ama tam istediğim gibi değiştirebiliyorum ve yeni özellikleri de hızlıca ekleyebiliyorum

  • Bu gerçekten "gidin kendi Linux'unuzu yapın" seviyesinde bir yorum olmuş Herkes için kolay bir yaklaşım değil

  • Ben de AI/LLM tarafını kurcalarken Python tabanlı kendi chatbot'umu yaptım, ardından [Vercel AI SDK + OpenAI uyumlu API endpoint] bile kullandım En sonunda ürünleştirdim bile VT.ai - Python, VT Chat

  • Ben de aynı yaklaşımı kullanıyorum Asıl önemli olan hangi modeli kullandığınız; geri kalan şeylerin çoğu ikincil

Kullandığım açık kaynak script (Show HN bağlantısı) da ilginizi çekebilir ChatGPT vb. yardımıyla yapmak kolay olmuştu ve her gün kullanıyorum Yakında DDG ve GitHub aramasını da eklemeyi planlıyorum

• Ya da doğrudan Open WebUI'ı temel alıp istediğiniz kadar özelleştirebilirsiniz

• Kendime ait kusursuz LLM sohbet arayüzünü bulmaya çalışıyorum Temel şartlarım, yerel/uzak/bulut (OpenAI API uyumlu) modelleri aynı anda desteklemesi ve model geçişi ya da çoklu sorgunun kolay olması Şu anki izlenimlerim:

• Msty: En sevdiğim bu; birden fazla modele aynı anda sorgu atabiliyor ve tasarımı da hoş, ama açık kaynak değil ve Linux'ta bazen donuyor

• Jan.ai: Çoklu modele aynı anda sorgu atamıyor

• LM Studio: Açık kaynak değil ve uzak/bulut modelleri desteklemiyor (eklenti var mı emin değilim)

• GPT4All: openrouter modelleri kullanırken JSON hataları veriyor, ayrıca her sohbet için model değişimini elle yapmak gerekiyor ve bu can sıkıcı Henüz Librechat, Open WebUI, AnythingLLM ve koboldcpp'yi test etmedim Başka önerisi olan varsa duymak isterim

  • webUI'ı seviyorum ama model başına tarayıcı içindeki metin dosyalarıyla ayar yapmak karmaşık geliyor, dokümantasyondaki terminoloji de anlaşılması zor Librechat çok kısa sürede oturumu kapattığı için fiilen kullanılamaz durumda https ile oturumu korumanın mümkün olduğuna dair bir şeyler duydum, ama Tailscale kullandığım için tek hostta birden fazla servis çalıştırırken bu zor oluyor

  • Benim yaptığım dinoki.ai diye bir uygulama da var Yerelde çalışıyor, gizliliği birinci öncelik yapıyor ve macOS'ta Swift, Windows'ta WPF ile native olarak geliştirildi

  • OpenWebUI, farklı modelleri sohbet üzerinden kolayca kullanabilmek açısından aradığım kalite düzeyini sağlıyor

  • Aylardır AnythingLLM kullanıyorum ve gerçekten çok memnunum Birden fazla “workspace” ile model/prompt setlerini kaydedebiliyorsunuz, Ollama ve diğer LLM'lerin hepsini destekliyor Onu Docker ile Raspberry Pi üzerinde çalıştırıyorum, Tailscale sayesinde de her yerden erişebiliyorum Mobil görünümü de güzel; Raycast Claude eklentisiyle birlikte kullanınca merak ettiğim her şeyi çözebiliyorum

  • Kendiniz yapmanızı öneririm Hem güncel trendleri öğrenmiş olursunuz hem de eğlenceli oluyor Ben arayüzümü 2023'te yaptım, sonra parça parça özellik ekledim; yakın zamanda MLX üzerinden yerel modelleri de bağladım Arayüz yapmak düşündüğünüzden daha kolay ve geliştiriciler bunu deneyince çok şey öğreniyor

• Ollama'yı geçmişte bir kez denedim ve hemen kaldırdım Çünkü Ollama tarafından resmi desteklenen modeller dışındakileri kolayca kurmak mümkün değilse bana kullanışsız geliyor O zamandan beri LM Studio'nun en iyisi olduğunu düşünüyorum

  • OLLAMA da iyi ama deneyim açısından Lmstudio'nun yanında HugstonOne daha da iyi