RecurseChat - Günlük kullanım için yerel yapay zeka sohbet uygulaması

• Önce yerel, çevrimdışı kullanılabilir: Karmaşık ayarlar olmadan çevrimdışı olarak yapay zeka ile sohbet edebilirsiniz.
• Uzman arama: Binlerce mesaj içinde hızlı arama özelliği sunar.
• ChatGPT geçmişini içe aktarma: Yerel yapay zeka ile sohbetlerinizi kaldığınız yerden sürdürebilirsiniz.
• Çoklu model sohbeti: Tek bir sohbet oturumunda birden fazla modelle konuşabilirsiniz.
• Çok modlu giriş: LLaVA modeli kullanılarak görsellerle sohbet edebilirsiniz.
• Güvenlik ve gizlilik: macOS uygulama sandbox'ı tarafından korunur ve özel olarak sohbet etmenizi sağlar.
• Özelleştirilebilir görünüm ve yapay zeka karakterleri: Kendi GGUF modelinizi kullanarak yapay zekanın kişiliğini ve görünümünü özelleştirebilirsiniz.

Basit ama güçlü özellikler

• Çevrimdışı yapay zeka sohbeti: Teknik bilgi gerektirmeden yerel LLM ile sohbet edebilirsiniz.
• Görsellerle çok modlu sohbet: Görselleri içeren farklı sohbet biçimlerini destekler.
• ChatGPT geçmişini içe aktarma ve devam etme: Önceki konuşmalarınızı yerel yapay zeka ile sürdürebilirsiniz.
• Hızlı uzman arama: Metin aramasıyla istediğiniz konuşma içeriğini kolayca bulabilirsiniz.
• Çekirdek özelleştirme: Yapay zekanın kişiliğini ve görünümünü özgürce değiştirebilirsiniz.

GN⁺ görüşü

• RecurseChat, kullanıcı gizliliğine önem veren ve çevrimdışıyken de yapay zeka ile sohbet etmeyi mümkün kılan bir uygulama. Bu, internet bağlantısının kararsız olduğu ya da gizliliğin kritik olduğu kullanıcılar için oldukça faydalı olabilir.
• macOS uygulama sandbox'ı üzerinden sunulan güvenlik, kullanıcıya ek güven verebilir; ancak bu özelliğin diğer işletim sistemlerinde de aynı düzeyde sunulup sunulmayacağı belirsizdir.
• Görsellerle çok modlu sohbet özelliği, kullanıcılara daha zengin bir sohbet deneyimi sunabilir; ancak görsel tanıma doğruluğuna ilişkin teknik zorluklar da beraberinde gelebilir.
• Kullanıcıların kendi GGUF modellerini kullanarak yapay zekanın kişiliğini ve görünümünü özelleştirebilmesi, kişiselleştirilmiş bir deneyim sunma açısından büyük bir avantaj olabilir. Ancak bu tür gelişmiş özelliklerden tam yararlanmak için belirli bir düzeyde teknik anlayış gerekebilir.
• Kullanıcının teknik seviyesi ve gizlilik beklentileri dikkate alınmalı; farklı kullanıcı ortamlarında uyumluluk ve erişilebilirliğin sağlanması önemlidir.

[GN⁺]

Hacker News görüşleri

• @ggerganov’un llama.cpp üzerindeki etkileyici çalışması sayesinde bu mümkün oldu. İdeal bir yerel yapay zeka uygulamasında görmek istediğiniz bir özellik varsa duymak isterim.

• Full Text Search. Binlerce mesaj üzerinde yıldırım hızında arama.

  • Doğal dil işleme nihayet gelişti ve Ctrl+F yeniden icat edildi.
  • Binlerce mesajı hızlıca arama özelliği hakkında, 90’lardaki arama işlevinin modern bir yorumla geri döndüğü yorumu.
    • Tam metin arama özelliği için, doğal dil işleme teknolojisinin gelişerek mevcut metin arama işlevini yenilikçi biçimde iyileştirdiği değerlendirmesi.

• Yerel belgeler, yer imleri, tarayıcı geçmişi vb. içinden yanıt bulabilen bir özellikse buna memnuniyetle para öderim

• Harika! Birkaç nokta:

  • ChatGPT arayüzünün kullanışlı olmasının nedeni, konuşmanın herhangi bir bölümünü değiştirebilmeniz ve o noktadan itibaren konuşmayı yeniden üretip sonrasını silmesidir.
  • Geri bildirim düğmesi, odağı Chrome’a geçirmek dışında hiçbir şey yapmıyor.
  • LLaVA modelinin metin tabanlı bir yapay zeka modeli olduğu için görsel üretemediği söyleniyor.

• Güzel, ama ChatbotUI+Ollama yerine bunu kullanmak için bir neden göremiyorum

  • MacOS yerel uygulaması olması ve hızlı içe aktarma ile arama özellikleri dışında ayırt edici bir fark bulmak zor.
  • ChatbotUI; çapraz platform, özelleştirilebilir, mahremiyete saygılı ve hata ayıklanabilir olma gibi avantajlara sahip.

• Birkaç soru:

  • Görsel üretimi için ne kullanıyorsunuz? Bu yerelde de mümkün mü (ör. stable diffusion)? Entegre prompt oluşturma var mı?
  • ChatGPT geçmişini içe aktarabildiğinizi söylemişsiniz; başka belgeleri de içe aktarabiliyor musunuz?
  • Bazı "ajan" tarzı özellikler var mı? Web’de arama yapabiliyor mu? Başka API’leri kullanabiliyor mu? Kendi kendine prompt üretebiliyor mu?
  • Bir eklenti çatısı var mı? "Özelleştirilebilir" demişsiniz ama bu neredeyse her anlama gelebilir.
  • Lisansı nedir? Kullanımın gerçekten kişisel olduğunu nasıl garanti ediyorsunuz? Hepimiz biliyoruz ki birçok "yerel" uygulama büyük miktarda veriyi dışarı gönderiyor.

• Birkaç öneri

  • Sistem yazı tipini (San Francisco) bir UI seçeneği olarak ekleyin lütfen. SF Mono da güzel olabilir.
  • Yeni başlayanlar için model kullanımı konusunda yardıma ihtiyaç var. Nasıl başlanacağını anlatan bir tanıtım ekranı olsa iyi olur.
  • Çoğu Mac uygulamasında olduğu gibi Command-comma ile ayarların açılması güzel olur.
  • Web bağlantılarına tıklayınca Safari’nin (veya tercih edilen tarayıcının) açılması iyi olur.

• OpenAI API’yi aynı arayüz içinde kullanma seçeneğini eklemek de iyi olabilir.

  • Şu anda jan.ai kullanıyorum.

• Uygulamaya çevrimiçi modeller eklemeyi planlıyor musunuz? Yerel modeller hâlâ çevrimiçi modellerle kıyaslanabilecek düzeyde değil.

  • Tutarlı bir sohbet arayüzünde GPT/Claude/yerel modeller arasında geçiş yapabilmek güzel olur.

• "Yerel yapay zekayla konuşun" demek yerine, yerel yapay zekayla konuşarak neler başarabileceğimizi söylerseniz daha çok satar.

  • İhtiyaç duyulan şey konuşma değil, belirli işleri yapabilmek. Hangi işleri yapabiliyor? (Bana yanıt vermeyin, bunu açılış sayfasına ve uygulama mağazası listesine yazın)