HN Açıklandı: ChatGPT için doğrusal olmayan bir kullanıcı arayüzü oluşturmak

Grafychat'e giriş

• Grafychat, ChatGPT ve diğer konuşma tabanlı yapay zekalar için gizlilik dostu, tuval tabanlı görsel bir not defteridir
• OpenAI, Google AI ve yerel Ollama modelleriyle çalışır
• API anahtarınızı getirip sohbete başlayabilirsiniz

Grafychat'in başlıca özellikleri

Sonsuz tuval

• Sohbetleri görsel olarak düzenleyebilirsiniz
• Konuşmaları yönetmek için noktaları birbirine bağlayabilirsiniz
• İhtiyacınız olduğu kadar tuval oluşturabilirsiniz

Gizlilik dostu

• Her şey kullanıcının cihazında saklanır
• Veriler yalnızca yerel olmayan LLM istekleri için cihazdan çıkar
• Kayıt veya hesap gerekmez

Sonuç kontrolü

• Özel talimatları kolayca uygulayabilirsiniz
• Modeller arasında gerçek zamanlı geçiş yapabilirsiniz
• Model parametrelerini ayarlayabilirsiniz

Güçlü arama

• Tüm verilerde tam metin arama yapılabilir
• Hassas filtreleme yapabilirsiniz
• Sonuçlar arasında kolayca gezinebilirsiniz

Üst düzey OpenAI desteği

• GPT-4 dahil tüm ChatGPT modellerini destekler
• Sesli giriş/dikte desteği
• Ses oluşturma/anlatım desteği
• Görsel oluşturma desteği
• ChatGPT için aktif bir abonelik gerekmez
• Kendi OpenAI API anahtarınızı kullanabilirsiniz

Ücretsiz kullanılabilen yerel modeller

• Ollama desteği (Mac, Windows, Linux)
• Giderek büyüyen bir açık kaynak model kataloğu
• Güçlü Llama 3 ve daha fazlası
• Tamamen ücretsiz kullanılabilir
• Cihazınızda Ollama uygulamasını çalıştırıp ayarlamanız yeterlidir

Özelleştirilebilir prompt kütüphanesi

• Uygulamanın her yerinde kullanılabilir
• Prompt'ları kolayca kaydedebilir, düzenleyebilir ve yeniden kullanabilirsiniz

Her sohbet bir Markdown düzenleyicisidir

• Tüm sohbetleri düzenleyebilirsiniz
• Verileri düzenli tutar
• Inspector ile Markdown olarak dışa aktarabilirsiniz

Inspector içeren klasik sohbet görünümü

• Inspector'da sohbet başlatabilir veya sürdürebilirsiniz
• Mevcut konuşmayı seçip inceleyebilirsiniz
• Markdown olarak dışa aktarabilirsiniz

Özelleştirilebilir görünüm ve hissiyat

• Akışa renk ekleyebilirsiniz
• Belirli bölümleri gösterebilir/gizleyebilirsiniz
• Konuşmanın bazı kısımlarını etiketleyebilirsiniz

Birden çok AI sağlayıcısı desteği

• OpenAI
• Google AI
• Ollama üzerinden Llama 3
• Ve liste büyümeye devam ediyor

BYOAK - API anahtarınızı kendiniz getirin

• Verileri JSON dosyası olarak içe/dışa aktarın
• Klavye kısayolları
• Kod vurgulama desteği
• Sohbet sabitleme, renk etiketi verme
• Özel arka plan
• Karanlık mod
• Ve daha fazlası

Fiyatlandırma ve lisans bilgileri

• Tek seferlik satın alımla lisans size ait olur
• Her lisans 5 aktivasyon içerir ve son kullanma tarihi yoktur
• Standard ($39): tüm sınırlamalar kaldırılır, tüm özelliklerin kilidi açılır
• Extended ($59): Standard'ın tüm özellikleri + self-hosting paketi, masaüstü uygulaması yakında
• Premium ($79): Extended'ın tüm özellikleri + premium destek, masaüstü uygulaması yakında

SSS özeti

• Grafychat, ChatGPT ve diğer konuşma tabanlı yapay zekalar için gizlilik dostu, tuval tabanlı görsel bir not defteridir
• Abonelik tabanlı bir uygulama değildir; tek seferlik satın alımla lisansı sahiplenebilirsiniz
• 5 aktivasyon, lisans anahtarını 5 farklı cihazda kullanabileceğiniz anlamına gelir
• OpenAI, Google AI, yerel Ollama modelleri gibi birden çok sohbet botu sağlayıcısını destekler
• Kayıt veya OpenAI aboneliği gerekmez
• Masaüstü uygulaması henüz yayınlanmadı, ancak geliştirme aşamasındadır
• Grafychat.com kullanıcı verilerini saklamaz
• İade politikası için ayrıca iletişime geçmek gerekir

GN⁺ görüşü

• Grafychat, ChatGPT veya GPT-4 gibi çeşitli konuşma tabanlı yapay zeka modellerini görsel olarak yönetmeye yarayan bir araç gibi görünüyor. Özellikle konuşma içeriğini tuval biçiminde düzenleyip birbirine bağlayabilmesi, diyalogları sistemli biçimde organize etmek için kullanışlı görünüyor.
• Kullanıcı verilerini cihazda saklaması ve API anahtarını doğrudan kullanıcıdan alması gibi gizliliğe önem veren özellikleri de avantaj. Ancak yerel olmayan LLM isteklerinde verilerin dışarı gönderildiğine dikkat etmek gerekiyor.
• Ollama gibi açık kaynak modelleri desteklemesi sayesinde ücretsiz kullanım imkanı sunması ve prompt kütüphanesiyle sık kullanılan prompt'ların kaydedilip yeniden kullanılabilmesi gibi, kullanılabilirliği artıran çeşitli özellikler de var.
• Öte yandan abonelik yerine lisans modeli kullanması, fiyatı biraz yüksek hissettirebilir. Standard katmanının bile $39 olması az sayılmaz. Özellikleri bol ve gizliliğe özen gösterilmiş olsa da, açık kaynak modellerin ücretsiz kullanılabildiği düşünülünce fiyat/rekabet açısından soru işaretleri doğuruyor.
• Henüz bir masaüstü uygulamasının olmaması ve yalnızca web tabanlı hizmet vermesi, ayrıca yeni bir servis olduğu için kararlılığı ve uzun vadeli sürdürülebilirliğinin belirsiz olması da değerlendirilmesi gereken noktalar.

[GN⁺]

Hacker News yorumları

• Sitedeki tek bir CSS satırı yüzünden dizüstü bilgisayarım ciddi şekilde kasıyor
  Sebep, örneğin YouTube video açılır penceresinde kullanılan backdrop-filter: blur(0.1875rem)

  • Frontend geliştiricisiyim; sırf bu yüzden bu efekti asla uygulamıyorum
    Yüksek performanslı dizüstü bilgisayarlarda bile güç tüketimi çok yüksek oluyor ve fanlar hızla dönmeye başlıyor
  • Blur efektinin neden her zaman bu kadar çok güç tükettiğini merak ediyorum
    GPU'yu kullanmanın bir yolu yok mu, yoksa tamamen başka bir sorun mu bilmiyorum

• Eskiden sürükleme özelliği olmayan, yalnızca ağaç görselleştirmesi olan benzer bir arayüz düşünmüştüm
  Genelde aynı konuşmada yan konuları ele alıyorum, ama daha sonra yapay zekanın kafası karışmasın diye yan konunun başladığı önceki mesajı düzenliyorum
  Ancak OpenAI o yan konu ağacını attığı için, elle düzenleme gerektirmeden keşfedilen yan konuların ağacını gösterse güzel olurdu

  • ChatGPT tüm ağacı saklamıyor mu? Son baktığımda belirli bir düğümde ileri geri geçiş yapılabiliyordu

• İlginç bir yaklaşım. Tipik ara aşama iş akışlarını ele alıyor gibi görünüyor
  Nihai çıktıda doğrusal biçim tercih edilse bile, gerçek çalışma çoğu zaman önce hiyerarşik yapıyı tamamlamak şeklinde ilerliyor
  Yıllardır Gingko https://gingkowriter.com/ kullanıyorum; adım adım genişlemeye sınırsız izin verirken kolayca doğrusal yapıya katlanabildiği için problem yapısını düzenleme yükünü azaltıyor
  Bu durumda, ağaçtaki yaprak sayısı kadar N adet bağlam tutulup tutulmadığını, sohbetlerin birbirinden ayrı olup olmadığını ve sonsuz, yapılandırılmamış bir tuvalden düzenli nihai çıktıya nasıl geçileceğini merak ediyorum

  • Güzel soru
    Bağlam sonuçta bir gruplama biçimi olduğundan, yaprak sayısı kadar bağlam tutulup tutulmayacağı duruma göre değişir
    Yapılandırılmamış tuvalden düzenlenmiş çıktıya geçiş kısmını, uygulama içi komutlarla birleştirilmiş RAG olarak görüyorum ve yerel bir RAG çözümü üzerinde çalışıyorum
    Henüz erken aşamada ama umut verici; temel olarak tüm verilerle konuşup onların üzerine çeşitli komutlar uygulama yaklaşımı
  • Neden illa düzenli bir nihai çıktıya geçmek gerektiğini anlamıyorum
    Potansiyel bir kullanıcı ve benzer bir aracı kendim yapmayı düşünen biri olarak, ağaç ya da daha doğrusu yönlü grafiğin kendisi istediğim nihai sonuç
  • Biraz konu dışı ama Mac için Gingko'ya benzer bağımsız bir yazılım vardı sanki
    Bakınca Gingko'nun eski masaüstü uygulama sürümü gibi görünüyor ve hâlâ https://github.com/gingko/client/releases adresinden indirilebiliyor
  • Tamamının kendi bilgisayarımda kalması gereken bir yazılıma abonelik modeli eklenmesini kabullenmek zor

• Obsidian ve https://github.com/AndreBaltazar8/obsidian-canvas-conversati... gibi eklentilerle böyle bir şeyi kendiniz kolayca yapabilirsiniz

  • Dropbox'ı birkaç betik ve sftp ile değiştirdiğinizde olan şeye benziyor
  • Aşağıdaki yorumda Obsidian Canvas için daha fazla ücretsiz eklentiden bahsettim: https://news.ycombinator.com/item?id=40301465
  • "Kolayca" ancak teknik kişiler için geçerli, sıradan kullanıcılar için değil

• Demoyu görünce ilginç geldi, ama düğümleri sürükleyip bırakmaktan ve ilgimi çeken düğümleri bulmaktan çabuk yorulacakmışım gibi geliyor
  Arama özelliği var mı merak ediyorum
  Yapay zeka bir ajan gibi grafik görünümünü oluştursa ya da en azından takip sorularını önerip vurgulasa ve bunlar otomatik olarak grafik içinde düzenlense daha ilginç olurdu

  • Arama burada sevdiğim özelliklerden biri. / kısayolunu deneyin
  • Şahsen düzenlemeye ve sürükleyip bırakmaya zaman ayırmanın değerli olduğunu düşünüyorum
    Muhtemelen görsel düşünen biri olduğum için böyle

• Tek geri bildirimim, kapalı kaynak yapay zeka ürünlerinin şüpheli göründüğü ve muhtemelen satın almayacağım
  Yine de abonelik modeli akımından kaçınmış olmanız sevindirici ve bunu takdir ediyorum
  Telemetri gönderilmediğini kesin olarak görebilmem için açık kaynak yayımlayıp destek ücreti alsaydınız para ödeyebilirdim
  Gerçi ben uç bir örnek olabilirim, o yüzden bunu biraz süzgeçten geçirerek değerlendirin
  Fikir harika ve odaklanarak bir hafta sonunun bir ya da iki gününde MVP düzeyinde bir şey yapılabilir gibi görünüyor
  Elbette kişisel olarak ilgimi çekmeyen gösterişli özelliklerin uygulanması daha uzun sürebilir

  • Self-hosting seçeneği pratik bir çözüm olabilir mi?
    https://www.grafychat.com/d/docs/selfhost
    Tabii kodun obfuscate edilmemiş olması varsayımı gerekir gibi
  • Kaynağını açmak istemeyen ama derleme hakkında gerekli denetimlerin yapılmasına razı olan projeler için open-build gibi bir metodoloji olsa güzel olurdu

• Böyle bir özellik OpenAI veya Anthropic arayüzlerinde de olsa iyi olurdu
  Aslında basitçe "create a new chat from here" yeterli olur
  Ürün havalı ve iyi yapılmış, ama fiyatı şahsen benim için engel

  • Yazılım satın alma kararını mahalledeki McDonald's drive-thru menü fiyatlarıyla kıyaslayarak düşünmeye başlıyorum
  • Üçüncü taraf istemciler bunu destekliyor
    Örneğin MindMac'in "Fork from this message" özelliğini beğeniyorum
  • Önceki soruyu düzenlemek bu amaca oldukça iyi hizmet ediyor
    Mevcut arayüz de önceki düzenlemelerin hepsini bir revizyon ağacı olarak saklıyor

• Landing page iyi ve ürünü yeterince iyi açıklıyor
  Geçmişte buna benzer bir şey istediğim olmuştu, bu konsepti de beğendim

• Paylaşılan demoda, asıl üst sohbetten alt sohbet oluşturulduğu görülüyor
  İki alt sohbeti bağlayıp/birleştirip sonraki alt sohbeti oluşturma ya da önceki bir alt sohbetten tekrar alt sohbet oluşturma yöntemlerini de denediniz mi merak ediyorum

  • İçinde JSON, TXT, CSV dosyaları olan bir klasörü içe aktarıp bunları tek tek akıtan ve sonuçları başka bir klasörde toplayan düğümler olsa güzel olurdu
    LLM pipeline veya prompt editörü gibi bir biçim

• Bazı frontend'lere entegre edilse iyi olacak ek bir özellik olarak, hassas bilgilerin sızmasını önlemeye yardımcı olan bir bul-değiştir anahtar-değer deposu yapmıştım
  Dahili alan adları yerine IP, alan adı ve alt alan adlarını something.contoso.com gibi sahte alan adlarıyla değiştirip ChatGPT'ye gönderebilmek para ödemeye değer bir özellik olurdu
  Python ile uyguladım ama ayrı bir frontend'e eklenmiş bir özellik olduğu için oldukça kaba