GPT'leri İncelemek: Trençkot Giymiş ChatGPT mi?

GPT yapılandırma yöntemi

• GPT, ChatGPT'nin adlandırılmış bir yapılandırmasıdır; ad, logo ve kısa bir açıklama içerir.
• GPT'nin davranışını yönlendiren özel talimatlar içerir; bu da "sistem promptu" ile eşdeğerdir.
• Sohbeti başlatmak için kullanılabilecek en fazla 4 örnek prompt isteğe bağlı olarak sunulabilir.
• Ek bağlam sağlamak ve yanıt üretimine yardımcı olmak için birden fazla dosya yüklenebilir.
• Code Interpreter, Browse modu ve DALL-E 3 etkinleştirilebilir veya devre dışı bırakılabilir.
• GPT'nin çağırabileceği API endpoint'leri olan isteğe bağlı "Actions" ayarlanabilir.

GPT Builder nasıl çalışır

• GPT Builder, kullanıcıyla yapılan konuşma üzerinden otomatik olarak GPT oluşturan bir sohbet botudur.
• "Create" sekmesi, kullanıcının konuşma yoluyla GPT oluşturmasına olanak tanır, ancak gerçekte "Configure" formunu otomatik doldurur.
• Birçok kişi, ilk GPT'yi oluşturduktan sonra "Create" sekmesinden kaçınılmasını önerir.

GPT'lere dair ilginç örnekler

• Dejargonizer: Teknik jargonu yorumlayan bir GPT'dir; metni analiz ederek uzmanlık terimlerini tanımlar.
• JavaScript Code Interpreter: JavaScript kodu çalıştırabilen bir GPT'dir; ekli bir Deno runtime ile kullanılır.
• Dependency Chat: Bir GitHub projesinin bağımlılık dokümantasyonunu analiz ederek ilgili soruları yanıtlar.
• Add a walrus: Görsellere mors ekleyen bir GPT'dir; GPT-Vision ve DALL-E kullanır.
• Animal Chefs: Hayvan şeflerin kişisel hikâyeler eşliğinde tarifler sunduğu bir GPT'dir.
• Talk to the datasette.io database: Soruları yanıtlamak için SQL sorguları çalıştıran bir GPT'dir.
• Just GPT-4: Tüm ek özellikleri devre dışı bırakıp saf bir GPT-4 deneyimi sunan bir GPT'dir.

GPT'nin bilgi özelliği

• GPT'ye dosya eklendiğinde, bu dosyaları kullanarak soruları yanıtlamaya çalışır.
• Bunun, Retrieval Augmented Generation (RAG) uygulaması olduğu düşünülüyor.
• OpenAI bu özellikle ilgili ayrıntılı bilgi paylaşmadığı için kullanıcılar bunu etkili biçimde kullanmakta zorlanıyor.

GPT'nin ödeme modeli

• GPT'ler yalnızca aylık 20 dolarlık ChatGPT Plus aboneleri tarafından kullanılabildiği için dağıtım açısından sınırlıdır.
• Kullanıcıların kendi API anahtarlarını vermeden, OpenAI platformu tabanlı projeler dağıtılabilir.

Prompt güvenliği ve açıklığın önemi

• Kullanıcı yeterince uğraşırsa, GPT'ye eklenen belgeler ve promptlar sızdırılabilir.
• Promptların sızacağını varsaymak ve hatta bunları açık etmek daha iyidir.

Gelecekte GPT'lerden beklentiler

• Bilgi özelliği için daha iyi dokümantasyon, API erişilebilirliği, GPT'leri abone olmayanlara sunma yolları ve bütçe sınırı belirleme gibi iyileştirmeler bekleniyor.

GN⁺ görüşü

Bu yazıdaki en önemli nokta, GPT'lerin yeni işlevleri ve olanaklarının keşfedilmesi; bu da yazılım mühendisliği ve yapay zeka alanında çalışanlar için ilgi çekici bir konu. Kullanıcıların kendi GPT'lerini oluşturup diğer kullanıcılarla etkileşime girebilmesi, özelleştirilmiş etkileşimli arayüzler kurmak için yeni bir yöntem sunuyor. Ayrıca kod çalıştırma, belge arama ve görsel üretimi gibi çeşitli işlevlerin entegre edilmesiyle kullanıcı deneyiminin nasıl geliştirilebileceğine dair potansiyel gösteriyor.

[GN⁺]

Hacker News görüşleri

• Bir GPT kullanıcısı olarak, promptu göremiyorsam GPT kullanmak istemediğimi fark ettim. Benim bilgim dışında tuhaf davranışlar enjekte edilebilen bir ChatGPT kullanmak istemiyorum.
  • OpenAI'nin GPT'lere bir "kaynağı görüntüle" seçeneği eklemesini istiyorum. Bunun varsayılan olarak "açık" olması gerektiğini düşünüyorum, ama bunun popüler olmayan bir karar olabileceğini de tahmin edebiliyorum.
• GPT tabanlı chatbotlardan kaçınma eğilimindeyim. Bilmediğim özel talimatlara göre ince biçimde manipüle edilmek istemiyorum.
  • Bir "kaynağı görüntüle" seçeneğinin eklenmesi, bu özelliği "eh işte" seviyesinden "para vermeye değer" seviyesine çıkarır.
  • Zamanımın çoğunu Kagi kullanarak geçiriyorum, bu yüzden GPT Plus aboneliğimi iptal etmeyi düşünüyorum; ancak böyle bir değişiklik aboneliğimi sürdürmemi sağlar.
• Yeni OpenAI özelliklerini öğrenme yöntemim:
  1. Twitter'da yeni bir şeyi abartılı biçimde duyuran başlıklara göz gezdiririm
  2. Twitter influencer'larından bununla ilgili bunaltıcı sayıda tweet alırım
  3. Görmezden gelir ve simonw açıklayana kadar beklerim
  4. simonw'nin özelliği zaten çeşitli şekillerde test etmiş, net bir açıklama ve eleştiri yazmış olduğu blog yazısını okurum. Her şey anında anlaşılır hale gelir.
• Bunun "sadece ChatGPT'ye eklenmiş bir ön prompt" olduğu doğru.
  • Bunun "iyi bir UI'a sahip Custom Instructions" olduğu da doğru.
  • Ama "iyi UI"ın dünyayı değiştiren etkisini asla küçümsemeyin. GPT-3 yıllardır kullanılabiliyordu, ancak iyi bir UI yapılana kadar neredeyse kimse bilmiyor ya da umursamıyordu.
  • Bu, kullanılabilirlik açısından "küçük bir ayar" gibi görünüyor, ama benzer şekilde "kuantum sıçraması" düzeyinde bir etkiye sahip.
• Sık sık GPT/AI hakkındaki fikrimi soran insanlar oluyor. Onlara deneyip denemediklerini soruyorum. "Hayır." "Ücretsiz olduğunu biliyor musunuz?" "Evet." Bu tavrı anlamak zor. Bilinmeyenden korku mu? Tembellik mi? Bir şeyi denemeden önce sosyal kanıt aramak mı?
• OpenAI'nin promptlarını göremiyor olsam da, muhtemelen yazarı da göremiyor olsa da, yine de OpenAI'nin GPT'lerini kullanmak istiyorum.
  • Burada ciddi bir güven sıçraması var. OpenAI'nin güvenilirlik veya tutarlılık yönünde somut bir yol haritası olup olmadığını merak ediyorum.
• Custom GPT Builder promptunun tamamına sahibim: [GitHub bağlantısı sağlanmış]
• simonw'ye, tüm bunları gerçek zamanlı olarak belgelemesi ve anlaşılması kolay, erişilebilir araçlar (llm komut satırı gibi) üretmesi nedeniyle teşekkür ediyorum.
  • Arama API'sinin düzgün alıntılar veremediği için sorun çıkardığını düşünüyordum; bu konuda yalnız olmadığımı görmek iyi oldu.
• openAI'nin RAG "bilgi tabanı" özelliğini nasıl uyguladığını daha iyi anlamak istiyorum. Ama ayrıntılar yetersiz.
  • grugbrain.dev'deki tüm metni yükleyip son derece makul bir grug brain ile sohbet edebildim: [OpenAI sohbet bağlantısı sağlanmış]
• Son zamanlarda "synbiogpt" geliştiriyorum ve bu süreçte custom GPT'lerin sınırlarını fark ettim.
  • Biyolojik sekans verileri genelde çok uzun oluyor. Dosyadaki veri sorun değil, ama ileri özellikler için (ör. kodon optimizasyonu) API ile etkileşim kurmam gerekirse bu veriyi ağ üzerinden göndermem gerekiyor. O zaman API çağrısının context window'u sekans verisiyle doluyor ve başarısız oluyor.
  • Dependency injection yapamıyorum. Bazen GPT kendi uygulamasını yazmaya çalışıyor ama çoğu zaman yanlış yapıyor.
  • GPT-4 ne hakkında konuştuğunu bildiğini sandığında, arama API'si çoğu zaman dosyaları açmıyor. Gen parçalarından bahsederken, GPT-4'ün aklındaki parça değil, benim kütüphanemdeki belirli bir parça hakkında çok spesifik olmak istiyorum.
  • Kendi lua scripting ortamımı oluşturarak sorunların çoğunu çözdüm (biyolojik işlevler golang tarafında, lua ortamını çalıştırmak için gopher-lua kullanıyorum). Scripting özelliğinin nasıl kullanılacağına dair örnek lua kodları ve mevcut küçük gen parçası kütüphanemi enjekte ediyorum, ardından verilen dosya üzerinde belirli görevleri yapan lua kodu üretmesini istiyorum. GPT-4 dosyaya hiç bakmıyor, bunun yerine içteki golang uygulamam yazılmış lua kodunu çalıştırıyor. Bu yöntem harika çalışıyor ve custom GPT'lerden çok daha hızlı.
  • Şu anda en büyük sorun frontend tarafı. Ekleri çekip bırakabileceğim ve ilk kullanıcı girdisini düzenleyebileceğim açık kaynaklı bir ChatGPT klonu istiyorum. Şimdiye kadar iyi bir seçenek bulamadım.
• RAG kullanarak daha iyi sonuçlar elde etme konusunda.
  • Bu konuda biraz başarı elde ettim.
  • Assistant API kullanıyorum; bunun GPT ile aynı şey olmadığına inanıyorum. Bunu web arayüzü üzerinden denedim.
  • Tesseract ile OCR uygulanmış 100'den fazla PDF dosyam var. Sonra ChatGPT'den, düzeni koruyarak tüm dosyaları tek bir txt dosyasında birleştiren bir script yazmasını istedim.
  • Dosyayı yükleyip soru sormaya başladım. Dosyalarda İngilizce dışındaki bir dilde, mimari yönetmeliklere ilişkin çok teknik veriler vardı; dolayısıyla model muhtemelen bu tür dile alışık değildir.
  • Buna rağmen sonuçlar şaşırtıcı derecede iyiydi. Sorular cevaplanabiliyordu ve yanıtlar da iyiydi. Yanıtların nereden geldiğine dair açıklama eklenmesi gerekiyor, ama bu düzgün çalışmadı.
  • PDF, JSON dosyaları, CSV vb. yüklemeyi denedim. Şimdiye kadar ham metin en iyi sonucu verdi.
• "Bilgi" RAG özelliğine dair notlar ilginç.
  • Konuşmalar ve deneyimlerden anlaşıldığı kadarıyla, insanlar RAG aramasının iş alanına ve veri modeline son derece özgü olduğunu fark ediyor. Burada herkese uyan tek bir çözüm yok. Bir CMS'de müşterinin bir sonraki adımı, şemaya göre SQL üretmekten farklıdır. Bir e-ticaret kataloğunda alışveriş yapmakla da aynı değildir.
  • Esasen bu bir arama problemi. Aslında bundan daha da zor. Bu problemler meşhur derecede zordur.