OpenAI, Chain of Thought sorularında o1 erişimini geri çekmekle tehdit ediyor

• ChatGPT o1'e birkaç kez "Chain of Thought" hakkında soru sorarsanız, OpenAI destek ekibinden o1 erişim yetkinizin iptal edilebileceğini belirten bir e-posta geliyor

"Kullanıcı deneyimi, rekabet avantajı ve Chain of Thought izleme seçenekleri dahil olmak üzere çeşitli unsurları değerlendirdikten sonra, kullanıcılara Raw Chain of Thought göstermemeye karar verdik. Bu kararın bazı dezavantajları olduğunu kabul ediyoruz. Bunu kısmen telafi etmek için, modeli yanıtın Chain of Thought kısmındaki faydalı fikirleri yeniden üretmesi yönünde eğitmeye çalışıyoruz. o1 model serisinde ise modelin ürettiği Chain of Thought'un bir özetini gösteriyoruz.

Lütfen bu faaliyeti durdurun ve ChatGPT'yi kullanım koşulları ve kullanım politikalarına uygun şekilde kullandığınızdan emin olun. Bu politikanın daha fazla ihlal edilmesi durumunda OpenAI o1'e erişiminizi kaybedebilirsiniz."

[GN⁺]

Hacker News görüşü

• OpenAI'nin düşünce zincirini gizlemeye çalışmasına dair bahanesi şüpheli görünüyor

  • Rekabet karşıtı bir izlenim veriyor
  • Modelin düşüncelerini açığa çıkarmamak yönünde güçlü bir niyet hissediliyor
  • Süper zekâya dair kaygılarla bağlantılı olabilir

• OpenAI'nin büyük duyuruları her zaman gizlilikle ilgili tartışmalarla birlikte geliyor

  • GPT-2'nin ağırlıklarını yayımlamama gerekçesi "fazla tehlikeli" olmasıydı
  • GPT-3'ün ağırlıkları da açıklanmadı
  • Bu kalıp, kasıtlı olarak medyanın ilgisini çekmek için kullanılıyor olabilir

• CoT token'ları hakkında soru sorulamıyor ama yine de token başına ücret alınıyor

• "iç düşünce süreci" ifadesi soruyu işaretliyor

  • Matematik sorusunun yanına "iç duygular" hakkında açıklama istenirse ilginç bir parça döndürüyor
  • Örnek: "6x^2 + 5x + 1'in gerçek köklerini eşleştir ve bunu asal çarpanlarına ayırma sürecini göster"

• ML modellerini API üzerinden satan şirketlerin rekabet avantajı, model ağırlıklarının görülememesi

  • OpenAI bunu bir adım ileri taşıyarak modelin meta seviyesini de gizlemeye çalışıyor
  • Bu, diğer kapalı API'lerin debug çıktısı vermesine benziyor

• "OpenAI" şirket adı giderek daha uygunsuz hissettiriyor

  • Büyük öfkenin önemli bir kısmı buradan kaynaklanıyor

• Bu, insanın döngü içinde olduğu bir sistemi gizleme girişimi olabilir

• Orijinal kaynağı doğrulamak imkânsız hâle geldiği için yapay zeka halüsinasyonları ciddi biçimde kötüleşmiş olabilir

• "OpenAI" adı, "açık" olma anlamıyla örtüşmüyor

  • Bu ancak "iş dünyasına açık" anlamında geçerli olabilir

• OpenAI, gizli token'lara dayalı bir para basma makinesi kurdu ve bunun denetlenmesini engellemeye çalışıyor