OpenAI o1-pro artık API üzerinden erişilebilir

• Girdi token’ı 150 $, çıktı token’ı 600 $ (1 milyon adet başına)
  • o1-mini’den 150 kat daha pahalı
• o1 serisi modeller, yanıt vermeden önce düşünüp karmaşık akıl yürütme yapacak şekilde pekiştirmeli öğrenme (Reinforcement Learning) ile eğitildi
  • o1-pro modeli, daha fazla hesaplama kaynağı kullanarak daha derin düşünüyor ve tutarlı, yüksek kaliteli yanıtlar sunuyor
• Yalnızca Responses API içinde kullanılabiliyor ve şu özellikleri destekliyor
  • Birden fazla araç çağrısını destekleme
  • API isteğine yanıt vermeden önce birden fazla tur boyunca model etkileşimini destekleme
• 200.000 bağlam penceresi, en fazla 100.000 çıktı token’ı
• Cutoff tarihi 1 Ekim 2023

[GN⁺]

Hacker News görüşleri

• Bu model yalnızca yeni Responses API üzerinden kullanılabiliyor. Chat Completions kullanan bir kodunuz varsa, bunu desteklemek için Responses'a yükseltmeniz gerekiyor
  • LLM aracım için destek eklemem biraz zaman alabilir
• Fiyat: 1 milyon giriş tokenı başına 150 $, 1 milyon çıkış tokenı başına 600 $
  • Çok pahalı, ancak ChatGPT Pro aboneliğiyle birlikte kullandığımda şaşırtıcı derecede yetenekli olduğunu gördüm
  • 100.000 tokenlık bir kod tabanı verdiğinizde, tamamen gözümden kaçan ince hataları buluyor
  • API fiyatı ile ödediğim abonelik ücretini karşılaştırınca biraz suçlu hissediyorum
• Pelikanın bisiklete bindiği bir SVG'yi render etmek 94 sente mal oldu
• Yıllık maaşı 160 bin $ olan, motive bir beyaz yakalı çalışanın günde 6 saat dinlediğini veya konuştuğunu varsayarsanız, 1 milyon token başına maliyet yaklaşık 10 bin $ oluyor
  • OpenAI artık en ileri model fiyatlandırmasında yüksek becerili insanlarla benzer bir seviyeye ulaşmış durumda
  • o3 pro bunu değiştirebilir, ancak o3 yakında çıkacak olsaydı bu modeli yayımlamazlardı diye düşünüyorum
• 2023 bilgi kesim tarihine ve 200k bağlam penceresine sahip
  • Biraz hayal kırıklığı yaratıyor
• o1-pro, Grok 3 think ve Claude 3.7 think dahil diğer tüm sürümlerle karşılaştırıldığında hâlâ öne çıkıyor
  • Pro aboneliğimi iptal etmeyi düşünüyordum, ama 4.5 kodlama dışı/matematik işleri için fazla iyi
  • o3 pro'yu bekleyemiyorum
• Deneyip beğenen insanlar var
  • Sonnet 3.7 konusunda oldukça özgüvenliyim
  • Keşke daha hızlı olsa
  • Sorunların çoğu uygulama sorunu ve yapay zekanın bunu benim bizzat kod yazmamdan daha hızlı yapmasını istiyorum
• Görünüşe göre o1-pro, araç değiştirme ya da kod tabanını ikinci kez kontrol etme amaçlı kullanılacak
  • Fiyat düşük olsa bile, Sonnet'in 10 katı hız elde etmek için çok fazla çalışma ve alan bilgisi gerekeceğini varsayıyorum
• o1-pro streaming desteklemiyor
  • Birden fazla yanıtı taramak için best-of-n türü teknikler kullandığını tahmin ediyorum
  • llm-consortium kullanarak çok daha düşük fiyata benzer sonuçlar alınabileceğini düşünüyorum
  • Birden fazla modele prompt verip, aralarından en iyi yanıtı seçebilir veya sentezleyebilirsiniz
  • Güven eşiğine ulaşana kadar bunu yineleyebilirsiniz
• Başta bunu platforma ekleyebileceğimi düşündüm, ancak fiyatı görünce modelin çoğu kullanıcı için etkinleştirilmesi konusunda tereddüt ettim
  • Varlıklı şirketler dışında çoğu kullanıcı kendi ayağına sıkacaktır
• o1-Pro'nun aslında o1 modelinin bir workflow'u olabileceğinden hep şüphelendim
  • 8 o1 örneğine dağıtıp sonuçları birleştiren bir yaklaşım olabilir