OpenAI, DevDay'de yeni modeller ve geliştirici ürünlerini tanıttı

• 128K bağlam penceresini destekleyen GPT-4 Turbo modeli, Vision içeren GPT-4 API, Assistants API, DALL-E 3 API ve yeni GPT-3.5 Turbo tanıtıldı.
• GPT-4 Turbo
  • 128K bağlam penceresini (Context Window) destekliyor ve Nisan 2023 verileriyle eğitildi.
  • GPT-4'e kıyasla giriş token'ları 3 kat, çıkış token'ları 2 kat daha ucuz.
  • Belirli bir formatta yanıt verme talimatlarını daha iyi izliyor ve JSON yanıtını garanti eden bir JSON modu da bulunuyor.
  • seed tabanlı olarak yeniden üretilebilir çıktıları destekliyor ve çıktılar için log olasılıklarını döndüren bir özelliğin eklenmesi planlanıyor.
  • GPT-3.5 Turbo da birlikte güncellendi.
• Assistants API
  • Kod yorumlayıcı, arama ve fonksiyon çağırma özelliklerine sahip özel amaçlı yapay zeka.
  • Durumu thread tabanlı olarak yöneterek sonsuz uzunluktaki içerikleri de işleyebiliyor.
  • Kod yorumlayıcı - sandbox ortamında Python kodu yazıp çalıştırabiliyor.
  • Arama - kullanıcı tarafından sağlanan belgeler gibi model dışı bilgilerde içerik arayıp yanıt veriyor.
  • Fonksiyon çağırma - kullanıcı tanımlı fonksiyonları uygun şekilde çağırabiliyor ve yanıtına sonuçları dahil edebiliyor.
• Diğer yeni API'ler
  • GPT-4 Turbo'ya görsel tanıma özelliği eklendi.
  • DALL-E 3 API olarak sunuldu ve görsel oluşturma başına 0,04 dolar.
  • TTS API eklendi.
• Model özelleştirme
  • GPT-4 fine-tuning modeli deneysel erişimle sunulacak.
  • Büyük kuruluşlar için özel model üretmeye yönelik özelleştirilmiş model hizmeti sağlanacak.
    • Milyarlarca token'ın üzerindeki özel veri kümeleriyle eğitim gibi.
• Fiyat indirimi
  • GPT-4 Turbo 128K, giriş token'ı başına 0,01 dolar ve çıkış token'ı başına 0,03 dolar.
    • Öncesine göre giriş token'ları 3 kat, çıkış token'ları 2 kat daha ucuz hale geldi.
  • GPT-3.5 Turbo 16K, giriş token'ı başına 0,001 dolar ve çıkış token'ı başına 0,002 dolar fiyatla sunuluyor.
    • Öncesine göre giriş token'ları 3 kat, çıkış token'ları 2 kat daha ucuz hale geldi; ayrıca 4K modele kıyasla giriş token'larında %33 daha ucuz.
  • GPT-3.5 Turbo'nun fine-tuning modeli, giriş token'ı başına 0,003 dolar ve çıkış token'ı başına 0,006 dolar fiyatla sunuluyor.
    • Öncesine göre giriş token'ları 4 kat, çıkış token'ları 2,7 kat daha ucuz hale geldi.

[xguru]

Dünden beri GN⁺ tarafında da GPT-4 Turbo kullanıyoruz.
Gerçekten yanıtlar hızlandı ve komutları daha iyi anlıyor.
Verilen talimatlara uygun şekilde iyi özetliyor ve çıktıları da temiz hazırlıyor.
Eskiden İngilizce prompt'ları karıştırarak kullanıyordum ama artık yalnızca Korece prompt'larla da gayet başarılı yanıtlar alınıyor.

[botplaysdice]

Yapay zekayı çok iyi bilmiyorum ama fiyatların düşüş hızı giderek daha da artacaktır, değil mi? Gerçekten 1-2 yıl sonraki dünyanın nasıl olacağını tahmin edemiyorum.

[tkwlsrl]

Yukarıdaki token başına fiyat, 1000 token başına fiyattır. Referans olarak dikkate alın.

[shw00]

Ve 128K token... artık benim kullanım senaryolarımda bağlam sorunu genelde ortadan kalkacak gibi görünüyor.

[xguru]

Ah, bunu paylaşmak için ben de düzenliyordum ama geç kaldım ağla ağla

[kuroneko]

• HN başlığı

Anthropic 100K modelini tanıttığında da etkileyiciydi ama GPT-4'ün yeniden 128K token açıklamasıyla yine öne geçmiş gibi görünüyor.
Fiyatları da genel olarak birkaç kat düşürmüşler; OpenAI'ın teknik kapasitesi gerçekten nereye kadar gidiyor acaba...

Neyse, ben bunu büyük bir memnuniyetle karşılıyorum.
GPT-4 gizliden gizliye epey pahalıydı (özellikle 16K kullanınca), ama token boyutunu da ciddi şekilde artırmışken gerçekten bir anda çok ucuzlamış. +_+

Ayrıca Assistants API'ı da merak ediyorum, bir denemem gerekecek.
Aramada embedding kullanmak gerekmiyor deniyor, bu da sanki daha avantajlı gibi...?

[kuroneko]

HN başlığının yapay zeka özeti.

• OpenAI, GPT-4 Turbo, 128.000 token bağlam uzunluğu, Assistants API ve daha düşük fiyatlar dahil olmak üzere yeni modeller ve geliştirici ürünleri duyurdu.
• Bu duyurular, rekabetin yoğunlaştığı bir ortamda OpenAI API platformuna bağımlılığı artırmayı amaçlıyor.
• GPT ajanları ve asistanlar, başka yerlere taşınamayan "kara kutu içindeki kara kutu" gibi çalışıyor.
• DALL-E 3'ün fiyatı görsel başına 0,04 dolar ve bu, rakiplerinden 10 kat daha yüksek.
• İnce ayarlı ChatGPT 3.5'in fiyatı artık 3 katına çıktı; bu da ince ayarı daha cazip hale getiriyor.
• GPT-4 Turbo'nun 128K bağlam uzunluğu çekici, ancak açık kaynak modeller doğruluk ve yetenek açısından hâlâ geride.
• Müşteriler artık özel verilerle özelleştirilmiş GPT-N modellerini önceden eğitmek için 2-3 milyon dolar ödeyebiliyor.
• vectorDB ve dosya işleme gibi startup kategorileri, OpenAI benzer özellikler sundukça etkilenebilir.
• OpenAI, uzun vadeli riskleri dikkate almadan geliştiricileri kendi platformuna bağımlı hale getirmeye çalışıyor.
• Rekabet azaldıkça geliştiriciler, mevcut ihtiyaçlar ve kısa vadeli kazançlar temelinde bağımlılık gibi riskleri kabul edecektir.

[brainer]

Halüsinasyon var gibi görünüyor.

Fiyatların hepsi zaten yazılmış.