OpenAI, ChatGPT ve Whisper API’lerini duyurdu

• Artık ChatGPT ve Speech-To-Text özellikleri kendi uygulamalarınızda kullanılabiliyor
• Aralık ayında ChatGPT’nin duyurulmasından sonra yapılan optimizasyonlarla maliyetlerde %90 düşüş sağlandı ve bu avantaj API kullanıcılarına sunuluyor

ChatGPT API

• gpt-3.5-turbo modelini kullanıyor ve bu, şu anda ChatGPT ürününde kullanılan modelin aynısı
  • 1k token başına $0.002 ile mevcut GPT-3.5’e göre 10 kat daha ucuz
  • Sohbet dışı amaçlar için de en iyi model; mevcut text-davinci-003 modelinden gpt-3.5-turboya kolayca geçiş yapılabiliyor (geçiş öneriliyor)
• API, tokenlardan oluşan yapılandırılmamış metni girdi olarak alıyor
  • Bu metin dahili olarak ChatML adı verilen bir token dizisi olarak işleniyor
• gpt-3.5-turbo, en güncel sürüm olarak sürekli yükseltilecek. Şu an için gpt-3.5-turbo-0301 1 Haziran’a kadar desteklenecek
• Nisan ayında yeni bir kararlı sürüm yayımlanması planlanıyor
• Dedicated Instance da ayrı olarak sunuluyor (daha uzun bağlam desteği ve günde 450 milyondan fazla token çalıştıran kullanıcılar için uygun)

Whisper API

• Eylül 2022’de açık kaynak olarak yayımlanan Speech-To-Text modeli
• Geliştirici topluluğundan iyi geri bildirim aldı, ancak işletmesi zordu
• large-v2 modeli API üzerinden kullanılabiliyor ve fiyatı $0.006/dakika
• transcriptions / translations endpoint’lerinde kullanılabiliyor
• m4a, mp3, mp4, mpeg, mpga, wav, webm formatlarını destekliyor

İlk kullanan şirketler

• Snap: Snapchat+ için ChatGPT tabanlı My AI adlı sohbet botunu sunuyor. Öneriler veriyor ve arkadaşlar için şiirler (haiku) yazıyor
• Quizlet: Çalışma geçmişine uygun sorular soran uyarlanabilir yapay zeka öğretmeni Q-Chatte ChatGPT kullanıyor
• Instacart: Yemek hakkında soru sorup yanıt alınabilen Ask özelliğine entegre etti
• Shopify: Shop uygulamasına alışveriş yardımcısı özelliği ekledi
• Speak: Whisper API kullanan bir dil eğitimi uygulaması.

[frogred8]

Orijinal metinde 1k token başına $0.002 olarak görünüyor.

It is priced at $0.002 per 1k tokens

Ayrıca token tanımını merak edip biraz daha araştırınca, bunun giriş/çıkış metinlerinin karakter sayısına göre belirlendiği anlaşılıyor.

The number of tokens processed in a given API request depends on the length of both your inputs and outputs. As a rough rule of thumb, 1 token is approximately 4 characters or 0.75 words for English text.

[xguru]

Aa, önemli kısımda bir yazım hatası vardı, hüzünlü hüzünlü düzelttim

[lukaid]

Her hafta yeni yapay zeka haberleri yağıyor.. Hem heyecan verici hem de biraz korkutucu ama.. trendleri kaçırmamaya çalışınca yorgunluk da epey artıyor gibi görünüyor.

[functor]

OpenAI gerçekten harika.