- GPT-4o mini'nin yapay zekayı çok daha ucuz hale getirerek yapay zeka ile geliştirilen uygulamaların kapsamını büyük ölçüde genişletmesi bekleniyor
- MMLU'da %82 puan aldı ve şu anda LMSYS liderlik tablosunda sohbet tercihi açısından GPT-4'ü geride bırakıyor
- Fiyatlandırma, 1 milyon giriş tokenı başına 15 sent ve 1 milyon çıkış tokenı başına 60 sent; bu da önceki son teknoloji modellere göre 10 kat daha ucuz ve GPT-3.5 Turbo'dan %60'tan fazla daha ucuz olduğu anlamına geliyor
GPT-4o mini'nin başlıca özellikleri
- Düşük maliyet ve gecikmeyle çok çeşitli görevleri yerine getirebilir
- Birden fazla model çağrısını zincirleyen veya paralelleştiren uygulamalar için uygundur (ör. birden çok API çağrısı)
- Modele büyük miktarda bağlam ileten uygulamalar için uygundur (ör. tüm kod tabanı veya konuşma geçmişi)
- Müşterilerle hızlı ve gerçek zamanlı metin yanıtları alışverişi yapan uygulamalar için uygundur (ör. müşteri destek sohbet botları)
- API'de metin ve görmeyi destekler; gelecekte metin, görüntü, video ve ses giriş/çıkışını desteklemesi planlanmaktadır
- 128K tokenlık bir bağlam penceresine sahiptir, istek başına en fazla 16K çıkış tokenını destekler ve Ekim 2023'e kadar olan bilgiye sahiptir
- GPT-4o ile paylaşılan geliştirilmiş tokenizer sayesinde İngilizce dışındaki metinlerin işlenmesi daha maliyet verimli hale gelir
GPT-4o mini'nin üstün performansı
- GPT-4o mini, hem metin zekâsında hem de çok modlu akıl yürütmede GPT-3.5 Turbo'yu ve diğer küçük modelleri geride bırakır
- GPT-4o ile aynı dil kapsamını destekler
- İşlev çağırma performansı güçlüdür; bu da geliştiricilerin harici sistemlerden veri alan veya görev yürüten uygulamalar geliştirmesine olanak tanır
- GPT-3.5 Turbo'ya kıyasla uzun bağlam performansı iyileştirilmiştir
- MMLU'da %82,0, MGSM'de %87,0, HumanEval'de %87,2 ve MMMU'da %59,4 puan alarak diğer küçük modellere göre üstün performans gösterir
Güvenlik önlemleri
- Ön eğitim sırasında modelin öğrenmesi veya üretmesi istenmeyen bilgiler filtrelenir (ör. nefret söylemi, yetişkin içeriği, ağırlıklı olarak kişisel bilgi toplayan siteler, spam vb.)
- Sonraki eğitim aşamasında insan geri bildirimiyle pekiştirmeli öğrenme (RLHF) gibi teknikler kullanılarak modelin davranışı politikalara uygun hale getirilir ve yanıtların doğruluğu ile güvenilirliği iyileştirilir
- GPT-4o mini'de, GPT-4o ile aynı güvenlik azaltım özellikleri yerleşik olarak bulunur
- 70'ten fazla dış uzman GPT-4o'yu test ederek potansiyel riskleri belirledi; bunlar ele alındı ve ayrıntılar GPT-4o sistem kartı ile hazırlık durum skor kartında paylaşılacak
- GPT-4o mini, API'nin komut hiyerarşisi yöntemini uygulayan ilk modelidir; bu da jailbreak, prompt injection ve sistem prompt'u çıkarma girişimlerine karşı direnci artırır
Fiyatlandırma ve erişilebilirlik
- GPT-4o mini artık Assistants API, Chat Completions API ve Batch API üzerinde metin ve görme modeli olarak kullanılabiliyor
- Geliştiriciler 1 milyon giriş tokenı başına 15 sent ve 1 milyon çıkış tokenı başına 60 sent öder
- Önümüzdeki birkaç gün içinde GPT-4o mini için fine-tuning sunulması planlanıyor
- ChatGPT ücretsiz, Plus ve Team kullanıcıları bugünden itibaren GPT-3.5 yerine GPT-4o mini'ye erişebiliyor
- Enterprise kullanıcıları da gelecek haftadan itibaren erişebilecek
Gelecek planları
- Yapay zeka zekâsındaki dikkat çekici ilerlemelerle birlikte önemli maliyet düşüşleri yaşanıyor
- GPT-4o mini'nin token başına maliyeti, 2022'de tanıtılan text-davinci-003'e göre %99 daha düşük
- Modellerin tüm uygulama ve web sitelerine sorunsuz biçimde entegre edildiği bir gelecek öngörülüyor
- GPT-4o mini, geliştiricilerin güçlü yapay zeka uygulamalarını daha verimli ve daha düşük maliyetle geliştirip ölçeklendirmesinin önünü açıyor
- Yapay zekanın geleceği daha erişilebilir, daha güvenilir ve günlük dijital deneyimlerimizin içine daha fazla yerleşmiş hale geliyor
1 yorum
Demek ki yakında gpt-4o pro max ultra da çıkacak.