GPT-4.5, ticari ömrü 4,5 ay
- Şubat 2025’te piyasaya çıktığında en pahalı model olan GPT-4.5 (1M token başına giriş $75/çıkış $150), 5 ay dolmadan API’den kaldırıldı. OpenAI tarihinin en kısa ömürlü modeli oldu ve üzerine ürün geliştiren geliştiriciler migrasyon döngüsüne sıkıştı
- Piyasanın bundan çıkardığı ders “başkasının modeli üzerine iş kurma” oldu; bu yazının konusu ise bu dersin yalnızca yarı yarıya doğru olması
Model katmanı metalaşıyor
- SWE-bench Verified’e göre ilk 5 model 0,4 puan içinde kümelenmişken fiyatları 5 kat farklı. Pazar genelinde ise en ucuz token ile premium inference token’ı arasındaki fark 600 katın üzerinde — fiyat artık performansın vekil göstergesi değil
- Açık ağırlıklı modeller ile kapalı frontier modeller arasındaki fark, açık benchmark’lara göre ortalama 4 ay (özel benchmark’larda 8-10 ay) seviyesinde 18 aydan uzun süredir stabil. Fark gerçek ama dar, öngörülebilir ve açılmıyor
Frontier API’ye bağımlılığın 4 riski
- Fiyat oynaklığı: Claude 3.5 Haiku 4 kat zamdan bir ay sonra kısmen geri adım attı; o3’ün fiyatı bir gecede %80 indirildi. Yeni tokenizer, aynı metinde %35’e kadar daha fazla token da üretebiliyor — sorun artış/indirim yönü değil, varyans
- Kullanımdan kaldırma döngüsü: Şubat 2026’da GPT-4o, 4.1 ve o4-mini yaklaşık 3 aylık bir ön bildirimle topluca durdurulacak. Bir yıl boyunca ince ayar yapılan prompt’ların yeni modelde farklı davranmasını anlatan “prompt drift” terimi bile ortaya çıktı
- Platform tarafından yutulma: Sağlayıcının, wrapper’ların yaptığı işlevleri kendi ürününe eklemesiyle ortaya çıkan GPT wrapper kırılganlığı
- Regülasyon: Haziran 2026’da Anthropic Fable 5, ABD ihracat kontrolü yönergeleri nedeniyle 19 gün boyunca dünya genelinde topluca durduruldu — sağlayıcının bile seçemediği bir değişken
Dört risk de tek bir sorundan kaynaklanıyor: başkasının barındırdığı frontier modele bağımlılık
- Açık kaynağı kendi çalıştırmak fiyat oynaklığını, kullanımdan kaldırmayı ve regülasyon kaynaklı durdurmayı ortadan kaldırır; platform tarafından yutulmayı da azaltır. Bir kez alınan ağırlıklar ne kullanımdan kaldırılır ne de geri çekilir
- Maliyeti dürüstçe söyleyelim: tüketici GPU’sunda kendi çalıştırdığınızda milyon token başına yaklaşık $1 (3 yıllık amortisman + elektrik, %30 kullanım oranı); en ucuz açık ağırlıklı API’den ($0.14/$0.28) daha pahalı olduğu için mutlak maliyette kaybeder
- Kendi çalıştırmanın ekonomisi ortalamada değil, varyanstadır. Ayrıca en ucuz API’ler giriş verilerini eğitim için saklar — en düşük fiyatın gizli bedeli sizin verinizdir
Aynı teşhis, zıt reçete
- Büyük teknoloji ölçeğinde frontier API’ye bağımlı bir içerik işinin kırılgan olduğu teşhisi doğru
- Ancak küçük bir oyuncu, good-enough aralığında açık kaynağı kendi çalıştırıyorsa kırılganlığı yaratan bağımlılığın kendisini kesmiş olur — büyük teknolojiler için yapılan teşhisi küçük startup’lara aynen kopyaladığınız anda yanılırsınız
Bedava değil (4 fren)
- Meta girdiler meta çıktılar üretir — savunma hendeği yalnızca yapay zekaya dik duran dağıtım, özel veri, alan entegrasyonu, doğrulama ve yargıdan çıkar
- good-enough çizgisi yukarı doğru hareket eder — o çizgiye öylece park ederseniz, marjların düştüğü bölgeye park etmiş olursunuz
- Sınır alan değil, görev zorluğudur: NIST değerlendirmesinde en üst açık ağırlıklı modeller matematikte frontier modellerle fiilen denk olsa da siber, soyut akıl yürütme ve uzun soluklu agentic kodlamada 30 puandan fazla gerideydi
- Kendi çalıştırmak operasyon, tuning, doğrulama yetkinliği ve uyumluluk sorumluluğunu doğrudan gerektirir — bağımlılık ortadan kalkmış değildir; API sağlayıcısından benim yetkinliğime taşınmıştır
Sonuç: Asıl rekabet alanı doğrulama ve yargı
- Aynı açık modeli kullanıp çıktıyı olduğu gibi yayınlarsanız demo olur; olguları, sayıları ve tanımlamayı bir doğrulama katmanının arkasına koyarsanız ürün olur
- AI Content’te belirleyici olan, ucuz modeli güvenilir ürüne dönüştüren mühendislik yargısıdır; açık kaynak da bu yargıya sahip olan kişinin elinde silaha dönüşür
Doğrudan yazdığım bir yazıdır. Yerel çalıştırma ile API arasındaki stack tasarımı üzerine görüş alışverişine açığım.
Henüz yorum yok.