- Vertex AI’ın Priority PayGo seçeneği gerçek operasyondaki bir AI sohbet botuna uygulanarak, yaklaşık 2 hafta boyunca biriken 27.000 verinin saat bazında analiz edilen sonuçları paylaşılıyor
- Medyan yanıt süresi baz alındığında ON_DEMAND(Standard) ile ON_DEMAND_PRIORITY çoğu durumda 100~300 ms içinde kalarak pratikte aynı performansı gösterdi
- Priority’nin anlamlı ölçüde daha hızlı olduğu tek zaman dilimi 16:00 civarıydı (-338 ms); kalan 23 saatte ise benzerdi ya da hatta Standard daha hızlıydı
- 10 saniyeyi aşan istek oranı Standard’da %3,4, Priority’de %5,9 olarak ölçüldü; bu da Priority’nin aksine 1,7 kat daha kararsız bir sonuç verdiğini gösterdi
- Özellikle gece saatlerinde (22:00~23:00) Priority’nin 10 saniyeyi aşma oranı %12’nin üstüne çıkarak Standard’a kıyasla 3 katın üzerinde daha yüksek oldu
- Token birim fiyatının 1,8 kat daha yüksek olduğu dikkate alındığında, mevcut durumda Priority PayGo’nun maliyet/performans açısından bir avantaj sunmadığı değerlendirildi
- Sonuçlar gemini-3-flash-preview (preview model) + asia-northeast3 (Seul region) ortamına ait olduğundan, GA sürümü çıktıktan sonra değişebilir
Henüz yorum yok.