1 puan yazan GN⁺ 4 시간 전 | 1 yorum | WhatsApp'ta paylaş
  • Şirketler tek model pilotlarından çok modelli üretim sistemlerine geçtikçe, yönlendirme ve gateway katmanına duyulan ihtiyaç artıyor
  • OpenRouter, ajanlar ile model sağlayıcıları arasında yönlendirme, güvenilirlik, maliyet optimizasyonu ve uyumluluk üstlenen bir katman
  • Son 6 ayda haftalık işlem hacmi 5 trilyon tokenden 25 trilyon tokene çıktı; artış hızına bakıldığında bu yıl işlem hacminin 1 katrilyon tokenin üzerine çıkması bekleniyor
  • Hâlihazırda 400'den fazla model üzerinde geliştirme yapan 8 milyondan fazla geliştiriciyi destekliyor ve yapay zekanın üretim uygulamaları ile ajanlara dönüşümünü destekliyor
  • Kaynak, altyapı genişletme, kurumsal özellikleri güçlendirme ve akıllı yönlendirme yatırımları için kullanılacak; şirket çok modelli yapay zeka çağının temel katmanını inşa ediyor

113 milyon dolarlık Series B

Büyüme göstergeleri ve kullanım ölçeği

  • OpenRouter'ın haftalık işlem hacmi son 6 ay içinde 5 trilyon tokenden 25 trilyon tokene yükseldi
  • Artış hızına bakıldığında bu yıl işlem hacminin 1 katrilyon tokenin üzerine çıkması bekleniyor
  • OpenRouter, 400'den fazla model üzerinde geliştirme yapan 8 milyondan fazla geliştiriciyi destekliyor
  • Yapay zeka deney aşamasından üretim uygulamaları ve ajanlara geçtikçe, sağlayıcılar, modaliteler ve kullanım senaryoları genelinde güvenilir çalışan altyapıya olan talep artıyor

Çok modelli üretime geçiş

  • Kurumlar tek model pilotlarından çok modelli üretim sistemlerine geçerken, karmaşıklığı yönetecek bir yönlendirme ve gateway katmanına ihtiyaç duyuyor
  • OpenRouter, ajanlar ile model sağlayıcıları arasında yönlendirme, güvenilirlik, maliyet optimizasyonu ve uyumluluk üstlenen katman olarak konumlanıyor
  • Bu yatırımcı yapısı altyapı ve platform şirketleri etrafında şekilleniyor; bu da söz konusu katmanın yapay zeka yığınının önemli bir bileşeni hâline geldiğini gösteriyor

Başlıca özellikler

  • Çok modlu çıkarım

  • Kurumsal kontrol

  • Akıllı yönlendirme

    • Sağlayıcı düzeyinde failover, maliyet ve gecikme optimizasyonu ile basit yük dengelemenin ötesine geçen kalite farkındalıklı yönlendirme sunuyor

Sıradaki plan

  • Bu kaynak altyapı genişletme, kurumsal özellikleri güçlendirme ve akıllı yönlendirmeye yatırımı sürdürmek için kullanılacak
  • OpenRouter, her isteğe uygun model ve sağlayıcıyı bulmaya yardımcı olan çok modelli yapay zeka çağı için altyapı katmanını genişletmeyi sürdürmeyi planlıyor

1 yorum

 
GN⁺ 4 시간 전
Hacker News görüşleri
  • OpenRouter’ı benimsemem epey zaman aldı. Başta LLM’in önüne neden bir proxy daha koyulduğunu anlamamıştım, ama pratikte oldukça büyük bir değer katıyor

    1. Tüm modelleri desteklemek ve denemek için en az sürtünmeyi sunuyor
    2. Ödeme üst sınırı sağlıyor. Bunu herkese açık bir servise bağlayacaksanız, birinin kötüye kullanıp bir gecede 1 milyon dolar harcamasını önleyen sert limit çok işe yarıyor
    3. Sıralama tablosunun kusurları var ama hangi modellerin popüler olduğunu görmek için ilginç bir sinyal. OpenAI/Anthropic kullanıcılarının çoğu OpenRouter’dan geçmiyor ve bunun çok sayıda kullanıcının geçiş yapmasından mı yoksa tek bir büyük müşterinin değişmesinden mi kaynaklandığını ayırt etmek zor
      API maliyetlerinin birçok şirkette anlamlı seviyelere çıktığı bir ortamda, harcamayı ölçmeyi ve sağlayıcıları kolayca deneyip değiştirmeyi mümkün kılan OpenRouter gibi servisler değerli görünüyor
    • Bir diğer iyi yanı da tüm model/sağlayıcı kombinasyonları için saatlik cache durumunu açıkça yayımlaması. Buna dayanarak sağlayıcı katman listesini inceledim ve açık kaynak tabanlı üçüncü taraf barındırmaların önemli bir kısmının aslında en alt sıralarda olduğunu gördüm https://dirac.run/posts/cache-hit-rates-agents
    • En azından benim için en büyük sürtünme azaltımı, kurumsal ortamda ek bürokrasiden kaçınmayı sağlayan birleşik ödeme oldu. API dönüştürme/soyutlama ise çözdüğünden daha çok sorun üretme eğiliminde
      Ödemenin birleşik kalmasını ama sağlayıcı API’lerini doğrudan kullanabilmeyi ya da bir tür “ham HTTP” proxy’si üzerinden erişebilmeyi tercih ederim. Birleşik API ağ geçitleri çok, ama yerel sağlayıcı API’lerinin önüne yalnızca ödeme/kimlik doğrulama koyan bir ürün henüz görmedim
    • OpenAI hesabına para yüklersen bunun 1 yıl sonra süresinin dolduğunu biliyor muydunuz? Bunu bizzat yaşadığımda iade de uyarı da olmadan promosyon kredisi gibi yok oldu ve çok sinir bozucuydu
      OpenRouter, normalde bir kamu hizmeti gibi davranması gereken sağlayıcılarla kullanıcılar arasına bir katman koyduğu için iyi. OpenAI kendi haline bırakılırsa bir telekom şirketi gibi davranacakmış hissi veriyor
    • Güzel noktalar. Kolay deney yapma imkânı geliştirme için faydalı, ama ölçek büyüdüğünde fiyat açısından birincil API’ye geçmeyi temkinli biçimde tavsiye ederim
      OpenRouter ücretsiz LLM erişimi bulmak için de iyi bir yer, ama bir bedeli var. Girdi ve çıktının birilerinin eğitim veritabanına girdiğini varsaymak gerekiyor. Ödeme gücünüz varsa gizlilik sunan ücretli modelleri kullanmalısınız, ama ücretsiz modeller öğrenme ve deney için harikaydı. Özellikle kredi kartı ya da parası olmayan genç öğrenenlerin API programlamayı ve LLM’leri öğrenmesi için çok iyi
    • Şu anda DeepSeek V4 üzerinde cache’i bozuyor; oysa V4’te cache temel fiyatlandırma özelliği
      https://news.ycombinator.com/item?id=48319827
  • OpenRouter’ın ortak kurucusu ve COO’suyum. Neden yatırım aldığımıza dair çok soru geliyor
    Öncelikle OpenRouter hâlâ kurucu liderliğinde ve kurucu kontrolünde bir şirket; dünya çapındaki üreticiler için iyi bir ürün yapıp uzun yıllar ayakta kalmayı hedefliyoruz. Temelde bir şeyler yapmayı seven tamirci ruhlu insanlarız ve AI ile bir şey inşa ederken bizim kullanmak isteyeceğimiz şeyi yapmaya çalışıyoruz
    Yatırım alma konusuna gelince, güçlü şirketlerin sağlam bir bilançoya sahip olması gerektiğini düşünüyorum. Biz büyük ölçekli harcamaları yönetiyoruz ve ekosistemin geneline yayılmış büyük harcama taahhütlerimiz var. İleride ne olursa olsun dayanacak nakdi güvence altına almak, sorumlu bir risk azaltma yaklaşımı ve şirketi çok dayanıklı hâle getiriyor
    Ayrıca büyük müşterilere ve sağlayıcı ortaklara uzun süre hizmet vermeye devam edebileceğimiz ve faturaları ödeyebileceğimiz yönünde bir sinyal veriyor. Büyümeyi sürdürmek için risk sermayesine ihtiyacımız yok ve işimiz aslında sağlıklı, ama gerçekten ihtiyaç duyduğunuz anda 100 milyon dolar toplamaya çalışmak istemezsiniz
    Bu aynı zamanda mevcut ve gelecekteki çalışanlara birlikte yarattığımız değerin gerçek olduğuna dair iyi bir doğrulama sağlıyor. Yatırımcılara getiri sağlama sorumluluğunu da ciddiye alıyoruz; mesele sadece değerlemeyi maksimize etmek değil ve kiminle çalışacağımızı seçebilme ayrıcalığına sahibiz. Bunun startup sektöründe yeterince konuşulmadığını ama önemli olduğunu düşünüyorum

    • OpenRouter 100 milyon doları neye harcamayı planlıyor? “Şirketi çok dayanıklı hâle getiriyor”, “çalışanlar için iyi bir doğrulama” dediniz ama 100 milyon dolarla yapılabilecek daha ilginç şeyler de var gibi görünüyor
    • Ürünü seviyorum. Birleşik ödeme/kimlik doğrulama büyük bir sıkıntıyı çözüyor, teşekkürler
      Yatırımdan çok uzun vadeli stratejiyi merak ediyorum. OpenRouter’ı 3-5 yıl sonra nerede görüyorsunuz ve şu anda sizi en çok heyecanlandıran ürün bahisleri neler? Bu yatırımla birlikte bitişik alanlara da açılmayı düşünüyor musunuz?
    • Birleşik ödemeyi korurken sağlayıcı API’lerine ham erişim mümkün olabilir mi? Birleşik API, iyi çalıştığında harika ama sıra dışı kullanım senaryolarında ya da yeni API özelliklerinde sık sık zahmet yaratıyor
    • Benim için en büyük eksik özellik, veri saklamayan sağlayıcılar ayrımı ile modelin benim tanımladığım kurallara uyup uymadığını değerlendirebilme. Şu anda ZDR kurallarına uymayan sağlayıcıları gizlemenin bir yolu yok
    • OpenRouter’ı kısa süre denedim. Yaklaşık 1 yıl önce ürünü test ettiğimde, OpenRouter üzerinden Google’ın Gemini modellerinden yapılandırılmış çıktı alamamıştım
  • OpenRouter’ı yoğun kullanan biri olarak, birkaç gün önce istemeden bitişik bir tanıtım yazısı da yazmış olsam da https://news.ycombinator.com/item?id=48317294, bugünlerde giderek tekrarlanan sorun olan her sağlayıcının farklı API’siyle uğraşmadan yeni modelleri denemek için kesinlikle en iyi yol bu
    Ama Claude Opus gibi pahalı modellerle tüm ajan omurgasını OpenRouter üzerinde çalıştıranları pek anlayamıyorum. O maliyet seviyesinde %5 komisyon anlamlı ölçüde büyüyor, bu yüzden asıl API sağlayıcısını kullanmak daha mantıklı. Yine de belli ki insanlar kullanıyor ve bu saf gelir

    • Bence böyle şeyleri, sağlayıcıların destek yamaları sunduğu açık kaynak kütüphanelerle uygulamak daha iyi olur. Neden bir şirketin proxy görevi görmesi gerekiyor ve neden benim makinemde nispeten basit ince bir katman çalıştırmak yeterli olmasın, anlamıyorum
      Yapay zeka sektörünün içinde çalışan aptal bir sistem programcısı olarak, biraz kolaylığı paraya satan ve dışarıdan gereksiz görünen çok yazılım olduğunu anlıyorum. OpenRouter da sadece öyle bir şey mi? Modelleri gerçekten kendileri mi barındırıyorlar, yoksa çeşitli sağlayıcıların ödemelerini mi merkezileştiriyorlar, merak ediyorum
    • Şu anda çok fazla aptalca token harcaması var. Token’ı mümkün olduğunca harcamaya dönük bir akış da var. Geri kalma korkusu yüzünden token’ın ekonomik maliyeti dikkatle değerlendirilmiyor. Ama insanlar fark etmeye başladı ve bu harcamalar sürdürülebilir olmadığı için geri dönecek
    • Çalışma süresi daha iyi olabilir. Sonuçta Anthropic, Amazon Bedrock, AWS’nin Claude Platform’u, Google Vertex Europe veya Google Vertex’ten birine yönlendirilecek
    • Birleşik faturalandırma ve kullanım sınırları için %5 fazla ödemek makul. Her şey daha kolay oluyor
    • Kolaylığın bir primi vardır
  • OpenRouter’daki “Open”, OpenAI’daki “Open” ile aynı anlamda mı? Bir depo ya da barındırılan kod bulamadım. Açık kaynak ve self-host edilebilir araçların üstüne bir bulut ürünü eklenmiş bir yapı sanıyordum ama sanırım sadece ikincisi var

    • Ben de açık kaynak sanıyordum ama kontrol edince öyle olmadığını gördüm. “Open” demelerinin nedeni üçüncü taraf açık modellerine yönlendirme yapmalarıymış. Bu da başka bir VC usulü uyduruk katman mı acaba
    • OpenRouter’daki Open, OpenSea’deki Open ile aynı. Kurucu aynı çünkü. Bunu nasıl yorumlayacağınız size kalmış
    • Dürüst olmak gerekirse herkes Claude Code ile birkaç gecede OpenRouter gibi bir şey yapabilir
      Sonuçta sadece bir proxy
    • Alttaki modeli değiştirip takabilmeyi sağlayan tek bir API katmanı anlamında Open
  • LLM alanında çok deney yapıldığı ve “şu anın popüler modeli” çeşitli frontier laboratuvarları arasında durmadan değiştiği sürece OpenRouter muhtemelen çok popüler kalacak
    Durum istikrar kazanmaya başladığında hem frontier modellerin hem de açık kaynak modellerin entegre olması çok olası. O zaman OpenRouter’ın faydası azalacak. 10 laboratuvardan 20 modeli denemek istediğinizde %5 ek yük buna fazlasıyla değer, ama yalnızca 2 sağlayıcının 5 modeline ihtiyacınız varsa ve her sağlayıcının API seçeneklerini ayarlayıp işi daha ucuza getirebiliyorsanız bunu kabullenmek zorlaşıyor

  • OpenRouter’ın kolaylaştırdığı şeylerden biri API anahtarı yönetimi. Yeni anahtar oluşturma, anahtar bazında son kullanma tarihi/sınır koyma gibi şeyleri diğer sağlayıcılar da mümkün kılsa ya da kolaylaştırsa keşke
    Dışarıya AI/yardımcı özellik paylaşmak gibi pek çok kullanım alanı var. O özellik kullanılabilsin ama anahtar paylaşılırsa ya da başka amaçla kullanılırsa zarar sınırlansın; ayrıca koruma önlemi gibi daha kırılgan dolambaçlı yöntemlere daha az başvurulsun

  • Başka API’lerin önüne bir proxy koymak için gerçekten VC parası mı gerekiyor? Tam olarak nereye gidiyor bu para? Pazarlamaya mı? Zaten biliniyorlar, daha neyi pazarlamaya çalışıyorlar
    Altyapıya mı? İstek proxy’lemek için daha fazla altyapı mı gerekiyor? Cloudflare’a para vermek yeter
    Daha fazla mühendis almak için mi? Ama mühendislerin artık gerekmediğini pazarlayan yılan yağı satıcılarının başında siz gelmiyor musunuz
    O zaman bu 100 milyon dolar tam olarak nereye gidiyor

    • Para alabiliyorlarsa alıyorlar. Çünkü bu bir sosyal kanıt işlevi görüyor ve müşterileri daha derin bir değer yarattıklarına ikna ediyor. Gerçekte ise kanallar geliştirmeye ve ileride müşterilerle onların emanet ettiği verileri ürün olarak kullanmaya hazırlanmaya gidecek
    • OpenRouter kurucu ortaklarından birinin şu yanıtı ilgili görünüyor: https://news.ycombinator.com/item?id=48340940
  • Burada henüz görmediğim iyi OpenRouter özelliklerinden biri OpenRouter’ın meta modeli. İstemleri uygun performanstaki modele otomatik yönlendiriyor
    Her şeyi Opus’a göndermeniz gerekmiyor, bu da çok para tasarrufu sağlıyor; daha karmaşık bir şey sorduğunuzda ise otomatik olarak Opus’a gidip kötü sonuçları önleyebiliyor

  • “Son 6 ayda OpenRouter’ın haftalık işleme hacmi 5 trilyon tokendan 25 trilyon tokene çıktı”
    Vay be, saniyede 41 milyondan fazla token demek. Toplam 48-50 kişilik küçük bir ekip için ölçek gerçekten çok büyük

    • Bunun upstream token maliyeti olduğunu varsayarsak ve sorgu başına işlenen token çarpanını da hesaba katarsak, olsa olsa saniyede birkaç bin istek ediyor olabilir. Etkileyici, ama ayda milyonlarca dolar harcayan 50 kişilik bir startup ekibi için kabaca bu düzeyde de olabilir
      Bir e-posta sağlayıcısı saniyede binlerce mesaj alıyor ve hatta bunları spam tespiti için upstream’e iletiyor olsa, bu da aynı derecede etkileyici olur muydu? O durumda token sayısı daha da yüksek olabilirdi ama doğru ya da yanlış, HN’de insanların buna daha kayıtsız kalacağını sanıyorum
      Bir yandan sektörün ölçek açısından ne kadar ileri geldiğini, öte yandan da görünüşte basit isteklerde bile veri ve işlemenin ne kadar patladığını gösteriyor. Yine de ekibin çok iyi olduğu açık ve övgüyü hak eden bir başarı
    • Sezgi vermesi için bir token’ı 4 bayt sayarsak bu yaklaşık 164 MB/s trafik eder. Böyle bakınca biraz daha az ezici geliyor
  • Bu işin finansal spreadsheet’ini görmek ilginç olurdu. Normalde B turu yatırımcıları neredeyse 10 kat getiri bekler. OpenRouter’ın 1,1 milyar dolar değerinde olduğunu gerçekten gerekçelendirebilir misiniz? Bir “yönetim”/aracı rolü için gerçekten çok yüksek görünüyor. Tabii yapay zeka olduğu için böyle, ama her dot-com şirketinin 1 milyar dolar değerleme aldığı günleri hatırlayacak kadar yaşlıyım

    • Dünyadaki token’ların çoğunu kolayca yönlendirebilirse mümkün. Bir gün %5’i sağlayıcıların ödediği ve OpenRouter’ın altyapı/yönlendirme tarafında daha çok pay aldığı bir noktaya gelirse ne olur. 10 milyar dolarlık bir şirket olmanın pek çok yolu var
    • Her zaman olduğu gibi uzun vadede ürün kullanıcı verisi olacak