OpenAI frontier modelleri ve Codex artık AWS'de sunuluyor

• OpenAI frontier modelleri ve Codex artık AWS'de genel kullanıma sunuldu; milyonlarca AWS müşterisi, işlerini zaten yürüttükleri platformda OpenAI ile geliştirme yapabilecek
• Kurumlar, mevcut güvenlik, uyumluluk, tedarik, faturalandırma ve yönetişim iş akışları üzerinden frontier yapay zekayı üretime alabilecek; böylece değerlendirmeden gerçek dağıtıma geçişteki sürtünme azalacak
• OpenAI models on Amazon Bedrock, AWS'nin yerel güvenlik ve yönetişim kontrollerini kullanarak yapay zeka uygulamaları oluşturmayı sağlıyor
• Codex on Amazon Bedrock, her hafta 5 milyondan fazla kişi tarafından kullanılan OpenAI yazılım mühendisliği ajanını AWS ortamına taşıyarak kod yazma, inceleme, hata ayıklama ve modernizasyonu destekliyor
• Gelecekte Daybreak de AWS müşterilerine sunularak güvenli kod incelemesi, tehdit modelleme, yama doğrulama, bağımlılık risk analizi, tespit ve iyileştirme yönlendirmesinin günlük geliştirme döngüsüne dahil edilmesi hedefleniyor

---

OpenAI'ı AWS'de üretime alma

• OpenAI frontier modelleri ve Codex, AWS'de genel kullanıma sunuldu
• AWS müşterileri, işlerini zaten yürüttükleri AWS platformu üzerinden OpenAI yeteneklerini kullanabilecek
• Kurumların önündeki başlıca engeller olan güvenlik, uyumluluk, tedarik, faturalandırma ve yönetişim süreçleri mevcut iş akışları içinde yönetilebilecek
• Kuruluşlar, operasyonel engelleri azaltıp değerlendirme aşamasından gerçek dağıtıma daha hızlı geçebilecek

Sunum şekli ve genişleme planı

• OpenAI models on Amazon Bedrock, AWS'nin yerel güvenlik ve yönetişim kontrollerini kullanarak yapay zeka uygulamaları geliştirmeyi sağlıyor
• Codex on Amazon Bedrock, ekiplerin zaten geliştirme ve dağıtım yaptığı AWS ortamında kod yazma, inceleme, hata ayıklama ve modernizasyona yardımcı olan bir yazılım mühendisliği ajanı olarak sunuluyor
• Her iki sunum biçimi de AWS Commercial ve GovCloud bölgelerinde kullanılabiliyor
• OpenAI ve AWS, AWS üzerinden sunulan OpenAI yeteneklerini genişletmeyi sürdürerek ekiplerin daha az sürtünme ve daha yüksek güvenle değerlendirmeden üretime geçmesini sağlamayı planlıyor
• Gelecekte sunulacak Daybreak; siber modelleri ve Codex Security'yi içerecek, siber savunmacıların riskleri daha erken görmesi, daha hızlı yanıt vermesi ve yazılımları daha dayanıklı hale getirmesi için tasarlandı

[GN⁺]

Hacker News yorumları

• İnsanların neden AWS, Azure, GCP gibi yerlere güvendiğini ve neden prim ödediğini sorduğunu her gördüğümde, kurumsal ortamda hiç çalışmamış olduklarını düşünüyorum
  Çalıştığım büyük şirkette müşteri sözleşmelerinde katı veri yönetişimi maddeleri var ve bizim de kendi yönetişim gereksinimlerimiz bulunuyor. Hem bilgi güvenliği onayından geçmiş hem de müşteri sözleşmelerinde açıkça veri işleyeni olarak belirtilmiş satıcıları kullanmak, işten atılma ve dava riskinden kaçınmanın yolu
  Evde kendi kodum ve verimle oynarken ne istersem yapabilirim ama şirket ve müşteri verisiyle bu asla olmaz. Gündemdeki en yeni frontier modeli rastgele kullanmamamızın nedeni de aynı. Yan projeler ve startup'lar tamamen farklı kısıtlar ve değerlendirmelerle çalışıyor

  • Gerçek AWS sözleşmesini ve sözleşme ile pazarlama materyallerinde bağlantı verilen belgelerde açıkça belirtilen sınırlı sorumluluğu inceleyip incelemediğini merak ediyorum
    Küçük yazıları okursan oldukça ilginçtir. Veri kaybı sorumluluğu büyük ölçüde müşteridedir, SLA talepleri için somut kanıt sunman gerekir ve kabul edilen telafi genelde tam da veriyi kaybettiğin ürün için gelecekteki kullanım kredisi olur
    AWS şartları, GCP gibi yerlerle karşılaştırınca aslında oldukça makul. GCP'nin SLA'si daha çok kurumsal satın alma ekiplerinin “SLA var, yani gerekli incelemeyi yaptık ve bunu seçersek işten atılmayız” diyebilmesi için faydalı görünüyor. Buna karşılık GCP de “sözleşmeyi imzalarken önerilen telafiyi zaten kabul ettiniz, dava açarsanız size o maddeyi gösteririz. Bize güvendiğiniz için teşekkürler” diyebilir. [0]
    [0] https://docs.cloud.google.com/storage/docs/storage-classes
    Standart çok bölgeli veya çift bölgeli depolama için kullanılabilirlik SLA'si %99,95, bölgesel standart için %99,9, bölgesel Nearline, Coldline ve Archive için ise %99,0'a kadar düşebiliyor. Krediler, etkilenen hizmet katmanının aylık faturasının %10, %25 veya %50'si ve aylık toplam üst sınır %50; gelecek kullanıma uygulanıyor. Google ayrıca müşterinin 30 gün içinde kredi talep etmemesi halinde bundan feragat etmiş sayılacağını da söylüyor
  • Buna ek olarak, “o ekip masraf raporunda AI için 1.000 dolar harcamış, peki ne elde etmiş?” ile “şirketin toplam AWS faturası birkaç yüzde puan artmış, vakit bulunca bakalım” arasında muazzam fark var. İkincisi projeyi çok daha gerçekçi kılıyor
  • AWS'nin güvenlik duruşu farklı. AI startup'ları, startup web uygulaması oluşturma araçları veya VSCode eklenti şirketlerinin hacklenip veri sızdırma ihtimali yüksek
    AWS de hacklenebilir ama bu olasılığı biraz azaltmak ve hangi müşterilerin etkilendiğini takip etmeyi kolaylaştırmak için ciddi emek harcadılar. Örneğin AWS log'larına girersen, sadece açık bırakmış olsan bile o kadar çok kayıt tutuluyor ki kimin yetkilerde veya ortamda ne yaptığını geriye dönük inceleyebiliyorsun. AWS çalışanlarının erişimi de muhtemelen oldukça iyi kaydediliyordur. Geçmişte hesabıma bir AWS çalışanının erişebilmesi için epey prosedürden geçmek gerekiyordu
  • Kısacası, IBM satın aldığı için kimse işten atılmaz deniyor
  • Herhangi bir AI harness'i ya da modeli kullanabildiğim serbest bir ortamdan, katı kurumsal bir ortama yeni geçtim
    Azure'da tek bir GitHub Copilot lisansı kullanmanın bile ne kadar zor olduğunu görünce şok oldum. İkisi de Microsoft ürünü olmasına rağmen, IT'nin GitHub Enterprise'ı yapılandırması, bunu Azure aboneliğine bağlaması ve bir sürü başka adımı çözmesi gerekti

• Büyük şirket ortamında AI kodlama modeli kullandıysan, birçok kurumsal dağıtımın fiilen AWS Bedrock kullanımını gerektirdiğini bilirsin. Sebebi basit

  1. Büyük şirketlerin çoğunun zaten AWS ile ilişkisi var, bu yüzden yeni bir satıcı ilişkisi kurmaktan çok daha kolay
  2. Büyük şirketlerde iç verilerin şirket kontrolü altında kalmasını zorunlu kılan güçlü iç gereksinimler olur. AWS Bedrock kullanınca, modele gönderdiğin şeylerin bir yerlerdeki eğitim veri setine karışmayacağından çok daha emin olabiliyorsun. Çalıştığım yerde bu gereksinim nedeniyle OpenAI API'sini doğrudan kullanmak yerine AWS Bedrock üzerinden gitmek zorunlu
  • Bir adım daha ileri gidersek, yeni satıcı eklemenin sık sık imkansız olmasının nedeni, müşterilerle yapılan çeşitli sözleşmelerde müşteri verisini başka satıcılara göndermeme taahhüdünün farklı biçimlerde verilmiş olması
  • Birçok LLM için Bedrock, verinin hangi ülkede kalacağını kontrol etmene izin veriyor. Örneğin Claude API'de böyle bir kontrol yok
    Biz ABD'de çalışmıyoruz ve verinin ülkemiz içinde kalmasına dair güçlü gereksinimlerimiz var; Bedrock bu kontrolü sağlıyor
  • İlginç bir konu
    Bu gidişatla AI'nın gelecekte nasıl büyümeye devam edeceğini merak ediyorum. Değerli verilerin çoğunun bu tür güvenlik duvarlarının arkasında olduğunu varsayarsak, kamusal veri zaten toplanmış olabilir ve eğitim de yasa dışı yollardan elde edilmiş veri üzerinde yapılmış olabilir. Burası gri bir alan
    Sonunda dış girdisi olmayan kapalı bir ekosisteme mi dönüşecek?
  • Bedrock verisinin dış sağlayıcılara taşınmadığından nasıl emin olabildiğinizi merak ediyorum

• Bu API'leri doğrudan kullanmak yerine neden AWS üzerinden daha fazla para ödediğini merak ediyorsan, bazı şirketlerde yeni satıcı onayı almak neredeyse imkansızdır. Şirketin AWS sözleşmesi varsa, AWS'nin sunduğunu kullanırsın

  • Bir dakika, AWS bazı AI şirketlerinin sunucularına erişimi yeniden mi satıyor, yoksa modelleri kendi donanımında mı çalıştırıyor?
  • Onay alabiliyor olsan bile yıllık güvenlik denetimi kapsamı genişliyor, güvenlik değerlendirmesinde açıklaman gereken bir satıcı daha ekleniyor, veri bir işleyene daha yayılıyor ve fatura ile bütçe görüşmelerine bir tane daha ekleniyor
    Müşteri sözleşmelerine bağlı olarak yeni satıcıyı müşterilere bildirmen gerekebilir ve bu da yeni bir güvenlik incelemesini tetikleyebilir. Ama mesele sadece Bedrock'a bir model daha eklemekse? Çok daha kolay
  • Dünyadaki CEO'lar, yönetim kurulları ve orta kademe yöneticilerin hepsi artık AI moda sözcüklerine kapılmış durumda. Doğrudan frontier laboratuvarlarıyla sözleşme yapma talebinin gerçekten engelleneceğini sanmıyorum?

• OpenAI için devasa bir haber. Sırf AWS'de kullanılabildiği için Claude'u benimseyen kurumsal müşterilerin sayısı tahmin edilenden çok daha fazlaydı ve artık ciddi rekabet geliyor

• OpenAI için iyi bir hamle, Anthropic içinse endişe verici. AWS bağımlılığı ve güvenlik gereksinimleri yüzünden bir süre Bedrock, temel modeller kullanabilmemin tek yoluydu

  • Claude zaten hem AWS üzerinden Anthropic sunucularına yönlendirilerek hem de Bedrock üstünden sunuluyor. https://aws.amazon.com/claude-platform/
    İlk giren avantajının kaybolmasını sevinçle karşılamayacaklardır ama bunu uzun zamandır bekliyor olmalılar

• Rekabet için iyi haber
  Claude Code, Amazon Bedrock üzerinden kullananlar için yeni özellikleri sürekli eksik bırakıyor. Örneğin otomatik mod, Ultra planı, Claude for Chrome gibi şeyler. Biraz daha rekabet olursa stratejilerini yeniden düşünmeleri gerekebilir

  • Garip olan şu ki Amazon Bedrock'taki Claude modelleri bu özelliklerin hepsini destekliyor
    Bir süredir api.anthropic.com emülatörü yapıp istekleri “gizlice” Amazon Bedrock'a yönlendiriyorum. Gayet iyi çalışıyor ve artık birinci taraf sağlayıcıya özel özellikleri de doğrudan kullanabiliyorum
  • Artık otomatik mod Bedrock'ta da çalışıyor

• Anthropic'in hızlıca IPO yapması gerekiyor gibi görünüyor. Muazzam gelir artışı fiilen Gemini lansmanındaki başarısızlık ve OpenAI'nin Azure'a bağlı olup hareket alanının kısıtlı olmasının sonucuydu
  Anthropic modelleri kelimenin tam anlamıyla AWS'de kullanılabilen tek pratik sunucusuz API, yani Bedrock modeli durumundaydı. Son dönemde Qwen 3.5/3.6 ailesi ise hiç piyasaya sürülmedi bile. Token verimliliği ve yatırım getirisi odaklı eğilim de eklenince, Anthropic'in 3. çeyreği nasıl kapatacağını gerçekten merak ediyorum

• Frontier laboratuvarları, hyperscaler'ların veri toplamadan yalnızca serving yaptığı dondurulmuş model derlemeleri sunuyor. Hassas verileri saklarken frontier LLM kullanmak isteyen çoğu şirket için bu bir ön koşul

• Azure için kötü haber. Seçilmiş kişiydi ama talebi karşılayamadı
  OpenAI, Azure'un güvenilir olmadığını söyleyip münhasırlık anlaşmasından çıktığında, sonraki durağın AWS olacağını anlamıştım