Physical AI'nin Moneyball'u

• Robot verileri, metin gibi mevcut korpuslardan çıkarılamaz ve yararlı her saat için maliyet doğurduğundan, sermaye verimliliği toplam toplama miktarından çok dolar başına marjinal fayda ile veri yeniliğini ne kadar doğru hesaplayabildiğinize bağlıdır
• Veri arttıkça kayıp güç yasasına göre azalır; ancak çeşitlilik genelleme kapsamını ve hata alt sınırını değiştirir. Tekrarlar ve yakın kopyalar hızla doygunluğa ulaşırken, nadir OOD başarısızlık örnekleri büyük fayda sağlar
• Üretim dağıtım verisi, başlangıçtaki yüksek entropili başarısızlıklardan gündelik başarılar ve yakın kopyalara yakınsayan bir petrol kuyusunun azalış eğrisi izlediğinden, çalışma süresini artırmaktan ziyade başarısızlık kuyruğunu seçmek gerekir
• İlk robot görevleri, ticari uygulanabilirlik için çevresel değişkenliği sınırlamak zorunda olduğundan içsel boyut ve transfer edilebilirlik düşer; dağıtım gelirleriyle genel amaçlı modeli iyileştiren üretim flywheel'ının çalışması ise dış gözlem kapsamı ve müdahale çeşitliliği olmadan zordur
• Veri bütçesi; düşük maliyetli gözlem verisiyle kapsamı genişletmek, yüksek maliyetli teleoperasyonu görev bazlı doygunluk noktasına kadar toplamak ve üretim telemetrisinde yalnızca OOD başarısızlıklarını seçmek şeklinde dağıtılmalıdır

---

Physical AI'de verinin yanlış fiyatlanması

• 2002'de Oakland Athletics, MLB'de üçüncü en düşük maaş bütçesiyle 103 galibiyet aldı; öznel estetik, çalıntı baz ve vuruş ortalaması yerine, sayı üretimiyle gerçekten ilişkili olan base yüzdesini bularak piyasanın yanlış fiyatladığı oyuncu değerlerinden yararlandı
• Physical AI'de de kümülatif çalışma süresi, göze görünür ve yatırım yapması kolay bir metrik olduğu için önemsenir; ancak gerçek alt model performansıyla korelasyonu zayıftır
• Robot verisi, metin verisi gibi mevcut korpuslardan çıkarılamaz ve yararlı her veri saati için ödeme yapmak gerekir; bu yüzden toplama miktarıyla birlikte maliyet de doğrusal artar
  • Ken Goldberg, en ileri robotik modeller için yaklaşık 100 bin yıllık veriye ihtiyaç duyulabileceğini tahmin ediyor
  • Sadece büyük ölçekli manuel teleoperasyon altyapısıyla AGI için gereken denetimli veriyi sağlama yaklaşımı sürdürülebilir değildir
• Robotları üretim sahasına yerleştirip işletme gelirinin yan ürünü olarak telemetri elde etme yaklaşımında da aynı istatistiksel hata ortaya çıkabilir
  • Bugün dağıtıma uygun niş görevler, değişkenliğin en düşük olduğu alanlardır
  • Burada üretilen veri düşük entropilidir ve birbirleriyle korelasyonludur; bu yüzden marjinal faydası küçüktür
• Physical AI için base yüzdesine karşılık gelen metrik, ölçekleme yasalarını ve veri edinim birim maliyetini birlikte yansıtan dolar başına marjinal kayıp azalımıdır

Veri tedarik zincirini hareket ettiren çıkarlar

• Her katılımcı, kendi iş alanının en değerli göründüğü bir veri bakışına sahiptir
  • Foundation model laboratuvarları genel amaçlı model ölçeği sattığı için, büyük ölçekli ön eğitim ve daha fazla hesaplamanın edge case hatalarını ortadan kaldıracağını düşünür
  • Teleoperasyon şirketleri, verinin faydası ya da yeniliğinden çok çalışma saatine göre gelir elde ettikleri için ham veri miktarını öncelemektedir
  • Mevcut donanım şirketleri, çözümün dağılım dışı ortamlarda başarısız olduğunu bildiği için çevrenin normal ve istikrarlı olduğu varsayımını kurar
  • Akademik robotik araştırmacılarının önemli bir kısmı, açığın veriden çok fizik, model ve kontrol ile kapatılabileceğini düşünür
• neo-integrator, veri toplama darboğazını aşmak için özelleşmiş robotları ticari üretime yerleştirip başarısızlıkları insan müdahalesiyle yönetmeye çalışır
  • Evan Beard, üretim telemetrisinin çok görevli yetenek için gerekli yeniliği yaratan ekonomik bir flywheel sunduğunu öne sürüyor
  • Kyle Vedder ise, erken robot benimsemesine para ödeyen ortamların doğası gereği düşük değişkenlikli olduğunu ve bu nedenle bir yenilik pompası (novelty pump) kısıtı oluştuğunu söyleyerek buna karşı çıkıyor
• Hangi stratejinin dolar başına en yüksek model kabiliyetini ürettiği, ancak ampirik ölçekleme yasaları ile veri ediniminin birim ekonomisini birlikte karşılaştırarak anlaşılabilir

Maliyet ve denetim biçimine göre üç veri türü

• Gözlem verisi, birinci şahıs ve üçüncü şahıs video gibi düşük maliyetli ve geniş kapsamlıdır; temsil uzayının destek kapsamını genişletir, ancak doğrudan eylem denetimi sağlamaz
• Müdahale verisi, teleoperasyon gösterimleri gibi yüksek maliyetli ve dar kapsamlıdır; durum-eylem yörüngelerini açıkça içerir ve maliyet insan emeğiyle orantılı artar
• Dağıtım verisi, üretim sistemlerinde içsel olarak oluşan, rafine edilmemiş telemetridir
  • Operasyonun kendisi bazı durumlarda zarar da edebilir
  • Veri dağılımı, algoritma tasarımıyla değil ticari işletme koşullarıyla belirlenir
• Veriyi maksimize etmek, düşük entropili gürültüyü artırarak öğrenme verimliliğini düşürebilir
  • Dil modellerinin C4 veri kümesi'nde klişe metinler ve yakın kopyalar çıkarılıp sabit bütçe içinde benzersiz token kapsamı artırıldığında model iyileşti
• Veri hattı, her türde 1 dolarla ne elde edildiğini, yeni bilginin nerede ortaya çıktığını ve dağıtım verisinin görev kapsamını genişletip genişletemeyeceğini sorgulayan bir sermaye tahsisi problemidir

Ölçekleme yasalarıyla veri faydası

• Veri miktarı ve kayıp azalımı

  • Veri, model boyutu ve hesaplama arttıkça test kaybı log-log ekseninde doğrusal görünen bir güç yasası ile azalır; ancak azalış miktarı küçülür ve sonunda bir alt sınıra ulaşır

  • Kaplan 2020 ile Hoffmann 2022'nin birleşik biçimi, model boyutu (N) ve token sayısı (D) için şöyledir

    [ L(N,D)=E+A N^{-\alpha}+B D^{-\beta} ]

  • Hesaplama açısından optimal tahsiste bu, veriye bağlı tek boyutlu bir zarf eğrisine indirgenir

    [ L^{*}(D)=E+\tilde B D^{-\beta} ]

• (E), modelin ortadan kaldıramayacağı tahmin belirsizliğidir; fonksiyon biçimi tutarlıdır ancak sayısal değerler, Besiroglu 2024'ün ele aldığı gibi yaklaşık değerlerdir

• Çeşitlilik ve içsel boyut

  • Çeşitli veri karışımları, veri miktarından bağımsız iki etkiyi aynı anda üretir
    • Alanlar arası transfer ve manifold kapsamının genişlemesi yoluyla asimptotik hata alt sınırını düşürür
    • Veri kümesinin içsel boyutunu (d_{\text{int}}) artırır
  • Pürüzsüz hedeflerin çözünürlük sınırlı rejiminde, Sharma & Kaplan 2020 ve Bahri 2021'e göre (\beta \approx 4/d_{\text{int}}) ilişkisi geçerlidir
  • Görevin içsel boyutunu yarıya indirmek, ölçekleme üssünü kabaca iki katına çıkarır ve böylece kayıp daha hızlı azalır
  • Bunun karşılığında daha düşük kaliteli ve genelleşmeyen optimumlara yakınsanılabileceği için, ön eğitim dağılımının içsel boyutu yapay olarak düşürülmemelidir
  • Ye et al. 2024'ün veri karışım yasası, karışım kaybını alan bazlı kuvvet yasaları ve alanlar arası bağlaşım terimlerine ayırır; bağlaşım terimleri de pozitif transferi ve negatif girişimi belirler

• Tekrarın doygunluğu ve performans düşüşü

  • Tekrarlanan veri, yaklaşık 4 epoch'a kadar yeni token'larla benzer verim gösterir; ancak sonrasında faydası hızla azalır ve sonunda yeteneği düşürür
  • Muennighoff et al. 2023, yarı ömrü (R^{*}\approx15) olan üstel bir doygunluk biçimini uydurur
  • 4 tekrar neredeyse hiç kayıp yaratmaz
  • 16 tekrardan itibaren, ek hesaplamanın yeni bilgi üretmediği belirgin bir azalan getiri bölgesine girilir
  • Benzersiz örnek sayısı (U), tekrar sayısı (r=T/U) olduğunda etkin veri boyutu (D_{\text{eff}}=U\cdot f(r))'dir ve (f(r)) üstel olarak doygunluğa ulaşır
  • Hernandez et al. 2022'ye göre dar bir veri alt kümesini aşırı tekrarlamak, test kaybında yerel bir çift inişe yol açar ve bağlam içi öğrenme için gerekli induction head ile copying head'i bozar
  • Tüm corpus'un %0,1'ini 100 kez tekrar etmek, 800 milyon parametreli bir modelin alt görev performansını 400 milyon parametreli bir model düzeyine düşürdü

• Yakın kopyalar ve yerel doygunluk

  • Yakın kopyalar, tam tekrar ile tamamen yeni örnek arasında süreklilik gösteren bir faydaya sahiptir
  • Lee et al. 2021, C4 içinde aynı cümlenin 60 binden fazla kez göründüğü vakaları tespit etti
  • Tekrarlananların ayıklanması, kelimesi kelimesine ezberlemeyi azaltır ve token bütçesini farklı manifoldlara ayırarak yakınsamayı hızlandırır
  • Küçük bir değişim (\varepsilon), (x) ile (x+\varepsilon)'i aynı hedefe eşleyerek örtük bir tutarlılık düzenlileştirmesi gibi çalışır
    • Çok küçük değişimler düşük faydalıdır
    • Orta büyüklükte değişimler düzenlileştirme için yararlıdır
    • Değişim yeterince büyüdüğünde ayrı bir veri haline gelir
  • Dar bir komşuluğu yoğun biçimde örneklemek, yerel kapasiteyi hızla doyurur ve model performansına zarar verir

• Nadir olaylar ve uzun kuyruk

  • Nadir dağılım dışı (OOD) olaylar, ölçekleme sınırında model performansını sınırlayan başarısızlık kuyruğunu oluşturduğu için yüksek marjinal fayda taşır
  • Gerçek fiziksel dağılımlar uzun kuyrukludur ve Michaud et al. 2023'e göre makroskopik yetenekler, Zipf dağılımını izleyen alt becerilerin frekans sırasıyla edinilmesiyle ortaya çıkar
  • Feldman 2020'a göre, sınır doğruluğuna ulaşmak için toplam operasyonel yoğunluğun büyük bölümünü oluşturan nadir alt grupların öğrenilmesi gerekir
  • Sorscher et al. 2022, zorluğu yüksek ve frekansı düşük örneklerin seçilmesiyle genel kuvvet yasası kısıtlarının aşılabileceğini gösterir
  • Gerçek dünyanın rastlantısallığından doğan edge case'ler, sentetik üretim veya yapılandırılmış staging ile yeniden üretilmesi zor durumlardır
  • Bilinen dağılım genişledikçe geriye kalan yeni varyasyonlar geometrik olarak daha nadir hale gelir ve keşif maliyeti keskin biçimde artar

Dolar başına marjinal faydanın ekonomisi

• Göreve göre kayıp ve sermaye tahsisi

  • Dil modellerinde kısıt hesaplama, veri ise bolken; robotikte doğrudan kısıt, faydalı verinin edinim maliyetidir

  • Toplam yetenek hedefi, ön ağırlıkları (\pi_j) olan görev kümeleri (j)'nin birleşimi olarak modellenir ve her kümenin kaybı şu biçimi izler

    [ L_j=A_j(\phi)+B_j(\phi)D_j^{-\beta_j} ]

  • (A_j(\phi)), algılama yapılandırması (\phi) altındaki taban sınırı; (D_j), veri miktarı; (\beta_j\approx4/d_j) ise içsel boyut (d_j)'ye bağlı üstel değerdir

  • Sınırlı sermayeyi en iyi şekilde dağıtmak için, tüm toplama ve kürasyon kanallarına yapılan harcama dolar başına marjinal değer eşitlenecek şekilde yapılmalıdır

  • Müdahale kanalları, doğrudan davranış denetimi nedeniyle primlidir; ancak veri miktarı hızla doyuma ulaştığı için asıl ekonomik fayda görevler arası beceri transferinden gelir

  • Kanal (i)'nin maliyeti (c_i), doygunluk fonksiyonu (g_i(n_i)), görev (j)'ye transfer izdüşümü ise (w_{ij}) ile gösterilir

  • Toplama miktarı arttıkça (g_i'(n_i)) küçülür ve dolar başına fayda da azalır

  • Gözlemsel kanallar, davranış etiketi olmadan temsil uzayını iyileştirir ve hata alt sınırı (A_j) ile ölçekleme katsayısı (B_j)'yi etkiler

• Hata alt sınırını sensör belirler

  • Olasılıksal hata mutlak olarak sabit bir değer değil, belirli robot sensörlerinin gözlemlediği bilgi durumuna göreli bir büyüklüktür

  • Görev (j)'nin algılama yapılandırması (\phi) altındaki taban sınırı, koşullu entropi (A_j(\phi)=E[H[a|s_\phi]]) olarak ifade edilebilir

    [ A_j(\phi)=A_j^{\min}+\left(A_j(\phi)-A_j^{\min}\right) ]

  • (A_j^{\min}), hiçbir sensörün ortadan kaldıramayacağı fiziksel sınırdır; geri kalanı ise daha iyi algılamayla azaltılabilecek kısımdır

  • Düşük çözünürlüklü sensörlerin ayırt edemediği çevresel değişkenlik, model için rastlantısal gürültü olarak görünür; yüksek çözünürlüklü sensörler ise bunu öğrenilebilir epistemik hataya dönüştürür

  • Davranış verisi, kaybı (A_j(\phi))'ye yaklaştırır; daha iyi sensörler ise (A_j(\phi))'nin kendisini düşürür

  • Görevin başa baş kaybı (L_{\text{neutral}}) için, dağıtıma uygunluk adına (A_j(\phi)\ll L_{\text{neutral}}) olmalıdır

  • En iyi algılamada bile (A_j^{\min}\ge L_{\text{neutral}}) ise veri miktarını artırmanın etkisi yoktur

  • Bu durumda donanım yapılandırması değiştirilmeli ya da başka bir operasyon görevi seçilmelidir

Dağıtım verisinin azalan eğrisi ve yakınsama tuzakları

• Üretim telemetrisi kuyu gibi tükenir

  • Üretimin ilk aşamasında yüksek entropili başarısızlık modları ortaya çıkar; ancak anomaliler çözüldükçe veri, yakın kopyalara ve tekrar eden örneklere dönüşür ve faydası keskin biçimde azalır

  • Yerel dağılımın etkin faydası (U_{\text{eff}}(n)=U_0+\Delta U(1-e^{-n/n_c})) gibi üstel olarak doygunluğa ulaşır

  • Doyum noktası ya da covering number olan (n_c)'yi aştıktan sonra, üretim akışı düşük faydalı tekrar verilerine yakınsar

  • Yüksek değer başarısızlık kuyruğunda yoğunlaşır; rutin başarıların marjinal faydası yoktur

  • Dağıtım verisinin net maliyeti, hata oranına, müdahale ve throughput kaybı maliyetine ve görev tamamlama değerine bağlıdır

    [ c_{\text{dep}}(L)=\rho(L)(\kappa_{\text{int}}+\kappa_{\text{prod}})-\nu ]

• Başabaş noktası öncesinde, yani (c_{\text{dep}}\approx0) iken, veri toplama zarar yazar; bu nedenle ilk dağıtımlarda işletme geliriyle değil, Ar-Ge varlığı olarak dış sermayeyle finanse edilmesi gerekir

  • Yaygın kanı, dağıtıma performans %95 civarındayken müdahale eşliğinde başlanıp kârlılığın %99,5 seviyesinde geldiği yönündedir; ancak kuvvet yasası nedeniyle (L_{\text{start}})'dan (L_{\text{neutral}})'a ulaşmak için gereken veri birkaç büyüklük mertebesi artabilir
  • Başabaş hedefi hata taban sınırına yaklaşıp (\Delta_{\text{safe}}=L_{\text{neutral}}-A_j(\phi)\to0) olduğunda, gereken veri ve maliyet süperlineer biçimde diverge eder
  • (L_{\text{neutral}}\approx A_j(\phi)) olan işler bir sermaye yutağına dönüşür
  • Dağıtım ölçeğini büyütmeden önce veri kapsamı ve algılamayı iyileştirmek gerekir

• Ticari yakınsama ile genelleşme arasındaki çatışma

  • Optimal olmayan bir foundation model'i ticari olarak dağıtmak için, ortam değişkenliği yapay biçimde sınırlandırılarak işin içsel boyutu düşürülmelidir
  • Düşük (d_j), büyük bir (\beta_j) üreterek yakınsama hızını artırır; ancak dar ve transfer edilemeyen bir manifold'a yakınsar
  • Yapılandırılmış operasyon hücrelerinden elde edilen düşük entropili ve korelasyonlu veriler, genel amaçlı modelin genelleme sınırını genişletemez; sistemi ilk nişe kilitler
  • Parçalanmış her düşük değişkenlikli iş için yinelenmeyen mühendislik (NRE) maliyeti doğar; yazılım benzeri marjlara ulaşmak için sırayla eklenen yeni işlerin marjinal entegrasyon maliyetinin 0'a yaklaşması gerekir
  • İki tür veri yanlılığı farklı sınırlar yaratır
    • Staging yanlılığı: Müdahale verisi yüksek davranış yoğunluğuna sahiptir, ancak simülasyon/laboratuvar gibi yapay biçimde yapılandırıldığı için gerçek fiziksel ortamın olasılıksal başarısızlık kuyruklarını yakalayamaz
    • Dağılım yanlılığı: Dağıtım verisi gerçek ortamdan gelir, ancak ticari olarak ayakta kalabilmek için düşük değişkenlikli nişlerle sınırlandırıldığından yanlış bir dağılım karışımını örnekler
  • Dar işlerden geniş işlere sıralı genişleme stratejisi, ancak dağıtılabilir işlerin artış hızı birikimli NRE açığından daha hızlıysa ekonomik olur
  • Bu genişleme yalnızca ticari nişin dağıtım verisiyle zordur; bu yüzden hata taban sınırını düşüren gözlem kapsamı ile genelleme sınırını genişleten müdahale çeşitliliği dışarıdan sağlanmalıdır ki üretim flywheel'i çalışabilsin

Operasyon süresinin yerine geçecek bilgi yoğunluğu göstergeleri

• İş başına marjinal entegrasyon maliyeti, her yeni işte oluşan NRE maliyetini proje muhasebesiyle izler
  • İş portföyü büyüdüğü hâlde maliyet düşmüyorsa, model katmanı işler arasında temsil biriktiremiyor demektir
  • İş yapısı da ölçeklenebilir yazılımdan çok doğrusal sistem entegrasyonuna benzer
• İş bazında doyum noktası (n_c), iş ve ortam bazındaki öğrenme eğrisinin yataylaştığı noktayı bulur
  • Toplama bu noktada durdurulursa, manuel teleoperasyon bütçesindeki başlıca israf azaltılabilir
• Dağılım kayma oranı (v_j), OOD girdilerin ortaya çıkma hızını ve yeniden eğitim sıklığını izler
  • Durağan olmayan hedef dağılım sürekli yeni hata modları ürettiği için, sürekli dağıtım telemetrisi veri avantajını koruyabilecek tek operasyon koşuludur
• Küme kapsamı, ham epizot sayısı yerine standart veri embedding'lerinde birbirine dik iş, nesne ve ortam kümelerinin sayısını ölçer
  • Zaman içindeki küme genişlemesi, alanlar arası genelleşme için vekil bir gösterge olur
• Veri yenilik yoğunluğu, ensemble uyumsuzluğu veya kaydedilmiş durumların tahmin varyansı gibi aktif öğrenme sezgiselleriyle gelen akışın bilgi yoğunluğunu tahmin eder
  • Düşük entropili rutin başarıları filtreler ve yüksek faydalı hata kuyruklarına öncelik verir
• Uygulanabilirliği belirleyen tesadüfi hata taban sınırı (A_j(\phi)) doğrudan ölçülemez
  • (L(D)=E+BD^{-\beta}) uydurularak asimptotik değer (E) tahmin edilebilir, ancak yaklaşım hatası büyük olduğu için doğrudan operasyon metriği olarak kullanmak zordur

Veri stratejisine göre ayrışan robotik ekosistemi

• Model öncelikli laboratuvarlar, farklı robot biçimlerinden gözlem corpus'larını büyük ölçekte ayıklayıp temizleyerek pretraining yapar ve bu kapsam içinde kümülatif genelleşme elde etmeye çalışır
  • World model laboratuvarları, öğrenilmiş modellerle ucuz müdahale verisi üretmeye oynar
  • Ne statik pretraining ne de sentetik simülasyon, gerçek dağıtımdaki tesadüfi edge-case hata kuyruklarını doğru biçimde kopyalayabilir
• Dikey entegre şirketler, sahip oldukları donanım üzerinde veri toplama ve temizlemeyi doğrudan yapar
  • Donanıma hizalanmış veri verimlidir
  • Otonom sürüş gibi doğası gereği yüksek değişkenlikli alanlar dışında, ticari uygulanabilirlik için ortamı düşük değişkenlikle sınırlamanın sonucu olarak yenilik eksikliği üreten döngüsel bir tuzağa düşerler
• neo-integrator, çeşitli endüstriyel ortamlarda sığ ama geniş bir operasyon tabanına sahip olduğu için iş çeşitliliği elde etmekte avantajlı konumdadır
  • Bunu aktif biçimde kürate edilecek bir veri ortamı yerine yalnızca faturalandırılabilir operasyon alanı olarak gören iş modeli stratejik bir hatadır
• Teleoperasyon şirketleri, operasyon süresi sattıkları için özgün örnek kapsamından çok ham veri hacmini maksimize etmeye teşvik edilir
  • İş bazında doyum noktası (n_c)'nin ötesinde de veri üretirler; yerel gelir yaratan altyapı araçları sağlarlar ama ölçekleme avantajı yaratamazlar
• Yerleşik donanım şirketleri, deterministik davranış tekrarına göre optimize edilmiş kârlı, düşük değişkenlikli pazarları savunur
  • Öğrenme için neredeyse hiç veri toplamadıkları için ölçekleme eğrisi boyunca yukarı çıkacak bir yolları yoktur
• Physical AI'da en kıt yetenek, veri yeniliğini tespit etme ve yakalama becerisidir; değer, araştırma ve donanım mühendisliğinin mevcut örgütsel sınırlarından bağımsız olarak OOD varyasyonları seçip çıkarabilen operasyon ekiplerinde birikir

Physical AI ile LLM uygulamaları arasındaki fark

• Cursor ve Harvey gibi yazılım uygulamaları, foundation model'i token düzeyinde ödünç alırken bile iş akışı entegrasyonu ve sahip oldukları dağıtım kanalı sayesinde ekonomik değer yaratır
• Ekonomik değeri yakalama ile model yeteneği ayrı değişkenlerdir; Physical AI, yazılım uygulamalarından üç eksende farklı koşullara sahiptir

• İş boyutu ve doyuma ulaşma hızı

  • Yazılım geliştirme, içsel boyutu yüksek olduğu için sürekli iş akışı geri bildirimi kalıcı marjinal fayda üretir
  • Yapılandırılmış depo picking gibi fiziksel işler, içsel boyutu düşük olduğu için iş başına veri akışı hızla doygunluğa ulaşır ve azalan getiri bölgesine girer

• Foundation katmanındaki asimetri

  • Yazılım uygulamaları, genel amaçlı ve büyük ölçekli sübvansiyon almış foundation model'lerin aşağı akışında çalışır
  • Physical AI için ödünç alınabilecek eşdeğer bir genel amaçlı foundation katmanı olmadığından, bugünkü robot dağıtımları operasyonel uygulanabilirlik için ortam değişkenliğini yapay olarak azaltmak zorundadır
  • Bu şekilde toplanan özelleşmiş alt dağılımlar daha geniş bir genelleşme yaratmaz

• Telemetri maliyeti ve marjlar

  • Yazılımda kaynak kodu, kullanıcı düzeltmeleri, derleme sonuçları gibi tüm operasyon döngüsü düşük maliyetle ve eksiksiz biçimde gözlemlenebilir
  • Fiziksel telemetrinin toplanma maliyeti yüksektir ve sensör çözünürlüğü nedeniyle özünde gözlemlenemeyen kısımlar kalır
  • Physical AI'nın temel gözlemsel verisi rekabetçi ve özel mülkiyetli bir varlık olarak kalırsa, kaldıraç üst model katmanında yoğunlaşır
  • Altyapı sağlayıcıları özel fiyatlama gücünü korur ve aşağı akış uygulamalarının marjları baskı altında kalır

Veri bütçesi nasıl dağıtılmalı

• Kümülatif operasyon süresi, model performansının temel göstergesi olmaktan çıkarılmalı; mühendislik verimliliği ve ölçekleme, iş başına marjinal entegrasyon maliyeti, doyum eşiği, embedding küme kapsamı ve dağılım kayma oranıyla değerlendirilmelidir
• Ne staging ile üretilen müdahale verisi ne de dar kapsamlı dağıtım verisi tek başına foundation model'i ölçekleyebilir
  • Yüksek hacimli staging, iş bazında kapsamı hızla doyurur ve azalan getiri yaratır
  • Ticari dağıtım, kârlı nişlerde yenilikten yoksundur ve her ortam için hata işleme amacıyla NRE maliyeti doğurur
• Gözlem kapsamına, tesadüfi hata taban sınırını düşürmek ve temel yeteneklerin sınırını genişletmek için düşük maliyetli ve yüksek çeşitlilikte veri öncelikli olarak ayrılmalıdır
• Müdahale staging'i, yalnızca işin doyum noktası (n_c)'ye kadar yapılmalı; kalan bütçe aynı işin tekrarına değil iş çeşitliliğine yeniden tahsis edilmelidir
• Dağıtım telemetrisinde, OOD edge-case'ler ile hata modları ayrıştırılmalı; bilgi yoğunluğu taşımayan büyük hacimli rutin başarılar elenmelidir
• İlk dağıtımlar bir miktar faydalı sinyal üretebilse de, başabaş öncesindeki sürekli operasyon sermaye tüketir
• Physical AI'da sermaye verimliliği, veri hacmini maksimize etmekle değil veri yeniliğine doğru fiyat biçme yeteneğiyle ölçeklenir