Google Web AI Summit 2024 özeti: geliştiriciler için istemci tarafı yapay zeka

• 18 Ekim 2024'te Google, ilk Web AI Summit'i düzenledi
• İstemci tarafında tarayıcı içindeki makine öğrenimi modellerini kullanarak çevrimdışıyken bile düşük gecikmeli çıkarım, maliyet tasarrufu ve gizlilik gibi özellikler sunulabiliyor

Öne çıkan oturumların özeti

• Transformers.js: web için modern makine öğrenimi

  • Transformers.js, Hugging Face'in Python Transformers kütüphanesiyle işlevsel olarak eşdeğer bir JavaScript kütüphanesidir ve doğrudan web'de kullanılabilir
  • 1.000'den fazla önceden eğitilmiş modeli destekler; metin, görsel, ses ve diğer farklı görevler ile modaliteleri kapsar
  • Kullanıcılar önceden eğitilmiş modeller arasından seçim yapabilir veya özel modelleri doğrudan tarayıcıda çalıştırabilir
  • WebGPU desteği sayesinde modern GPU yeteneklerinden yararlanarak modeller hızlı ve verimli şekilde çalıştırılabilir

• Web Neural Network (WebNN) API: bugün ve gelecek

  • WebNN API, istemci tarafında makine öğrenimi işlerini hızlı ve verimli biçimde çalıştırmak için önerilen yeni bir web standardı API'sidir
  • WebAssembly ve WebGPU kullanarak tarayıcı içinde yapay zeka hızlandırma yetenekleri sunar
  • Farklı cihazlarda yapay zeka iş yüklerini çalıştırabilmek için CPU, GPU ve NPU gibi donanım hızlandırıcılarını destekler
  • API'nin en güncel gelişmeleri, cihaz desteği, framework uyumluluğu ve tarayıcı uygulamaları ele alındı

• Intel'in Web AI PC teknolojisi

  • Intel, WebNN API'yi kullanarak istemci tarafı web ML hızlandırması sunuyor; bu sayede CPU, GPU ve NPU üzerinde yüksek performanslı çalıştırma mümkün oluyor
  • Şu anda Chrome ve Edge tarayıcılarında geliştirici önizlemesi olarak sunuluyor
  • ONNX Runtime Web ile entegre çalışarak çeşitli makine öğrenimi framework'lerinde kullanılabiliyor
  • Demolar ve erken kullanıcı geri bildirimleriyle, “native'e yakın” performans sunarak yeni web deneyimlerinin potansiyelini gösterdi

• ml5.js: web dostu makine öğrenimi

  • ml5.js, TensorFlow.js tabanlı açık kaynaklı bir kütüphanedir ve makine öğrenimini daha erişilebilir kılmak için tasarlanmıştır
  • Sanatçılar, yaratıcı kod yazarları ve öğrenciler için basit ve sezgisel bir arayüz sunar
  • p5.js ve Processing'in felsefesini devralarak kodun erişilebilirliğini artırır ve öğrenme sürecini kolaylaştırır
  • Görüntü tanıma, metin analizi ve poz kestirimi gibi çeşitli özellikler içerir; yeni başlayanlar da kolayca kullanabilir

• WebLLM: tarayıcı içinde yüksek performanslı LLM çıkarım motoru

  • WebLLM, büyük dil modellerini (LLM) doğrudan tarayıcıda çalıştırabilen yüksek performanslı bir çıkarım motorudur
  • WebGPU üzerinden GPU hızlandırmasından yararlanarak hızlı çıkarım performansı sunar
  • Tüm hesaplama istemci tarafında gerçekleştiği için gizlilik güçlenir ve kurulum gerekmez
  • OpenAI API tarzı bir arayüz sunarak standartlaştırılmış entegrasyonu mümkün kılar; sohbet uygulamaları, yapılandırılmış JSON üretimi gibi çeşitli kullanım senaryolarını destekler

• LangChain ile tarayıcı içi LLM uygulamalarını geliştirmek

  • LangChain, tarayıcıda çalışan küçük LLM'leri kullanan uygulamalar geliştirmek için bir framework'tür
  • Küçük modellerin sınırlarını aşmak için LangGraph.js ile durum tabanlı uygulamalar tasarlanıyor ve optimize edilmiş prompt teknikleri sunuluyor
  • Yerel LLM'lerin sunduğu avantajlardan (düşük gecikme, gizlilik) yararlanırken sınırlı performans sorunlarını çözmeye yönelik yöntemler ortaya kondu

• Visual Blocks: yapay zeka pipeline'larının görsel prototiplenmesi

  • Visual Blocks, basit bir sürükle-bırak arayüzüyle yapay zeka pipeline'larını hızlıca prototiplemeyi sağlayan görsel programlama platformudur
  • Gerçek zamanlı veri artırma ve test imkânı sunar; çeşitli özel düğümler ve pipeline'larla yaratıcı çözümler geliştirilebilir
  • Etkileşimli grafikler, LLM zincirleri, bilgisayarlı görü ve çok modlu çözümler dahil çeşitli yapay zeka uygulamaları gösterildi
  • Topluluk katkılarını teşvik ederek daha zengin bir ML pipeline ekosistemi oluşturmayı hedefliyor

• Chrome'un yerleşik yapay zeka özelliklerine genel bakış

  • Prompt API ve üst seviye görev API'lerinin (özetleme, metin yeniden yazımı vb.) mevcut durumu ve erken kullanıcı geri bildirimleri paylaşıldı
  • Chrome'un yerleşik yapay zeka özelliklerini kullanan çeşitli uygulamalar ve gelecek planları açıklandı
  • Yüksek performans ve istikrar için API optimizasyonları ve iyileştirmeler tanıtıldı

• TensorFlow.js ve tüketim ürünleri sektöründeki uygulama örnekleri

  • Brezilya'daki büyük bir tüketim ürünleri şirketinin TensorFlow.js kullanarak mağaza içi pazarlama stratejilerini geliştirdiği örnek paylaşıldı
  • Yapay zeka teknolojisiyle ürünler gerçek zamanlı olarak tanımlanıp analiz edildi
  • Proje açık kaynak olarak yayımlandı; böylece başka şirketler tarafından da kullanılabilir hale geldi ve sektör genelinde farklı kullanım örneklerine genişledi

• Chrome'un built-in API'lerini kullanma deneyimi

  • Chrome API'leriyle yapay zeka uygulamaları geliştirme deneyimi ve çıkarılan dersler anlatıldı
  • Yapay zeka tabanlı uygulamalarda performans optimizasyonu ve prompt tuning teknikleri tanıtıldı
  • Synonym Finder uygulaması üzerinden Prompt API'nin esnek kullanım yolları ve pratik ipuçları paylaşıldı

• Web uzantılarında yapay zeka kullanım potansiyeli

  • Chrome uzantıları, tarayıcı kontrolü, web içeriğini gözlemleme ve UI ekleme yetenekleri sayesinde yapay zeka ile birleştiğinde faydalı bir genişletilebilirlik sunuyor
  • Şu anda Web Store'da yer alan yapay zeka tabanlı uzantı örnekleri ve gelecekteki potansiyeller ele alındı
  • Yapay zeka ile Chrome uzantılarının entegrasyonunun gezinme deneyimini nasıl iyileştirip üretkenliği artırabileceği anlatıldı

• WebAI ile sağlık hizmetlerine erişimde dönüşüm

  • WebAI teknolojisini kullanan IncludeHealth, fizik tedaviyi sanal olarak sunarak hastaların istedikleri zaman ve yerde kişiselleştirilmiş tedavi almasını sağlıyor
  • Maliyet ve erişim engellerini azaltarak daha fazla hastanın tedaviye ulaşmasının önünü açıyor
  • Kişiselleştirilmiş verileri kullanarak daha doğru ve etkili tedavi sunuyor

• Google Sheets için Simple ML

  • Google Sheets eklentisi olarak sunulan Simple ML, kullanıcıların doğrudan e-tablolar içinde makine öğrenimi işleri yapmasını sağlıyor
  • WebAssembly, JavaScript ve Chrome'un yerleşik yapay zekasını kullanarak karmaşık makine öğrenimi görevleri basitleştiriyor
  • Açık kaynak kütüphane sayesinde diğer geliştiriciler de kendi ML çözümlerini kolayca geliştirebiliyor

[brain1401]

JSjoa