- Meta FAIR, gelişmiş makine zekâsı araştırmaları için ajanlar, sağlamlık ve güvenlik ile model mimarilerini ele alan 9 çıktıyı kod, model, veri kümesi ve demo biçiminde yayımladı
- Öne çıkan yayımlar arasında sanal insansı kontrolü için Meta Motivo, video watermarking için Meta Video Seal, Flow Matching kod tabanı, Explore Theory-of-Mind ve Large Concept Model yer alıyor
- Meta Motivo, etiketsiz hareket verileri ve yeni bir algoritmayla durum, hareket ve ödülü aynı gizil uzaya yerleştirerek ek eğitim veya planlama olmadan tüm vücut kontrol görevlerini yerine getiriyor
- Meta Video Seal, videolara görünmez watermark ve isteğe bağlı gizli mesajlar yerleştiriyor; bulanıklaştırma, kırpma ve çevrimiçi paylaşım sıkıştırması gibi yaygın düzenlemelere dayanacak şekilde tasarlandı
- Araştırmacılar yayımlanan çıktıları indirip deney, entegrasyon ve genişletme için kullanabilir; Meta tekrarlanabilir açık bilimi ve açık ekosistemi vurguluyor
Meta FAIR'ın yayımladığı kapsam
- Meta FAIR, en yeni araştırmaları, kodları, modelleri ve veri kümelerini araştırma topluluğuna açtı
- Bu yayın üç eksene odaklanıyor
- Daha yetenekli ajanlar oluşturmak
- Sağlamlık ve güvenlik
- Modellerin yeni bilgileri daha etkili öğrenmesini ve mevcut sınırların ötesine ölçeklenmesini sağlayan mimari inovasyonlar
- Toplam 9 proje ve çıktı hemen indirilebilir ve kullanılabilir durumda
- Erken araştırma yayımlarıyla yinelemeli araştırmayı teşvik etme ve yapay zekâ ilerlemesini sorumlu biçimde ileri taşıma hedefleniyor
Meta Motivo: Sanal insansı davranış kontrolü için temel model
- Meta Motivo, sanal bedenlenmiş insansı ajanların hareketini kontrol ederek karmaşık görevler gerçekleştiren davranış tabanlı bir modeldir
- Mevcut gözetimsiz pekiştirmeli öğrenme yaklaşımları çoğu zaman özenle hazırlanmış etkileşim veri kümeleri gerektirir veya hedef görevle iyi örtüşmeyen politikalar üretebilen gözetimsiz kayıplara dayanır
- Meta Motivo, etiketsiz hareket veri kümelerinden yararlanan yeni bir algoritmayla eğitilir
- Durum, hareket ve ödülü aynı gizil uzaya gömen bir temsil öğrenir
- Ek eğitim veya planlama olmadan hareket izleme, hedef poza ulaşma ve ödül optimizasyonu gibi tüm vücut kontrol görevlerini çözer
- Performansı göreve özel yöntemlerle rekabet edebilir düzeydedir; en güncel gözetimsiz pekiştirmeli öğrenme ve model tabanlı baseline'lardan daha iyidir
- Eğitimde görülmemiş yerçekimi, rüzgâr ve doğrudan bozucu etkiler gibi çevresel değişimlere karşı yüksek sağlamlık gösterir
- Bu araştırma Metaverse'te tamamen bedenlenmiş ajanlara, daha canlı NPC'lere, karakter animasyonunun demokratikleşmesine ve yeni sürükleyici deneyimlere yol açabilir
- Makaleyi okuyun
- Demoyu deneyin
- Kodu ve modeli indirin
Meta Video Seal: Açık kaynak video watermarking
- Meta Video Seal, sinir ağı tabanlı video watermarking için güncel bir framework'tür
- Videoya gözle görünmeyen watermark ekler ve isteğe bağlı olarak gizli mesaj da içerebilir
- Eklenen watermark daha sonra çıkarılarak videonun kaynağını doğrulamada kullanılabilir
- Yaygın video düzenleme ve paylaşım süreçlerine dayanıklı olacak şekilde tasarlanmıştır
- Bulanıklaştırma
- Kırpma
- Çevrimiçi içerik paylaşımında yaygın kullanılan sıkıştırma algoritmaları
- Video Seal modeli izin verici bir lisansla yayımlanıyor; makale, eğitim kodu, çıkarım kodu ve demo da birlikte sunuluyor
- İlgili watermarking çıktıları da birlikte yayımlandı
- Meta Omni Seal Bench: Birden çok modalitede sinir ağı watermarking'ini kapsayan leaderboard
- Meta Watermark Anything: İzin verici lisansla yeniden yayımlandı
- 2025 ICLR watermarking workshop'u
- Watermark Anything, Video Seal ve Audio Seal indirilebilir ve entegre edilebilir durumda sunuluyor
- Makaleyi okuyun
- Demoyu deneyin
- Video Seal kodunu ve modelini indirin
- Watermark Anything kodunu ve modelini indirin
- Omni Seal Bench leaderboard'unu görüntüleyin
Flow Matching kılavuzu ve kod tabanı
- Flow Matching, görüntü, video, ses, müzik ve proteinler gibi 3B yapılar dahil çeşitli modalitelerde kullanılan bir üretim paradigmasıdır
- Meta içinde mevcut difüzyon yaklaşımlarının yerini birçok üretken uygulamada alıyor
- Meta Movie Gen
- Meta Audiobox
- Meta Melody Flow
- Sektörde Stable-Diffusion-3, Flux, Fold-Flow ve Physical Intelligence Pi_0 gibi örnekler var
- Flow Matching, performans ve verimliliği artıran ve karmaşık verilere genelleştirmeyi kolaylaştıran basit ama esnek bir üretken yapay zekâ framework'üdür
- Yayımlananlar arasında makale, sürekli ve ayrık Flow Matching'in temel implementasyonu ve güncel eğitim script'leri yer alıyor
- Makaleyi okuyun
- Kodu indirin
Explore Theory-of-Mind: Zihin kuramı muhakemesi için veri üretimi
- Meta Explore Theory-of-Mind, zihin kuramı muhakemesi için program rehberli karşıt veri üretim framework'üdür
- Mevcut Theory-of-Mind veri kümelerinin yalnızca değerlendirmeye odaklanması ve dar bir etkileşim aralığını kapsaması gibi sınırlamaları vardır
- Bu framework, hem eğitim hem de değerlendirme için kullanılabilecek çeşitli, zor ve ölçeklenebilir ToM muhakeme verileri üretir
- Büyük dil modellerinin sınırlarını test eden sağlam ve güvenilir hikâyeler oluşturabilir
- Llama-3.1 7B fine-tuning yapıldığında yaygın kullanılan ToMi benchmark'ında 27 puan doğruluk artışı elde etti
- Kullanım alanları arasında LLM iyileştirme için veri kümesi üretimi, hedef odaklı senaryoların güçlendirilmesi, etkileşim veri kümesi toplama ve LLM performans değerlendirme benchmark'ları bulunur
- Makaleyi okuyun
- Kodu indirin
- Veri kümesini indirin
Large Concept Model: Token yerine kavram tahmini
- Large Concept Model(LCM), dil modelleme için farklı bir eğitim paradigmasıdır
- Güncel ana akım dil modelleri genellikle token düzeyinde çalışır ve hiyerarşik biçimde açıkça akıl yürütmez
- LCM'nin özü akıl yürütme ile dilsel ifadeyi ayırmaktır
- İnsanların sunum yaparken aynı fikir sırasını koruyup kelime seçimlerini her seferinde değiştirebilmesinden ilham alır
- LCM, bir sonraki token'ı değil, bir sonraki kavramı veya üst düzey fikri tahmin edecek şekilde eğitilir
- Kavramlar, multimodal ve çok dilli embedding uzayında tüm cümleler olarak temsil edilir
- Özetleme gibi tamamen üretim odaklı görevlerde son dönem LLM'lerden daha iyi veya benzer performans gösterir ve görülmemiş dillerde de güçlü zero-shot genelleme sağlar
- Girdi bağlamı uzadıkça hesaplama verimliliği de artar
- Makaleyi okuyun
- Kodu indirin
Dynamic Byte Latent Transformer: Tokenizer'sız bayt düzeyi model
- Dynamic Byte Latent Transformer, dinamik patching yaklaşımı kullanan hiyerarşik bir bayt düzeyi modeldir
- Mevcut dil modelleri, metni sezgisel bir ön işleme adımında token'lara ayırır; bu da uçtan uca öğrenmeyi sınırlar, pratik optimizasyonu zorlaştırır ve nadir metin dizilerindeki performansı olumsuz etkileyebilir
- Bu model, tokenization sezgiselleri olmadan baytlar üzerinde çalışır
- Eğitim ve çıkarımda uzun dizilerin işlenme verimliliğini de artırır
- Tokenizer tabanlı modellere göre sağlamlıkta ortalama 7 puan üstünlük gösterir
- Görülmemiş sembollerin long-tail ve nadir dizilerini işlemede güçlüdür
- Bu yaklaşım, düşük kaynaklı diller, kodlama ve olgusallık gibi alanlarda muhakemenin ilerlemesine yardımcı olabilir
- Makaleyi okuyun
- Kodu indirin
Meta Memory Layers: Olgusal bilgiler için seyrek bellek ölçeklemesi
- Meta Memory Layers at Scale, bellek katmanlarını ölçekleyerek yaygın olgusallık benchmark'larında olgusallığı artırma yöntemidir
- Parametrik bellek, ön eğitim sırasında sinir ağı ağırlıklarında saklanan olgusal bilgi deposudur ve LLM'lerin karmaşık kavramları ve dilsel nüansları anlamasına katkıda bulunur
- Mevcut ölçekleme yaklaşımları verimli genişlemenin sınırlarına yaklaşırken, bilgiyi daha etkili öğrenen yeni mimarilere ihtiyaç doğdu
- Memory Layers, öğrenilebilir bir anahtar-değer arama mekanizmasıyla FLOPs artışı olmadan modele ek parametreler katar
- Seyrek etkinleşen bellek katmanları, hesaplama açısından yoğun feedforward katmanları tamamlar ve bilgiyi düşük maliyetle saklayıp getirmek için özel kapasite sağlar
- İyileştirilmiş bellek katmanları eklenmiş dil modelleri, downstream görevlerde şu modellerden daha iyi performans gösterir
- Hesaplama bütçesi 2 kattan fazla olan yoğun modeller
- Hesaplama miktarı ve parametreleri eşleştirilmiş MoE modelleri
- Seyrek bellek mimarilerinin rekabetçi biçimde ölçeklenmesinin zor olduğu yönündeki yaygın kanının aksine, 128B parametreye ve 8B taban modele kadar verimli biçimde ölçeklendi ve yaygın olgusallık benchmark'larında benzer hesaplama miktarına göre iyileşme gösterdi
- Makaleyi okuyun
- Kodu indirin
Image Diversity Modeling ve EvalGIM
- FAIR, görüntü üretim modellerinin güvenli geliştirilmesini anlamak ve yeni yöntemler oluşturmak için araştırmalar yürütüyor
- Araştırma sürecinde geliştirilen görüntü üretim modeli, üretici model mimarisi ve kayıp fonksiyonları üzerine önceki araştırmalara dayanıyor
- Bu model, son teknoloji modellerle rekabet edebilecek görüntü kalitesini korurken fiziksel dünyayı temsil eden görüntülerin üretilmesine öncelik veriyor
- Dış uzmanlar, görüntü çeşitliliği modellemesi genelinde güvenliği ve sorumluluğu iyileştirebilecek alanları araştırmak için modeli kullanabilir
- Metinden görüntü üretim modelleri için kapsamlı bir değerlendirme araç kutusu da açık kaynak olarak yayımlanacak
- Görüntü üretimi benchmark'larının kolaylığını ve tekrarlanabilirliğini artırır
- Sorumlu metinden görüntü araştırmasına yardımcı olan yorumlanabilir sonuçları teşvik eder
- Makaleyi okuyun
- Kodu indirin
Meta CLIP 1.2: Görü-dil encoder'ı ve veri kürasyonu
- Meta CLIP 1.2, yüksek performanslı görü-dil encoder'ları geliştirmeye yönelik bir yayımdır
- Meta, büyük ölçekli görüntü-metin verilerini etkili biçimde kürate eden ve hizalayan algoritmalar geliştirerek modellerin dünya hakkında insan bilgisini öğrenmesini sağladı
- Büyük ölçekli, yüksek kaliteli ve çeşitli veri kümeleri, dünya hakkında öğrenen temel modeller oluşturmak için gereklidir
- Meta CLIP, bu tür veri kümelerini ve temel modelleri oluşturmak için Meta'nın yürüttüğü çalışmadır
- Yüksek kaliteli ve güvenli görü-dil encoder temel modelleri için veri kürasyonu ve hizalama algoritmaları geliştirildi; bütünlük ve gizlilik koruma önlemleri uygulandı
- Yayımlananlar, araştırmacılar ve geliştiriciler tarafından görü-dil anlayışını ilerletmek için kullanılabilir
- Veri algoritmaları
- Eğitim tarifleri
- Kürate edilmiş veri kümeleriyle eğitilmiş temel modeller
- Kullanım örnekleri arasında MLLM'ler için görsel encoding, arama için multimodal embedding'ler, zero-shot sınıflandırma ve veri kalitesi araştırması için başlangıç noktası yer alır
- Algoritmalar ve eğitim yöntemleri, yüksek kaliteli büyük ölçekli CLIP benzeri veri kümelerini sıfırdan oluşturmak için de kullanılabilir
- Makaleyi okuyun
- Veri kümesini indirin
- Kodu indirin
- Modeli indirin
1 yorum
Hacker News görüşleri
Burada gerçekten çok ilginç şey var; özellikle LLM ile ilgili fikirler göze çarpıyor
Tokenlar yerine kavramları ele alıp tahmin eden büyük kavram modeli, standart tokenlaştırmaya bayt düzeyinde bir alternatif olan dinamik bayt gizil transformer, hesaplama gereksinimini artırmadan anahtar-değer bellek katmanını genişleten seyrek bellek katmanı gibi yaklaşımlar; kaliteyi ya da verimliliği artırmanın ayrı ayrı yolları olarak sunulmuş
Bu yöntemlerin hepsi bir araya gelirse kalite ve verimliliğin ne kadar artacağını merak ediyorum; belki de bu Llama 4 olabilir diye düşünüyorum
Şimdiye kadar yayımlanan Llama'larda çıkarım mimarisi neredeyse aynıydı; esas olarak eğitim hattı daha iyi hâle getirilmişti
Dezavantajı, llamacpp'nin yeni modeli çalıştıramama ihtimali ve hatta büyük bir yeniden yazım gerekebileceği için yeni C, C++, Go, Rust programlarına ihtiyaç doğabilecek olması
Benzer belgeler veya demolar hazırlıyorum; bir dokümantasyon sayfası olsaydı her bölümü başlık, içerik, kod bağlantısı ve makale bağlantısı olarak tutarlı biçimde düzenleyebilirdim
Ama bu sayfanın kendisi bir blog yazısı olduğu için gelecek yıl tekrar bulmak zor olacak gibi
Şirketlerin teknik özetleri iyi düzenleyip ana sayfadan da sürekli bulunabilir kıldığı başka örnekler var mı?
Elbette “açık kaynak” değil, ama kullanılabilir şekilde açık tutuyor ve araştırmaları da kamuya açık biçimde yayımlıyor
Gerçekten harika
İlk demoyla oynamak çok eğlenceli; modeli moonwalk yaptıran kişinin kazandığı bir oyun gibi
Benim en iyi denemem muhtemelen
(body_speed_forward < -0.3) * (head_height > 1.0) * (stay_still > 0.2) * (body_speed_vertical < 0.1) * (stay_upright > 0.9)civarındaydıhttps://i.imgur.com/O5hGMo5.gif
Ayrıca “Meta Explore Theory of Mind” daha da ilginç
Yaklaşık bir ay önce de “inanç” gibi kavramlar ve buna göre dünya modelini güncellemek üzerine konuşulan bir başlık vardı
https://news.ycombinator.com/item?id=42035985
Dinamik bayt gizil transformerın başarılı olmasını umuyorum
Tokenizer'ların artık ortadan kalkmasını istiyorum
Hiyerarşik bir yapı olmasına rağmen yalnızca iki katmanlı olması da ilginç; daha fazla katman eklemek sonraki araştırmalar için doğal bir yön gibi görünüyor
İyi bir araştırma yönü olduğunu düşünüyorum
Ancak tek seferde yapmak için biraz fazla ve FLOP bütçesinin hiyerarşinin tamamına nasıl dağıtılacağı konusunda da dikkatli olmak gerekiyor
İki aşamalı olursa bir tarafı bayt/yerel kodlayıcı olarak FLOP açısından verimli hâle getirip diğer tarafı yama/küresel kodlayıcı olarak FLOP'u yoğun kullanacak şekilde tasarlayabilirsiniz
Yamaları daha büyük birimlerde gruplamanın yolunu da bulmak gerekiyor, ama buradan devam edilebilecek çok yön var
Meta'nın bunu yapmasının iş tarafındaki arka planını düşünürsek, elinde 70 milyar dolar nakit varken AI uzmanlarına yüz milyonlarca dolar ödemek bozuk para gibi görünüyor
AI aniden programcı verimliliğini ciddi biçimde artırabilir, açık tespitinde çok iyi hâle gelebilir, AI sohbeti yeni ve büyük bir eğlence biçimine dönüşebilir ya da AI görselleri Instagram'da yaygın paylaşılan içerik olabilir
Bunlardan biri bile gerçekleştiğinde Facebook, şirket içi geliştiriciler veya araçlar ya da uygulama içi gömmeler için en ileri seviye modellere erişip onları özelleştirmek isteyebilir
Ama bu erişimin tek yolu OpenAI gibi model satıcılarıyla 7 ila 9 haneli sözleşmeler yapmaksa, bu berbat olur
Daha da kötüsü, reklam alanındaki başlıca rakiplerden biri reklamverenlerin kreatifleri çeşitli formatlara uyarlamasına yardımcı olacak güçlü AI araçları sunmaya başlayabilir
O zaman Facebook ciddi biçimde geride kalır; OpenAI gibi şirketlere milyonlarca dolar öderken her çeyrekte milyarlarca dolarlık reklam payı kaybedebilir
Bu en kötü senaryo gerçekleşirse Facebook aptal görünür; bunlardan birinin bile olasılığı varsa yatırım mantıklıdır
Açık kaynak ya da Meta'yı çalışmak için harika bir yer hâline getirme etkisi ise ek bir stratejik bonus
OpenAI çok başarılı olup tek seçenek hâline gelirse, bu hizmeti kullanan herkesten muazzam tekel rantı talep edebilir
Bu yüzden diğer şirketlerin ya da AI kullanmak isteyen herkesin çıkarına olan, AI ekosisteminde çok sayıda rakibin bulunması ve fiyatların düşük kalmasıdır
Facebook çeşitli uygulamalarda reklam alanı satıyor; bu reklam alanının değerli olması için insanların uygulamalarda olması gerekiyor
İnsanların uygulamalarda olması için onları çekecek içerik gerekiyor
Dolayısıyla basit: birey ya da şirket fark etmeksizin herkesin ucuza büyük miktarda içerik üretmesini ve bunu uygulamalarda paylaşmasını sağlamak yeterli
Yakın zamanda AI Engineer London buluşmasında eski Meta çalışanı Ross Taylor'ın sunumunu dinleme fırsatım oldu
Sunumun tam videosu da yayımlanmış
https://www.youtube.com/watch?v=S5l5OvJ01ws
Meta'nın akıl yürütme ve zihin kuramı tarafında ne kadar çok iş yaptığını kaçırmışım
o1'i bağlamına oturtmaya yardımcı oluyor
OpenAI, Google ve Meta'nın yayımlama hızı bu kadar yüksekken sıranın Anthropic'e geldiğini düşünüyorum
Metni temizlemem gerektiği her seferinde, neden sadece bayt düzeyinde gürültü gideren bir otoenkoder eğitip işi ona yaptırmadığımızı düşünüyorum
Görü alanında küresel ve yerel bağlamı verimli biçimde yakaladıkları için, metin verilerinde de U-Net ya da hourglass net denemek nasıl olur diye hep merak ettim ama kendim denemedim
Biri, yapay zeka videolarına gönüllü olarak filigran eklemenin yapay zekayı daha güvenli hale getirmeye nasıl yardımcı olduğunu açıklayabilir mi?
Yani amaç gönüllülük değil, bunu hizmet katmanında uygulamak.
Sonunda yalnızca mevcut Big Tech kurallarına uymayan hizmetler kalabilir.
Örneğin Grok/X.ai’nin kalitesi daha düşük olsa da, insanların Trump yanlısı görseller üretmek için Grok/X.ai kullanması gibi.
https://arstechnica.com/information-technology/2024/08/musks...
Önümüzdeki birkaç yıl içinde büyük ülkelerin ya da oligarkların çoğunun karşılayabileceği bir seviyeye inecek gibi görünüyor; hatta belki şimdiden öyledir.
Bu yüzden herkesin filigranlamayı gönüllü bir şey olarak anlaması en gerçekçi yaklaşım gibi.
Bence şu anda görüntü ve videolar, belirli bir olgunun kanıtı olarak bit değerleri kadar bile değer taşımıyor.
İnanılmaz derecede ilginç şeyler.
Herkes bunların ne kadar heyecan verici olduğundan, özellikle LCM ve token’laştırmayan tokenizer’dan söz ediyor; ama izleyen biri varsa sormak isterim:
Neden “advanced machine intelligence” terimini kullanıyorlar?
İlk aklıma gelen, kıyamet senaryosu savunanları yatıştırmaya ya da dikkatlerini dağıtmaya çalıştıklarıydı; ama belki de sadece fazla alıngan davranıyorum.
AMI, AGI’den ayrılan bir terimdi.
Ancak son birkaç yılda A, bağlama göre autonomous, advanced, augmented olarak değişti.
[1] https://openreview.net/pdf?id=BZ5a1r-kVsf
Meta’nın imajı kesinlikle düzeldi ve yapay zekanın hendeksiz bir teknoloji haline gelmesine yardımcı oluyor.
Yapay zekayı genelleştirirseniz çeşitli işler ortaya çıkar; bu işler de müşterilere Meta platformları üzerinden ulaşır.
Aynı anda yaklaşık 10 yeni mimariyi öğreniyormuşum gibi geliyor.