NotebookLlama - Google NotebookLM'nin açık kaynak sürümü
(github.com/meta-llama)- NotebookLlama tarifinin mevcut GitHub sayfası, uygulama dokümantasyonu değil; yeni konuma taşındığını bildiren bir yönlendirme sayfasıdır
- Yeni konum, Building a Notebook Llama: A Step-by-Step Guide belgesine yönlendirir
- Eski yolun gövdesinde aynı taşınma bildirimi tekrarlandığı için, gerçek içerik yeni belgede incelenmelidir
- Mevcut yer imleri ve betikler bu GitHub yoluna başvuruyorsa yeni URL'ye güncellenmeleri gerekir
- Mevcut sayfada kurulum, kod yapısı, çalıştırma adımları gibi NotebookLlama kullanımına dair bilgiler yer almaz
NotebookLlama tarifinin yeni konumu
- NotebookLlama tarifi, mevcut GitHub dizininden yeni bir konuma taşındı
- Yeni belgenin başlığı Building a Notebook Llama: A Step-by-Step Guide
Eski yolu kullanıyorsanız
- Mevcut yer imleriniz veya betikleriniz bu GitHub sayfasını işaret ediyorsa yeni belge URL'siyle değiştirmeniz gerekir
- Mevcut GitHub sayfasının gövdesinde taşınma bildirimi ve teşekkür ifadesi tekrarlanır
Mevcut sayfada bulunmayanlar
- Bu sayfada NotebookLlama'nın kurulum yöntemi, kod yapısı, çalıştırma adımları ve özellik açıklamaları yer almaz
1 yorum
Hacker News yorumları
NotebookLM “bölümlerini” dinledikçe, Google’ın mevcut çok modlu tabanlı modelinin üzerine doğrudan podcast üreten iki kişilik diyalog modeli eğitmiş olduğuna dair kanaatim güçleniyor.
İki konuşmacının birbirinin sözünü kesmesi ve üst üste konuşması ürpertici derecede insana benziyor.
Gerçek podcast’leri ve dökümlerini büyük ölçekte kullanıp, dökümlerden sentetik “girdi materyalleri” üreterek eğitim örneği olarak vermiş olmaları da mümkün görünüyor.
Örneğin The Daily’nin bir bölümünü alıp bir dil modeline o podcast içeriğini özetleyen hayali bir metin yazdırmak, ardından bu metni iki konuşmacılı modele verip çıkan sesi yazıya dökerek girdi metniyle ne kadar iyi örtüştüğüne bakmak gibi bir yöntem olabilir.
Önemli ayrıntıları kaçırıyor olabilirim ama bu podcast’in doğallığının yalnızca düz metin dökümlerinden çıkabileceğini sanmıyorum.
https://google-research.github.io/seanet/soundstorm/examples...
Ses modelini yöneten mühendisin konuk olduğu ilk podcast vardı: https://www.latent.space/p/notebooklm
Özetle senaryo ile sesin ayrı ayrı üretildiğini doğruladılar; ancak TTS modeli, açık kaynak ya da ticari olarak erişilebilenlerden çok daha ileri bir seviyede eğitilmiş durumda.
Bazen sunucu A konuşurken bir anda sunucu B o cümleyi tamamlıyor.
Genellikle bu durumda A, B’ye bir şey açıklıyor ya da bir soruyu yanıtlıyor olduğundan bağlam açısından mantıklı gelmiyor; nasıl yorumlamak gerekir bilmiyorum ama ilginç bir olgu.
Bu aslında oldukça açık biçimde açık kaynak değil: https://github.com/meta-llama/llama-recipes/blob/d83d0ae7f5c...
LICENSE dosyası da yok; bu yüzden şimdilik bu kodu en fazla referans amaçlı kullanabileceğimizi düşünüyorum.
Doğrudan kullanılamasa bile kamusal bilgiye katkı olarak yeterince takdir edilesi.
Burada Meta Llama 3.2 lisansına işaret ediyor.
Bunu görmek güzel. Teknoloji meraklıları NotebookLM’i görmezden gelirse risk alır.
Tanıdığım zeki ama pek teknik olmayan insanların çoğu NotebookLM’i ezici biçimde bir AI killer app gibi karşıladı.
70’lerindeki ebeveynlerim de 8 yaşındaki çocuğum da bunu görünce şaşırıp sürekli kurcalıyor.
Aşağıda birinin belirttiği gibi, burada kastettiğim tam olarak “podcast” özelliği.
Yani daha çok zaman yiyen bir araç gibi.
Bazı insanların, hatta geliştiricilerin bile okuyamaması ya da uzun metinlerden çekinmesi nedeniyle varlık nedeni kazanan videolara benziyor.
Çok kısa metin sayfalarına bile video eklemek zorunda kalınca ancak kısmen hafifleyen bir rekabet dezavantajı var.
Diğer podcast’leri görmezden geldiğim gibi bunu da görmezden gelirsem ne kaçıracağımı bilmiyorum.
Podcast’ten bir şey öğrendiğini söyleyen pek az kişi gördüm; genelde işe yaramayacak başka alanlardan dağınık bilgiler oluyor.
Son birkaç aydır NotebookLM benzeri bir şey, kişiselleştirilmiş haber podcast’i yapmaya çalışıyordum (https://www.tailoredpod.ai)
En büyük sorun, mevcut iyi TTS API’lerinin çok pahalı olması; bu yüzden Google modeline dahili erişimi olmayan sıradan bir şirketin NotebookLM gibi bir ürün geliştirmesi zor.
OpenAI fiyat/kalite açısından nispeten makul bir TTS API sunuyor ama yine de saatlerce sesi ücretsiz üretmek için fazla pahalı.
Açık kaynak TTS modelleri de yavaş yavaş yetişiyor ama hâlâ güçlü donanım gerektiriyor. Örn: https://github.com/SWivid/F5-TTS
TTS motoru seçimi epey garip.
Açık TTS sistemleri ölçüt alındığında hiçbiri son teknolojiye yakın değil.
XTTSv2 ya da yeni F5-TTS çok daha iyi bir seçim olurdu.
Meta’nın GitHub’da bir şey yayımlaması, “en iyiyi” sunmaktan çok kavram kanıtı vermeye yakın.
Bu TTS sistemlerinin lisansları da önemli; yalnızca açık olmaları yeterli değil.
Kullanıcılara yönelik bir ürün olsaydı kesinlikle daha iyi bir TTS kullanırlardı.
“Ses modeli denemeleri: TTS modelinin doğal duyulma derecesinin sınırı bu. Daha iyi bir pipeline ve konuyu daha iyi bilen birinin yardımıyla iyileştirilebilir. PR’lar memnuniyetle karşılanır! :)”
Örnek çıktı çok kötü
Harika bir demo olsa da, NotebookLM ekibinin zaten kullanılabilir olanlarla neredeyse aynı temel modellerle ne kadar büyük bir hit ürün ortaya çıkardığını daha da vurguluyor
Bu, açık kaynak bir NotebookLM olmaktan ziyade iPython notebook içinde birkaç deneye daha yakın görünüyor
NotebookLM’in LLM düzeyinde yaptığı şey özellikle yeni değil; ilginç olanın, diğer ürünlerden farklı olarak bunu ürün olarak paketleme biçimi olduğunu düşünüyorum
“Podcast” kısmı da aslında büyük bir derleme/metin bütünü için bir giriş ya da genel bakışa daha yakın; çok daha faydalı olan, o derleme hakkında bir botla konuşurken alıntı kaynakları alabilme özelliği
Yine de bu örnek, LLM ile prototiplemenin çok hızlı olduğunu gösteriyor
API’ye henüz dokunmamış olanlara denemelerini öneririm
NotebookLM’in yeniliği, iki sunucunun birbirinin sözünü kesmesi ve konuşmalarının üst üste binmesi biçiminde
Diğer açık kaynak çözümler bunu yapamıyor; sadece sırayla konuşuyorlar
LLaMA modellerini destekleyen, Jupyter tabanlı başka bir notebook çözümü de var: https://raku.land/zef:antononcube/Jupyter::Chatbook
Demo videosu burada: https://youtu.be/zVX-SqRfFPA
Bu sadece podcast mi oluşturuyor?
NotebookLM’in diğer özellikleriyle daha çok ilgileniyorum
Podcast eğlenceli ama daha çok bir gimmick gibi
Normalde sindiremeyeceğim karmaşık bilgileri anlamam için iyi bir sistem ve mecra oldu
Bunu telefonda yerel olarak çalıştırabilmek epey güzel olurdu
İş belgelerini, örneğin bir ürün gereksinimleri dokümanı aldığında, sürüş sırasında dinlenebilecek bir podcast’e dönüştürdüğü bir durumu hayal ediyorum
Verimliliği ciddi ölçüde artırır ve uyumluluk sorunları için de endişelenmek gerekmez gibi geliyor