Mozilla Common Voice, topluluk tabanlı bir ses veri kümesi platformu

 (commonvoice.mozilla.org)
1 puan yazan GN⁺ 2023-12-08 | 1 yorum | WhatsApp'ta paylaş
  • Mozilla Common Voice, topluluğun doğrudan metin ve ses veri kümeleri oluşturup paylaşmasına olanak tanıyan ücretsiz ve açık kaynaklı bir platformdur; böylece daha fazla dilde ses teknolojileri kullanılabilir
  • Katkıda bulunanlar cümle okuma, okuma doğrulama, soru yanıtlama, ses transkripsiyonu ve metin ekleme yoluyla Scripted Speech, Spontaneous Speech ve Language Text verilerine katkı sağlayabilir
  • Platform 290'dan fazla dil topluluğunu destekler ve herkese açık ses veri kümeleri 130'dan fazla dilde sunulur
  • Veri kümeleri ASR, STT, TTS ve diğer NLP amaçları için kullanılabilir; yeni sürümler Mozilla Data Collective üzerinden indirilebilir
  • Mozilla Data Collective üyeleri, topluluk tarafından oluşturulan ve kullanılan 500'den fazla küresel veri kümesine erişebilir; böylece dil verisini edinme ve paylaşmanın merkezi oraya kaymaktadır

Common Voice'un çözmeye çalıştığı şey

  • Mozilla Common Voice, topluluk öncülüğünde bir veri üretim platformudur
  • Herkes kendi dilini korumak, yeniden canlandırmak ve genişletmek için metin ve ses veri kümelerini paylaşabilir, oluşturabilir ve kürate edebilir
  • Amaç, yapay zekanın yalnızca bazı dillerde çalışmamasını sağlamak için insanların ihtiyaç duyduğu dil veri kümelerini doğrudan üretmesidir
  • Common Voice, dünyanın dört bir yanındaki topluluklar tarafından yürütülür ve 290'dan fazla dile doğru genişlemektedir

Katkı yöntemleri ve veri kümelerinin kullanımı

  • Scripted Speech

    • Kullanıcılar cümle okuma yoluyla kendi dillerindeki sesi herkese açık katılımlı veri kümesine ekler
    • Diğer kullanıcılar Validate Readings bölümünde okumaları doğrulayabilir

  • Spontaneous Speech

    • Kullanıcılar istemlere yanıt vererek doğal ve konuşma dili odaklı bağlamda veri kümeleri oluşturur
    • Ses öncelikli diller için uygun bir yöntem olarak kullanılabilir
    • Transcribe answers ve inceleme özellikleriyle transkripsiyon çalışmalarına katılınabilir

  • Language Text

    • Kamu malı istemler, cümleler ve metinler oluşturulabilir ya da paylaşılabilir
    • Çeviri, küçük dil modelleri ve diğer amaçlar için kullanılabilir
    • Yeni sürümler Mozilla Data Collective üzerinde sunulur ve üye olunca 500'den fazla küresel veri kümesine erişilebilir
    • Explore datasets bölümünde ASR, STT, TTS ve diğer NLP bağlamlarında kullanılan 130'dan fazla dildeki herkese açık ses veri kümeleri görülebilir
    • Partnerler sivil toplum ve araştırmacılar, teknoloji şirketleri ve hayır kurumları olarak ayrılır
    • Sivil toplum ve araştırmacılar etkili veri kümelerini ücretsiz olarak oluşturabilir, barındırabilir ve paylaşabilir
    • Teknoloji şirketleri çok dilli yapay zeka ekosistemi için açık veri kümesi üretimine yatırım yapabilir
    • Hayır kurumları yerel yenilik ve kalkınma için veri kümesi üretimine destek olabilir

İlgili okumalar

1 yorum

 
GN⁺ 2023-12-08
Hacker News yorumları

  • Firefox'un TTS'i, kolayca kullanılabilen bir metin okuma sistemine ihtiyaç duyanlar için önemli bir proje
    Tarayıcıya yerleşik olduğu için konsolda window.speechSynthesis ve SpeechSynthesisUtterance çalıştırarak çeşitli ses örneklerini hemen dinleyebilirsiniz
    Tarayıcıya bağlı olarak çevrimdışı çalışabildiği gibi bulut tabanlı TTS de kullanabiliyor

    • macOS'te say "enter text here" ile yapılabiliyor; başka bir ses seçmek için say -v Fred "enter text here", ses listesini görmek içinse say -v "?" kullanılabilir
      ? işaretinin ZSH tarafından glob olarak yorumlanmaması için tırnak işaretleri gerekiyor
      Firefox'un TTS'inin önemli olduğu söylense de bu yoruma kadar varlığından bile haberdar değildim; böyle özelliklerin daha kolay keşfedilebilir ve erişilebilirliği daha iyi bir API'si olmalı
    • speechSynthesis yalnızca Firefox'ta değil, başlıca tarayıcıların genelinde destekleniyor gibi görünüyor: https://developer.mozilla.org/en-US/docs/Web/API/Window/spee...
    • Birkaç gün önce Common Voice'u denedim; belirli bir dile yardımcı olmak isteyenler için topluluk sayfası örneği iyiydi
      Firefox'un çok hızlandığını ve yeniden dönmeye değdiğini düşünüyordum; gizlilik, güvenlik ve bağımsızlığa önem veren bağımsız bir tarayıcının önemli olduğunu düşünenlerdenseniz, tarayıcıyı hafife alıp sürekli değiştirenlerin bile Firefox'u denemesinde fayda var
      Chrome tabanlı tarayıcılarda aynı şekilde çalışmayan birkaç Firefox eklentisini yeniden kullanabildiğim için memnunum
    • Hata ayıklarken kaçırılmaması gereken önemli mesajları stderre ek olarak Windows'un ücretsiz TTS sesleriyle PowerShell üzerinden çalıştırıp ya da Chrome'dan WebSocket ile çağırıp okutmayı denemiştim; epey eğlenceliydi
      Seçilebilecek daha fazla ses olması güzel
    • Bunun bağımsız bir kütüphane olarak ayrıldığı oldu mu merak ediyorum
      Açık kaynak TTS'in durumu pek iyi görünmüyor; tek bir ses için gereken veriyi hazırlamak, Whisper gibi bir konuşma tanıma sistemini eğitmekten daha zor olabilir gibi geliyor

  • Common Voice Android de önerilebilir: https://github.com/Sav22999/common-voice-android
    Projeye katkıda bulunmak isteyenler için kullanışlı bir uygulama; konuşabildiğiniz dillerde ses kaydedebilir veya diğer kullanıcıların katkılarını doğrulayabilirsiniz
    Yaklaşık 2 yıl önce sık katkı yapıyordum; tasarımı resmi web sitesinden çok daha kullanışlıydı
    Resmi Common Voice Matrix kanalı da var: https://chat.mozilla.org/#/room/#common-voice:mozilla.org

  • Son dönemdeki yapay zeka ve deepfake teknolojilerine bakınca, böyle yerlere “sesimi bağışlamadan” önce bir ölçüde güvenceye ihtiyaç var
    Bu proje ses üretimi için değil, konuşma tanıma için gibi görünüyor; ama ilk bakışta bu net değil

    • “Güvence” doğru ifade mi bilmiyorum ama makine öğrenimi ve üretken modeller etrafında insanların mülkiyetine saygı gösterme tavrı epey gevşek göründüğü için “sesinizi bağışlayın” ifadesi takıldı
      Mozilla muhtemelen uygun bir kuruluş olur, ancak ana ürünü gerileme döneminde ve kuruluş ortadan kalkarsa bu veriye ne olacağını bilmiyorum
      Ölmekte olan kuruluşlar parça parça satılma eğiliminde oluyor; bu veri de çok daha az soylu amaçlara sahip birçok şirketin ilgisini çekecek bir fikri mülkiyet olabilir
    • Ne tür bir güvence görmek istediğini merak ediyorum

  • Bu tür kitle kaynaklı veri setleri ve OpenAssistant projesinin oluşturduğu veri setleri, mahkemeler OpenAI gibi şirketlerin eylemlerinin adil kullanım olmadığına hükmederse temel modeller üretmenin neredeyse tek yolu haline gelebilir
    Böyle bir senaryonun pek de düşük olasılıklı olduğunu düşünmüyorum

  • Bu veri seti, Whisper veya Seamless gibi yakın tarihli ses modellerinin eğitildiği verilerden birkaç mertebe daha küçük ve daha bol verili özdenetimli öğrenme için değil, denetimli öğrenme için; yine de faydalı olabilir
    Mevcut modelleri belirli bir dilde daha iyi puan alacak şekilde ince ayarlamak için kullanılabilir

  • Mozilla'nın eskiden ilgili bir konuşma tanıma yazılımı da vardı; sonra durdurmuş ya da başka bir şirkete devretmiş olabilir diye hatırlıyorum

    • DeepSpeech'ten mi bahsediyorsun? https://github.com/mozilla/DeepSpeech
    • Bu, model eğitimi için herkese açık bir ses örnekleri veri seti; yani teknik olarak konuşma tanıma ya da TTS yazılımı değil

  • Harika
    OpenAI'dan beklediğim şeylerden biri, gerçekten açık bir kuruluş olmasıydı
    Açık veri setleri, açık kod, açık modeller, açık değerlendirmeler bekliyordum; ama artık şirket kâr hedeflerine göre hareket eden Microsoft'un kuklası haline geldi
    Bu tür projeler ve HuggingFace güzel görünüyor; umarım HuggingFace de GitHub gibi Microsoft tarafından satın alınmaz

  • Öyleyse Linux Firefox'un okuma modundaki text2speech neden bu kadar berbat, bilmiyorum
    Okuma modunun kendisi harika ama ses kalitesi Stephen Hawking'in metin okuma sisteminden bile çok daha kötü

  • İlgili HN gönderileri:
    Mozilla Common Voice Adds 16 New Languages and 4,600 New Hours of Speech - https://news.ycombinator.com/item?id=28073016 - Ağustos 2021, 170 yorum
    Firefox Voice - https://news.ycombinator.com/item?id=24096082 - Ağustos 2020, 154 yorum
    Firefox Voice: Browse the web with your voice - https://news.ycombinator.com/item?id=23902560 - Temmuz 2020, 2 yorum
    Mozilla Common Voice Dataset: More data, more languages - https://news.ycombinator.com/item?id=23695377 - Haziran 2020, 41 yorum
    The Common Voice Project by Mozilla reached its first goal: 1k hours in englisch - https://news.ycombinator.com/item?id=23051756 - Mayıs 2020, 1 yorum
    Common Voice: A Massively-Multilingual Speech Corpus - https://news.ycombinator.com/item?id=21887693 - Aralık 2019, 9 yorum
    Common Voice – Mozilla's initiative to help teach machines how real people speak - https://news.ycombinator.com/item?id=21268579 - Ekim 2019, 49 yorum
    Mozilla releases the largest to-date public domain transcribed voice dataset - https://news.ycombinator.com/item?id=19270646 - Şubat 2019, 61 yorum
    Mozilla Overhauls Speech-To-Text Contribution Interface - https://news.ycombinator.com/item?id=17436958 - Temmuz 2018, 42 yorum
    Initial Release of Mozilla’s Open Source Speech Recognition Model and Voice Data - https://news.ycombinator.com/item?id=15808124 - Kasım 2017, 88 yorum
    Project Common Voice - https://news.ycombinator.com/item?id=14794654 - Temmuz 2017, 57 yorum
    Mozilla: Project Common Voice - https://news.ycombinator.com/item?id=14786881 - Temmuz 2017, 1 yorum

  • Günlük konuşurkenki sesi ile okuma sesi farklı olan kişi sayısının ne kadar olduğunu merak ediyorum
    Eğitim verisinin önemli bir kısmı “metin okuma” seslerinden oluşuyorsa, konuşma odaklı modeller de doğru düzgün eğitilebilir mi?

    • Mozilla Common Voice ekibi başlamadan önce geri bildirim istediğinde bu sorunu dile getirip konuşma sesi verisi toplamaya yönelik farklı bir yaklaşım önermiştim, ama benimsenmedi
      Çözülmek istenen asıl probleme uygun az veridense, çok ama kaba verinin daha iyi olduğuna dair inanç epey yaygın