Devasa AI NLP Model’leri Nereye Gidiyor?

Mevcut durum

• Google I/O’da duyurulan LaMDA, MS’in özel lisansını satın aldığı GPT-3 ve Facebook’un çeviri ile içerik yönetimi için şirket içinde geliştirdiği LLM (Large Language Model) gibi, büyük şirketler kendi devasa NLP model’lerini geliştiriyor.

• Her biri kapalı şekilde geliştirilen bu modeller gerçek hayatta kullanılmaya başlandığında, LLM’lerin kusurlarının insanları nasıl etkilediği, hangi sorunların bulunduğu ve bunların nasıl çözülebileceğine dair araştırma neredeyse hiç yok.

• Geçen aralık ayında Google’ın Ethical AI bölümünün eş lideri Timnit Gebru’yu işten çıkarmasıyla sorun daha da derinleşti.

Yeni denemeler

• Huggingface’in öncülük ettiği BigScience projesinde dünyanın dört bir yanından 500’den fazla araştırmacı, açık kaynaklı bir LLM oluşturmak için çalışmalarını hızlandırıyor.

• Süper bilgisayarların yaşam döngüsü maliyetlerini de hesaba katarak, model eğitimi ve işletiminin karbon ayak izi dahil LLM’lerin çevresel etkisini ölçen bir çalışma grubu

• Eğitim verisinin sorumlu bir şekilde nasıl sağlanabileceğini tartışan bir çalışma grubu

---

Özetlemesi zor olduğu için iyi özetleyemedim.

Teknolojiye dair kaygı ve umutlardan "temel gelir" gündeminin ortaya çıkması gibi, geçen yıl ortaya çıkan GPT-3’e yönelik beklenti ve endişelerle birlikte "kapalı AI geliştirmeye dair kaygı" gündemi de su yüzüne çıkıyor gibi görünüyor. Bu yazıya 2050 civarında bir kez daha dönüp bakmak isterim.