Yapay zeka hizalaması nedir - Yapay zeka hizalama araştırmaları, yapay zeka sistemlerini insanların amaçladığı hedeflere, tercihlere veya etik ilkelere uygun hale getirmeyi amaçlar. Bir yapay zeka sistemi amaçlanan hedefe ulaştığında hizalamanın tamamlandığı kabul edilir. Yanlış hizalanmış yapay zeka sistemleri, bazı hedeflere ulaşmada yetkin olabilir ancak amaçlanan hedefe ulaşmaz.
OpenAI kısa süre önce "Dil modelleri, dil modellerindeki nöronları açıklayabilir" (Language models can explain neurons in language models) başlıklı bir araştırma sonucu yayımladı. Bu çalışma, bir bakıma "yapay zekayı anlamak için yapay zekaya ihtiyaç vardı" şeklinde de yorumlanıyor.
Daha da ileri gidersek, OpenAI'nin sıkça sözünü ettiği "hizalama problemi"ni çözmek için de yapay zekaya ihtiyaç duyulacak gibi görünüyor.
Peki, "yapay zekanın yapay zeka ile insan arasındaki hizalanmayı" değerlendirmesi mümkün mü? Mümkünse, bunun böyle yapılmasını ister miydiniz?
1 yorum
Yapılsa bile, türlü türlü toplumsal örgütler gibi yerlerden türlü türlü gerekçeler öne sürülerek karşı çıkılacak gibi.