Yapay zekanın yapay zekayı eğitmesi neye yol açar: ‘Model çöküşü’ olgusu ve bunu önleme yöntemleri

Model çöküşü (Model Collapse) nedir?

• Yapay zekanın, yapay zekanın ürettiği verilerle yeniden eğitildiğinde ortaya çıkan bozulma olgusu
• Nature makalesi temel alınarak kanıtlanmış yapısal bir risk

Görünürdeki özellikler

• Ortalama performans ve benchmark puanları korunur veya artar
• Ancak nadir vakalar (aykırı değerler ve edge case'ler) giderek ortadan kaybolur
• Çıktılar giderek tipik, güvenli ve ortalamaya yakın bir yöne yakınsar

Temel mekanizma

• İlk aşama → insan verisiyle eğitim
• Sonrasında → web'de yapay zeka üretimi içerik hızla artar → yeni model sentetik veriyle eğitilir
• Her nesil, önceki neslin kör noktalarını büyütür ve pekiştirir
• Nadir olaylar/veriler kademeli olarak göz ardı edilir → kalıcı olarak kaybolur

Modaliteye göre somut belirtiler

• Metin: Akıcıdır ama boş ve tekrarlayıcıdır; yeni fikirler yerine güvenli görüşleri tercih eder (ör. em-dash'in aşırı kullanımı)
• Öneri sistemleri: Merak ve çeşitlilik ortadan kalkar → akış aşırı daralır
• Görüntü/video: Yalnızca tanıdık stillere yakınsar, yaratıcı varyasyon neredeyse imkânsız hale gelir (ör. her zaman benzer bir estetik aralığında kalır)
• Ortak nokta: Sistemler “bozulmak” için değil, “fazla benzeşmek” için optimize edilir

Önleme ve karşılık yöntemleri

• Kaynak (Provenance) takibi ve yönetimi
  → İnsan üretimi veriyi koruyup öncelikli eğitmek, yapay zeka üretimi veriyi açıkça ayırmak
• Kolaylık yerine kesinliği seçmek
  → Yapay zeka verisinin merkez yanlılığından kaçınmak, gerçek dünyanın karmaşıklığını korumak
• Aralığa (Range) değer vermek
  → Nadir örnekler için öğrenme alanı açmak (bir miktar verimlilik kaybını göze alarak)
• Nadir örnekleri gürültü değil, bir varlık olarak yeniden tanımlamak

Sonuç mesajı

• Özyinelemeli eğitim (yapay zeka → yapay zeka) uzun vadede yıkıcıdır
• “Yapay zekayı yapay zeka verisiyle eğitmeyin” görüşü giderek daha güçlü dayanak kazanıyor
• Eğitim verisinin kaynağına karşı ilgisizlik en büyük risk faktörü

Şu anda büyük modellerin çoğu zaten kayda değer miktarda sentetik veri tüketmiş durumda; bu nedenle bundan sonra kaynak yönetimi ve seyrek verinin korunması temel görevler olarak öne çıkacak gibi görünüyor.