Matematik ve Teorik Bilgisayar Biliminde 10 İlerleme

• OpenAI’nin bir sonraki büyük modeli Astra’nın dahili sürümü, en az 10 yıldır temel bir ilerleme kaydedilmemiş 10 açık problemde yeni sonuçlar üretti; yüksek boyutlu geometriden kuantum karmaşıklığa ve kafes kriptografisine kadar geniş bir alanı kapsıyor
• Çözüm arayışında Sol API fiyatlandırmasına göre yaklaşık 2.000 dolar değerinde token kullanıldı; insanlar aynı modelle makaleleri hazırladıktan sonra model her argümanı Lean sertifikası olarak biçimselleştirdi
• Başlıca sonuçlar arasında sofic olmayan grupların varlığının ispatı, Connes katılık varsayımının çürütülmesi, permanent hesaplaması için aritmetik formül alt sınırı n⁴/log n ve genel iki oyunculu kuantum oyunları için üstel paralel tekrar teoremi yer alıyor
• Küre paketleme ile ikili ve küresel kodların sınırları iyileştirildi, en yakın vektör probleminin polinomsal çarpanlı yaklaşım zorluğu ve Ehrhart hacim varsayımı çözüldü; ayrıca Erdős problemleri 146, 180 ve 183 de yanıtlandı
• OpenAI, makale hazırlığı, Lean biçimselleştirmesi ve doğruluktan insanların sorumlu olduğunu ancak matematiksel argümanların yapay zeka tarafından üretildiğini, bu nedenle bunların insan eseri olarak gösterilmemesi ve yapay zekanın katkısının dürüstçe atfedilmesi gerektiğini söylüyor

---

Astra’nın ürettiği 10 sonuç

• OpenAI, bilim insanları ve matematikçilerin keşiflerini hızlandırmak için ChatGPT for Academic Researchers aracılığıyla 100 bin kişiye en iyi ChatGPT modelini ücretsiz sunuyor ve geliştirme sürecinde de modeli açık araştırma problemleriyle değerlendirmeyi sürdürüyor
• Mayıs ayında, henüz yayımlanmamış bir modelin değerlendirilmesi sırasında bulunan Erdős birim uzaklık varsayımına karşı yapay zeka üretimi bir çürütmeyi duyurmuştu; bunun ardından matematik ve teorik bilgisayar bilimi alanında devam çalışmaları geldi
• Seçilen problemlerde temel sonuçlar bakımından en az 10 yıldır, çoğunda ise çok daha uzun süredir ilerleme yoktu ve bunlar kendi alanlarındaki matematik topluluklarında ciddi ilgi görüyordu
• Astra’nın dahili sürümü çözümleri buldu ve toplam arama maliyeti Sol API fiyatlandırmasına göre yaklaşık 2.000 dolar oldu
  • İnsanlar aynı modeli kullanarak argümanları makale haline getirdi
  • Model, her argümanı Lean sertifikaları olarak biçimselleştirdi
  • Her çözüm için modelin akıl yürütme süreci açıklamaları da yayımlandı
• 10 sonuç şöyle
  1. Yüksek boyutlu küre paketleme: Küre paketleme yoğunluğunun yeni üst sınırını Cohn–Elkies kritik noktasına kadar indirdi
  2. İkili ve küresel kodlar: Belirli bir minimum uzaklıkta ikili kodların maksimum boyutu sınırını üstel olarak iyileştirdi ve yüksek boyutlu küresel kodlarda da benzer sonuçlar elde etti
  3. Sofic olmayan gruplar: Sofic olmayan grupların varlığını ortaya koyan bir yapı vererek grup teorisindeki merkezi açık problemlerden birini çözdü
  4. Connes katılık varsayımı: Belirli grupların von Neumann cebirleri tarafından tekil biçimde belirlendiğine dair uzun süredir devam eden varsayımı çürüttü
  5. Aritmetik devre karmaşıklığı: Aritmetik devreler ve formüllerle permanent hesaplanmasına dair yeni alt sınırlar elde etti; aritmetik formül alt sınırı n⁴/log n mertebesinde
  6. Kuantum paralel tekrar: Genel iki oyunculu kuantum oyunları için üstel paralel tekrar teoremini ispatlayarak klasik karmaşıklık teorisinin temel bir ilkesini genişletti
  7. En yakın vektör problemi: Post-kuantum kriptografiyle ilişkili temel bir kafes probleminde polinomsal çarpanlı yaklaşım zorluğunu ortaya koydu
  8. Ehrhart hacim varsayımı: Ağırlık merkezini tek iç kafes noktası olarak taşıyan konveks cisimlerin mümkün olan en büyük hacmini tüm boyutlarda belirledi
  9. Çok renkli Ramsey sayıları: Çok renkli üçgen Ramsey sayıları için süper üstel bir alt sınır elde ederek Erdős problemi 183’ü çözdü
  10. Ekstremal grafik teorisi varsayımları: Kompaktlık ve dejenerasyon varsayımlarına ilişkin sonuçlarla Erdős problemleri 146 ve 180’i çözdü
• Daha önceki birim uzaklık varsayımı çürütmesinin ardından gelen araştırmalar arasında reeller üzerinde toplam-çarpım varsayımına karşı örnek, ayrışan asallar ve Elekes–Rónyai problemi, SETH altında süpersabit boyutta en uzak çift için ikinci dereceden zaman gerekliliği, reeller üzerinde nokta-doğru kesişimlerinin iletişim karmaşıklığı, Minkowski kafeslerinde yinelemeli uzaklıklar yer alıyor

Araştırma atfı ve matematik topluluğunun rolü

• Matematik araştırmasına katkı sunabilen yapay zeka sistemlerinin ortaya çıkışı, tek bir teknoloji şirketinin tek başına yanıtlamasının zor olduğu sorular doğuruyor; OpenAI, AI ve matematik üzerine Leiden Bildirgesi imzacıları dahil olmak üzere yapay zekanın etkisine dair kaygıları taşıyan görüşlere saygı duyduğunu belirtiyor
• Sonuçların nasıl üretildiği, yazarlık ve katkı atfında dürüst biçimde yansıtılmalı
  • Yapay zeka tarafından tamamen üretilmiş ispatları insan eseri olarak göstermek, hem sistemin katkısını hem de insanların gerçek entelektüel emeğini çarpıtıyor
  • İnsanlar makale hazırlığına, Lean biçimselleştirmesine destek veriyor ve doğruluktan sorumlu oluyor; ancak matematiksel argümanların kendisi yapay zeka sistemi tarafından üretiliyor
• OpenAI, matematik topluluğunun sonuçları inceleyip bağlama oturttuktan sonra bu fikirleri yeni araştırma ve keşiflere dönüştürmesini bekliyor
• Yapay zeka daha gelişmiş bir araştırma ortağına dönüşürken, bilim insanları ve matematikçilerin kendi alanlarının geleceğini keşfedip tanımlayabilmesi için geniş erişim kritik önem taşıyor

[GN⁺]

Hacker News yorumları

• En büyük şikayet, tüm deney ve düzeneğe dair şeffaflık eksikliği. Yalnızca bu 10 problemi modele birer kez çözdürdüklerini düşünmek zor; bu yüzden tam deney tasarımını açıklamadan ortaya atılan 2.000 dolar rakamı, P-hacking gibi yanlış anlaşılmalara yol açabilir
  Modele verilen toplam problem sayısını, vazgeçmeden önce çözemediği oranı ve maliyeti, problem başına deneme sayısını ve iş kümesine erişim dahil çalıştırma ortamı maliyetini bilmek isterim

  • Yapay zeka patlamasından önce de matematik eğitiminde, problem ve çözümün kendisi kadar bunları bulmaya yardımcı olan çevresel iskelelerin (scaffolding) önemli olduğuna dair tartışmalar olduğunu hatırlıyorum
  • Maliyet ise bu eleştiriye pek uygun görünmüyor. 10 problem için 1 milyon dolar harcanmış olsa bile bu, 10-20 matematik araştırmacısının bir yıllık maliyetine denk gelir; aynı parayı insanlara verip aynı sonucu alıp alamayacağımız ise şüpheli
  • OpenAI veya başka LLM şirketleriyle ilgisi olmayan araştırmacıların benzer bir sonuç elde edip etmediğini de merak ediyorum
    OpenAI, yetkin bir kombinatorik araştırmacısı işe alıp problemleri ona çözdürmüş ve modeli yalnızca ikincil olarak kullanmış olabilir; bunun da doğrulanması gerekir
  • Her şeyi zorunlu bir rastgele kontrollü deney (RCT) olmadan kabul edememe tavrı da aşırı. Alay etmek için söylemiyorum; RCT sahnelemeden de uygun düzeyde öz-eleştirel olunabilmeli
  • Toplam çalıştırma maliyetini açıklamamakla P-hacking arasında kıyas yapmak haksızlık. Fiyat bilgisini atlamak, bilimsel sahtekarlık ya da sonuç manipülasyonundan tamamen farklıdır

• Daha şaşırtıcı olan, bu yazının HN ana sayfasının en üstüne bile çıkmamış olması. Öncekinden daha iyi bir sonuç olsa da, yapay zekanın matematik ve bilgisayar biliminde büyük ilerlemeler sağladığı fikrine artık pek şaşırılmadığını gösteriyor

  • Yapay zeka ilerlemesini psikolojik olarak kabullenemeyen insanlar aktif biçimde şikayet edip sıralamayı düşürdü. Hacker News artık elitlerin sitesi değil
  • Hedef kitle olan akademik matematikçi arkadaşlarımdan birkaçı, başlığın 10 yeni sonuç değil de geçen ayın sonuçlarını derleyen bir yazı gibi göründüğünü ve bu yüzden geçtiklerini söyledi
  • Şirketlere göre çıkar ilişkileri ve açık kaynak olup olmama gibi konular yüzünden kamplar çok sert biçimde bölünmüş durumda
  • O zaman yapay zeka araştırmasının kendisi için durumun ne olduğunu merak ediyorum. OpenAI’nin insan çalışanları otomatikleştirip işleri ortadan kaldırma aşamasına yaklaşıp yaklaşmadığını da sormak gerekir
  • Dürüst olmak gerekirse bu tür yazılardan biraz bıkmış durumdayım

• Yapay zekanın etkisini artık inkar etmek zor ve hedef direklerini taşıyacak pek yer de kalmadı. Bir dahaki sefere artık sahanın dışına taşımak gerekecek
  İnsanlar inkardan ne kadar çabuk çıkıp bunu ciddiye almaya başlarsa o kadar iyi

  • Hedef direklerini taşımak eleştirisini anlamak zor. Bilim ilerleme ve öğrenirken beklentileri yeniden ayarlama sürecidir; hedefleri hiç değiştirmezseniz aynı başarıyı tekrar edip durursunuz
  • Sorun inkar değil, ilgisizlik. Çoğu insan ilgilenmiyor ama Kim Kardashian hakkında her şeyi anlatabiliyor

• OpenAI’nin ilerleme kaydettiğini söylediği alanın uzmanı değilim, bu yüzden başarıyı aceleyle küçümsemek istemem; ama blogdaki ifadenin pazarlama amacıyla abartılmış olmasından endişe ediyorum
  Daha önce bu problemleri güvenilir biçimde çözen hesaplamalı bir yaklaşım olmadığı doğru, ancak asıl mesele bu ispatların matematiğe yeni fikirler katıp katmadığı ya da mevcut literatürdeki uygun araç kombinasyonlarını büyük ölçekli aramayla bulup bulmadığıdır
  Başından beri cevabı sezgisel olan ve ispatı mümkün görünen ama uzmanların zaman harcamaya değmeyecek bulduğu problemler miydi, yoksa özünde gerçekten zorlardı da yapay zeka dev bir çözüm çözücüsüne atmaktan fazlasını mı yaptı, bunu bilmek isterim

  • Atıf kayıtlarında çığır açan araştırma, çok atıf alırken aynı zamanda daha önce birlikte görünmeyen atıf soylarını bağlayan çalışma olarak tanımlanabilir. Buna karşılık sıradan artımlı araştırma, zaten birbirine yakın olan mevcut atıfları birleştirir
    Yani yenilik, daha önce bağlı olmayan düşünce ve alanları ne ölçüde bağladığı üzerinden oldukça somut biçimde ölçülebilir. Puja Ohlhaver bunun hakkında konuştu; benim de desteklediğim bir deney yürüttü: https://www.youtube.com/watch?v=guLDNMAOn24
  • Bilgisayar bilimindeki CVP ve devre karmaşıklığı problemleri, en iyi araştırmacıların 30-40 yıldır üzerinde çalıştığı çok önemli meselelerdir; bunların arasında Turing Award sahipleri de var. Eğer çözüldülerse, birçok en prestijli konferansta en iyi makale ödülünü hak ederler
  • Sırf advanced kelimesi kullanıldı diye pazarlama abartısından endişe etmeyi anlamak zor. Doktora düzeyindeki araştırmacılar kariyerlerinin önemli bir kısmını bu problemlere harcadı, dolayısıyla ifade yerinde

• Erken dönem yapay zeka hızlı ivmelenme öngörülerinden biri, ileri matematiğin çözülmemiş problemlerini çözen sistemlerin matematik ve bilgisayar bilimindeki yeni keşifler yoluyla yazılım performansını da sıçratacağı yönündeydi
  Şu anki sonuçlar, insan için dünya çapında ilk 100-1.000 arasında, yani yaklaşık ilk %0,00001 düzeyinde öncü matematik seviyesine karşılık geliyor; ayrıca OpenAI’nin GPU kernel sorunlarını düzeltip yaklaşık %15 performans artışı sağlaması gibi, yazılımda da büyük gelişmeler görülüyor. Büyük modellerin küçük ölçekte mümkün olmayan matematik ve yazılım mühendisliği yeteneklerini birlikte kazanması, ikisini ölçek yasaları ve zekanın genellenebilirliği üzerinden bağlıyor
  Ancak matematiksel/bilimsel keşiflerin yazılım performansındaki artışı doğrudan açığa çıkarma olasılığını eskisine göre daha düşük görüyorum. Teknoloji şirketleri de matematik doktoralarına saf matematik yerine yazılım mühendisliği yaptırıyor; onların çok iyi olmasının nedeni çoğu zaman en yeni akademik keşiflerden çok genel zeka oluyor
  Dolayısıyla bu, modellerin iyileştiğine dair kanıt, ama öncü bir matematik devriminin tetikleyeceği patlayıcı hızlanmanın (foom) hemen öncesinde olduğumuzu göstermek için yeterli değil

  • Böyle görmek için, modelin yalnızca akademik matematiğe açıkça aşırı uyum sağladığını ve bu yeteneğin pratik yazılım mühendisliğine hiç aktarılmadığını varsaymak gerekir. Ben o tarafa bahis oynamam
  • Yeni matematiksel ilerlemeleri dünyadaki ilk 100-1.000 kişi seviyesiyle eşitlemek, matematikçilerin gerçekte ne yaptığını yanlış anlamak gibi görünüyor

• Adı bile açıklanmayan dahili bir yapay zekanın yeteneği etkileyici, ama insan katkı sunanların isimleri hiçbir yerde yok. En azından biri bu modele kahve yapmış olmalı

  • Sonuçların bir sonraki büyük model olan Astra’nın dahili sürümüyle elde edildiği açıkça belirtiliyor

• Matematikçi ve mühendis maaşları da dahil edildiğinde bu araştırmanın toplam maliyetinin ne olduğunu merak ediyorum

  • Başında sürekli bir insan beklemediyse maaşların tamamını dahil etmek için bir neden yok. Yalnızca çalıştırma ortamına, prompt ayarına ve sonuç doğrulamaya harcanan zaman hesaplanmalı; model eğitim maliyeti ise başka kullanım alanlarına da dağılır
  • OpenAI çalışanlarına hisseyle ödeme yaptığı için rakam çok büyük olurdu, ama altyapı ve eğitilmiş model zaten mevcut olduğundan şu anda çok anlamlı bir sayı değil. Yapay zeka daha da gelişmese bile şimdiden muazzam bir yıkıcı güce sahip
  • 10 atılımın ispatlarını üretmenin maliyetinin Sol API fiyatına göre 2.000 doların altında olduğu söyleniyor
    https://x.com/polynoamial/status/2083470822258467194

• OpenAI gibi şirketler bu sonuçları yayımlamak yerine doğrudan eğitim verisine dahil etmeye başlarsa ne olacağını merak ediyorum

  • Saf matematiği gizli tutmanın endüstriyel değeri neredeyse yok; şirket için esas işlev modelin yeteneğini sergilemek. Gerçekçi olarak bakarsak, araştırma maliyetlerini karşılamayı bırakmaları daha olası
    Bunu modeli gizlice iyileştirmek için kullanmak anlamında söylesek bile, birkaç doğru ispatın sağlayacağı ek kazanç çok küçük olur ve sonunda modelden dışarı sızıp kamuya ulaşması da muhtemeldir
  • Bunlar daha önce çözülmemiş problemler olduğu için ortada mevcut bir çözüm zaten yoktu; dolayısıyla bunu eğitime koymanın tam olarak ne anlama geldiği belirsiz

• OpenAI gibi yerler uzmanlara fiilen milyonlarca dolarlık token kullandırabilir. Zaten günün 24 saati tüm hesaplama kaynaklarını satmıyorlar, dolayısıyla iç maliyet çoğunlukla elektrik faturası düzeyine daha yakın
  Buna rağmen hesaplama kaynakları tamamen kullanılmıyorsa, gelecekte inşa edilecek onca veri merkezine gerçekten ihtiyaç olup olmadığı sorusu doğuyor

  • OpenAI’de araştırma pazarlamadır, bu yüzden buna rahatlıkla yeterli bütçe ayırmışlardır
  • Toplam çıktı hacmine kıyasla yuvarlama hatası düzeyinde olabilir. Herkese açık modellerin kullanımını kısıtlayarak araştırma için hesaplama ayırıyorlar; veri merkezleri arttıkça bu kısıtlar da azaltılabilir
  • Pekiştirmeli öğrenme eğitimi tüm hesaplama kaynaklarını tüketebilir; bu yüzden neye dayanarak gereksiz dendiğini bilmiyorum
  • Matematiği ilerletecek kadar boş hesaplama kaynağı vardı diye veri merkezlerine gerek olmadığı sonucunu çıkarmak zorlama. Hatta bu haberde makul biçimde çıkarılabilecek tek sonuç, daha fazla veri merkezine ihtiyaç olduğudur