FunSearch: LLM’ler kullanılarak matematik ve bilim alanlarında yeni keşifler

FunSearch: Matematik ve bilimde yeni keşifler için büyük dil modellerinden yararlanma

• Büyük dil modelleri (LLM'ler), kavramları birleştirme konusunda üstün bir yeteneğe sahiptir ve okuma, yazma ve kodlama yoluyla problem çözmeye yardımcı olan faydalı araçlardır.
• LLM'lerin zaman zaman gerçekte olmayan bilgileri "halüsinasyon" olarak üretme eğilimi bulunduğundan, doğrulanabilir ve kesin keşifler yapmak zorludur.
• FunSearch, yaratıcı çözümler sunan önceden eğitilmiş bir LLM ile hatalı fikirleri eleyen otomatik bir "değerlendiriciyi" birleştirerek yeni matematik ve bilgisayar bilimi çözümlerini araştıran bir yöntemdir.

Dil modeliyle evrim yoluyla keşfi ilerletmek

• FunSearch, en yüksek puanı alan fikirleri geliştiren evrimsel bir yöntem kullanır; bu fikirler otomatik olarak çalıştırılıp değerlendirilebilen bilgisayar programları olarak ifade edilir.
• Kullanıcı problemi kod biçiminde yazar; bu, programı değerlendiren prosedür ve başlangıç program havuzunu oluşturan bir tohum programdan oluşur.
• FunSearch yinelemeli bir süreçtir; her yinelemede mevcut program havuzundan bazı programlar seçilip LLM'e verilir ve LLM bunları değerlendirilecek yeni programlar üretmek için kullanır.

Matematikte yeni yollar açmak

• FunSearch, onlarca yıldır matematikçileri zorlayan cap set problemine yönelik yeni bir çözüm keşfetti.
• Cap set problemi, yüksek boyutlu bir ızgarada aynı doğru üzerinde üç nokta bulunmayan en büyük nokta kümesini bulmayı hedefler ve aşırı kombinatorikte önemli bir modeldir.
• FunSearch, bazı ayarlarda son 20 yılda bulunanlar arasında en büyük cap set'i keşfetti.

FunSearch kısa ve insanlar tarafından yorumlanabilir programları tercih ediyor

• FunSearch yalnızca problemin çözümünü üretmekle kalmaz, aynı zamanda bu çözümün nasıl elde edildiğini açıklayan programlar da üretir.
• FunSearch, Kolmogorov karmaşıklığı düşük, yani son derece kısa programlar üzerinden çözüme ulaşmayı tercih eder.
• FunSearch'un program çıktıları araştırmacıların kolayca anlayabileceği yapıdadır ve onlara uygulanabilir içgörüler sunar.

Hesaplamada kötü şöhretli derecede zor zorlukları çözmek

• FunSearch, teorik cap set problemindeki başarısının ardından bilgisayar bilimindeki önemli pratik zorluklardan biri olan "bin packing" problemine uygulandı.
• FunSearch, aynı sayıda öğeyi mevcut sezgisel yöntemlere kıyasla daha az sayıda kutuya yerleştirmeyi başardı.

LLM odaklı keşiflerle bilim ve ötesi için yol açmak

• LLM'lerin halüsinasyonları önlenebilirse, bu modellerin gücü yalnızca yeni matematiksel keşifler yapmak için değil, önemli gerçek dünya problemlerine etkili çözümler ortaya çıkarmak için de kullanılabilir.
• Birçok bilimsel ve endüstriyel problem için, LLM odaklı yaklaşımlarla etkili ve özelleştirilmiş algoritmalar üretmenin yaygın bir uygulama haline gelmesi bekleniyor.

GN⁺ görüşü

• FunSearch, matematiksel problem çözümünde yapay zekanın yeni olanaklarını gösteriyor. Özellikle cap set problemi gibi uzun süredir çözülemeyen sorunlara yeni çözümler sunarak, yapay zekanın matematikteki rolünün daha da önem kazanacağını ortaya koyuyor.
• Bu teknolojinin veri merkezlerinin verimliliğini artırmak gibi gerçek endüstriyel problemlere uygulanması, yapay zekanın pratik problem çözümüne de katkı sağlayabileceğini gösteriyor.
• FunSearch'un ürettiği programlar insanlar tarafından yorumlanabilir nitelikte; bu da araştırmacıların daha derin içgörüler elde etmesine ve yapay zeka ile iş birliği içinde problem çözmesine yardımcı olabilir.

[GN⁺]

Hacker News görüşleri

• LLM'nin gerekliliğine dair soru:

  • LLM'nin amacının, verilen tür imzasına uyan bir Python fonksiyonu üretmek olduğu görülüyor.
  • LLM olmadan da, verilen tür imzasına uyan rastgele ve doğru Python fonksiyonları üretilebilmelidir.
  • Daha kısıtlı bir dilin daha verimli olabileceğini öne sürüyor ve PushGP gibi dilleri örnek veriyor.
  • LLM'nin gerçekten değer katıp katmadığı, diğer genetik programlama teknikleriyle karşılaştırıldığında rekabetçi olup olmadığı ve geleneksel yaklaşımlara göre hesaplama maliyetinde fark bulunup bulunmadığı soruluyor.

• Kombinatorikteki keşifle ilgili önemli bağlam:

  • Belirli bir kombinatorik sayının, daha önce bilinen aralıktan daha dar bir aralıkta yer aldığı ortaya çıktı.
  • Bu keşif, mantık odaklı bir matematiksel ispatla değil, özel özelliklere sahip sayı dizileri bulma yöntemiyle yapıldı.
  • Genetik algoritmalar ve LLM kullanan bu yaklaşım ilgi çekici ve faydalı olabilir.

• "Kendi kendine karşı oynama" ile ilgili yorum:

  • FunSearch, en yüksek puanı alan fikirleri geliştirmek için LLM kullanan evrimsel bir yöntem kullanıyor.
  • Kullanıcı, problemi kod biçiminde tanımlıyor ve programları değerlendirmek ve başlatmak için kullanılacak bir program havuzu oluşturuyor.
  • Her yinelemede FunSearch, mevcut havuzdan bazı programları seçiyor; LLM bunları temel alarak yeni programlar üretiyor ve bunlar otomatik olarak değerlendiriliyor. En iyi programlar tekrar havuza eklenerek bir öz-iyileştirme döngüsü oluşturuluyor.

• Web aramasına dair kişisel kullanım deneyimi:

  • Sorular sormak ve web bağlantıları bulmak için pplx.ai ve phind.com kullanılıyor.
  • Soruyu rafine ederek veya takip soruları sorarak farklı ya da daha derin referanslar bulunuyor.
  • Tech Twitter içeriği de faydalı bulunuyor ve araştırma için Grok kullanma beklentisi dile getiriliyor.

• DeepMind'ın keşfiyle ilgili Twitter gönderisi:

  • Eğer sinir ağları gerçekten yeni bilgi üretebiliyorsa, bunun ateşin keşfinden sonraki en önemli buluş olacağı söyleniyor.
  • Eğer bu keşif doğruysa neden herkesin bundan bahsetmediği sorgulanıyor.
  • PaLM 2 ile yapılanlardan etkilendiğini ve gelecekteki modeller bu yöntemi kullandığında nelerin mümkün olacağını merak ettiğini ifade ediyor.

• Twitter gönderisi özeti:

  • Yapay zeka yetenekleri sürekli artıyor ve yapay zeka destekli otomatik tamamlama, refaktöring ve code review diff üretimi sayesinde kişisel üretkenliğin %20-30 arttığı belirtiliyor.
  • Yapay zeka modelleri kullanılarak iş akışının bazı parçaları birbirine bağlandığında, sistemi "iyileştirmek" model değiştirmek kadar basit hale geliyor.
  • İlk entegrasyondan sonra birkaç yıl boyunca her şeyin sihir gibi gelişmesinin beklendiği söyleniyor.

• Program üretimine dair özet:

  • Verilmiş bir program şablonu/iskeleti ve uygunluk fonksiyonu ile, LLM kullanılarak bir program popülasyonu üretiliyor.
  • Yeni programlar üretmeye yönelik prompt kullanılıyor ve programlar girdiler üzerinde çalıştırılarak uygunluk fonksiyonuyla puanlanıyor.
  • Evrim için ada modeli kullanılıyor ve LLM çağrılarının sayısı yaklaşık 1e6 gibi düşük bir seviyede kalıyor.
  • Program değerlendirme/puanlamasında derinlik ile genişlik arasındaki ödünleşim üzerine düşünülüyor.

• Cap set problemine yaklaşım:

  • Cap set problemi, yüksek boyutlu bir ızgarada üç noktası aynı doğru üzerinde bulunmayan en büyük nokta kümesini bulma problemidir.
  • FunSearch, bu problem için maksimum cap set bulan program biçiminde çözümler üretiyor.
  • Bunun, son 20 yılda cap set boyutundaki en büyük artışı temsil ettiği belirtiliyor.

• LLM ile sembolik akıl yürütmenin birleştirilme olasılığına dair merak ifade ediliyor.

• Yeni bilgi üretip üretmediğinden bağımsız olarak, yapay zeka model boyutu veya diğer düzenleyici önlemler temelinde yapay zekaya erişimi kısıtlama tartışmaları açısından bunun ilginç bir vaka çalışması olduğu belirtiliyor.

• Evrensel yaklaşım teoremi bağlamında, ReLU kullanan yapay sinir ağlarının fonksiyonları tam olarak yaklaşıklayabildiği belirtiliyor.

  • Bu yaklaşımın benzer olduğu, ancak nihayetinde çıktının kod olduğu söyleniyor.