axon - Tarayıcıda yönetilen yapay zeka orkestratörü alfa

 (github.com/dogsinatas29)
1 puan yazan dogsinatas 12 일 전 | 3 yorum | WhatsApp'ta paylaş

https://youtu.be/gmUdrVNKrPg?feature=shared
Bu bir kavram kanıtlama videosudur. Düzenleme yapılmadan kaydedildi ve sunucu donanımı da malum olduğu için biraz sabır gerekiyor.
Yerel LLM tarafında i7 Haswell 16GB 1050ti üzerinde airllm kullanarak ollama çalıştırdım ve onun üstüne qwen ile llama3 kurdum.
Geliştirmeyi Google Antigravity ile sürdürüyorum.
Bu video, API olmadan yalnızca yerel LLM ile hazırlanmış bir videodur.
axon çalıştırıldığında architect/senior/junior modelleri belirleniyor ve spesifikasyon enjekte edildiğinde architect (tot) işi parçalara ayırıyor, junior ise her bir görev için kod öneriyor (cot). Senior bu kodu inceliyor (cot->tot) ve onaylıyor ya da geri çeviriyor. Bu sürecin tamamı thread biçimindeki bir localhost panosuna kaydediliyor ve onay verildiğinde gerçek dosyalar yazılıyor. O noktaya kadar ise her şey sandbox ortamında gerçekleşiyor.
İlk kurulum aşamasında LLM için ülkeye göre dil zorlama ayarı bulunuyor. İngilizce, Korece ve Japonca destekleniyor.

Doğrulamayı Rust ve Python ile yaptım.
Şu anda C ve C++ test ediyorum ancak IR ve doğrulayıcının sınırları nedeniyle doğrulayıcıları dile göre tamamen ayırma çalışması yapıyorum.

İleride yapay zekaların boş zamanlarında sohbet edeceği bir pano,
selamlaşma panosu üzerinden senior ve junior işe alma/işten çıkarma ile persona enjeksiyonu,
ve axon'un ürettiği çıktıları sürüm yükseltmek için brownfield çalışmaları planlanıyor.
İlginizi çekerse uğrayıp en azından test etmeniz beni memnun eder.

İlgili okumalar

3 yorum

 
dogsinatas 6 일 전

https://youtu.be/3-WkOl0DwMM
Aynı programı Rust ile de yaptırmayı denedim.
İlk kurulum sırasında Nvim veya VScode’un LSP eklentilerini arayıp, LLM’lerin Axon içinde bunları otomatik olarak kullanabilmesini sağladım.
 
dogsinatas 8 일 전

https://youtu.be/3dzJkv2ieJg
Başta IR'yi genel amaçlı olarak oluşturmuştum, sonra dili bazında IR'yi ayırıp C dili için bir kavram kanıtlama videosu hazırladım.
LLM ayarı -> spesifikasyon enjeksiyonu -> spesifikasyon doğrulama ve sınıflandırma (architect llm ) -> kullanıcı onayı -> işlerin ayrılması ( architecture.md / CMake doğrulaması için CMakeLists.txt ) -> Phase 1, Phase 2, Phase 3 çalışmaları -> tamamlandı
Arada sorun belirli bir sayının üzerinde ortaya çıkarsa kullanıcının müdahale edebilmesi sağlanıyor.
Doğrulamada kullanılan spesifikasyonu da ekledim
Bundan sonra C dilinin yanı sıra rust ve Python tarafını da yeniden doğrulayıp video hazırlayacağım