- Embedding veritabanı; vektör indekslerini (sparse ve yoğun), grafik ağlarını ve ilişkisel veritabanlarını bir araya getirir
- Bu sayede SQL, konu modelleme, retrieval-augmented generation (RAG) ve benzerleri üzerinden vektör araması yapılabilir
- Bağımsız olarak kullanılabilir veya büyük dil modeli (LLM) istemleri için güçlü bir bilgi kaynağı olarak kullanılabilir
- txtai'nin özellikleri
- SQL, nesne depolama, konu modelleme, grafik analizi ve multimodal indeksleme üzerinden vektör araması
- Metin, belge, ses, görsel ve video için embedding oluşturma
- LLM istemleri, soru-cevap, etiketleme, transkripsiyon, çeviri, özetleme ve daha fazlasını çalıştıran dil modeli tabanlı pipeline'lar
- Pipeline'ları birbirine bağlayan ve iş mantığını bir araya getiren iş akışları
- txtai süreçleri basit bir mikroservis veya çok modelli bir iş akışı olabilir
- Python veya YAML ile geliştirilir
- JavaScript, Java, Rust ve Go için API binding'leri sunar
- Yerelde çalıştırılabilir veya container orkestrasyonu ile ölçeklenebilir
Henüz yorum yok.