- Sequoia'nın yatırım yaptığı şirketlerin neredeyse tamamı ürünlerine ChatGPT benzeri LLM'leri entegre ediyor
- Kendi ağlarındaki şirketleri inceleyerek iki yapay zeka stack'ini derlediler
LLM API Stack
- LLM APIs : OpenAI, Anthropic, Cohere
- Vector DB: AWS, pgvector, Pinecone, Qdrant, Weaviate, Chroma
- Frameworks: LangChain, LlamaIndex, Anarchy
- Text-To-Speech: Resemble.AI, ElevenLabs, Wellsaid
- Monitoring: DISTYL, Guardrails, Helicone, HoveHive, Autoblocks
Custom Model Training / Tuning Stack
- Compute: AWS, Azure, Google Cloud, Foundary, Lamba, MosaicML, Modal, Fireworks.ai
- Model Hub: Hugging Face, Replicate
- Frameworks: PyTorch, TensorFlow
- Experimentation: Weights & Biases
- Monitoring/Observability: Robust Intelligence, Gantry, Arthur, arise, Whylabs
- Hosting: Replicate, HuggingFace
Kilit noktalar
- Şirketlerin çoğu ürünlerine LLM inşa ediyor
- Dil modeli API'leri, arama ve orkestrasyona odaklanılıyor. Açık kaynak kullanımı artıyor
- Şirketler dil modellerini kendi bağlamlarına uyacak şekilde özelleştirmek istiyor
- Şu anda LLM API stack'i ile model eğitimi stack'i ayrıymış gibi görünse de giderek birleşecekler
- Stack giderek daha geliştirici dostu hale geliyor
- Dil modellerinin tamamen benimsenmesi için güvenilirliğinin artırılması gerekiyor (kalite, veri gizliliği, güvenlik)
- Dil modeli uygulamaları giderek daha fazla çok modlu hale gelecek
- Henüz çok erken aşamadayız
3 yorum
Mevcut durumda geliştirme ortamının nasıl olduğunu iyi anlıyorum.
Peki Türkiye'de durum hangi seviyede?
Vector DB listesindeki Seaviate, Weaviate adlı vektör veritabanının bir yazım hatası gibi görünüyor!
Hızlıca düzelttim hehe