Tek bir SQLite tablosu ve birkaç cron işi kullanan hacklenebilir bir yapay zeka asistanı

• Stevens, SQLite tablosu ve cron işleri kullanılarak oluşturulmuş basit bir yapay zeka asistanıdır
• Stevens, her sabah kullanıcıya takvim, hava durumu, posta gibi bilgileri sunar
• Stevens'in yapısı Val.town platformunda barındırılır ve SQLite depolama, HTTP istek işleme, e-posta gönderme ve alma desteği sağlar
• Stevens, çeşitli veri kaynakları üzerinden bilgi toplar ve bu sayede kullanıcıya kişiselleştirilmiş bilgiler sunar
• Stevens bir kişisel projedir; kullanıcılar kodu fork ederek kendi yapay zeka araçlarını oluşturabilir

---

Stevens: Hacklenebilir yapay zeka asistanı

• Stevens, Ishiguro'nun "Remains of the Day" romanındaki uşağın adından esinlenen bir yapay zeka asistanıdır
• Her sabah Telegram üzerinden kullanıcıya takvim, hava durumu, posta gibi bilgileri sunar
• Kullanıcı Telegram sohbeti üzerinden Stevens ile iletişim kurabilir

Stevens'in yapısı

• Stevens, Val.town platformunda barındırılır ve SQLite tablosu ile cron işleri kullanır
• Stevens'in "not defteri", takvim ve arka plan bilgilerini saklayan bir SQLite tablosudur
• cron işleri aracılığıyla Claude API çağrılır, sabah özeti hazırlanır ve Telegram üzerinden gönderilir

Veri toplama yöntemi

• Google Calendar API üzerinden takvim verileri toplanır
• Hava durumu API'si üzerinden yerel hava tahmini kontrol edilir
• USPS Informed Delivery aracılığıyla posta bilgileri OCR ile işlenir
• Telegram ve e-posta mesajları üzerinden günlük kayıtları eklenir
• Her hafta bir "ilginç bilgi" eklenerek günlük güncellemelere farklı bir unsur katılır

Proje üzerine değerlendirmeler

• Kişisel yapay zeka araçlarında çeşitli bilgi kaynaklarına erişim önemlidir
• "Bellek" basit şekilde başlayabilir ve ihtiyaç oldukça genişletilebilir
• Stevens, kullanıcıya eğlence katmak için resmî bir uşak gibi konuşacak şekilde ayarlanmıştır

Kendiniz deneyin

• Stevens, ticari bir ürün değil, kişisel bir projedir
• Kullanıcılar kodu fork ederek kendilerine yararlı araçlar oluşturabilir
• Val Town CLI kullanılarak yerel dosya sistemiyle senkronizasyon yapılabilir

[GN⁺]

Hacker News yorumu

• Bunun kullanışlılığından mı, yoksa "İngiliz centilmen uşağı" gibi ifadelerden mi bilmiyorum

  • Neden bunu Apple ya da Google ürün duyurusu yerine tek bir mühendisin blogunda okuduğumu merak ediyorum
  • Bu iki şirketin yapay zeka teknolojisini özetleme ya da soru-cevap gibi 'çözülmüş problem' alanlarına uygulamaması hayal kırıklığı yaratıyor
  • Yapay zeka ile ilgili bir fırsat varsa, bu tekelci iki şirket için bir tehdit olabilir

• Yardımcı programım posta kutusuna erişebilse nasıl olur diye düşündüm

  • Hava durumunu kontrol eden ya da sistem komutları çalıştıran küçük bir yardımcı programım var
  • Bir posta kutusu olsaydı bilgi gönderebilir ve yapay zeka bunun analizini yapıp e-posta gönderebilir ya da yeni mesaj oluşturabilirdi
  • E-postaları analiz edip dahili depoya ekledikten sonra mesajları silerek bunu faydalı şekilde kullanabilirsiniz

• Benzer bir açık kaynak proje için fikirler düşünüyorum

  • Backend'i kullanıcının erişebileceği bir LLM ile kurmak istiyorum
  • Bunu bir dokunmatik ekranla birleştirip Alexa benzeri bir cihaz olarak kullanmanın mümkün olup olmadığını merak ediyorum
  • Takvim, hava durumu, Homebridge, Spotify vb. ile entegrasyonları genişletilebilir hale getirmek istiyorum
  • Şu anda bu projeye çok zaman ayıramam ama bu yönde ilerleyen kişilerle birlikte olmak isterim

• Pratik yapay zeka hack'leri görmek istiyorum

  • Karmaşık yapılar ya da vector DB olmadan, mevcut veri kaynaklarıyla pratik entegrasyonları tercih ediyorum

• "context token sweet spot" sorununu çözmek için yöntemler deniyorum

  • LLM, veritabanıyla birlikte çalışarak bilgiyi depolayan ve özetleyen bir yapı gibi işliyor
  • Özet belgeler üretip bağlamı korurken, önemli ayrıntıları veritabanı üzerinden tamamlamak mümkün olabilir

• sqlite DB'nin bir sonraki token tahmini için kullanıldığını düşünmüştüm

  • Başkaları ise Claude kullanıyor

• mcp.run ve task'leri kullanarak benzer bir şey kurdum

  • Konuşmanın var olup olmadığını kontrol edip sonuçları kaydedecek şekilde prompt'u değiştirdim
  • Registry'ye servlet ekleyerek botun yeteneklerini genişletebilirsiniz

• Stevens başlangıçta Apple ya da Google ürünleri gibi kuru bir tonda konuşuyordu ama resmi bir uşak gibi konuşması daha eğlenceliydi

  • Kişisel asistan dünyasında LLM'lerin fazla konuşması en büyük şikayetlerimden biri
  • Zengin olup sesli asistanla arkadaş olacak kadar zamanım olana kadar J.A.R.V.I.S. değil, LCARS gerekiyor

• Bu tür araçlar önümüzdeki birkaç yıl boyunca hacker'lar için verimli bir alan olacak

  • Stack'in büyük kısmı OSS plumbing olarak metalaşmış durumda ve hosted inference zaten ucuz ve kolay
  • E-posta ve takvime ajan bağlamanın güvenlik sorunları var ama birçok kişi kontrolü Apple ya da Google'a bırakmak yerine tüm stack'i kontrol etmeyi tercih edecektir

• Bellek budama ya da özetleme üzerine düşünüp düşünmediğinizi merak ediyorum

  • Eski öğeleri silmek yerine LRU kullanmayı ya da yanıtları özetleyip aynı tabloda saklamayı düşünebilirsiniz
  • Ham veri kaybolur ama sıkıştırılmış sürüm kalır; böylece belleği hafif tutarken bağlamı da koruyabilirsiniz