1 Milyar Dolar Değerindeki Hukuk Yapay Zekâ Platformunu Tersine Mühendislemek 100 Binden Fazla Gizli Dosyanın Ortaya Çıkmasına Yol Açtı

 (alexschapiro.com)
2 puan yazan GN⁺ 2025-12-04 | 1 yorum | WhatsApp'ta paylaş
  • Filevine hukuk yapay zekâ platformunun API'sini analiz ederken kimlik doğrulaması olmadan tam yönetici yetkisi verildiği kritik bir güvenlik açığı tespit edildi
  • Araştırmacı, subdomain enumeration yöntemiyle margolis.filevine.com alt alan adını buldu ve ardından bir AWS API uç noktası tespit ederek test isteği gönderdi
  • Basit bir POST isteğine karşılık kimlik doğrulama jetonu olmadan yanıt döndü ve bu yanıtın içinde, Box dosya sistemine tam erişim sağlayan bir yönetici jetonu yer alıyordu
  • Bu jetonla yaklaşık 100 binden fazla “confidential” belge aranabildi ve içinde sağlık, hukuk, bordro gibi aşırı hassas veriler bulundu
  • Filevine, bildirimin ardından hızlı şekilde müdahale edip düzeltmeyi tamamladı ve olay, yapay zekâ tabanlı hukuk hizmetlerinde güvenlik yönetiminin kritik önemini gösterdi

Zafiyetin bulunma ve açıklama takvimi

  • Araştırmacı, 27 Ekim 2025 tarihinde Filevine güvenlik ekibine zafiyeti e-posta ile bildirdi
    • 4 Kasım 2025'te Filevine konuyu tespit etti ve hızlı bir düzeltme planını iletti
    • 20 Kasım 2025'te araştırmacı, yamalamanın uygulanıp uygulanmadığını doğruladı ve teknik blogda yayınlama niyetini paylaştı
    • 21 Kasım 2025'te Filevine, düzeltmeyi tamamladığını doğruladı ve teşekkür etti
    • 3 Aralık 2025'te teknik blog yazısı yayınlandı
  • Filevine, tüm süreçte hızlı ve profesyonel bir yanıt verdi ve sorumlu güvenlik açıklaması için iyi bir örnek olarak kabul edildi

Filevine ve hukuk AI piyasası arka planı

  • Filevine, 1 milyar dolardan fazla değere sahip, hızlı büyüyen bir hukuk yapay zekâ platformu
  • Hukuk büroları bu platforma işlerini yürütmek üzere çok yüksek gizlilikteki verileri yüklüyor
  • Araştırmacı, Yale Law School ile çalışmış olmasından yola çıkarak Filevine'in veri güvenliği mimarisini inceleme fırsatı buldu

Tersine mühendislik süreci

  • Filevine'ın erişim kısıtlamaları nedeniyle araştırmacı, açık bir demo ortamı bulmak için subdomain enumeration tekniğini kullandı
  • margolis.filevine.com alt alan adını buldu ancak sayfa yüklenmedi, bu nedenle Chrome geliştirici araçları ile ağ istekleri analiz edildi
  • JS dosyası içinde POST await fetch(${BOX_SERVICE}/recommend) kodu bulundu ve BOX_SERVICE değişkeninin bir AWS API uç noktasına işaret ettiği doğrulandı
  • {"projectName":"Very sensitive Project"} formatındaki isteği /prod/recommend uç noktasına gönderince, kimlik doğrulaması olmadan yanıt döndü

Yönetici jetonu ifşası ve etkileri

  • Yanıtta Box API için tüm yönetici erişimine sahip token (boxToken) bulunuyordu
  • Bu token, hukuk bürolarının dahili Box dosya sistemine erişim izni veriyordu
    • Belgeler, günlükler, kullanıcı verileri gibi tüm veri türlerine erişim mümkündü
  • “confidential” anahtar kelimesiyle arama yapıldığında yaklaşık 100.000 sonuç döndürüldüğü doğrulandı
  • Araştırmacı, testleri hemen durdurdu ve Filevine'a zafiyetin varlığını bildirdi
  • Kötü niyetli bir saldırgan bu tokenu kullanabilseydi, HIPAA ile korunan belgeler, mahkeme emri belgeleri, iç bordro verileri gibi bilgiler tümüyle sızdırılabilirdi

Güvenlik dersleri

  • AI benimseme rekabeti içinde şirketler için veri koruma çerçevelerini güçlendirme zorunlu hale geliyor
  • Özellikle hukuk, sağlık gibi yüksek gizlilik gerektiren sektörlerdeki AI hizmetleri, güvenlik doğrulama süreçlerini sıkı tutmak zorundadır
  • Bu olay, yapay zekâ tabanlı SaaS’ta kimlik doğrulama ve yetkilendirme yönetiminin başarısızlığının yaratabileceği riskleri açıkça gösterdi

İlgili okumalar

1 yorum

 
GN⁺ 2025-12-04
Hacker News yorumu

  • Bu kadar bariz güvenlik açıklarını sınıflandırıp düzeltmenin neden hep bu kadar uzun sürdüğüne şaşırıyorum.
    27 Ekim'de açıklanıp 4 Kasım'da e-posta teyidi gelmiş; o süre boyunca istemci dosya sisteminin tamamı açık durumdaymış.
    Asıl düzeltme muhtemelen 1 saatten kısa sürecek bir yama işiydi; QA testi dahil olsa bile bu kadar uzun sürmemeliydi.
    Acaba security@ e-postasını kimse mi takip etmiyor, yoksa biri izinde miydi, ya da spam o kadar fazlaydı ki gerçek sorunu fark edemediler mi diye merak ediyorum.

    • Benim deneyimime göre bu tür gecikmelerin nedeni kurumsal yapı ve proje yönetimi sorunları.
      security@ e-postasını güvenlik ekibi yönetiyor ama hatayı gerçekten düzeltecek ekip başka olduğu için aktarım süreci karmaşıklaşıyor.
      Sırf kodun sahibini bulmak haftalar sürebiliyor ve takvimler dolu olduğu için öncelik yükseltmek zorlaşıyor.
      Bir de hukuk ekibinin onayı gerekiyorsa müdahale daha da gecikiyor.
      Akıllı şirketler güvenlik ekibine acil müdahale yetkisi veriyor ama bu da kötüye kullanılırsa içeride ciddi bir yorgunluk yaratıyor.
    • Çoğu durumda mesele “güvenlik posta kutusuna bakmamak” değil; o kısmı bilen tek kişinin aynı anda 12 başka işle uğraşıyor olması.
      Güvenlik yaması 1 saatlik iş ama kurum içi onaylar ve kod sahibini bulma yüzünden 2 hafta sürüyor.
      Sonuçta asıl sorun organizasyonun entropisi.
    • security@ kutusuna bugünlerde çok fazla sahte rapor geliyor.
      LLM'ler inandırıcı görünen zafiyet raporları üretebildiği için uzmanlar bazen saatlerini boşa harcıyor.
      Bu yüzden bazı şirketler e-postaları yalnızca mesai saatleri içinde inceleme politikası uyguluyor.
    • Gerçekte spam çok olsa da günde birkaç ileti seviyesinde; bu kadar ciddi bir açığın hemen yamalanmamasını açıklamaz.
      Muhtemelen dediğin gibi sorumlu kişi izindeydi.
    • Çalıştığım küresel müdahale merkezinde 600 kişi var ve öncelikli 26.000 konu bulunuyor.
      Sistemler karmaşıklaştıkça sorunlar azalmıyor, artıyor.
      Sonuçta hepimiz “bunu kaldırabiliriz” yanılgısı içinde çalışıyoruz.

  • Bu şirket 1 milyar dolar değerlemeye ulaştıysa, böyle temel bir açık tek başına buna denk bir kayıp yaratabilirdi.
    Bunu kötü niyetli biri bulsaydı geri dönüşü olmayabilirdi.
    Müşteri verilerinin tamamı sızmış olabilirdi; bu yüzden bulana ödül verilmeliydi.

    • Aynen. Böyle bir açık fidye yazılımı gruplarına satılıp yüz binlerce dolara alıcı bulabilirdi.
      Sonrasında veri sızıntısı, şantaj, davalar ve para cezaları gelirdi.
      Hacker'ların whitehat yerine gri pazara yönelmesinin nedenlerinden biri de bu.
    • Gerçekten büyük bir ödül vermeleri gerekirdi.

  • Ben bir finans şirketinde çalışıyorum; herkes neden SaaS X'e müşteri verilerini emanet ederken AI SaaS Y'ye vergi belgelerini yükleyemediğimizi sorguluyor.
    Bence şu anda AI sektörü tam anlamıyla Vahşi Batı gibi.
    Her şey o kadar hızlı gelişiyor ki güvenlik süreçleri atlanıyor.
    Bu olay da bunu çok iyi gösteriyor.

    • FileVine bir hukuk AI aracı olsa da bu sorun AI'ın kendisiyle ilgili değil.
      Görünüşe göre sadece Box API entegrasyonu kaynaklı bir mesele.
    • Bilgi olarak, bu şirket 2014'te kuruldu ve LLM özelliklerini ancak yakın zamanda ekledi.
      Reuters haber bağlantısı
    • SaaS X IAM işlevleri sunuyor ve kendi erişim politikalarını uyguluyorsa nispeten daha güvenlidir.
      Buna karşılık SaaS Y sadece “veriyi bize bırakın, güvende olur” diyorsa şüphe uyandırır.
    • Ama en başta SaaS X'e neden güvendiğimizi de sorgulamak lazım.
    • İlginç olan, bu açığın AI ile hiç ilgisinin olmaması ve herhangi bir SaaS şirketinde yaşanabilecek bir sorun olması.

  • Bu olay, “API'leri hızlıca birbirine bağlayan startup kültürü” ile “veri sızıntısının hayat mahvedebileceği hukuk ve sağlık sektörleri”nin çarpışması.
    Sorun 2010'lar seviyesinde bir hata kalıbı ama üstü 2025 AI pazarlamasıyla kapatılmış.
    AI modeli eğitimi için belgeleri merkezileştirdikçe, bir olay yaşandığında etki alanı çok daha büyüyor.
    Satış tarafında anlaşma kapatmak için veri erişimini kolaylaştırmak gerektiğinden, en az ayrıcalık ilkesi gibi şeyler sonraya bırakılıyor.
    Sonuçta avukatlar bir “AI asistanı” satın aldıklarını sanıyor ama gerçekte kurumun tüm hafızasına dışarıdan erişim hakkı vermiş oluyorlar.
    Asıl soru şu: Bu sistemlerden kaçı düzgün bir red team testinden geçebilir?

    • Biraz komik. Şirket bir yandan siber güvenlik gösterisi yaparken, öte yandan her şeyi baypas eden bir LLM solucan deliği oluşturuyor.
      Sorun, teknik olmayan yöneticilerin AI'ı anlamadan sadece pazarlama sloganı atması.
      Yine de uzay benzetmesini iki kez kullanmış olmam hoşuma gitti.

  • Filevine ekibi açıklama süreci boyunca profesyonel ve hızlı davrandı.
    Sorunun ciddiyetini kabul edip düzelttiler ve şeffaf iletişim kurdular.
    Bu yüzden böyle durumlarda şirket adını özellikle açıklamaya gerek olmadığını düşünüyorum.
    Sorun çözüldüyse ayrıca utandırmanın anlamı yok.

    • Ama sorumlu açıklama sürecinde şirket adını vermek yaygın bir uygulama.
      Böylece sektör hangi şirketlerin bildirimleri ciddiye aldığını görebilir.
    • Etik açıklama, iki tarafın da teknik ayrıntıları birlikte paylaşmasıdır.
      Hem hacker hem de şirket için iyi bir örnek olarak kalır.
    • Hataları gizlemek şeffaflık ve güveni zedeler.
    • Böyle ciddi bir sorunda müşterilerin haberdar olması gerekir.
      Ayrıca diğer AI SaaS şirketleri de bu yazıyı görüp aynı hatadan kaçınabilir.

  • SOC2, HIPAA gibi güvenlik sertifikasyon süreçleri bir tür ‘güvenlik tiyatrosu’ gibi hissettiriyor.
    Gerçekte önemli olan şeyler göz ardı edilirken ortalık biçimsel ekran görüntüleri ve dokümantasyonla doluyor.

    • SemiAnalysis bu sertifikaları FAA lisansı kadar önemli diye değerlendirmişti ama kendileri basit bir güvenlik kontrolü eksikliği yüzünden hacklendi.
      ilgili yazı bağlantısı
      Sonuçta bu, gerçek güvenlikten çok parayla satın alınan bir onay kutusundan ibaret.

  • Güvenlik yazılımlarının kullanılabilirlik ve karmaşıklık açısından hâlâ ciddi iyileştirmeye ihtiyacı var.
    Google ve Meta'da çalışırken ACL sistemleri o kadar karmaşıktı ki anlamam 4 yılımı aldı.
    Teknik olmayan şirketlerin bu tür sistemleri kullanması zaten mümkün değil.
    Bu yüzden bazen güvenliği sadeleştiren bir startup kurmak istiyorum.
    Bana kalırsa bu, AI'dan çok daha zor bir problem.

  • Şirketin blog yazısının yayımlanmasına izin vermesi gerçekten sevindirici.
    Ben de geçmişte büyük bir açık bulmuştum ama şirket açıklanmasını engellemişti.

    • “Bunun için izin mi almak gerekiyor?” Bence sadece sorumlu biçimde açıklarsın, olur biter.
    • Açıklama üzerindeki kontrol neden şirkette olsun ki? Bildirim sürecine uyduysan sonrasında özgürce yazabilmelisin.

  • Bu saldırı hiç de sofistike değildi.
    Filevine web sitesinde penetrasyon testi yaptığını yazıyor ama bunu kaçırmış olmaları inanılmaz.
    Görünüşe göre bug bounty'yi penetrasyon testiyle karıştırmışlar.
    Bunun gerçekten savunulacak bir tarafı yok.

  • Son zamanlarda o kadar çok “healthcare + AI” startup'ı var ki, birkaç ay içinde büyük bir HIPAA veri sızıntısı patlamasından endişe ediyorum.
    Benzer örnekler bu başlıkta da görülebilir.