Tesla, ölümcül kazada kritik verilerin bulunmadığını söyledi ama bir hacker bunları buldu

• Tesla, otomatik sürüş kazasıyla ilgili kritik verilerin bulunmadığını öne sürdü
• Ancak bir hacker iç verileri ortaya çıkarınca tartışma başladı
• Bu durum, Tesla'nın ifade güvenilirliği ve veri tutma pratiği hakkında soru işaretleri doğurdu
• Tesla'nın hukuki sorumluluğu ve delil sunma yaklaşımı yeniden gündeme geldi
• Otonom sürüş teknolojisinin riskleri ve şeffaflık sorunu bir kez daha öne çıktı

---

Tesla kaza verilerini gizleme tartışmasına genel bakış

• Tesla, ölümcül bir otonom sürüş kazasıyla ilgili olarak şirketin söz konusu olayın kritik verilerine erişemediğini ileri sürdü
• Ancak bir hacker, Tesla'nın iç sistemlerinde ilgili verileri bularak, daha önce yok denilen verilerin gerçekte mevcut olduğunu kanıtladı
• Bu durum, Tesla'nın mahkeme ifadesinde gerçeği gizlemiş olabileceği ya da en azından iç veri yönetim sistemini yeterince anlamadığı yönünde soru işaretleri yarattı
• Olay; hukuki sorumluluğun kime ait olduğu, delil sunma yükümlülüğü ve otonom araç verilerinin yönetiminde şeffaflık gibi birçok tartışmayı tetikledi
• Ayrıca otonom sürüş teknolojisinin güvenilirliği ve gelecekteki kaza süreçlerinde teknoloji şirketlerinin tutumuna yönelik ilginin artmasına yol açtı

[GN⁺]

Hacker News görüşleri

• Arşiv bağlantısı paylaşıyorum

• Doğru anladıysam emin olmak istiyorum. Kaza verisi otomatik olarak Tesla’ya gönderiliyor ve gönderilir gönderilmez hemen silinmiş olarak mı işaretleniyor? Böyle bir yapı varsa veriye erişim hakkı tamamen Tesla’nın elinde olur ve veriyi isteğine göre kullanıp kullanmamaya karar verebilir. Mahkemede böyle bir şeyin kabul görmesi mümkün değil gibi geliyor ama şimdiye kadar öyle olmuş gibi duruyor. Ayrıca doğal olarak Tesla sunucularında kaza verisinin silinmesine dair bir denetim kaydı olması gerekir diye düşünürüm ama gerçekte böyle bir kayıt var mı kimse doğrulamış değil

  • Araç verisi sadece Tesla tarafından değil, tüm üreticiler tarafından tekelleştirilmiş durumda. Standartlaştırılmış bir veri kayıt ya da sorgulama yöntemi yok ve parça bazındaki log’ları da yalnızca ilgili tedarikçiler yorumlayabiliyor
  • Biraz daha olumlu yorumlarsak, kazadan sonra dışarıdan biri araca ve belleğe erişip araç sahibinin/sürücünün kişisel verilerini açığa çıkarabilir. Ayrıca araç durum verisi kamuya açılırsa, bunu sunan tarafa göre çarpıtılabilir; bu yüzden sadece resmî uzmanların erişmesi gerektiğini düşünebilirim. Uçak kara kutularının olay yerinde ele alınmasına benzer bir mantık
  • Bir başka neden de, Tesla’ya yüklenen diğer veri türlerinin yükleme koduyla çakışma ihtimali olabilir. İlk veri türü için (rastgele veri), Tesla sunucusuna kaydedildiğine dair onay gelirse araç içinde veriyi silip depolama alanı açmak mantıklıdır. Kaza anı için ideal değil ama silmenin kötü niyetli olduğunu kesin olarak söyleyemem
  • Bana bu durum “arama kalitesini iyileştirme amaçlı kayıt” olayını hatırlatıyor. Düzenleyiciler istediği için müşteriye bildiriyorlar ama işlerine gelmezse kayıt yok diyorlar, işlerine gelirse de kaydı yayımlıyorlar. Tesla’nın çok büyük miktarda müşteri verisini özensiz ele aldığı örnekler çok oldu; yakın zamanda araç içi videoların ofis içinde paylaşıldığı da ortaya çıktı. Bir porno oyuncusunun otonom sürüşteki bir Tesla’da video çektiği olay vardı; o görüntünün de “kalite iyileştirme” bahanesiyle her yere dolaştırılmış olduğunu düşünüyorum
  • Daha önce araç telemetri verisini talep etmek için Tesla’ya karşı dava açmak zorunda kalan çok kişi oldu. Veriyi kendine karşı kullanmak için değil, trafik kazası davasında kullanmak için istiyorlardı ama Tesla yine de paylaşmadı. Buna karşılık Tesla, kişinin onayı olmadan telemetri verisini basına verip kendini savundu, hatta bazen insanları haksız şekilde yalancılıkla suçladı. Mesela “araç sürücüyü dikkatli olması için uyardı” diyor ama inceleyince aslında çarpışmadan 18 dakika önce yalnızca bir kez uyarı verildiği görülüyor

• Geçmişte eBay’den bir model3 infotainment ünitesi alıp hack’lemiştim. İçinde saklanan veri miktarı inanılmaz. Sisteme eriştikten sonra aracın VIN’ine ulaştım ve o aracın çıktığı hurda araç ihalesini bile bulabildim. Kayıtlı konum verilerinden araç sahibinin yaşadığı yer, çalıştığı yer, sık gittiği dükkânlar gibi yaşam düzeni olduğu gibi görünüyordu. Son kaydedilen GPS konumu North Carolina’daki T biçimli bir kavşaktı ve Street View üzerinden o aracın çarpmış olabileceği ağacı bile görebildim

  • Donanımı merak ediyorum. Linux tabanlı bir bilgisayarda SD kart ya da SSD kullanılan bir yapı mı, hangi dosya sistemi kullanılıyor merak ediyorum
  • “Araç sahibinin hayatından bir kesit gördüm” sözüne… acaba buna ölümü de dâhil mi diye şaka ekleniyor

• Mahkemede oynatılan açıklamalı videoya göre Tesla, 170 fit mesafede aracı ve ardından 116 fit mesafede yayayı tespit ediyor. Ama Tesla, onların durduğu yerden yani sinyal ve tabelaların bulunduğu yol sonundaki tam noktadan geçen bir rota planlıyor. Yani aracı ve yayayı tespit etmesine rağmen ikisinin arasından geçmeye çalışmış. Bu yazılımın durumu tam olarak ne kadar vahim diye merak ediyorum

  • Gerçekten bunun bu kadar sorunlu olduğuna dair örnek video da eklenmiş: vimeo.com/1093113127/e1fb6c359c. Sadece yayayı tespit edip yanından geçmeye çalışmıyor, yayaya gerçekten çarptıktan sonra bile rotayı sürdürmeye devam ediyor
  • Yapay zekanın dünyayı değiştireceği ve Skynet gibi olacağı söyleniyor ama gerçek rota bulma yeteneği Counter-Strike botu seviyesinde
  • Bunun dog/pig problem olduğunu düşünüyorum. Bu tür sistemlerin sorunu, “nesne sürekliliği (object permanence)” olmaması. 170 fit uzakta bir araç tespit etse bile yaklaştığında tespit sürmüyor; yayada da durum aynı. Tesla sistemi sabit nesneleri (duran araç/tabela) filtreliyor, bu da diğer markaların sürüş destek sistemlerinde yaygın bir şey (yalnızca park destek modu hariç). Ama çoğu başka marka sürücüsü sisteme aşırı güvenmezken, Tesla sürücülerinde bu yardımcı işlevlere fazla güvenme eğilimi var. İlgili video: The Mitchells vs. the Machines sahnesi
  • Benim tahminim, gerçekte tespit edilen araç ve yaya mağdurlar değil başka şeylerdi. (Mağdurlar olsaydı “a vehicle” ya da “a pedestrian” demezlerdi)

• “25 Nisan 2019 saat 21:14’teki kazadan hemen sonra, kritik veri otomatik olarak Tesla sunucularına yüklendi ve merkezi veritabanına kaydedildi. Merkez ofis, çarpışma anlık görüntüsünün alındığına dair araca otomatik bir mesaj gönderdi. Kısa süre sonra aynı veri olay yerinde ‘unlink’ edildi, yani araç içindeki kopya silinmiş olarak işaretlendi. Tesla mahkemede bunun kazalarda normal bir prosedür olduğunu söyledi.” Bütün bunlar başlı başına sarsıcı

  • İnsanların bu şirkete bu kadar büyük güveni bu kadar kolay vermesi şaşırtıcı. EV alanında lider kalmış olsun ya da AI/robotik tarafında yeni güç olmuş olsun, böyle şirket davranışları gerçekten hayal edilenden de kötü. Bu tür ahlaksızlık bana resmen Aperture Science hissi veriyor
  • Bu prosedürün meşru biçimde savunulup sorun yaratmayacağı bir durum hayal edemiyorum. Compliance, yasal gereklilikler ve veri saklama konusunda büyük soru işaretleri var; ayrıca böyle bir kodu dağıtıma kimin soktuğunu da merak ediyorum. Bunun tek bir kişinin hatası değil, ekip düzeyinde verilmiş bir karar olduğu vurgulanıyor
  • Daha büyük sorun, Tesla’nın merkezi sunucudaki veriyi de “aktif biçimde sildiğinin” ortaya çıkması
  • Benim alıntıladığım kısım (araç içi verinin silinmesi) o kadar tuhaf değil; sunucudan silinmiş olması çok daha sarsıcı
  • Önceki olay/kaza HN başlığındaki en üst yorum, manevi tazminatın fazla olduğundan söz ediyordu. Bu başlıkta tartışmanın biraz farklı gelişip gelişmeyeceğini merak ediyorum

• Volkswagen emisyon manipülasyonu yüzünden yakalandığında CEO kovuldu ve yargılandı. Tesla için de aynısı gerekmiyor mu diye soruluyor

  • Dieselgate’in ilginç yanı, gerçekten birilerinin cezalandırılmış olması. Şirketlerin, özellikle de ceza hukuku açısından, gerçekten cezalandırılması çok nadir görülüyor bence
  • Davaya bakan yargıç kararında, “Tesla’nın veriyi başta sunmamasının kasıtlı olduğuna dair yeterli kanıt yoktu” değerlendirmesini yaptı; bunun yerine davacının veriyi kendi başına toplamak için yaptığı masrafın Tesla tarafından ödenmesine hükmetti
  • Bunun için Big Tobacco davalarındaki gibi Demokrat eyalet başsavcılarının ortak hareket etmesi gerektiğini düşünüyorum
  • CEO’yu görevden almak yönetim kurulunun yetkisinde. Tesla yönetim kurulu şirket değerinin anormal derecede yüksek olduğuna ve bunun CEO’yla doğrudan bağlantılı olduğuna inanıyor
  • Bu olay VW’den tamamen farklı bir durum; ortak yanları sadece ikisinin de otomobil şirketi olması. Tesla CEO’sunun kovulması ya da yargılanması gerekebilir ama bunun nedeni VW olayının emsal olması değil

• Tesla secure boot teknolojisini tam uygularsa, yakında artık kimsenin açıklarını bulması kolay olmayacak. O zaman kaza verisinin “kaybolması” ihtimali daha da artar ve bu da polisin bodycam görüntülerini “kaybetmesine” benzer hale gelir

  • Bu yoruma son derece katılıyorum. Hacker’ların sorunları ortaya çıkarabilmesinin nedeni secure boot ya da şifreli image kullanılmıyor olmasıydı. Gömülü sistem geliştiricileri MCUboot gibi şeyleri zaten biliyor. Ama yöneticiler karmaşık bulduğu için uygulamaya yanaşmıyor; onay çıktığında ise tüm firmware, Signal sohbetleri gibi yalnızca üreticinin açabileceği hale gelecek. PSA standartlı donanım çoklu bit glitch saldırılarına karşı bile dayanıklı olmak zorunda; yani artık hacker’ların erişmesi mümkün olmayacak

• Tesla çalışanının mahkemedeki ifadesini değiştirmesiyle ilgili bölüm alıntılanarak, “fiilen yalan yere tanıklık etti” deniyor

  • Benim en büyük merakım, gerçekten böyle yalan söyleyen çalışanlara ne tür bir ceza verileceği. Sistem içinde şirket adına hareket ettikleri gerekçesiyle aslında korunup korunmadıklarını merak ediyorum

• Bu yazıyı okuduktan sonra asla Tesla almayacağıma kesin karar verdim. Hack girişiminde bulunan greenthehacker’ı da tebrik ediyorum. Umarım uzun yıllar boyunca Starbucks venti sıcak çikolatasını keyifle içer

  • Bugünden önce gerçekten Tesla almayı düşünüp düşünmediğini merak ediyorum. Daha önce de otonom sürüş kaynaklı birçok ölümcül kaza olmuştu; bu olayı özellikle farklı hissettiren şey ne? Benim için dönüm noktası, Florida’da bir Tesla’nın büyük bir kamyonun altına girip sürücünün korkunç şekilde ölmesi olmuştu
  • “Starbucks venti sıcak çikolata”yı uzun süre içmesini dilemek, aslında ona diyabet dilemek olmuyor mu diye neşeli bir karşılık verilmiş
  • Musk’ın geçmişte Alman hava kuvvetlerini (Luftwaffe) çağrıştıran bir şaka yapmış olması da Tesla alma isteğini etkilemedi mi diye takılan bir yorum da var

• Şu anda yaşananların, Elon’un karakterini doğru okuyan biri için hiç şaşırtıcı olmadığını düşünüyorum. Özellikler, takvimler, hatta video oyunu sıralamaları bile palavra… Twitter’ı satın alması da kendi aldatmacasını büyütme hamlesi gibi görünüyor