Tesla, otonom sürüş testlerini sürdürebilmek için ölümcül kazayı gizledi

• Sızdırılan iç veriler, Tesla'nın otonom sürüş özelliğiyle bağlantılı binlerce ciddi kaza ve arıza raporunu bilmesine rağmen kamu yollarındaki testleri sürdürdüğünü ortaya koyuyor
• 2400'den fazla ani hızlanma şikayeti ve 1000'i aşkın Autopilot bağlantılı kaza kaydı tespit edildi; çok sayıda madde çözülmedi olarak işaretlenmiş
• Bazı araçlar sebepsiz yere ani hızlanma ve ani frenleme gösterdi; çevrenin yanlış algılanması, yüksek hızda ölümcül çarpışmalara yol açabiliyor
• Ölümcül kaza davasında silinen araç verileri geri getirildi ve aracın kaza anında engeli algıladığı, ancak kaçınma manevrası yapmadan çarpışmadan hemen önce yalnızca bir uyarı sesi verdiği doğrulandı
• ABD jürisi Tesla'nın 243 milyon doların üzerinde tazminat ödemesine hükmetti; Adalet Bakanlığı ve yol güvenliği kurumlarının soruşturmalarıyla birlikte kamu yollarındaki otonom sürüş testlerinin sorumluluğuna dair tartışma büyüyor

---

Genel Bakış

• İç veri sızıntısına dayanarak, Tesla'nın otonom sürüş özellikleriyle ilgili binlerce ciddi kaza ve arıza raporunu gizlerken kamu yollarındaki testleri sürdürdüğüne dair bulgular öne çıkıyor
  • Sızdırılan belgelere göre Tesla, sistemlerindeki ölümcül kusurları yıllar öncesinden biliyordu
  • İlk jüri kararında Tesla'nın, ölümcül kazanın mağdurlarına 243 milyon doların üzerinde tazminat ödemesine hükmedildi
• Otonom araçların vaat ettiği beklentilerin aksine, bazı kullanıcılar için bu durum bir kâbusa dönüştü ve yapay zeka tabanlı sürüş sistemlerinin yeterince doğrulanmadan pazara aceleyle sürüldüğü eleştirileri yapıldı
  • Soruşturma bulgularında, Elon Musk ve Tesla'nın yolları bir test sahası gibi kullandığından söz ediliyor
• Ağır kazaların zararı yalnızca sürücü ve yolcularla sınırlı kalmıyor; diğer yol kullanıcıları da kendi rızaları olmadan sistem kusurlarına maruz kalıyor

Sızdırılan Verilerin Temel İçeriği

• Büyük çaplı iç belge sızıntısında binlerce müşteri şikayeti ve çok sayıda kaza kaydı tespit edildi
  • Ani hızlanma ile ilgili 2400'den fazla şikayet
  • Autopilot bağlantılı kazalarda 1000'in üzerinde kayıt
• Çok sayıda vakada olay işleme durumu "çözülmedi" olarak işaretlenmiş
• Belgelerin genelinde Tesla'nın sistem kusurlarının boyutunun farkında olduğu görülüyor

Yoldaki Ölümcül "Halüsinasyonlar"

• Bazı Tesla araçlarında sebepsiz ani hızlanma ve ani frenleme vakalarından söz ediliyor
  • Haberde bu tür yapay zeka arızaları "halüsinasyon" olarak tanımlanıyor
  • ChatGPT'nin tamamen yanlış yanıtlar üretmesi olgusuna benzetiliyor
• Otonom sürüş sistemi çevreyi yanlış yorumlayabiliyor ve yüksek hızlarda bu tür hatalar ölümcül sonuçlara yol açabiliyor
• Autopilot kusurları yalnızca Tesla kullanıcıları için değil, yoldaki tüm kullanıcılar için risk oluşturuyor
  • Pek çok kişi Tesla'nın deneyinin parçası olmayı kabul etmemiş olsa da fiilen bu kusurlara maruz kalıyor

Mağdurların Hukuki Mücadelesi

• Naibel Benavides, Autopilot modundaki bir Tesla'nın karıştığı kazada hayatını kaybetti
  • O sırada yayaydı
• Dillon Angulo, aynı kazadan sağ kurtuldu ancak ağır yaralandı ve kazanın etkileri sürüyor
  • "Autopilot'un varlığını bilmiyordum; öğrendikten sonra kendimi deney faresi gibi hissettim" ifadesi yer alıyor
• Aile yakınları Tesla'ya karşı dava açtı
  • Tesla'nın önemli bilgileri gizlediğini savundular
  • Tesla ise sürekli olarak sorumluluğun sürücüde olduğunu öne sürdü

Hasarlı Olduğu İddia Edilen Kaza Verileri

• Kaza soruşturması sırasında aracın kara kutu verilerinin elde edilmesi gerekiyordu, ancak Tesla bu verilerin hasarlı olduğunu iddia etti
• Mağdur tarafının avukatları uzmanlarla birlikte silinen verileri geri getirmeyi başardı
  • Geri getirilen bilgilere göre Tesla, kazanın yaşandığı günün akşamından itibaren kusurdan haberdardı
• Kaza anında araç engeli algılamayı başarmıştı ancak çarpışmayı önleyici bir manevra yapmadı
  • Çarpışmadan hemen önce yalnızca bir uyarı sesi verdi

Tarihi Karar

• ABD jürisi, Tesla hakkında 243 milyon doların üzerinde tazminat kararına hükmetti
• Bu karar, Autopilot bağlantılı davalarda verilen ilk büyük karar olarak sunuluyor
  • Jüri, hem Tesla'nın hem de sürücünün sorumlu olduğuna karar verdi
• Mağdur tarafının avukatı bunu yargı tarihinde önemli bir gün olarak değerlendirdi
  • Kararın, kamu yollarının üreticilerin laboratuvarı gibi kullanılamayacağını ortaya koyduğu belirtildi
• Tesla kararı bozdurmaya çalıştı ancak şubat ayı sonunda federal yargıç yaptırımları yerinde bıraktı
  • Şirketin hâlâ temyize gitme imkânı var

ABD'de Soruşturmaların Genişlemesi

• Tesla, ABD'de birden fazla soruşturmanın hedefinde
  • Adalet Bakanlığı, tüketiciyi yanıltma ihtimalini soruşturuyor
  • Yol güvenliği kurumu da ayrı bir inceleme yürütüyor
• İhbarcılar yetkililere ifade verirken şirketin güvenlikten çok hıza öncelik verdiğini anlattı
• Otonom sürüşün test sürümü niteliğindeki özelliklerin pazara aceleyle sunulduğu ve çok sayıda çalışanın yönetime Autopilot riskleri konusunda uyarıda bulunduğu ifadeleri de yer alıyor
• Uzmanlar, bu ilk kararın ek davalara yol açabileceğini düşünüyor
  • Bunun Tesla'ya karşı yeni davaların önünü açan bir karar olduğu belirtiliyor

[GN⁺]

Hacker News yorumları

• Tesla'nın çarpışmadan birkaç saniye önce Autopilot'u kapatarak kaza anında sistemin aktif görünmemesini sağlamış olabileceğine dair bulgular gerçekten sarsıcı göründü. İlgili kısmı Futurism makalesinde görmüştüm

  • Bu yüzden ben de bu tür sürücü destek sistemlerini kolayca denemeye heves edemiyorum. Kontrolü ne zaman aniden geri almam gerekeceğini bilemediğim için, baştan sona doğrudan kendim kontrol etmem bana daha iyi geliyor
  • Adil olmak gerekirse haberde, otonom sürüş özelliğinin ilk çarpışmadan 1 saniyeden daha kısa süre önce araç kontrolünü bıraktığı yazıyordu. Bana göre sistemin çözemediği bir durumda kontrolü hemen bırakması doğal. Yine de Tesla'nın bunu kazadaki sorumluluktan kaçmak için aktif biçimde kullandığına dair kanıt ortaya çıkarsa fikrimi değiştirmeye hazırım. Kişisel olarak yaklaşık 5 saniyelik bir eşik daha makul görünüyor
  • NHTSA soruşturmasının bulgularıyla çelişiyor gibi dursa da Tesla, kendi FSD safety sayfasında çarpışmadan önceki 5 saniye içinde FSD aktifse, bunu kaza oranı hesaplarında FSD'nin dahil olduğu bir kaza olarak saydığını açıklıyor. Teoride bu, tipik 1-1,5 saniyelik algılama-tepki süresini rahatça kapsayan bir eşik gibi görünüyor; ama pratikte sistemin kontrolü sürücüye geri verdiği disengagement sürecinin tepki süresini değiştirebileceğini düşünüyorum. Sürücü, fren ve direksiyonun araç tarafından yönetilmesine alıştıysa, bu artık basit bir uyarana tepki vermek değil; dikkatini yeniden toplaması, tamamen manuel kontrole geçmesi ve ancak ondan sonra tepki vermesi gerekir. Bu da daha uzun sürebilir. Ayrıca frene basma ya da direksiyonu kırma davranışının gerçekten bilinçli biçimde kontrolü geri almanın işareti olup olmadığı da belirsiz. Refleksif bir hareket de olabilir
  • Bu bir süredir bilinen bir şey ve aktif kayıt bırakmaktan kaçınmak için değil, çarpışma sonrası hasarlı olabilecek bir durumda bilgisayarın kontrolü sürdürmemesi için yapılmış bir güvenlik tasarımı olarak anlıyorum. Araç takla attıysa ya da ağır hasar aldıysa, AP veya FSD böyle bir duruma uygun eğitim almamış olabilir ve o halde tekerleklerin dönmeye devam etmesi yolcular veya kurtarma ekipleri için daha tehlikeli olabilir. Bildiğim kadarıyla AEB frenlemeye yardımcı olmaya devam edebilir, ancak auto-steer ve cruise control'ün devre dışı kalması daha güvenlidir. Hatırladığım kadarıyla devreden çıkma eşiği yaklaşık 1 saniyeydi

• Tesla'nın otonom sürüş kazalarıyla ilgili mevzuata uyum ve bilgi açıklama konusunda sicilinin çok kötü olduğunu düşünüyorum

  • Ama makalenin kendisinde, ana iddiaya kıyasla somut sayısal veriler çok eksik görünüyordu. Trajik tekil vakaları bir kenara bırakırsak, genel anlatım fazla muğlaktı ve bu da iddianın ikna gücünü zayıflatıyordu

• Bu makalenin Almanca bir sürümü de vardı. SRF Almanca makalesine da bakılabilir

  • SRF, İsviçre'nin kamu radyo ve televizyon hizmeti olduğu için, muhtemelen 4 veya daha fazla dilde benzer içerikler sunma ihtimali yüksektir

• Bu haber eski Autopilot ile ilgiliydi, FSD ile değil, ayrıca yeni ortaya çıkan bir bilgi de pek yoktu. Görünüşe göre 2023'ten beri açık olan aynı sızdırılmış verilere dayanıyordu. Başlık da isabetsiz görünüyordu; Tesla'nın ölümcül kazaları gizlediğine dair makale içinde doğrudan bir dayanak bulamadım

  • Elon ya da Elon'a ait şirketler söz konusu olduğunda yine sahte ya da abartılı bir clickbait başlık çıkmış gibi görünüyor; o yüzden şaşırtıcı değil

• Videoya ve makaleye biraz arka plan eklemek istedim. Bu belgesel İsviçre'nin kamu yayıncısı RTS tarafından yapılmış ve genel Avrupa kamu medyasından biraz farklı olarak, görece istikrarlı finanse edilen ve kalite düzeyi yüksek bir kurum olarak görülüyor. Editoryal bağımsızlığı ve tarafsızlığı da genel olarak iyi, siyasi olarak da hafifçe sola yakın hissediliyor. Videonun Fransızca olmasının nedeni, İsviçre medyasının bölgesel dil alanlarına göre ayrılmış olması; Almanca çevirisinin bulunması da bundan kaynaklanıyor. İngilizce altyazı önerisi sunmak isterseniz, RTS ile doğrudan iletişime geçmeyi düşünebilirsiniz

  • Ama bu açıklama sanki Avrupa kamu medyasına normalde güvenmenin zor olduğu gibi bir ima taşıyordu. Neden böyle düşünüldüğünü merak ettim. Yüksek kaliteli kamu yayıncılığına sahip Avrupa ülkelerini düşününce liste fazlasıyla uzuyor; bu yüzden böyle bir genelleme bana tuhaf geldi

• Bu kazaların da sonuçta sürücü dikkatsizliği içeren vakalar olup olmadığını merak ettim

  • Bence öyle. Ama asıl mesele, FSD'nin doğasının sürücünün dikkatini bırakmasına yol açabilmesi

• Ben de Tesla'yı pek sevmem ve aşırı abartıldığını, aşırı pazarlandığını düşünürüm; ama bu makale açıkçası dağınık bir haber gibi geldi. Başlık “Tesla'nın Autopilot testlerine devam etmek için kazaları nasıl gizlediği” diyor ama metnin içinde neyin nasıl gizlendiği ve kimden gizlendiği anlatılmıyor. 2022'deki Tesla veri sızıntısıyla 2026'daki ayrı bir davayı birbirine karıştırıyor ve ikisi arasında bağlantı da kurmuyor. Tesla'nın yanıltıcı vaatler ve yetersiz açıklamalar konusunda tekrarlayan bir örüntüsü olduğunu düşünüyorum, ama bu makale o iddiayı düzgün biçimde kanıtlayamıyordu

  • Ben de benzer hissettim. Özellikle Musk'la ilgili konularda bunu daha sık gördüm. Eleştirilecek yeterince şey varken bile, araştırmacı gazeteciliğin saygınlığını yeniden kazanması için muğlak imaları çoğaltmak yerine daha az sayıda ama somut iddia ve kanıt sunması hem kamuya hem medyaya duyulan güvene daha çok katkı sağlar diye düşünüyorum. Kamuoyunu etkilemek için muğlak yöntemler daha kolay olabilir ama bu, gerçekle tutarlılık gerektirmeyen tehlikeli bir mekanizma
  • Bu yorumu görünce gidip makaleyi kendim okudum, ben de pek bir şey olmadığını düşündüm. Ama bu görüşün neden downvote aldığını gerçekten anlamadım. Bu arada ben de Tesla hayranı değilim; o kamyon da bence gerçekten berbat

• Videonun tamamını izlemek isterseniz RTS tam rapor videosuna bakabilirsiniz

• Almanca size daha uygunsa aynı içeriğin Almanca makalesine bakabilirsiniz