Sahte Bir Köprü Çöküş Görseli Nedeniyle Tren Seferleri Durduruldu

• Yapay zeka ile oluşturulduğu iddia edilen bir görselin sosyal medyada yayılması, köprünün gerçekten çökmüş gibi görünmesine yol açınca tren seferleri geçici olarak durduruldu
• Network Rail, görselin yayılmasını takiben güvenlik kontrolü yapmak için Carlisle Bridge'i geçen tüm trenleri durdurdu
• Denetimde bir sorun tespit edilmediğinden yaklaşık bir buçuk saat sonra hat yeniden açıldı ve 32 yolcu ve yük treni gecikti
• Demiryolu yetkilileri, yalan görüntü üretip paylaşmanın gereksiz karmaşa ve vergi israfına neden olabileceğini uyardı
• Uzmanlar, olayın gerçek maddi zararının sınırlı olmasına rağmen, yapay zeka tabanlı yanlış bilginin toplum altyapısı işletmesine verdiği riski gösteren bir örnek olduğunu belirtti

---

Sahte Görsel Nedeniyle Tren Seferinin Durdurulması

• Depremden hemen sonra, köprünün şiddetli hasar görmüş gibi göründüğü bir görsel sosyal medyada paylaşıldı
  • Görüntü yapay zeka ile oluşturulduğu şüphesini taşıyor ve Lancaster'daki Carlisle Bridge'in çökmüş gibi görüldüğü iddia ediliyordu
• Network Rail, 00:30 GMT'de görseli fark ettikten sonra, güvenlik kontrolü amacıyla o köprüyü geçen tüm tren seferlerini durdurdu
• BBC muhabiri, bir yapay zeka sohbet botuyla görüntüyü analiz ettikten sonra değiştirme izlerinin bulunduğunu tespit etti

Demiryolu Kurumu'nun Yanıtı ve Etkisi

• Hattın 02:00 GMT civarında tamamen yeniden işletmeye açıldığı belirtildi; Network Rail, yanıltıcı görselin yaratılıp paylaşılmasının ciddi sonuçlar doğurabileceği konusunda uyardı
• Yetkililer, “böyle bir yanıltıcı görselden doğan karmaşanın yolcu gecikmesine ve vergi israfına yol açtığını, ayrıca sahadaki ekiplerin iş yükünü artırdığını” dile getirdi
• British Transport Police olayı fark etmiş olsa da herhangi bir resmi soruşturma başlatmadı

Sefer Gecikmelerinin Boyutu

• Network Rail'e göre toplam 32 yolcu ve yük treni gecikti
  • Bazıları doğrudan duraklamak zorunda kaldı veya hızını düşürdü; diğerleri ise önceki trenlerin gecikmesinden etkilendi
  • West Coast Main Line'ın uzunluğu nedeniyle gecikmeler İskoçya'nın kuzeyine kadar yaygınlaştı

Uzman Analizi

• Demiryolu uzmanı Tony Miles, olayın geç saatlerde meydana gelmesi nedeniyle trenlerin çoğunun yük ve yataklı tren olduğunu açıkladı
  • Bu trenler genelde düşük hızda çalıştığından, gecikme olduğunda hızı artırarak kaybedilen zamanı telafi etme şansları vardır
• O, Network Rail'in acil durum ekiplerini sahaya sevk etmek zorunda kalması nedeniyle önümüzdeki günlerde işlere etki edebileceğini ifade etti

Yanlış Bilginin Toplumsal Etkisi

• Miles, bu tür yanlış görsellerin gerçek insanların programlarını etkileyebileceğini vurguladı
  • Tıbbi randevu, uçuş, cenaze töreni gibi önemli planların aksamasına yol açabileceğini belirtti
• "Bu tür davranışlar basit bir şaka değil; gerçek insanların hayatlarına zarar veren bir eylem" dedi ve özensiz paylaşım çağrısında bulundu

[roxie]

Neden ilk yayan kişiyi bulmuyorlar?

[shakespeares]

Yapay zeka sayesinde hisse manipülatörleri örgütlerden bireylere dönüşebilecek gibi görünüyor, değil mi?

[crawler]

Böyle bir durumda cezanın ne olacağını gerçekten merak ediyorum.

[GN⁺]

Hacker News yorumu

• Şimdi daha sahte görüntü ve videolar çağının daha en başındayız
  Daha önce de Donbas bölgesindeki sahnelenmiş bombalama olayı gibi, yapay zeka olmadan da insanlar cesetleri kullanarak sahte sahneler üretiyordu
  Bundan sonra azınlıkların ya da siyasetçilerin hiç yapmadıkları şeyleri yapıyormuş gibi gösteren videolar, mahkemeye delil diye sunulan tamamen kurgu materyaller göreceğiz. Gerçekten korkunç bir dünya olacak gibi duruyor

  • Hatta ille de sahte video bile gerekmiyor. Bir azınlığın fotoğrafına sadece yalan bir altyazı eklemek bile, sayısız insanın öfkeyle akın etmesine yetiyor
  • Kuşaklara göre tepki farklı. Dijital düzenlemenin yeni yaygınlaştığı dönemi yaşamış kuşak daha sakin, ama aradaki kuşak (20~40 yaş) en çok rahatsız olan kesim. Gerçeklik duygusunun çözüldüğü bir siberpunk kaosunun tam ortasında duruyormuşuz gibi
  • 10~20 yıl önce de temel araçlarla yeterince sofistike manipülasyonlar üretilebiliyordu. Bugünkü “AI her şeyi mahvediyor” anlatısı ise daha çok açık kaynaklı yapay zekayı düzenlemeyi hedefleyen siyasi bir hamle gibi görünüyor
  • Hindistan araştırmalarında ilk kez ‘Cheap Fakes’ terimini duydum. Üretken yapay zeka, phishing saldırılarını daha verimli hale getirerek eskiden hedef olmayan kırılgan grupları bile hedef alır oldu. Bilgi ekosistemi kirleniyor, hükümetlerin kontrol arzusu ile ifade özgürlüğü arasında karanlık bir orman oluşuyor
  • Gerçekten manipüle edilmiş çok sayıda fotoğraf var, ama gerçek olayların çarpıtıldığı ya da görmezden gelindiği durumlar da çok. Sorun, gerçek ile kurmacanın birbirine karıştığı noktada

• Bu olay, uyarı üretme maliyeti ile doğrulama maliyeti arasındaki farkı gösteriyor
  Üretken araçlar manipülasyonu neredeyse bedavaya indiriyor ve hacmini patlatıyor
  Demiryolu işletmecisinin bir suçu yok. Depremin hemen ardından inandırıcı bir görüntü dolaşırsa, elbette yerinde doğrulama yapmak gerekir
  Bundan sonra tek bir kişinin düşük maliyetle yüksek maliyetli bir müdahaleyi tetikleyebildiği bir dünyada yaşayacağız. Sistemler sosyal medyayı görmezden gelmek yerine, sinyal ile gürültüyü ayırma hızını ve dayanıklılığını artırmalı

  • Biri sadece telefon edip “köprü çöktü” deseydi de gecikme yaşanırdı. Telefonla söylenen yalanlar da eski bir sorun
  • Birleşik Krallık gibi CCTV’nin yaygın olduğu bir yerde köprünün durumu doğrudan kontrol edilebilirdi diye düşünürdüm; bu bana şaşırtıcı geldi. Otomatik tespit teknolojilerinin daha da gelişmesi gerekiyor
  • Brandolini yasasında olduğu gibi, bir yalanı çürütmek çok daha fazla enerji istiyor
  • 2030 civarında çok daha sofistike sahte görseller anında üretilebilecek. Bu, siber güvenlikteki saldırgan-savunmacı ikilemine benziyor
  • Bu tür olaylar gerçek zamanlı altyapı izleme yatırımlarını da hızlandırabilir

• 1950~2005 arasında yayıncılığa giriş eşiği yüksekti, bu yüzden bilgi kaynağı azdı. 2005~2021 döneminde video güvenilirliği yüksekti, ama artık sahte videonun maliyeti neredeyse sıfıra indi
  Yeniden az sayıdaki güvenilir kaynağın merkezde olduğu bir düzene dönecek gibiyiz

  • Ama o az sayıdaki kaynak da geçmişte çarpıtma yaptı. Yapay zeka yüzünden güven daha da azalırsa, gerçek gazeteciliğin değeri de düşebilir
  • Bugünlerde yapay zekayla konuşturulan hayvan reklamları her yerde, bıktırdı artık
  • Bazı insanlar doğru haber istedikleri için para ödüyor, ama çoğunluk sadece kendi önyargılarını doğrulatmak istiyor. Sosyal medya algoritmaları gerçeği değil, etkileşim oranını ve reklam gelirini önceliklendiriyor

• Network Rail, “sahte görüntüler üretmeden ya da paylaşmadan önce bunun ciddi etkilerini düşünün” dedi ama,
  asıl ihtiyaç duyulan şey sosyal medyaya dayanmayan bir doğrulama sistemi. Acaba telefonla doğrudan teyit etmek daha iyi olmaz mıydı?

  • Yine de köprünün çökmüş olma ihtimali varsa trenleri durdurmak doğru karardır
  • Olay gece yarısı yaşandığı için kontrol edecek personeli bulmak zaman almış olabilir. Güvenliği garanti etmek mümkün olmasa da, öncelik riski azaltmak olmalı
  • Her hatta 24 saat sürekli görevli personel bulundurmak imkansız. Network Rail önce güvenlik yaklaşımını doğru uyguladı

• Aslında böyle bir şey için AI bile gerekmiyor
  Birinin telefon edip “köprü yıkıldı” demesi bile aynı sonucu doğururdu. Asılsız ihbarlar ve sahte tehditler eskiden beri var

  • Ama sosyal medyanın viral yayılma gücü farklı. Bir görsel yayılınca birçok yetkili aynı anda tepki veriyor. Telefon yayılmaz, ama görsel kendi kendine yayılır. Bu yüzden bu olay mümkün oldu
  • “Eskiden de kötü şeyler oluyordu, o yüzden endişelenmeye gerek yok” mantığı tehlikeli. Sorunu X seviyesinden X² seviyesine çıkarmamalıyız
  • Telefon şakalarının hukuki yaptırımı var, ama sahte fotoğraflar o eşiği aşmıyor
  • Barut icat edilmeden önce de insanlar mermisiz fırlatılan cisimlerle öldürülebiliyordu, ama barut dünyayı değiştirdi. AI da aynı şekilde
  • Asılsız eylemleri engellemek için güçlü cezalar gerekli. Sorun, maliyeti suçlulardan çok toplumun üstlenmesi

• İlginç olan şu ki, bu fotoğrafın gerçekten sosyal medyada dolaştığına dair bir kanıt yok
  BBC haberi dışında hiçbir iz bulunamadı. Belki de doğrudan Network Rail’e e-postayla gönderildi

  • Eğer bu kadar incelikli bir şakaysa, insan neredeyse takdir edesini geliyor

• Bu olay bana 『Fall; or, Dodge in Hell』 içindeki Moab olay örgüsünü hatırlatıyor

  • Kitabın ilk bölümleri gerçekten çok ilginçti. Özellikle anonimlik ve çevrimiçi görünürlük üzerine olan kısımlar etkileyiciydi

• BBC muhabirinin görseli bir AI chatbot ile analiz ederek manipülasyon izleri aradığı söyleniyor
  Ama bu yöntem doğrulama yöntemi olarak uygun görünmüyor

  • Muhabir gerçekten olay yerine gidip köprünün sağlam olduğunu doğruladı. AI analizi muhtemelen yardımcı bir araçtı
  • Bir öğretmen öğrenci ödevlerini ChatGPT ile kontrol etmişti; bu tür AI tespiti güvenilirliği düşük. Öğrenci modeli ters köşeye yatırırsa sistemi kolayca kandırabilir
  • “Piksellere bakınca anlaşılıyor” tarzı ChatGPT yanıtları şaka gibi geliyor
  • Hızlı bir yöntem olabilir ama haberde alıntılanabilecek düzeyde güvenilir değil

• Network Rail’in uyarısı aslında kendi zayıf noktalarını da ortaya koymuş oldu
  Bu yöntemle istendiği anda kamu altyapısını felce uğratan bir saldırı mümkün görünüyor

  • Aslında bu tür bir zafiyetin varlığı çok uzun zamandır biliniyor

• “Köprü incelemesi yüzünden birkaç gün boyunca işlerde aksama oldu” sözü daha da kaygı verici
  Sadece basit bir görsel kontrolün bile bu kadar büyük bir toplumsal maliyet doğurması şaşırtıcı

  • Ama acil çağrıyla göreve gelen personel telafi izni (TOIL) aldığı için planlamada aksama yaşanıyor.
    24 saat sürekli hazır bekleyen ekip bulundurmak daha da pahalı. Sonuçta mesele maliyet ile güvenlik arasında denge kurmak