Bir muhasebe görevlisi, DeepFake yapılmış CFO ile görüntülü görüşmenin ardından dolandırıcılara 25 milyon dolar havale etti

• Hong Kong polisine göre, çok uluslu bir şirkette çalışan bir muhasebe görevlisi, şirketin mali işler direktörü (CFO) gibi davranan ve deepfake teknolojisi kullanan dolandırıcılar tarafından 25 milyon dolar göndermeye ikna edildi
• Dolandırıcılar, deepfake ile oluşturulmuş sahte çalışanlarla yapılan görüntülü toplantı üzerinden muhasebe görevlisini kandırdı
• Muhasebe görevlisi, Birleşik Krallık merkezli CFO’dan gizli bir işlem talep eden bir mesaj aldı ve ilk başta bunun phishing olabileceğinden şüphelendi; ancak görüntülü toplantıda meslektaşları olarak tanıdığı kişilerin yüzü ve sesiyle karşılaşınca şüphesini bıraktı

Hong Kong’da yaşanan deepfake dolandırıcılığı olayı

• Hong Kong polisi, kısa süre önce insanları kandırıp para çalmak için deepfake teknolojisinin kullanıldığı birden fazla olay yaşandığını açıkladı
• Polis bununla bağlantılı olarak altı kişiyi tutukladı
• Polis, geçen yıl temmuz ile eylül ayları arasında kayıp olarak bildirilen sekiz Hong Kong kimlik kartının kullanılmasıyla 90 kredi başvurusu ve 54 banka hesabı açılışı yapıldığını belirtti
• En az 20 vakada, yapay zeka deepfake teknolojisi kimlik kartlarındaki kişileri taklit ederek yüz tanıma programlarını kandırdı
• Sahte CFO ile ilgili dolandırıcılık, muhasebe görevlisinin şirket merkeziyle doğrulama yapmasının ardından ortaya çıktı

Dünya genelinde yapay zeka teknolojisine yönelik endişeler artıyor

• Dünya genelinde, deepfake teknolojisinin gelişimi ve bunun kötüye kullanılma ihtimaline dair endişeler büyüyor
• Ocak ayının sonunda, ABD’li pop yıldızı Taylor Swift’e ait yapay zeka üretimi pornografik görsellerin sosyal medyada yayılması, yapay zeka teknolojisinin zararlı potansiyelini bir kez daha gözler önüne serdi
• Şarkıcının cinsel çağrışım içeren ve açık pozlar verdiği fotoğraflar, sosyal platformlardan kaldırılmadan önce on milyonlarca kez görüntülendi

GN⁺’un görüşü

• Deepfake teknolojisinin ilerlemesi, bunun toplumsal ve ekonomik alanlarda ciddi bir tehdit oluşturabileceğini gösteriyor. Bu teknolojinin dolandırıcılık ve suçta nasıl kötüye kullanılabileceğini anlamak önemli
• Bu yazı, deepfake teknolojisinin risklerine dair farkındalığı artırıyor ve bireyler ile şirketlerin neden güvenliğe daha fazla dikkat etmesi gerektiğini vurguluyor
• Teknolojik ilerlemenin getirdiği olumsuz yönlere karşı uyanık olunması ve buna yönelik önlemler geliştirilmesinin önemini hatırlatmada bu yazı faydalı olacaktır

[GN⁺]

Hacker News görüşleri

• ABD'deki birçok orta ve üst segment otelin sahibi, Hindistan kökenli Patel soyadını taşıyan kişiler.

  • Acil bir durum olduğunu söyleyip para havalesi istemek için Patel soyadını kullanan telefon dolandırıcılıkları yaygın.
  • Otel çalışanları buna inanıp kasayı açabiliyor ya da kişisel hesaplarından para gönderebiliyor.
  • Bu tür dolandırıcılıklar, AI veya deepfake teknolojisi olmadan sosyal mühendislik teknikleri kullanıyor.

• "Power distance" adı verilen kültürel unsur bu tür dolandırıcılıkları etkiliyor olabilir.

  • Bazı kültürlerde prosedürler göz ardı edilip üstlerin talimatlarına koşulsuz itaat ediliyor.
  • ABD'deki bazı donanım teknoloji şirketlerinde de benzer durumların bildirildiği olmuştu.

• Fransa'da CEO, CFO ve avukat gibi davranan telefonlara kanıp para transferi yapan çalışanlar oldu.

  • 2022/2023'te tutuklanan Fransız-İsrailli bir çete en az 38 milyon euro dolandırdı.
  • Bunlar deepfake AI kullanmadan CEO taklidi yaptı.

• Çok katılımcılı bir video konferansta tüm katılımcıların sahte olduğu yönünde bir iddia var.

  • Bu gerçekten yaşanmış olabilir, ama çalışan da bahane olarak deepfake iddiasında bulunuyor olabilir.
  • Dolandırıcıların anne-babalara ya da büyükanne-büyükbabalara çocukları gibi davranıp toplu halde video aramayla para istemeye ne zaman başlayacağı ve bunun nasıl durdurulabileceği sorusu gündeme geliyor.

• Boston merkezli bir finans çalışanı 2023'te dolandırıcılara 6 milyon dolar transfer etti.

  • Sosyal mühendislik unsurları vardı ama deepfake'ten söz edilmiyordu.
  • 2023 MGM casino hack olayında ise teknik destek çalışanını kandırıp MFA'yı aşmak için deepfake kullanıldı.

• CFO'nun bir deepfake uzmanıyla iş birliği yapıp kazancı paylaşmış olabileceğine dair spekülasyonlar var.

  • Bunun gerçekten yaşandığı söylenmiyor, daha çok gelecekteki senaryolara odaklanılıyor.

• Çok katılımcılı video konferansta tüm katılımcıların sahte olduğu iddiası yeniden anılıyor.

  • Bu, her katılımcının görüntü ve ses örneklerini toplamak gibi ciddi bir hazırlık gerektirdiğini düşündürüyor.
  • Bu düzeyde bir sofistikasyon şimdiden ortaya çıkıyorsa, hassas toplantılar için yeni katılımcı doğrulama yöntemlerinin gelmesi beklenebilir.

• Büyük bir şirkette bunun nasıl olabildiğini anlamak zor.

  • Bir işlemin gerçekleşebilmesi için açık ve belgelenmiş prosedürler gerekir.
  • Bir işlemin onaylanması için birden fazla onay adımı olmalı ve ödemeyi sisteme giren kişiyle onaylayan kişi farklı olmalı.
  • İşlem sisteme girildiğinde ilk onaydan geçmeli, ödeme limitine göre ek onaylar da gerekebilir.

• İnsanları kandırmak için deepfake kullanan yazılımlara dair merak dile getiriliyor.

  • Henüz böyle bir yazılım görülmediği ve gerçekten insanları kandırabilecek bir ürünün var olup olmadığı sorgulanıyor.

• Bu tür dolandırıcılıkların, şirket içindeki kötü süreçlerden kaynaklandığı düşünülüyor.

  • Büyük meblağlar için yalnızca video görüşmesi yeterli değil.
  • E-posta ile teyit, şirket içi sohbet üzerinden görüşme ve üst düzey yöneticilerle cep telefonu konuşmaları gibi ek doğrulamalar gerekiyor.