- Yalnızca bir Instagram hesabının username bilgisiyle Meta müşteri destek yapay zekasını kandırıp parola sıfırlama ve hesap ele geçirme yapılabilen bir zafiyet nedeniyle, Obama White House hesabı dahil çok sayıda tanınmış hesap etkilendi
- Saldırganlar, güvenlik algoritmalarının şüphesini çekmemek için kurbanın bulunduğu şehrin yakınından bir VPN·proxy ile bağlanıp ardından destek yapay zekasına "hesabım hacklendi" diyerek doğrulama kodunun rastgele bir e-postaya gönderilmesini istiyor
- Bu e-postanın kullanıcının daha önce kullandığı bir adres olup olmadığına dair ek doğrulama olmadan kod gönderiliyor; saldırgan kodu geri ilettiğinde parola sıfırlama bağlantısı aynen teslim ediliyor; bu da zero auth parola sıfırlama anlamına geliyor
- Bu kurtarma akışı, hesabın gerçek sahibinin tam hesap sıfırlaması olarak işlendiği için mevcut 2FA atlatılıyor ve oturum sonlandırma ile parola değişikliği bildirim olmadan gerçekleşiyor
- Sorunun özü, 1,5 trilyon dolarlık bir şirketin destek yapay zekasında yalnızca rica edilerek bağlı e-posta adresinin değiştirilebilmesine yol açan guardrail eksikliği; sorun zaten yamalanmış olsa da haftalar ila aylar boyunca aktifti
Hesap ele geçirme akışı
-
Adım 01 — Konumu gizleme ve destek talebini başlatma
- Saldırıyı başlatmak için gereken tek şey hedef hesabın username bilgisidir; kullanıcının konumu herkese açık profil, "About" bölümü ve benzeri çeşitli yollardan kolayca elde edilebilir
- Kurbanın yaşadığı şehrin yakınından bir VPN veya proxy ile bağlanılarak Instagram güvenlik algoritmalarının şüphelenmemesi için talep bölgesi normalmiş gibi gösteriliyor
- Talep doğru bölgeden geliyormuş gibi görünürse, Meta destek yapay zekasına hesabın hacklendiği söylenip saldırganın kontrolündeki rastgele bir e-postaya doğrulama kodu gönderilmesi isteniyor
-
Adım 02 — Hepsi bu
- Gerçekte olan biten bundan ibaret; bu, production ortamında görülen ilk zero auth parola sıfırlama örneği
- Verilen e-posta adresinin kullanıcının gerçekten kullandığı bir adres olup olmadığına dair ek kontrol yok
- Yapay zeka güvenlik kodunu saldırganın e-posta adresine gönderdiğinde, saldırgan bu kodu geri ileterek doğrulamayı tamamlıyor; platform da yeni parola sıfırlama bağlantısını verip tam hesap sahipliğini devrediyor
-
Video selfie doğrulaması
- Instagram yapay zekası kimlik kanıtı için bir video selfie isteyebilir de istemeyebilir de
- Şu anda ayırt etme kabiliyetinin yüksek olmadığı ve hedef hesabın herkese açık feed fotoğraflarının yapay zekayla canlandırılması ile bile doğrulamanın geçilebildiği yaygın biçimde bildiriliyor
2FA bile engelleyemiyor
- Sistem bu yüksek yetkili kurtarma akışını gerçek sahibin tam hesap sıfırlaması olarak gördüğü için süreçte mevcut 2FA tamamen baypas ediliyor
- Mevcut oturumlar sonlandırılıyor ve parola değiştiriliyor ancak e-posta, SMS veya push bildirimi hiç gönderilmiyor
- Gerçek sahip, e-posta adresi ve telefon numarası zaten saldırganla eşleştirildiği için kurtarma sürecini başlatamıyor; üstelik konuyu yükseltecek bir muhatap da olmadığından, sohbet desteğiyle boğuşarak kontrolü geri almaya çalışıyor
- AI destek seçeneğinin A/B test kapsamında etkinleştirildiği hesaplarda bu seçeneği kapatmak da mümkün değil
Kara borsa hareketli
- Birden fazla kara borsa Telegram grubu, yüksek ücret ve hızlı işlem süresi vurgusuyla "account takeover" hizmeti sunuyor
- Kısa handle'lar yüz binlerce dolardan milyonlarca dolara uzanan değerlere sahip olduğundan, böyle bir pazarın oluşması şaşırtıcı değil
- Gerçek örnekler arasında
heygibi hesapların el değiştirmesi veyaobamawhitehouseveocmssf(ABD Uzay Kuvvetleri Başçavuşu hesabı) gibi hesapların propaganda amacıyla kötüye kullanılması bulunuyor
Şu anda yamalanmış durumda
- Meta'nın sorunu çoktan yamaladığı ve Telegram gruplarının da sessizleştiği görülüyor; ancak bu yöntemin haftalar ila aylar boyunca aktif kaldığı anlaşılıyor
- 1,5 trilyon dolarlık bir şirketin sağlam guardrail'lere sahip olmadan, destek yapay zekasının yeterince kibar bir istekle herhangi birinin bağlı e-posta adresini değiştirebilmesi başlı başına asıl sorun
1 yorum
Hacker News görüşleri
Büyük şirketlerin güvenlik zincirinde destek talepleri her zaman en zayıf halka olmuştur
Daha önce de birisi 2 aşamalı doğrulamayı kapatıp hesabımı ona teslim etmişti; aynı şeyi bir LLM yapıyor diye çok da şaşırmıyorum
Alt seviye destek çalışanlarının 2 aşamalı doğrulamayı kaldırabilmesi başlı başına sinir bozucu, çünkü bunun amacı süreci anlamsızlaştırıyor
Fail secure ise e-postanızı kaybettiğiniz anda hesap sonsuza kadar kilitlenir; fail safe ise e-postanızı kaybetseniz bile hesap sonsuza kadar kilitli kalmaz ama birisi bu durumu taklit edip hesabı ele geçirebilir
Bu, elektronik kapı denetleyicisinin elektriği kesildiğinde kapının ya kilitli ya da açık kalmasına benzer; yangında insanların çıkabilmesi için açık kalması gerekir ama hırsız da elektriği kesip içeri girebilir
Elektrik kesildiğinde kalıcı olarak kilitlenen kapılar yalnızca güvenliğin mutlak öncelik olduğu uç durumlarda kabul edilebilir; Instagram hesabı da yangın anındaki bir kapı kadar önemli değil
Daha da kötüsü, sonrasında destek sistemlerini değiştirmiş gibi göründükleri bir dönemde aynı saldırgan hesabımı tekrar hedef aldı ve birkaç saat boyunca gerçekten ele geçirildi; Twitter hesabım da bu yüzden ihlal edildi
Bu olay, fElon'ın büyük çaplı işten çıkarmalar yaptığı ve hesaplardan telefon tabanlı 2FA'yı kaldırdığı döneme denk geldi
Crazy Domains ve Newfold Digital (eski EIG) gerçekten berbat; sonunda fElon, Grok saçmalıkları için kullanmak üzere benim OG kullanıcı adımı da aldırınca onu da kaybettim
[1] https://news.ycombinator.com/item?id=47913341
[2] https://news.ycombinator.com/item?id=47859496
[3] https://news.ycombinator.com/item?id=47856983
Acilen yer açmak için bir depolama volume'ünü silmemiz gerekiyordu; bu yıkıcı işlem olduğu için, satıcının bizim anahtarımızın yanında ikinci anahtar görevi görmesi gerekecek şekilde kilitlenmişti
Biz bu yapılandırmayı aslında hiç düzgün kurmamıştık ve ben de onların destek hesabına daha önce hiç giriş yapmamıştım
Satıcı, bizim tarafta yetkilendirilmiş iki kişinin işlemi onaylaması gerektiğini söyledi; pratikte süreç, Sev1 arızasıyla uğraşan iş arkadaşımın beni bir Zoom görüşmesine çağırmasından ibaretti
Destek görevlisi benden 2 aşamalı doğrulama istedi ama ben bunu hiç kurmadığımı ve kayıtlı e-posta olmadığı için kodu alamayacağımı söyleyince, dış kaynak çalışanı gibi görünen görevli kodu Zoom sohbetine yapıştırdı ve benim onu tekrar okumamı yeterli sayarak süreci ilerletti
O anda o kadar şaşırmıştım ki derinlemesine düşünemedim ama onların beklenen üretilmiş kodu görebilmesi ve bunu kendi sistemlerine doğrudan girebilmesi ilginçti
Sonuçta bu, Sev1'in Sev0'a dönüşmesini engelledi ama genel olarak sosyal mühendislik ve içeriden saldırılara çok açık bir yapı
Bu tür bypass yetkilerini açıkça 1. ve 2. seviye destek personeline vermezler diye düşünüyorum; daha yüksek ayrıcalıklı bir seviyeye escalation gerekir ama bunun saatler değil dakikalar içinde yapılabildiği başka bir yerde saklarlardı
Yine de organizasyon büyüdükçe bu dengeyi kurmak gitgide zorlaşıyor
Babamın Facebook hesabı muhtemelen phishing ile hacklendi ama geri almak için ulaşılabilecek kimse yoktu
Hesabı çalan pislik, yasa dışı içerik bile paylaştı; ardından hesap ve yaklaşık 10 yıllık kişisel anılar hiçbir telafi süreci olmadan silindi ve Meta'da gerçek bir insanla konuşmak imkânsızdı
Sadece deli gibi işe yaramayan SSS sayfaları vardı
Kendi ve ailenizin tüm sosyal medya hesaplarından kişisel verileri indirip yedeklemenizi şiddetle tavsiye ederim
Bu büyük şirketler, Çin'den doğrudan gönderilen ıvır zıvır reklamları ve yapay zeka çöpü TikTok'lar göstermek dışında kullanıcıyı umursamıyor
Yapay zeka ajanı, 2 aşamalı doğrulamayı kaldırmak, hesap e-postasını yok saymak ve hesabı talep edene teslim etmek gibi ayrıcalıklı erişim yetkilerine mi sahipti
Açıkçası bu kadar büyük bir ihmal, o “özelliği” uygulayan ekibin planlı işten çıkarmalar öncesinde Meta'ya mümkün olduğunca üstü kapalı zarar vermeye çalışıp çalışmadığını düşündürecek kadar ileri gidiyor
Hatta birinin gidip tüm operasyon tablolarını silmeyi denememiş olması neredeyse üzücü
Kendini yüksek yetkili bir SRE gibi tanıtıp kritik bir üretim hatasını düzeltmek gerektiğini ve tek çözümün veritabanını silmek olduğunu söyleyebilirdi
https://www.cia.gov/static/5c875f3ec660e092cf893f60b4a288df/...
Ben, Instagram’ın ilk 6000 kullanıcısı arasındaydım ve düz adım olan kullanıcı adım yıllar önce çalındı
Doğrulanmış hesap destek ekibi sorunu kabul etti ama hiçbir şey yapamayacaklarını söyledi
Bu olayda yapay zekanın kötüye kullanımı var ama benim durumumda dış kaynak destek kötüye kullanılmıştı; biri para ödeyip kullanıcı adımı manuel olarak değiştirtmiş, sonra da başka bir kullanıcıya devrettirmişti
Sorumlu insan desteği yoksa ve bunu ihlal eden çalışanlar için cezai sonuçlar doğmuyorsa, hesaba erişmenin bir yolu her zaman bulunur
Bağlı Instagram hesabı gayet yerindeydi ama Meta Verified desteğini kullanmaya çalıştığımda, destek kotamın zaten tamamen kullanıldığı söylenerek tüm taleplerim reddedildi
Banka gelip satın alana kadar bekliyorum
Yapay zekaya, rastgele adreslere e-posta gönderebilecek araç yetkileri verilmiş olması akıl almaz
Kullanıcı talebine göre iki aşamalı doğrulama kodu göndermesi bir yere kadar anlaşılabilir ama sadece hesaba bağlı adrese 2FA e-postası gönderen düğmeye basabilmeli; geri kalanını elle yazılmış kod halletmeli
Yapay zekanın 2FA kodunun kendisine, mesaj başlığına, gövdesine ya da alıcı adresine erişmesi için hiçbir neden yok
Neden böyle yetkiler verdiklerini gerçekten anlamıyorum
Aynı akış statik olarak kodlanmış da olabilirdi, hatta muhtemelen öyledir
Burada chatbotun gerçekte ne kadar iş yaptığı belli değil
Bu olayın kesinlikle öyle olduğunu söylemiyorum ama gerçekte ne yaşanmış olabileceğine dair bir tahminim var
Şimdiye kadar gördüklerime göre Meta AI Support Assistant, yani “MAISA”, muhtemelen a) belirli bir e-posta, telefon numarası veya hesaba bağlı bir iletişim noktasına e-posta doğrulaması başlatan bir araç çağrısına ve b) e-posta doğrulama denemesine dayanarak hesabın parola sıfırlama bağlantısını oluşturan bir araç çağrısına sahipti
Doğrudan kodun kendisine erişmedim ama e-posta doğrulama denemesine ait bir handle ya da ID ile kullanıcının girdiği doğrulama kodu “parola sıfırlama bağlantısı oluştur” araç çağrısına aktarılmış gibi görünüyor; o araç çağrısı da ilgili doğrulama denemesinde kullanılan e-postanın hesaba ait olup olmadığını düzgün doğrulamadığı için hesap ele geçirme mümkün olmuş olabilir
MAISA’nın parola sıfırlama bağlantısı oluşturan araç çağrısı, hesaba bağlı olmayan bir e-postaya karşılık gelen doğrulama denemesi geldiğinde başarısız olmalıydı
Facebook’ta benzer bir şeyi test ettiğimde gerçekten hata verip engelliyor gibiydi ama Instagram tarafında, saldırganca ele geçirilmiş hesapların kurtarılabilmesi için yakın zamanda bağlantısı kesilmiş biraz eski e-postaların da kullanılabilmesini sağlamak üzere bir değişiklik yapılmış olabilir
Böyle olunca artık hesaba şu anda bağlı olmayan bir e-postayı da kullanmak ve onu kullanıcının birincil e-postası olarak ayarlamak gerekebilir
Ayrıca MAISA araç çağrısındaki bir değişiklik yanlış API’yi çağırmış ya da başarılı olmuş herhangi bir e-posta doğrulama denemesinin kullanılmasına izin veren bir şey eklenmiş olabilir; mühendisler de araç çağrısına alakasız e-posta doğrulama denemeleri koyan uçtan uca testleri yeterince eklememiş olabilir
Asıl odaklanılması gereken yerin burası olduğunu düşünüyorum
Saldırganın çıktıyı etkileyebildiği ajan araç çağrılarına, herkesin erişebildiği harici API’ler gibi davranılmalı ve testler de buna göre yapılmalı
Elbette bunların hepsi tahmin; hesap kurtarma girişiminin geçerliliğini değerlendiren çeşitli sinyalleri hesaba katmıyor ve ciddi ölçüde yanlış da olabilir ama Meta güvenliğiyle çok uğraşan biri olarak, bu olayı mümkün kılmış olabilecek en yakın açıklama bana bu gibi geliyor
“AI ajanı parola sıfırlamaya yardımcı olabilsin” denmiş ve yapılan değişikliğe insan eliyle hiçbir inceleme gelmemiş gibi duruyor
Birkaç yıl önce benim Facebook hesabım da TOTP tabanlı iki aşamalı doğrulama devre dışı bırakıldıktan sonra ele geçirilmişti
O zaman da Facebook’un güvenlik politikaları konusunda hiç rahat hissetmemiştim; bu yeni saldırı da o izlenimi yeniden doğruluyor
Güvenlik desteğine junior mühendis vermek zaten başlı başına komik
Bunun bir nedeni, genç insanların güvenliğin bazen ne kadar ölümcül olabileceğini tam kavrayamaması; bir diğer nedeni de mahremiyete aynı ölçüde önem vermemeleri
“Üretim ortamında gördüğüm ilk gerçek kimlik doğrulamasız parola sıfırlama” denmiş ama eskiden LinkedIn’de de benzeri vardı
Ödüllü bildirim programı ortaya çıkmadan önceydi galiba; düzgün bir yanıt alamamıştım ama sonunda düzelttiler
Çalışma şekli şuydu
LinkedIn, belli bir adrese gönderilen e-postayı okuyabiliyorsanız o adresin size ait olduğunu ve hesaba eklenebileceğini varsayıyordu
Bu yüzden ben herhangi bir e-posta adresine bir LinkedIn daveti gönderirsem ve karşı taraf daveti kabul düğmesine basarsa, o e-posta adresi karşı tarafın hesabına ekleniyordu
Kontrol ettiğim bir adrese, örneğin foo@example.com’a davet gönderip sonra sahte e-postadaki davet düğmesi bağlantısını başka birine yollar sam, o kişi bağlantıya tıkladığı anda foo@example.com onun hesabına gizlice eklenmiş oluyordu
Arkadaş olduğumuza dair yanıt gelince, o kullanıcı hesabına benim bildiğim bir e-posta adresinin eklendiğini de öğrenmiş oluyordum ve başlangıçta e-postayı gönderdiğim foo@example.com’u kullanarak tam parola sıfırlaması yapabiliyordum
Birinin tüm posta listesine davet gönderdiğini ve tıklamadan sonra posta listesi adresinin birçok kişinin hesabına aniden eklendiğini görünce bunu fark etmiştim
“İstek doğru bölgeden geliyormuş gibi görünürse, Meta destek yapay zekasına hesabın ele geçirildiğini söyleyip doğrulama kodunu saldırganın kontrol ettiği rastgele bir e-posta adresine göndermesini istiyorlar” deniyorsa, Instagram tam olarak ne yapıyor?
Sıfırlama neden ilgili hesaba değil de rastgele bir e-postaya gönderiliyor, anlamıyorum
Bu, gerçek bir insandan ziyade yapay zeka destek sonucuna benziyor; ayrıca “AI destek seçeneğinin etkin olduğu bir A/B test hesabındaysanız şanssızsınız, bunu kapatamıyorsunuz” gibi bir durum söz konusu
Hafta sonu boyunca neden 15 tane Instagram şifre sıfırlama e-postası aldığımı merak ediyordum
Bu sayede bir Instagram hesabım olduğunu da hatırladım ve hemen giriş yapıp silmeye çalıştım
Instagram ilk çıktığında açtığım bir hesaptı, hiç kullanmamıştım ve tamamen unutmuştum
Ama daha önce giriş yapılmış bir cihazdan giriş yapmamı isteyen tuhaf bir duruma takıldım; 10 yıldan fazla zaman geçtiği için hesabı oluştururken ya da erişirken kullanmış olabileceğim hiçbir cihaza artık sahip değilim
Hesapta kullanılan e-posta ve telefon numarasına ikisine de erişimim vardı ama bu yeterli olmadı
O kadar komik derecede beceriksizlerdi ki CCPA şikâyeti verdim
Telefon numarası olmadan oluşturulmuşlardı ve şifrelerini de biliyorum ama giriş yapmaya çalışınca şüpheli etkinlik olarak işaretleniyor ve işe yarar bir kurtarma akışı sunulmuyor
Birçok suistimal o kadar aptalca görünüyor ki, benim olsam denemeyi bile akıl etmezdim; bu bana hep biraz aydınlatıcı geliyor
Yani sadece şifreyi istemek yeterli mi ve bu gerçekten işe mi yarıyor?
Bu olayın sonuçları oldukça rahatsız edici
Meta, insan incelemesi olmadan ajanlara kullanıcı hesapları üzerinde ayrıcalıklı okuma-yazma erişimi mi verdi?
Çılgınlık
Facebook’taki yedek hesaplarımdan birinin kimlik bilgileri, eskiden kullandığım başka bir yedek hesapla bir şekilde birleştirilmiş durumda
Yani bir hesabın e-postasıyla diğer hesaba giriş yapabiliyorum ve bu birleştirme kalıcı görünüyor
Meta bir şekilde iki hesabın aynı kişiye ait olduğuna karar vermiş gibi