a16z destekli bir girişimin, AI TikTok hesaplarıyla reklam yaptığı bir hack ile ortaya çıktı

• 1.100 akıllı telefondan oluşan bir ‘phone farm’ hacklenerek, TikTok’ta işletilen yapay zeka tarafından üretilmiş reklam hesaplarının faaliyetleri ortaya çıkarıldı
• Bu sistem, a16z yatırımına sahip girişim Doublespeed tarafından işletiliyor ve yüzlerce yapay zeka tabanlı sosyal medya hesabını ürün tanıtımı için yönetiyor
• Hacker erişim yetkisi elde ederek hesap atamaları, proxy bilgileri ve görev geçmişini inceledi
• Üretken yapay zeka ile oluşturulmuş kişi görselleri ve videolarının takviye ürünleri, uygulamalar, masaj cihazları gibi çeşitli ürünlerin tanıtımında kullanıldığı ve reklam etiketi olmadan ürün tanıtımı yapıldığına dair çok sayıda bulgu ortaya çıktı
• Hacker, 31 Ekim'de açığı şirkete bildirdiğini, ancak hâlâ backend'e ve phone farm'a erişebildiğini söyledi

---

Doublespeed hack olayına genel bakış

• Hacker, 1.100 mobil telefondan oluşan phone farm'ı ele geçirerek TikTok'ta işletilen yapay zeka üretimli reklam hesaplarının faaliyetlerini ifşa etti
  • Bu phone farm, Doublespeed tarafından yönetiliyor ve yapay zeka ile üretilmiş yüzlerce sosyal medya hesabı üzerinden ürün tanıtımı yapıyordu
• Hack sayesinde reklam olduğu belirtilmeden yayımlanan çok sayıda tanıtım içeriği olduğu ortaya çıktı
  • Bu hesaplar, AI influencer formatında ürün tanıtımı yapıyordu
• Hacker, şirketin backend'ine erişerek her PC yöneticisinin hangi telefon ve TikTok hesabını kontrol ettiğini doğruladı
  • Proxy sunucuları, parolalar ve hesap bazlı görev kuyrukları dahil her şey açık durumdaydı
  • Hacker, yaklaşık 1.100 akıllı telefonu serbestçe kontrol edebildiğini ve bunun işlem kaynağı ya da spam amacıyla kötüye kullanılabileceğini belirtti

TikTok'ta AI influencer tanıtım yöntemi

• Doublespeed'in işlettiği 400'den fazla TikTok hesabının yaklaşık 200'ü fiilen ürün tanıtımında kullanıldı
• Çok sayıda gönderi reklam etiketi olmadan yüklendi
• Bazı hesapların, gerçek kullanıcı gibi görünmek için önceden etkinlik biriktiren bir “ısınma” sürecinden geçtiği anlaşılıyor
• TikTok'un sahici olmayan davranış tespitinden kaçınmak için gerçek akıllı telefon kullanım kalıpları taklit edildi

Somut tanıtım örnekleri

• Yapay zeka ile üretilmiş orta yaşlı bir kadın karakter, vücut ağrılarından söz ederken Vibit masaj cihazını tekrar tekrar öne çıkarıyor
• UCLA öğrencisi olarak kurgulanan bir yapay zeka karakteri, ilaç sektörünü eleştirirken Rosabella moringa takviyesini tanıtıyor
  • Ürün şişesi etiketindeki yazıların anlamsız biçimde oluşması, bunun bir AI görseli olduğunu gösteriyor
• Bazı hesaplar, Playkit gibi TikTok içerik ajanslarını tanıtmak için yapay zeka üretimli videolar da kullandı

Hacker'ın erişimi ve şirketin tepkisi

• Hacker, misilleme korkusuyla anonim kalmak istediğini ve 31 Ekim'de açığı Doublespeed'e bildirdiğini söyledi
• Haber yazıldığı sırada da hacker'ın hâlâ şirket backend'ine ve phone farm sistemine erişebildiği ifade edildi
• Doublespeed, basının yorum talebine yanıt vermedi

Platformların ve yatırımcının tepkisi

• Doublespeed, Andreessen Horowitz(a16z) yatırımını almış bir girişim
• TikTok, yapay zeka üretimli içerikler için etiket zorunluluğu bulunduğunu belirtiyor ve ihbar sonrasında ilgili hesaplara etiket ekledi
• a16z ve Doublespeed olay hakkında resmi bir açıklama yapmadı
• Reddit sözcüsü, Doublespeed hizmetinin kullanım şartlarının ihlali niteliğinde olduğunu söyledi
• Meta resmi bir yanıt vermedi, ancak söz konusu modelin gerçek kimliği temsil etme politikalarını ihlal eden bir yapı olduğu belirtildi

[roxie]

Vay canına, ne biçim bir iş modeli bu,,,

[GN⁺]

Hacker News görüşleri

• archive bağlantısı

• Yapay zeka uzun vadede sosyal medyayı yok ediyor
  Zaten yapay zekadan önce de birçok gönderi ve yorum botlar ya da ücretli hesaplar tarafından üretiliyordu
  Artık Reddit, ChatGPT'den bile daha az güvenilir bir yer haline geldi
  Yine de en azından The Onion-verse gibi hiciv alanları hâlâ var

  • ‘Dead Internet Theory’ sanki şakadan gerçeğe dönüşmüş gibi geliyor
  • Tüm dünyanın doğaçlama şekilde konuştuğu bir yapının olumlu sonuçlar doğurabileceğini sanmıyorum
    İnsanlar anonimlik ve denetimsiz ortamlara karşı zayıf, bu tür forumlar da bu zayıflığı en üst düzeye çıkarıyor
    Bugünkü ölçekte bu zaten en baştan iyi bir fikir değildi
  • Hatta iyi bir şey bile olabilir
    Gittikçe daha fazla insan bu platformları terk edip ana akım medyaya dönerse daha rasyonel hale gelebilir
  • Reddit bu yaz özel profillere izin verdiğinde benim için zaten ölmüş bir platform olmuştu
  • Ben de benzer düşünüyorum ama insanları bu tür düşük kaliteli içerikleri (sloppy content) seviyor gibi görmek endişe verici
    Bu sadece yeni olduğu için mi, yoksa insanlar gerçekten bunu mu istiyor diye merak ediyorum

• Artık bot çiftliklerinin (bot farm) sıradanlaştığı bir dünyada yaşıyor olmak çok tuhaf
  Eskiden bunu Rusya ya da Çin gibi otoriter rejimlerle ilişkilendirirdik; şimdi biz de oraya mı gidiyoruz?
  Üstelik VC'lerin buna yatırım yapıyor olması da şok edici
  Artık a16z podcast'ini her dinlediğimde aklıma bot çiftlikleri geliyor, dinlemek zorlaşıyor
  İnsanların ahlak ve etik üzerine gerçekten düşünüp düşünmediği konusunda kuşkuya düşüyorum

  • Yine de ben hâlâ güven temelli bir web (web of trust) biçiminde bir geleceğin mümkün olduğuna inanıyorum
    Sadece bunu nasıl anlatacağımı bilmiyorum

• “İnsan zihnine benzeyen makineler yapma” sözü aklıma geliyor
  Sanki Butlerian Jihad planlanandan erken gelmiş gibi
  İsyanı getiren şey baskı ya da şiddet değil, viral pazarlama ve sahte hesaplar

  • Ama aslında şiddet çoktan başlamış sayılır
    OpenAI, chatbot kullanıcılarının kendi hayatlarına son verdiği vakalar nedeniyle birden fazla davayla uğraşıyor

• Komik. Az önce birine Vibit reklamlarının çok fazla olduğunu ve yorumların tamamen sahte göründüğünü söylüyordum

• Eğer hack ile ortaya çıkan şey, sonuçta o girişimin yapacağını söylediği şeyi aynen yaptığını gösteriyorsa, insan bunun sadece reklam olup olmadığını düşünüyor

• Zuhair'in Twitter'ına ve resmi sitesine baktım, gerçekten iğrenç
  Onun telefon çiftliği fotoğrafları bu tweette var
  “Ölü interneti hızlandırıyoruz” demek... neden bu kamusal alanların çürümesini (enshitification) teşvik ettiğimizi anlamıyorum

  • Muhtemelen sadece öfke tuzağı içeriklere (ragebait) oynuyor, ama sorun şu ki ürün gerçekten var
    Cory en başından beri haklıydı
  • Zeki ama yanlış yola sapmış bir ergen gibi görünüyor
    Kötü biri olmaktan çok, daha iyi rol modellere ihtiyacı var gibi
    Bence insan sonradan utanacağı şeyler yapmadan düşünme ve değişme fırsatı da bulamıyor
  • Erişilebilir bağlantı şu: xcancel.com/rareZuhair
  • Böyle araçlar yapmak tehlikeli
    Bir gün yaratıcısına geri dönen bir silaha dönüşebilir
  • Bu gariplik değil, sadece açgözlülük ve kontrol arzusunun sonucu

• Bu, şirketin sadece işini nasıl yürüttüğünü gösteren bir rapor gibi duruyor
  doublespeed.ai

  • “never pay a human again”, “** spawn variation**” gibi ifadeleri doğrudan kullanmaları bir bakıma ferahlatıcı
    Elbette hoşuma gitmiyor ama pazarlama cilasıyla kandıran diğer şirketlerden daha dürüst oldukları için görece daha iyi geliyor
  • Bu tür bir işin yasa dışı ya da en azından gri bölgede olduğunu sanıyordum, ama artık VC'ler ahlakı tamamen bırakmış gibi
    Kumar? Güzel. Spam? Yatırım yaparız. Reklam dolandırıcılığı? Sorun değil
  • Bu tür AI içerik çiftlikleriyle TikTok'ta nasıl para kazandıklarını merak ediyorum
  • Sonuçta bu tartışmaların kendisi onlara bedava tanıtım sağlıyor
  • Gerçekten de sanki dünyada ilk kez “kötü adam reklam metni” görüyorum

• Neden böyle şirketlere Computer Fraud and Abuse Act (CFAA) kapsamında dava açılmadığını merak ediyorum

  • CFAA'yı hoşlanmadığın hedeflere karşı savurmak tehlikeli
    Bu tür aldatıcı pazarlamayı zaten kapsayan yasalar var
    Örn: ABD Federal Düzenlemeler Kodu 16 CFR Part 255
  • Ama para ve destek ağı olan şirketler hukukun uygulanmasından kaçabiliyor
    En kötü durumda bile bugünlerde bir af (pardon) o kadar pahalı değil diye duydum