Fintech kurucusu dolandırıcılık suçlamasıyla yargılanıyor; AI uygulamasının Filipinler’de insanlar tarafından işletildiği ortaya çıktı

• Nate'in kurucusu ve eski CEO'su Albert Saniger, yatırımcıları yanıltmakla suçlanarak ABD Adalet Bakanlığı tarafından dava edildi
• Nate, 2018'de kurulan bir fintech girişimiydi ve yapay zeka tabanlı bir “evrensel ödeme” deneyimi sunduğunu iddia ediyordu
• Coatue, Forerunner Ventures ve diğerlerinden toplam 50 milyon doların üzerinde yatırım aldı; 2021'de ise Renegade Partners liderliğinde 38 milyon dolarlık Seri A yatırımı topladı

Aslında insan eliyle çalışan AI alışveriş uygulaması

• Nate, tüm e-ticaret sitelerinde yapay zekanın satın alma işlemlerini otomatik olarak yürüttüğünü iddia etti, ancak gerçekte siparişler Filipinler'deki bir çağrı merkezinde çalışan yüzlerce kişi tarafından manuel olarak işlendi
• Adalet Bakanlığı, Nate'in otomasyon seviyesinin fiilen %0 olduğunu öne sürüyor
• Yatırım almak için “yapay zekanın insan müdahalesi olmadan çalıştığı” şeklinde tanıtım yapıldı, ancak işlerin çoğu insanlar tarafından yürütüldü
• Bazı yapay zeka teknolojileri devreye alınmış ve veri bilimciler işe alınmış olsa da işlevsel otomasyon sağlanamadı

İçeriden ifşa ve Nate'in çöküşü

• 2022'de The Information'ın haberiyle Nate'in gerçekte nasıl çalıştığı ortaya çıkarıldı
• Saniger'in 2023'ten beri CEO görevinden ayrıldığı LinkedIn'de yer alıyor
• Nate, 2023 Ocak ayında nakit sıkıntısı nedeniyle varlıklarını sattı ve yatırımcılar neredeyse tüm yatırımlarını kaybetti
• Saniger şu anda Buttercore Partners'ın managing partner'ı olarak listeleniyor, ancak resmi bir açıklama yok

AI teknolojisinin abartılması vakaları sürüyor

• Nate dışında, “AI drive-thru” yazılımı geliştiren bir girişimin de ağırlıklı olarak Filipinler'deki insan gücünü kullandığı 2023'te The Verge tarafından bildirilmişti
• Yakın zamanda Business Insider da AI hukuk teknolojisi unicorn girişimi EvenUp'ta da gerçekte birçok işin insanlar tarafından yapıldığını bildirdi

[aer0700]

Son zamanlarda, zaten eskiden beri gayet iyi yapılan işleri AI ile otomatikleştirdiğini, Rust ile uyguladığını vb. söyleyerek sanki yeni bir araçla çözüyor gibi pazarlayan işlerle ara sıra karşılaşıyoruz.
~ yapıyor.
Bence sadece buna bakıp değerlendirmek gerekmez mi? İster AI kullansın ister Rust ile yazılmış olsun, sonuçta önemli olan ~ işini ne kadar iyi yaptığı; bunun içeride hangi yöntemle gerçekleştirildiği kullanıcı ya da yatırımcı açısından çok da önemli görünmüyor. Tabii kodu açık etmişlerse, geliştirici açısından merak uyandırabilir.

[GN⁺]

Hacker News yorumu

• 2 yıl önceki makaleyi ve HN yorumumu hatırladım. Bu, başka bir yapay zeka girişiminin tipik rotası

  • Birisi ML/AI ile çözülebilecek ilginç bir sorun bulur ve kendisi çözmeye çalışır
  • "Model bir ölçüde çalışıyor. Başkalarının da para ödeyecek kadar işine yarıyor" diye düşünür
  • Ücretli API, SaaS girişimi vb. çıkarır ve birkaç müşteri edinir
  • ML/AI yaklaşımının genelleşmediği ortaya çıkar. İtibar önemli olduğu için sorunu çözmek üzere insanlar işe alınır
  • Model performansı düşer ve insan emeği tüm iş akışının önemli bir parçası haline gelir
  • Birisi ucuz işgücü kullanıldığını yazan bir makale yazar

• Süpermarket self-checkout'unda, CCTV görüntü analiziyle potansiyel hırsız olarak işaretlendim. (Elbette yanlış bir analizdi.) Mağazadan çıkarken bunun yazılım analizi mi olduğunu, yoksa Hindistan ya da Filipinler'den birinin beni gerçek zamanlı izleyip izlemediğini merak ettim

• Amazon Go aynı şeyi yaptığında neden DOJ'nin kaygılanmadığını merak ettim

  • Amazon Go: Başlangıçta "Just Walk Out" teknolojisini test ettiğini açıkça söylüyordu ve teknoloji topluluğu, edge case'lerin video akışı üzerinden insanlar tarafından incelendiğini biliyordu
  • Teknolojinin sonunda daha iyi hale geleceğini ve insan yedeğinin esas olarak eğitim verisi ve kalite güvencesi için olduğunu savunuyordu
  • "Şu anda insan yardımı olmadan %100 AI ile çalışıyor" demiyordu
  • Nate: Zaten tamamen otomatik olduğunu iddia etti
  • CEO, tüm işi yapay zekanın yaptığını açıkça söyledi ve yalnızca nadir edge case'lerde sözleşmeli çalışanlar kullandığını belirtti
  • DOJ'ye göre gerçekte her şeyi insanlar yapıyordu ve AI sadece markalama aracıydı
  • Yatırımcılara bunun bir yazılım platformu olduğu söylendi ama gerçekte bir BPO'ydu

• Bunun hangi noktada "dolandırıcılık" sayıldığını merak ediyorum. Neredeyse tüm "AI" uygulamalarında ciddi miktarda insan yedeği var. Waymo'da araç durduğunda uzaktan kontrol edebilen insan sürücüler var. Amazon Go mağazaları fiilen Hindistan'daki bir ekip tarafından işletiliyordu. Şirketler 10 yıldır "AI tarafından destekleniyor" iddiasında bulunuyor

  • Belki de yatırımcılar marjlara bakıp devasa bir offshore kalemi fark ettikleri içindir. Aksi halde "otomasyon oranı" yatırımcıların takip etmesi için oldukça muğlak bir sayı
  • Bu tür aldatmacalar masum yatırımcıları mağdur ediyor

• Son 5 yılda, "AI artık sizin, sizinle etkileşim kurmak istemeyen şirketlerle etkileşiminizi otomatikleştirebilir" temasının çeşitli versiyonlarında çok sayıda girişim vardı. Bu sağlık hizmetleri, fintech, tüketici alışverişi vb. alanlarda yaygın

  • Sağlayıcı uygunluğunu, randevuları ve rezervasyonları AI telefon görüşmeleriyle otomatikleştirecekler
  • Tüm uygulama etkileşimlerini "large action model" ile otomatikleştirecek tüketici cihazları satacaklar
  • Hastanenin sağlık sigortası şirketleriyle olan talep etkileşimlerini AI screen scraper ile otomatikleştirecekler
  • Bir çalışan bir kez bir iş yazılımı aracında görev yapınca, bunu AI ile sonsuza kadar otomatikleştirip tüm tedarikçi sistemlerini özel programlama olmadan bağlayacaklar
  • AI ile herhangi bir web sitesinden otomatik satın alma yapabileceksiniz

• Girişimlerin çoğu "dolandırıcılık" değil. En iyi niyetlerle başlıyorlar (yetkin teknik kurucular, gerçek bir hedef pazar, çalışırsa isteyerek ödeme yapacak müşteriler) ama sonunda ya başarısız oluyorlar ya tamamen yön değiştiriyorlar ya da hayatta kalmak için yanlış bir çabayla dolandırıcılığa başvuruyorlar

  • Sorun, teknoloji kullanarak insan sorunlarını çözmeye çalışmaları. Dünyanın mevcut durumu, denklemin diğer tarafındaki hizmet sağlayıcının aracılık edilmek ya da metalaştırılmak istememesi nedeniyle böyle. Otomasyona uyum göstermeyecekler
  • Onları robotla aramanın yolunu mükemmelleştirirseniz telefonu açmayacaklardır. Kullanıcı adına iPhone uygulamalarını otomatikleştirmenin yolunu mükemmelleştirirseniz IP adresi aralıklarını engeller ve giderek daha karmaşık CAPTCHA'lar gösterirler. Giriş akışını otomatikleştirirseniz başka bir giriş akışına geçer ya da otomasyon kullanan müşterileri engellerler. Müşteri deneyimi en iyi ihtimalle tutarsızdır ve insanı döngüden çıkaramazsınız. Bu, bin küçük kesikle ölüme benzer - müşteri hâlâ hizmet için ödeme yapmak için yalvarsa bile

• Mechanical Turk'ün tekrarı

• Pandeminin ortalarından ilgili bir makale: AI alışveriş girişimi, fonlama patlamasının aşırılığını gösteriyor

• Bir arkadaşım 2021 civarında bu şirket için durum tespiti yapmamı istemişti. Kurucu, AI destekli "%100 checkout başarı oranı" iddia ediyordu ama bu bariz şekilde yanlıştı. Aynı anda 2 başka girişim daha yürütüyordu

• "Bilgisayarım ama insan olduğumu söyleyeceğim" ile "İnsanım ama bilgisayar olduğumu söyleyeceğim" ikisi de yaygın fikirler