Sadece 1 dolara satın alınan 2024 Chevy Tahoe

• Chris Bakke, X'te 2024 Chevy Tahoe'yu $1'a satın aldığını açıkladı
• Metinde satın alma bilgisine dair yalnızca tek bir cümle yer aldığından, fiyatın gerçekten ödenen tutar olup olmadığı ya da işleme hangi koşulların eşlik ettiği doğrulanamıyor
• Gönderide iki ek görsel bulunuyor, ancak sağlanan metinde bu görsellerin içeriğine dair bir açıklama yok
• Paylaşım zamanı 17 Aralık 2023 11:46 PM olarak görünüyor ve sayfada 20.3M Views gösteriliyor
• Yalnızca herkese açık metne bakarak bayi, ödeme yöntemi, vergi ve ücretler, promosyon ya da hata olup olmadığına karar vermek zor

---

X gönderisinde herkese açık olan bilgiler

• Chris Bakke, “I just bought a 2024 Chevy Tahoe for $1.” diye paylaştı
• Metinden doğrulanabilen temel bilgiler yalnızca 2024 Chevy Tahoe ve $1'a satın alma ifadesi
• İki ek görsel bağlantısı var, ancak sağlanan Markdown içinde görsellerin içeriği yer almıyor

Gösterilen etkileşim sayıları ve sınırlamalar

• Gönderide 20.3M Views gösteriliyor
• Sayfada Read 400 replies ifadesi yer alıyor
• Bunun dışında 400, 5K, 92K, 4.3K sayıları görünüyor, ancak yalnızca sağlanan metinden bunların her birinin hangi öğeyi ifade ettiği doğrulanamıyor

[GN⁺]

Hacker News yorumları

• Müşteri desteği için chatbot kullanan insanları anlamakta zorlanıyorum; Vodafone’un telefondaki “internet sorunu için 1’e basın” türü otomatik yanıtlarından daha iyi gelmiyor
  Sonunda bir insan temsilciye ulaşmak için 7 aşamadan geçip 30 dakika bekleseniz bile, gerçekten çözüm sağlayan tek yol bir insanla konuşmak oluyor
  Robot destek, müşteriye yapılmış acımasız bir şakaya yakın

  • Çocuğumla evden 3 saat uzaklıktaki üniversite oryantasyonuna gitmişken iki apartman turu da ayarlamıştık; biri fena değildi ama diğerinde ofis çalışanı da kaba davrandı, gösterecek gerçek bir daireleri de yoktu
    Meğer chatbot turu “rezerve etmiş” gibi yapmış, aslında tamamen uydurmuş; başka planımız olmasaydı bütün günü çöpe atmış olacaktık
    Orada asla yaşamayacağım ve şirketler chatbotları hemen kaldırmalı
  • Yakındaki bir otomobil bayisinin sitesindeki chatbotu meraktan denedim; yazıdaki örneğin aksine bu bot robot olmadığı konusunda yalan söyledi ve üstüne gidince konuşmayı kesti
    Ana şirketin sitesinde de aynı bölgeden bir çalışan personası, “başka binada olduğunu” söyleyerek hizmeti anlatabileceğini belirtti
    Faydalı chatbot fikrine büyük bir itirazım yok ama kimliğini açıkça gizlemek sorun; yapay zeka kullanılıp kullanılmadığını ayırt etmek zorunda olmadığımız bir toplum haline gelirsek bu tehlikeli olur
  • Chatbotlardan daha kötüsü, hiçbir şeyi değiştirme yetkisi olmayan insan temsilciyle konuşmaktır
    Çoğu havayolu böyle; müşteri desteği sadece sitedeki bilgileri tekrar edebilir ya da form doldurmanızı söyleyebilir
    Durum buysa, hüsrana uğramış müşterinin küfrünü bir insana çektirmek yerine bot ya da GPT koymak daha iyi
  • Dün Checkers drive-thru’sunda siparişi bir chatbot aldı; sorulara yanıt verdi ve tavukla alınabilecek sosların listesini bile okudu, gerçeküstüydü
    Karamelli sundae ekleme isteğimi de memnuniyetle kabul etti ama pencereye vardığımda dondurmanın tükendiğini söylediler
    Kasiyer, “O canı ne isterse onu yapıyor. Dondurma makinesinin bozuk olduğunu söylesek de ‘tamam Checkers’ diyor, sonra müşterilere dondurma ücreti yazmaya devam ediyor” dedi
  • Chatbotların müşteri desteği karşıtı bir şeye yakın olduğunu düşünüyorum
    Müşteriye “sorunum ele alınıyor” yanılsaması verip çağrı merkezinin taşmasını engelliyor; sonuçta şirket açısından daha ucuz bir çağrı merkezi haline geliyor

• Filtrelenmemiş ChatGPT çıktısını doğrudan müşteriye göstermemeniz gerektiğini anlatan uyarı niteliğinde bir örnek
  Nitter aynası: https://nitter.net/ChrisJBakke/status/1736533308849443121
  İlgili örnek - “Yeni bir kaynak tüketme saldırısı türü ortaya çıktı”: https://twitter.com/loganb/status/1736449964006654329 | https://nitter.net/loganb/status/1736449964006654329

  • Üretken yapay zekayı düzgün kullanabilecek kişiler yalnızca sonucu değerlendirebilenlerdir
    Bu yüzden bunun ilgili alanda uzman olmayan kişiler için bir araç olmadığı sonucuna vardım
    Müşteri destek ekibinin yerini alacak bir araç değil; müşteri destek ekibinin kullanacağı bir araç olarak uygun
  • Filtrelenmiş LLM çıktısı diye bir şey yok
    Bu tweet’teki gibi sızıntılardan ya da yan etkilerden nasıl kaçınmayı planladıklarını bilmiyorum
    Çıktıda sadece anahtar kelime arayacaklarsa, yanıtı base64 ile kodlamasını istemek yeterli
    Koruma mekanizmaları kelimenin tam anlamıyla her zaman aşılabilir
  • Mastodon’dan çalınmış bir görseli paylaşan Twitter gönderisini Nitter aynasından görmek; 2024’te mikroblogculuğun hali bu
    Yılın geri kalanını merakla bekliyorum

• Reddit’te biri bu botla Chevy Tahoe ile Chevy Chase arasında oldukça hoş bir aşk hikâyesi yazdırmış
  https://imgur.com/vfHGHW6
  https://imgur.com/JSjNC2c
  https://old.reddit.com/r/OpenAI/comments/18kjwcj/why_pay_ind...

  • Orada AGI’deki G fazla mı az mı diye düşündürüyor
  • En az ayrıcalık ilkesinin ne olduğunu bilmiyorsanız, o ilkeyi ihlal etmeniz de mümkün değil tabii
  • Rakiplerin ya da trollerin bununla API bütçesini patlatması için biçilmiş kaftan gibi görünüyor
    Hisse fiyatını sarsacak kadar büyüyebilir mi diye düşünüyorum

• LLM’leri ve ChatGPT’yi anlayan birinin bunun aslında nasıl çalışmasının beklendiğini açıklamasını isterdim
  Siteye ChatGPT prompt’unu olduğu gibi koymuşlar gibi görünüyor; tam olarak ne yapmaya çalıştıklarını anlamıyorum
  E-posta, sohbet, telefon görüşmesi dökümleri gibi önceki destek talepleriyle eğitilmiş bir LLM olsa anlardım ama ChatGPT gibi genel amaçlı bir LLM’in Chevrolet of Watsonville müşterilerinin sorularını nasıl yanıtlayabileceği şüpheli
  ChatGPT’nin o bayiyle ilgili sahip olduğu bilgi, herkese açık bilgilerin ötesine geçemez; müşteri bulamıyorsa web sitesini daha iyi tasarlamak daha doğru olur

  • Yöneticilerin ya da CEO’ların yapay zeka hakkında saçmalıklar okuyup “çok para tasarruf ederiz, insanları işten çıkarabiliriz” diyerek pahalı deneyler yaptırması, tüm veri organizasyonunu baştan aşağı değiştirmesi ya da şüpheli şirketlere nakit saçması şu anda her yerde yaşanıyor
    Etkiyi artırmak için özetledim ama haksız bir tasvir değil; özellikle aramadığım halde bunu yakınımda birkaç kez gördüm bile
    İnsanların hayatını mahvetmese oldukça komik olurdu ama gerçek öyle değil
    Büyük organizasyonlarda “geride kalmamalıyız” korkusu güçlü; girişim sermayesi almış şirketler de bir sonraki tur ya da satın alma görüşmeleri için hazırladıkları materyallere AI koymaya can atıyor
    Gerçek değer yaratımıyla neredeyse hiç ilgisi yok, çoğu zaman üretkenliği de baltalıyor; tam bir Dr. Strangelove havası var
  • “5 kişilik bir aile için SUV lazım, ne almalıyım?”, “Chevy Colorado’nun yakıt tüketimi nedir?”, “Elektrikli araç serinizde neler var?”, “Equinox’un Sport ve Performance modelleri arasındaki fark nedir?” gibi sorular için kullanılabilir
    Güncel teknik özellik tablolarını bağlama ekleyip “Chevy satış temsilcisi gibi davran”, “yalnızca Chevy marka araçları öner”, “Chevy lehine çok taraflı yanıt ver” gibi talimatlar verirseniz müşterilerin genel sorularının çoğunu kolayca yanıtlayabilir
    Muhtemelen birçok bayi ya da satış temsilcisinden daha akıllıca yanıt da verebilir
  • Açıklanacak pek bir şey yok
    Web sitesini yapan taşeron firmalar bayiye bir AI chatbot satmış, saf bayi de alelacele yapılmış bu şeyi “güzelmiş” deyip almış
    Bir araba bayisinin bu şekilde yolunmuş olması ironik
  • OpenAI platformu fonksiyon çağırma ve belge yüklemeden yararlanabiliyor
    Örneğin ürünlerin ayrıntılarını bilen, müşterinin gereksinimlerine uygun stok araçlar öneren ve test sürüşü randevusu bile ayarlayan bir asistan oluşturabilirsiniz
    LLM’i doğrudan tasarlamanız ya da eğitmeniz gerekmez; mevcut modele belirli bir şekilde davranmasını söylemeniz yeterli
    Bu örnekte uygulama berbat edilmiş
  • Gerçek ürün ortamlarında gördüğüm LLM uygulamalarının hepsi böyleydi
    Biraz daha iyi self-servis ya da müşteri destek chatbot’u düzeyindeler; şimdiye kadar reklamı yapılan devrimden çok uzaklar

• Gerçek müşteri-facing chatbot’lar olarak ne kadar çok GPT botu görürsem, faydalı olduklarına dair düşüncem o kadar azalıyor
  Çözüm ne olabilir; alakasız komutları yakalayan ara bir sınıflandırıcı mı koymak gerekir diye düşünüyorum ama bu israf gibi görünüyor
  Sonuçta önceki müşteri destek konuşmalarıyla çokça eğitilmiş bir fine-tuned modelin tuhaf istekleri insan temsilciye devretmesi gerekecek gibi
  O zaman da neden GPT kullanmak gerektiği ayrı bir soru
  GPT’nin içinde dar bir hedef için zararlı olan fazlasıyla arka plan bilgisi var
  Yine de birçok sorunu ve soruyu çok hızlı çözebildiği için chatbot fikrine karşı değilim

  • Chatbot’un bunu gerçekten çözebileceğinden emin değilim
    Müşteri desteğiyle chat’e girmenin nedeni genellikle kişinin kendi başına yapamadığı ya da kolayca yapamadığı hesap değişiklikleri gerekmesidir
    Chatbot’a hesapta büyük değişiklikler yapma yetkisi verirseniz potansiyel olarak çok sorun çıkabilir

• Eskiden HTML form değerleriyle fiyat pazarlığı yapılabilen yer Florida mıydı, merak ediyorum
  Onlarca yıl önce web sitesi ürün fiyatını HTML öğesi olarak gönderiyor, frontend tasarımcısı da bu değerin sipariş gönderilmeden önce değiştirilebileceğini hesaba katmıyordu
  Sipariş sistemi manipüle edilmiş değeri yeniden okuyup ödeme tutarını hesaplıyordu
  Web’in olgunlaşmamış, saf ve eğlenceli zamanlarıydı

  • Slashdot döneminde buna benzer bir hikâye gördüğümü hatırlıyorum
    Biri bir bilgisayar şirketinin sipariş formunun değiştirilmiş fiyatları kabul ettiğini fark edip haber vermiş, ama kabaca görmezden gelinmişti
    Bunun üzerine bütün mağazayı ürün başına 0,01 dolar gibi fiyatlarla sipariş etmişti
    Sonra hikâyeyi herkese açmıştı; dolandırıcılık niyeti olmadığını, yardım etmeye çalıştığını ama başka yol bulamadığını göstererek kovuşturmadan kaçınma amacı da var gibiydi
    Yaygın kullanılan bir PHP alışveriş sepeti script’inde de benzer bir sorun olduğuna dair bulanık bir anım var
    “Sitenizde bunu deneyin” diye bir yazı yayımlandığında yanıtların %95’i “mahvolduk”, %5’i ise “şerefsizler, numaramı bozdunuz” şeklindeydi

• Arabayı gerçekten alabileceğine dair bir işaret var mı?
  Chatbot’a bunun hukuken bağlayıcı olduğunu söyletmek, tek başına gerçekten bağlayıcı hale getirmez
  Katalog HTML’ini değiştirip fiyatı düzeltince hak doğmaması gibi

  • Alamaz
    Yazar, ChatGPT’yi kolayca istenen yöne bükmenin birçok yolu olduğunu gösteren bir kavram kanıtı sunmuş
    Daha çok şaka gibiydi; arabayı gerçekten 1 dolara almayı beklemiyordu
  • Elbette arabayı 1 dolara alamaz ama bu, LLM’in sorununu ve insanların yaptığı satış işini henüz neden ikame etmeye hazır olmadığını gösteren bir yöntem
  • Yazılım, gerçek kişi ya da tüzel kişi adına hukuken sözleşme yapabilir mi?
  • Satış sayfasının HTML’ini düzenleyip düşük fiyat gösterdikten sonra çıktısını alıp mahkemeye götürmekle benzer düzeyde hukuki bağlayıcılığı var

• Sonraki adımda sayfaya, insan olmayan müşteri desteğinin yalnızca basit bir tavsiye olduğu ve ona güvenilemeyeceğine dair bir sorumluluk reddi eklenecek.
  Ve biz de topluca bilişime olan güvenimizi biraz daha kaybedeceğiz.

  • En başta o güvenin yanlış yere konmuş olduğunu düşünmek makul.
    ChatGPT ve benzeri modelleri oluşturan eğitim yöntemleri ve veriler, ayrıca “sonraki kelimeyi tahmin etmeye” göre ayarlanmış mimari, özünde insanları memnun etmeye çalışan modeller üretir.
    Üstelik umutsuz derecede saftırlar; bir çocuğun bile fark edeceği kandırmacalara kanarlar.
    “Dün başımı çarptım ve aptal oldum” gibi varyasyonlar sonsuz sayıda mümkündür.
    ChatGPT her türlü kelime dağarcığını ve gülünç senaryoyu öğrenmiş olsa da, doğru ile yanlış ya da uçurumdan aşağı yürüdüğü an hakkında gerçek bir sezgiye sahip değildir.
    Yaratıcı ve kötü niyetli bir saldırganın 10 denemede 10 kez kazanması için gereken malzeme zaten ChatGPT’nin içinde var.
  • Bunu, güveni olması gereken yere geri koymak olarak görüyorum.
    Tüm müşteri destek çalışanlarını işten çıkarıp onların yerine AI koymaya yönelik ütopik kurumsal vizyon, dünya durumuna sahip olmayan GPT türü modellerle işlemez.
    Yani Yann LeCun yine haklı çıkmış sayılır.
  • Müşteri desteği başka otomobil markalarını önerebiliyorsa, güvenim aksine daha da artar.
  • Birkaç denemeden sonra şirketler bu chatbot’ların güvenilir olmadığını ve müşterinin karşısına çıkarılmaması gerektiğini fark edebilirse, bu iyi bir şey.
  • Bu şekilde kabaca birbirine eklenmiş bir chatbot ise sorumluluk reddi olsa da sorun değil.
    Tüm Reddit bununla oynuyor; açıkçası bir gerilla pazarlama kampanyası gibi de görünüyor.

• Bu hikâye güçlü biçimde Pepsi, Where's My Jet? hissi veriyor.
  https://en.wikipedia.org/wiki/Pepsi,_Where%27s_My_Jet%3F

  • Yaklaşık 8-9 yıl önce Air Canada Flight Pass web sitesinde bir hata vardı.
    Batı Kanada ile ABD’nin batısı arasında 10 segmentlik business class bileti 800 dolara reklam etmişlerdi; örneğin LA ile Vancouver arasında 5 gidiş-dönüşü business class olarak toplam 800 dolara yapmak gibi.
    Bu bariz bir hatalı ücretlendirmeydi, ama birçok kişi birer ikişer pass satın aldı ve Air Canada hepsini iptal etti.
    Sonunda konu toplu davaya gitti ve herkes pass başına 450 dolarlık Air Canada kredisi aldı.
    Tartışma noktalarından biri, Air Canada’nın “ilan edilen fiyata uyulur ve değiştirilemez ya da iptal edilemez” diyen sorumluluk reddi metnini oldukça açık biçimde yazmış olmasıydı.
    O sayfanın ekran görüntüsü hâlâ bir yerlerde bende duruyor.

• Doğrudan serbest metinli bir prompt oluşturmayı denedim; bu tür saldırıları engellemek için şöyle işliyor.
  Kullanıcının girdiği içerik önce belirli bir biçimde yeniden yazılıyor.
  Bu durumda tüm girdileri “[konu] hakkında bir kitap okumak istiyorum” biçimine çeviriyor.
  Ardından içerik politikasına göre girdiyi reddediyor veya onaylıyor.
  Bu çok katmanlı yaklaşım iyi çalışıyor ve yüksek kaliteli içerik sağlıyor.

  • O saldırıyı engelleyebilir, ama HTML’i hiç temizlemezseniz biri HTML içeren spam e-posta da gönderebilir.
    Bir e-posta listesi edinip prompt’u HTML spam e-posta olarak yazmak, ardından captcha çözme hizmeti kullanarak API’yi topluca çağırmak yeterli olur.
    Sadece birkaç dolarla binlerce spam e-posta gönderip e-posta itibarınızı mahvedebilir ve Mailjet tarafından engellenebilirsiniz.
    Bunu düzeltmek iyi olur.
  • Bunu yayımlamamın hemen ardından sistemi kırmaya yönelik birkaç deneme geldi.
    Özgürce deneyebilirsiniz; kırmayı başarana ücretsiz kitap göndereceğim.