AI çıktılarını insanlara göstermek kabalıktır

• Yapay zekanın ürettiği metinleri başkalarına düşünmeden iletmek, karşı tarafın kafasını karıştıran bir davranıştır
• Eskiden yazılmış bir metin, insan düşüncesinin bir kanıtı sayılırdı; ancak yapay zekanın gelişmesiyle bu güven sarsıldı
• Yapay zeka tarafından üretilen içeriğin yayılması, ancak gönderen kişinin sonucu bizzat sindirip kendi diliyle aktarması ya da alıcının onayı olduğunda kabul edilebilir
• Yapay zeka mesajlarının kötüye kullanılması, alıcıda işe yaramaz bilgi kaynaklı yorgunluk ve kaynak israfına yol açar
• Yapay zeka görgü kurallarına uymadan AI yanıtlarını doğrudan iletmek, toplumsal olarak kaba bir davranış sayılır

---

Blindsight romanının arka planı ve sinyalin anlamı

• Peter Watts'ın SF romanı Blindsight, insanların bilinçsiz bir uzaylı türüyle (scramblers) karşılaşmasını merkezine alır
• Scramblers, insanlardan farklı olarak gereksiz bilgiden hoşlanmaz ve işe yaramaz sinyal iletimini bir istila eylemi olarak görür
• İnsanların anlamsız metinleri rastgele yayması gibi, bilgiyi kötüye kullanma eylemi de karşı tarafın kaynaklarını boşa harcatan bir saldırı olarak yorumlanır

Proof-of-thought (düşüncenin kanıtı) kavramı

• Geçmişte yalnızca doğrudan yazılmış metinler iletişimin öznesi olduğundan, bir şeyi okumak doğal olarak insani düşüncenin izlerine güvenebilmek anlamına gelirdi
• Yapay zekanın yaygınlaşmasıyla metin, kod, görsel ve video gibi tüm medya türleri aşırı kolay biçimde üretilebilir hale geldi ve içerikteki insani düşünce kanıtı (Proof-of-thought) ortadan kalktı
• Artık herhangi biri yapay zeka çıktısını yeniden ilettiğinde, alıcı anlamsız bilgiler yüzünden değerli zamanını kaybetme riskiyle karşı karşıya kalır
• Yapay zeka temel olarak yalnızca bir isteğe yanıt verirken cevap üretir; bu yüzden insan istemedikçe kendi başına bilgi seli yaratmaz
• Sonuçta sorunun özü yapay zekanın kendisi değil, yapay zeka çıktılarını düşünmeden kullanan ve yayan insanlardır

Yapay zeka görgü kurallarının gerekliliği

• Yapay zeka çıktısını olduğu gibi başka birine iletirken, taraflar arasında bir mutabakat ya da açık onay mutlaka gerekli olmalıdır
• Birine "ChatGPT'ye sordum, böyle çıktı" diyerek doğrudan iletmek, karşı tarafın bunu kaba bulmasına yol açabilir
• Kişisel görüş veya değerlendirme olmadan, yapay zekanın verdiği yanıtı aktarmak karşı tarafta rahatsızlık ve bilgi kirliliği yaratır
• Örneğin, "ChatGPT'den böyle bir yanıt aldım; istersen konuşma kaydını gösterebilirim" demek, karşı tarafa seçim hakkı tanır
• Kendi çalışmanız için inceleme isterken, "Bunu AI otomatik üretti, sen bak" demek yerine, önce kendiniz gözden geçirip özetleyerek göndermeniz beklenir

Sonuç: Yapay zeka çıktılarının yayılmasında dikkat edilmesi gerekenler

• Scramblers'ın aksine insanlar, tamamen anlamsız sinyalleri pasif biçimde alan değil, seçerek kabul eden varlıklardır
• Yapay zeka görgü kurallarına uymak ve yapay zekanın ürettiği metinleri doğrudan iletmemek bir nezaket gereğidir
• Yapay zeka çıktılarından yararlanılsa bile, her zaman alıcının zamanına ve dikkatine saygı gösteren bir tutum gerekli olmalıdır
• Yapay zeka ile elde edilen sonuçları olduğu gibi iletirken, önce alıcının onayını isteme alışkanlığı önemlidir
• Yapay zekanın ürettiği 'gürültünün' taşkınlığı içinde, bilgiyi sorumlu biçimde benimseme ve onu kendiniz filtreleme becerisi toplumsal bir görgü kuralı haline gelmelidir

[GN⁺]

Hacker News görüşü

• Bazı iş arkadaşlarımın e-posta ya da Teams mesajlarını LLM ile yazmayı bırakmasını dilerdim; bu tür mesajlar o kadar özensiz hissettiriyor ki artık okumak bile istemiyorum

  • Bazen bir iş arkadaşı yanlışlıkla yapay zeka ile yaptığı konuşmanın metnini olduğu gibi bırakıyor; böyle şeyler ilk bakışta hemen belli oluyor. Geçenlerde aldığım bir e-postanın altında şu ifade vardı: "Bunu Outlook'ta biçimlendirmemi veya belirli bir kanal ya da dağıtım listesine göndermene yardımcı olmamı ister misin?"
  • Böyle durumlarda doğrudan şunu söylemeyi denedim: "Gönderdiğiniz bazı mesajların bir LLM tarafından üretilmiş gibi göründüğünü fark ettim. Doğru dil bilgisi ve üslup gözetmenizi takdir ediyorum, ama bazen ufak yazım hataları ya da biraz pürüzlü ifadeler olması, anlamın bozulmasından veya bağlamın kaybolmasından çok daha iyidir. Bundan sonra bunları doğrudan kendiniz yazıp göndermenizi isterim. Kurum içi iletişimde büyük harf kullanmamanız ya da konuşma dili kullanmanız benim için hiç sorun değil."
  • Engelleri nedeniyle yazmakta zorlanan kişiler, yapay zekanın yardımıyla düşüncelerini normalden daha iyi ifade edebilir hale geldi. Bu durum mevcut örnekle doğrudan aynı olmayabilir, ama bunu da birlikte düşünmek gerekir
  • LinkedIn bu konuda en kötü yer. Zaten baştan beri “kurumsal/profesyonel sulandırma” ile doluydu, şimdi bir de arayüzde AI tarafından üretilmiş yanıtları aktif biçimde öneriyor. Bence en kötü sosyal ağ. Örnek: "Gerçekten çok içgörülü! Günlük işlerini dönüştürücü bir marka fırsatına çevirmiş olman, kendini tanıtma konusunda tam bir usta olduğunu gösteriyor!"
  • Bu geri bildirimi bir iş arkadaşıma doğrudan ilettim. Bana bağlı çalışan biri AI slop tarzı, özensiz yapay zeka yanıtları vermeye başlamıştı; ben de "Bunu sen mi yazdın?" diye sordum, hayır deyince de açıkça "Bu yaklaşım bana sanki beni gerçekten dinlemiyormuşsun gibi hissettiriyor" dedim. Neyse ki bir daha yapmadı. İleride modeller daha akıllı hale geldikçe bunu ayırt etmek daha zor olacak, ama sonuçta zarar görecek olanlar düşünmeden sadece AI çıktısını yapıştırıp gönderenler olacak. (South Park bölümündeki gibi) kendilerinin bile bilmediği bir commit'in sorumluluğunu üstlenmek zorunda kalabilirler

• Başkasına soru sormanın amacı sadece teknik bir yanıt almak değildir; karşındakinin beklenmedik düşüncelerini duymak, bağ kurmak ya da iş birliği için bir başlangıç noktası yakalamak da önemlidir. Gerçek bir insanla yapılan konuşmada çeşitli yollar ve düşünce dalları ortaya çıkar, ama AI sadece ruhsuz görünür. Biri bana AI ile üretilmiş bir cevabı kopyalayıp yapıştırdıysa, bunu bana hiç ilgi duymadığı anlamında algılarım. Böyle biriyle etkileşim kurmak istemem

  • Sohbet bağlamında bu, "Google'da aratsan yeterdi" denmesinden farksız hissettiriyor

• Bir keresinde "15 dakikada duygularla yazılmış PR, lütfen inceleyin" sloganıyla açılmış bir PR gördüm. Ama gerçekte PR'ı hazırlayan kişi böyle bir not bile bırakmıyor, inceleyen kişi doğrudan sorsa bile kabul etmiyor. Benim inceleme yorumum hemen AI'ya aktarılıyor, sonra 10 dakika içinde yine alakasız şekilde değiştirilmiş bir PR geliyor ve asıl geri bildirimim hiç uygulanmamış oluyor. Keşke doğrudan AI ile konuşabilsem. (Bu arada, şu an PR'ı görmezden gelme ya da kapatma yetkim bile yok)

  • PR'ı görmezden gelmek ya da kapatmak yerine bir konuşma başlatmak gerekir. AI insan değil ve hata içeren ya da kalite sorunu olan bir kodu gönderdiğinde sorumluluk eninde sonunda gönderen kişiye aittir; bunu fark ettirmek önemlidir. Ayrıca biri kendi başına inceleme yapmadan sadece AI çıktısını iletiyorsa, o kişinin kendisi hiçbir değer katmıyor demektir. Etrafınızda sadece AI slop dağıtan insanlar varsa bunu bir mentorluk fırsatı olarak görmek ve doğru yönü göstermek, sektörün genel kalitesini artırmak için bir vesile olabilir. Gelecekte asıl rekabet avantajının eleştirel düşünebilen, debug yapabilen ve işi iş bağlamına oturtabilen kişilerde olacağına; bunları yapamayanların ise giderek geride kalacağına inanıyorum
  • Gerçek tablo bence çok daha karanlık. İnceleme sürecini tamamen AI'ya bırakmak, sonunda kişinin kendi yetkinlik değerlendirmesine de zarar verebilir. Performans değerlendirmesinde bunun için puan kırmayı bile düşünüyorum
  • Güven yavaş yavaş inşa edilir ve bir anda yıkılır. Önceden haber vermeden bana sürekli AI tarafından üretilmiş, özensiz PR'lar inceletmeye çalışırsan, bir sonraki PR'ını incelemem
  • Bu durum berbat, gerçekten cehennem gibi bir çalışma ortamı hissettiriyor
  • Böyle bir durumda doğrudan yöneticiye iletmek de bir yöntem olabilir

• "Yazmak, okumaktan daha maliyetli bir işti" sözüne çok katılıyorum. LLM sonrası bu denklem tersine döndü ve özellikle benim için kod incelemeye harcanan süre büyük ölçüde arttı. Yazarın da inceleyenin de kod değişikliklerine benzer düzeyde hakim olduğu bir ortamda, PR'ın kendisinin çok daha açık yazılması daha da önemli hale geliyor. Bu değişimin başka hangi gizli etkileri olacağını da merak ediyorum

  • Eskiden bir manzarayı çizmek, gerçek manzaraya bakmaktan çok daha fazla zaman alırdı; bugünse ikisi de benzer emek istiyor. İnsanlık bu tür değişimlere iyi uyum sağladı ve fotoğrafın olduğu bir dünyada yaşamaktan memnunum. Zamanla, açıkça belirtilmemiş AI üretimlerine ve yeterince doğrulanmamış içeriklere karşı doğal olarak güçlü bir olumsuz algı gelişeceğini düşünüyorum

• Son zamanlarda birinin ChatGPT ile yaptığı konuşmayı anlatması, "dün gece gördüğüm rüya" gibi yeni bir sohbet malzemesine dönüştü (biraz üzücü olan şu ki, aslında söylemek istediğim çok şey var ama böyle sohbetleri de pek yapamıyorum)

  • AI ile yapılan bir konuşma hakkında "Böyle bir deneyim yaşadım, şu kısmı ilginçti ve bende şu etkiyi bıraktı" diye kişinin kendi gerçek deneyimini anlatması son derece insani ve anlamlı olabilir. Buna karşılık konuşma dökümünü olduğu gibi aktarmak, "Ben girdiyi verdim, şimdi bu çıktıyı sen düşün ve bir şey yap" tavrı gibi algılanıyor. Ben de bazen Claude ya da ChatGPT ile konuşurken hissettiklerimi arkadaşlarımla veya partnerimle paylaşıyorum, ama transcript'i aynen paylaşmıyorum
  • Rüya anlatısı en azından doğrudan kendi beynimin ürettiği bir sonuç; ChatGPT ise prompt'u görüp anında çağrışım yaparak üretim yapan sayısız internet kullanıcısının "salamura edilmiş" beyinlerinin ürünü. Tamamen farklı türde bir sonuç
  • Ben de aynı izlenimi edindim. Deneyimleyene ilginç gelebilir ama dinleyen için pek ilgi çekici değil. Bazen bir başkasının zihnine kısa bir bakış atmak tazeleyici olabilir ama içeriğin kendisi çok önemli değil. Hem rüyalar hem de AI yanıtları özünde "halüsinatif özellikler" taşır — yani gerçek anlamda içerikten yoksundurlar. Sonuçta önemli olan iletişimin özüdür
  • Hatta daha çok "sarhoş amcaya sormuşsun gibi, ama cevabı aşırı özgüvenliydi" hissi veriyor

• Biri AI ile üretilmiş bir sonucu iletiyorsa, bunu açıkça belirtmelidir. Kalitenin düşük olması, AI kullanmış olmayı mazur göstermez; tüm kaynakları açıklamak önemlidir. Eğer AI üretimi içerik almak istemiyorsanız, kaynak belirtimi sayesinde bunu en baştan filtreleyebilirsiniz

• Kısa süre önce teknik görüşüme itiraz etmek için e-postaya ChatGPT ekran görüntüsü (ücretsiz sürüm) ekleyen uzman olmayan biriyle karşılaştım. LLM yanıtı tamamen yanlış değildi, ama gereksiz süslemelerle çevrelenmişti ve karşı taraf o yanıtın asıl anlamını gerçekten kavrayabilecek yetkinliğe sahip değildi

• Bununla bağlantılı olarak, ben doğrudan prompt'un kendisini okumayı daha iyi buluyorum https://news.ycombinator.com/item?id=43888803

  • Benim yaklaşımım şu:
    • Katılıyorum
    • Ama insanlar genelde düz yazı ister, madde işaretlerini sevmez
    • Bu biraz kültürel fark meselesi

• Birinin ChatGPT yardımıyla tartışmaya girmesi bana ilginç geliyor. Bunu kendi eliyle yazan biriyle karşılaştırınca, tekrar tekrar derinlikten yoksun ve yüzeysel olduğu ortaya çıkıyor. Böyle konuşmalar samimiyet ve içtenlik taşımadığı için hemen sonlandırmak istiyorum

  • AI kullanmayanların geride kaldığını düşünmüyorum; tersine, sadece AI'ya yaslananların zamanla eleneceğini düşünüyorum. (Roko's Reverse Basilisk?)

• Geçenlerde bir online alışveriş sitesinde rahatsız edici bir deneyim yaşadım ve destek ekibine "Şirketin kendisini seviyorum ama bu deneyim rahatsız ediciydi" diye e-posta attım. Buna karşılık bir "AI Agent Bot", türlü süslü ifadelerle "Herhangi bir işlem yapmanıza gerek yok, siparişiniz normal şekilde işlendi, bu yüzden kaydı kapatıyoruz" diyen bir yanıt verdi. E-posta yazımında LLM'den yardım almak anlaşılabilir, ama müşteri taleplerini otomatik olarak botla kapatmak gerçekten kaba hissettiriyor

  • Bu, şirketin iç kültürünü olduğu gibi açığa vuran bir örnek. Mesaj şu: "Müşteri umurumuzda değil"