Hayır, yapay zekanın yazımı “cilalamasını” istemiyorum

• E-posta yazarken beliren “Polish” sihirli değneği, çeviri özelliği gibi görünüyordu; ama aslında Gmail’in yapay zekayla cümleleri düzelterek e-postanın tamamını değiştiren bir özelliğiydi
• Yapay zekanın değiştirdiği cümleler, yazarın olağan üslubundan o kadar farklıydı ki, bir tanıdığı alsa kaçırılmış birinin gönderdiği e-posta gibi görünecek düzeydeydi
• Yapay zeka düzeltmesi istemediğini bizzat yazdıktan sonra bile polish önerisi yeniden göründü; hatta o ret cümlesini bile yapay zeka düzeltmeye çalıştı
• Yazım hataları, uzun ve dolambaçlı parantezler, geç yanıt verdiği için özürler, “HUGS” ya da “FIGHT THE PATRIARCHY” gibi imzalar, yazarın e-postasının gerçekten ona ait olduğunu gösteren izler
• Blog yazarken de yapay zeka ile görsel oluşturma önerisi araya girince, her yaratıcı iş yapışında bilgisayarın “Ben yaparım” diye bağıran bir bebek gibi davrandığını hissetti

---

Gmail “Polish”in e-postayı baştan sona değiştirdiği an

• E-posta yazarken küçük bir sihirli değnek simgesiyle birlikte “Polish” ifadesi belirdi
• İlk başta e-postayı Lehçeye çevirmeye yönelik bir özellik gibi göründüğü için tuhaf geldi
• Simgeyi kaldırmak için tıkladı, ancak Gmail e-postanın tamamını yapay zekanın cilaladığı cümlelerle değiştirdi
• Değişen e-posta, yazarın normal üslubundan o kadar farklıydı ki, bir tanıdığı alsa onun göndermediğini düşünecek düzeydeydi

Reddetme ifadesini bile yeniden düzeltmeye çalışan yapay zeka

• Önerilen yeniden yazılmış metni sildikten sonra, yapay zekanın e-postayı düzeltmesini istemediğini belirten bir cümleyi kendisi ekledi
• Buna rağmen Gmail’in polish özelliği yeniden ortaya çıktı
• Yapay zeka, “yapay zekanın bu paragrafı düzeltmemesini istiyorum” anlamındaki paragrafı bile yeniden cilalamaya çalıştı
• Bu, kullanıcının reddetme iradesinden bağımsız olarak metni sürekli düzenlemeye çalışan bir durum olarak algılandı

Cilalanmış cümlelerden çok tanınabilir bir üslup

• Yazarın e-postalarında genellikle şu izler bulunur
  • Yazım hataları vardır
  • Uzun ve dolambaçlı parantez içi cümleler yer alır
  • Aylarca geciken yanıt için özür içerir
  • “HUGS”, “LOVE”, “FIGHT THE PATRIARCHY”, “DOWN WITH POWDERED GRAVY”, “SORRY I SUCK SO MUCH” gibi imzalar eklenebilir
• Bu kusurlu ve dağınık tarz, onun gerçekten kendisi olduğunu anlamayı sağlayan unsurdur
• Yapay zeka önerilerini sürekli reddederse yapay zekanın kendisinden öğrenip, kendi kötü e-posta görgüsünü dünyaya yaymasını umduğunu şakayla söyler

Blog yazarken de araya giren yapay zeka görsel önerisi

• Yapay zekadan hoşlanmadığına dair yazıya görsel eklemeye çalıştığı anda blog, yapay zeka ile görsel oluşturmayı önerdi
• Kullanıcı belirli bir görsel eklemek için tıkladı, ancak sistem bunun yerine yapay zeka ile görsel oluşturmayı tavsiye etti
• Bu durum gizli kamera şakası gibi hissettirdi ve tüm bilgisayar, her yaratıcı işte “Ben yaparım” diye bağıran bir bebek gibi göründü

“please stop giving me AI” istemi

• Yapay zekanın ne kadar daha iyi yapabileceğini düşündüğünü görmek için, görsel oluşturma programına “please stop giving me AI” istemini girdi
• Sonucu görünce, “yardıma ihtiyacım varmış gerçekten” der gibi alaycı tepki verdi
• Tüm deneyim sonunda “bu pek iyi değil” şeklindeki kısa bir sonuçla bitti

[GN⁺]

Hacker News görüşleri

• Ne zaman bir şey yapmaya kalksam, tüm bilgisayar “Ben yapacağım!” diye bağıran bir bebek gibi geliyor
  Tüm otomatik düzeltmeler ya da otomatik öneriler zaten hep böyle hissettiriyordu ama şimdi ses 11’e kadar açılmış gibi. Sıradan Adobe Reader bile parıltılı düğmeler ve pop-up’larla kaplanmış; belgeyi okumadan da bana “insight” verebileceğini öneriyor
  Her şeyden önce benim özel mülkiyete konu belgemi okumamalı; ayrıca dijital imza yüzünden bu yazılımı kullanan birçok kişinin fikri mülkiyeti üçüncü taraflarla paylaşma yetkisi olup olmadığından da şüpheliyim. Bazen işe yarar bir araç olabilir ama herkesin bunu gözümün önüne sokması çaresizlik kokuyor
  Teknoloji sektörü gerçekten ciddi bir sorunun içinde

  • Bunu daha sınırlı bir biçimde zaten yaşamıştık. Microsoft Office’in şeytani Clippy’si “Sanırım bir mektup yazıyorsunuz” dediğinde insanlar bundan gerçekten nefret etmişti
    Sektör neyin değiştiğini düşünüyor da artık “Sanırım bir şey yapıyorsunuz”un insanlar tarafından memnuniyetle karşılanacağını sanıyor, bilmiyorum
  • Yakın zamanda bir Show HN’den sonra biri bana, ‘ürünümü’ kendi ürün vitrini startup sitesine koyduğunu söyleyen bir e-posta gönderdi. Bağlantıya gidince açık kaynak projemin ChatGPT tarzı laf kalabalığıyla tanıtıldığını gördüm
    Basit bir toplama bağlantısı değil; README’yi baştan yazıp üstüne bir de ‘pitch’ eklemişlerdi, bu yüzden ihlal edilmiş gibi hissettim
  • notepad.exe, vim, pandoc, imagemagic, textedit.app, resolve, blender’da garip şekilde bu sorun yok
    Belki de mesele teknoloji sektörünün tamamı değil, tüketici uygulamaları meselesidir
  • Benim özel mülkiyete konu belgemi okumamalı; bu yazılımı kullanan birçok kişinin fikri mülkiyeti üçüncü taraflarla paylaşma yetkisi olup olmadığından da şüpheliyim kısmı, neredeyse herkesin görmezden geldiği devasa bir sorumluluk riski
    İşverenim, bu sorun düzgünce çözülene kadar fikri mülkiyette yapay zeka kullanımını yasakladı. Çünkü gerçekten sızıntıları önemsiyorlar
    Belki 2030’ların ortalarında Bilgi Komiserliği bu olanların GDPR’a uygun olmadığına dair bir rehber yayımlar

• Yapay zeka sürümünün yavan ve berbat olduğu açık; ama daha önemlisi, mesajın anlamını tamamen değiştirmiş
  Yapay zeka sürümü özür diliyor, alıcının bu e-postayı bir şeye “yanıt” olarak “beklediğini” ima ediyor, yoğun takvimi suçluyor ve soru almaya açık olduğunu söylüyor
  Orijinal metinde bunların hiçbiri yoktu, ima bile edilmiyordu. Bu “düzeltilmiş” bir sürüm değil, sadece tamamen farklı bir e-posta. Anlamı koruyup üslubu değiştirmek, LLM’lerin iyi yapabildiği az sayıdaki işten biri sanıyordum; bu örnek o düşük çıtayı bile geçemiyor

  • Yapay zekanın işyeri ilişkilerinin nasıl olması gerektiğine dair kendine özgü tuhaf fikirleri var gibi
  • Doğru. Buna öznellik üretimi denebilir
    Bunu komik olmak için söylüyorum, ders vermek için değil; ama öznellik üretiminin aygıtları gerçekten var
  • Eskiden yöneticimin, yeterince kurumsal dille yazmadığım için bana bağırdığı bir olayı hatırlattı
  • Bu sadece prompt tasarımının berbat olması

• Beni tanıyan birinin o e-postayı alıp kaçırıldığımı düşünmemesi imkânsız
  Bu kişi sahte bir kimlik sergilememeyi önemsiyor. Oldukça havalı bir tutum ama sosyal medya, birçok insanın bir yanılsama sunmaktan hiç çekinmediğini gösterdi
  İnsanlar iyi yazılmış bir metni kendi yeteneklerinin ve emeğinin ürünüymüş gibi göstermekte utanmayacak. Dijital makyajın sınırı yok

  • Sahte kimliği önemseyen biri için bile bu hâlâ kötü. Sosyal medya kişiliğini ortaya koymaya ve dikkat çekmeye dayanıyor
    Tıklamaları maksimize etmek için personayı incelikle şekillendirmek ile yavan, ayırt edici olmayan bir kimlikle özdeşleştirilmek farklı şeyler
  • Bazen aşırı özbilinçli insanlara göndereceğim profesyonel e-postaları özenle yazmaya vakit harcamak istemiyorum
    Aklımdan çıktığı gibi yazıp, dijital kâtibin bunu okuyan kişinin saygı gördüğünü, kabul edildiğini ve pohpohlandığını hissedeceği şekilde yeniden yazmasını isteyebilirim. O zaman sahte bir kimlik mi sergilemiş olurum? Profesyonellik yanılsaması mı sunmuş olurum? Belki de “Bye” yerine “Best regards” yazmak zaten en baştan profesyonellik maskesidir
  • Bugünlerde tüm iletişimi varsayılan akış olarak LLM filtresine atmak normalleşirken, insanların illa kendi personaları gibi görünmeye çalıştığı söylenemez
    Kopyalayıp yapıştırıp “metin oluştur” düğmesine basmak yeterli. Bunu işaret edip sorgularsanız, o yanılsamayı kendilerine aitmiş gibi geçirme girişimi de dâhil, epey sinir bozucu ama bir o kadar da komik bir yanıt dönecek gibi
    Eskiden de birçok insan yazarken ne iletmek istediği ya da kendisinin nasıl göründüğü üzerine derin düşünmüyordu. Şimdi de aynı şekilde pek derin düşünmeden, LLM’in ürettiği sonucu anlamlı biçimde gözden geçirmeden gönderiyorlar
    Elbette hoşuma gitmiyor. Yine de net konuşmaya çalışanlarla çalışmayanlar hâlâ çoğu zaman ayırt ediliyor. Sadece curl projesinin hata ve güvenlik yanıtlayıcıları gibi yeni paradigma tarafından gereğinden fazla ayağına pranga vurulan insanlara üzülüyorum
  • Büyük resimde hem “yapay zeka”da hem de sosyal medyada üslubun, konuların ve davranışların genelleştirilmiş bir forma yakınsadığını görüyoruz
    Bu da “yapay zeka” çözümlerinin zaten kendi kendimize yaptığımız şeyi daha hızlı yaptığı anlamına geliyor gibi

• Yapay zekâyı daha yeni kullanmaya başladım ve onu kullanma ya da reddetme ölçütümün, o işe dair hislerime bağlı olduğunu fark ettim. Samimiyet meselesi bana gerçekten çok dokundu
  Yönetici olduğum için müşterilere e-posta gönderirken ya da ekip arkadaşlarımla konuşurken bunu çok önemsiyorum. Bu yüzden aşırı süslü cümleler çıkabilir, ama yine de onlar benim aşırı süslü cümlelerim
  Öte yandan her hafta yapmam gereken bir toplantı var; yalnızca uyumluluk kanıtı bırakmak için var. David Graeber’ın yazmış olabileceği bir CIA sabotaj saha kılavuzu gibi. Artık kaydı ChatGPT’ye yükleyip kanıt için 3 madde çıkarmasını istiyorum, sonra da kimsenin okumayacağı bir wiki’ye yapıştırdığım 30 saniyelik bir iş oluyor

  • Bu hafta yazılarımın samimiyeti üzerine düşünürken, neden yapay zekânın ürettiği kodu alıp commit etmekte sorun görmezken, yapay zekânın yazdığı bir metni kendi yazım gibi göstermeyi yalnızca yanlış değil, kasıtlı intihal düzeyinde ahlak dışı hissettiğimi merak ettim
    Belirgin bir fark hissediyorum ama nedeni net değil. Yapay zekânın yazdığı bir metni paylaşmak sorun değil, ama yalnızca yapay zekânın yazdığı açıkça belirtilirse sorun değil
    Muhtemelen başka bir yerden kod kopyalasam bile yeterince doğrulayıp yalnızca beklediğim gibi çalıştığından eminsem sorun olmaması, ama bir alıntıyı kopyalayıp kendi sözlerimmiş gibi kullanmamamla ilgili. Sözlerim benim sözlerimdir. Kodum aynı güvenceye sahip değil
  • Ben de öyle yapıyorum. Tüm e-postaları elle yazıyorum. Çünkü o kelimelerin altında benim adım var
    Buna karşılık vergi dairesinden belirli bir belgenin düzenlenmesini istemek gibi bir işse bunu yapay zekâya bırakıyorum
  • İnsanların hemingway.app gibi daha “aptal” araçlar hakkında ne düşündüğünü merak ediyorum
    Basit eş anlamlılar önermek ya da çok uzun cümleleri vurgulamak gibi okunabilirlik konusunda mekanik öneriler yapan araçlar. Önemli ve çok kişinin okuyacağı belgeler yazarken kullanmışlığım var
  • Yapay zekâ devriminin bir parçası olarak aşırı süslü ve ağır cümleleri ortadan kaldırmasını isterdim
    “Yapay zekâ yazdı, o yüzden kısa ve öz” bahanesi öne sürülebilir

• Yapay zekâ “düzeltme” araçları özünde bir tür ters sıkıştırma. Kısa ve öz ifade edilmiş bilgiyi alıp resmiyet ve fazlalıklarla gereksiz yere şişiriyor, daha “profesyonel” görünmesini sağlıyor. Bunu yaparken mesajın tonu gibi yararlı metadatayı da atıyor
  Alıcı da belli ki eklenen tüm bu “cilayı” kaldırmak için bir tür yapay zekâ özeti kullanacak; dolayısıyla tüm süreç tamamen mükerrer bir işe dönüşüyor
  Gerçekten absürt geliyor

  • Yapay zekâ aynı anda iki sektör yarattı. Biri yapay zekâyla belgeleri şişirme sektörü, diğeri yapay zekâyla özetleme sektörü
    İlki ne kadar çok şişirirse ikincisine o kadar çok ihtiyaç duyuluyor
    Yapay zekâ gerçekten zekiyse, ekosistem içinde kendine ihtiyaç yaratacak şekilde davranan bir organizma gibi olduğundan korkutucu olurdu
  • Birinin yazmak için zahmet etmediği şeyi ben neden okuyayım ki
  • Tamamen mükerrer değil. Yine de enerji kullanımı ve hisse fiyatlarındaki artış kalıyor
    Herkes birbirine doğrudan konuşamayacak kadar kaygılı olduğu için olan şey bu
  • Eski yöneticim, müşterilere gönderilecek saçmalıkları yapay zekâyla üretebildiği için gerçekten gurur duyuyordu
    O aptalların aslında kanıtladığı şey işe yaramaz oldukları; o yüzden bırakın öyle kalsınlar

• Kişisel ve kendine özgü bir konuşma ve yazma tarzın mı var? Yurttaş, bunu çerçöp yazı makinesiyle düzeltip yok etmemiz gerekecek

  • İngilizce ana dilim olmadığı için daha ciddi metinler yazarken hataları kontrol etmek için Grammarly kullanıyorum. Ama öneriler geldiğinde metnin tonu o kadar değişiyor ki, sahte ve zorlama bir tavra sahip bir PR ajansının yazdığı bir şey gibi duyuluyor; düz, renksiz oluyor
    O yüzden almayayım. Ders kitabı tarzı noktalama hatalarını düzeltsin yeter; uzun uzun yazılmış ve “yeterince pozitif olmayan” cümleleri bana bıraksın
  • Bir distopya tasarlıyorum; direniş güçleri metin içindeki metin steganografisi ile koordine oluyor
    Bu yüzden cilalanmamış iletişimler ek gözetim için işaretleniyor. Çünkü o üslup tercihlerinin içinde bir şey saklı olabilir
  • Düşünceleriniz kolaylık sağlamak için . ile değiştirilecektir
  • Yapay zekâ hakkında tuhaf bir şikâyet. Bu zaten yapay zekâ olmadan da oldu ve hâlâ oluyor
    Kişisel ve kendine özgü bir konuşma ve yazma tarzın mı var? E-postanın herkese iyi dileklerini iletmesini isteyeceksin, şirket maymunu
  • Newspeak

• Turboclippy’den önce de dijital kültür yeterince sahte, performatif ve samimiyetsizdi
  Keskin bir şeyle defolup gitmesini isterdim
  Tüm dünyanın “bir kişiyi öldürürsen cinayet, bir milyon kişiyi öldürürsen istatistik” şeklindeki ideolojik aksiyomu temel alan bir İK departmanına dönüştüğünü hissediyorum

  • Bu sadece her şeyin uç noktaya taşındığı kurumsalcılık

• LLM’lerin dönüştürücü olduğunu düşünüyorum, ama çoğu ürün yöneticisinin bu kadar hayal gücünden yoksun olması şaşırtıcı
  90’larda insanların web sayfalarına GIF koyabildiklerini keşfedince her sayfada yüz tane GIF olması gerektiği zamanları hatırlatıyor. Zevksizdi; bugünkü çoğu yerleşik yapay zekâ da öyle

  • Kara mayınları da dönüştürücü sayılır

• Bir zamanlar SIRI’ye çalmak istediğim albümün adını hatırlayamadığım için sürekli yanlış şeyler çaldırıyordum
  Beşinci sefer civarında “Siri, sen beni öldüreceksin” dedim, 911’i aradı
  Gelecek berbat

  • Akıllı telefonun sana swatting yapması Black Mirror bölümü gibi
  • Birkaç başarısız denemeden sonra bile bu kadar yumuşak konuşman inanılmaz kibar biri olduğunu gösteriyor
    Ben chatGPT’ye çok daha hızlı küfür mırıldanıyorum. Yapay zekâ kaynaklı öfke bir fenomen olacak gibi. Sadece bunun insanlara davranış biçimimize ters yönde etki etmeye başlamamasını umuyorum
  • Aslında epey iyi. Kelimesi kelimesine alıp ciddiyetle işlem yapmış
    Makinenin ince nüansları anlayıp rahat bir arkadaş gibi tepki vermesini mi bekliyordun? Yapay zekânın %100 ciddi olması sorun değil

• Aslında MacWhisper[0]’ın dikte çıktısını, sohbetlerde yazdığım biçime uyacak şekilde daha az cilalı bir forma dönüştürmek için LLM kullanıyorum. MacWhisper, transkripsiyon sonucunu otomatik son işlemden geçirmek için prompt ayarlamaya izin veriyor
  Benim prompt’um, profesyonel bir düzeltmen ve editör olarak dikteyi sohbetlerde kullanılabilecek şekilde daha gündelik büyük harf kullanımı ve noktalama ile yeniden yazmasını söylüyor. “I” ve “I’m” gibi türevlerin her zaman büyük harfle yazılmasını, cümlelerin “I” ile başlamadığı sürece küçük harfle başlamasını, açıkça söylenen noktalama işaretlerinin gerçek noktalama işaretlerine dönüştürülmesini, mesajın sonuna nokta koyulmamasını ama cümleler arasındaki noktaların korunmasını, virgüllerin kaldırılmamasını ve zor kelimelerin daha yaygın kelimelerle değiştirilmemesini istiyorum. Yalnızca sonucu döndürmesini, düzenleme açıklaması ya da yorum eklememesini söylüyorum
  [0]: https://goodsnooze.gumroad.com/l/macwhisper

  • Windows için buna denk bir alternatif olup olmadığını merak ediyorum. MacWhisper kadar iyi yapılmış bir şey bulamıyorum