Ask HN: Yapay zekâ tarafından üretilen yazıları gösteren bir bayrak eklenmeli mi?
(news.ycombinator.com)- Yapay zekâ tarafından üretilen yazıların sıralamasını düşürmeden yalnızca bir gösterge eklenmesini, böylece bunları okumak istemeyen kullanıcıların atlayabilmesini öneriyor
- Mevcut oylama sisteminin yeterli olup olmadığı ve üretken yapay zekâ çağında HN’nin uzun süredir koruduğu temel ilkelerin değiştirilmesi gerekip gerekmediği tartışma konusu
1 yorum
Hacker News görüşleri
dang: HN’nin kendisinde zaten üretken yapay zeka metinlerini yasaklayan bir kural var: https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
Yazı gövdeleri için henüz aynı kural yok, ama topluluk genel olarak böyle yazılar istemiyor ya da onları düşük değerlendiriyor gibi görünüyor. “Bize sadece prompt’u göster” gibi tepkileri https://news.ycombinator.com/genai-pushback adresinde toplamalarının nedeni de, üretken yapay zeka yazıları neden şikayet edildi diye soran kullanıcılara bunu gönderebilmek
Şu anda yapay zekanın insanlardan öğrenirken, insan topluluklarının da yapay zekanın üslubunu öğrenmesiyle ilginç bir silahlanma yarışı yaşanıyor. Okurlar LLM benzeri üsluba adeta alerjik tepki veriyor ve o anda yazı hemen düşük statülü bir kategoriye itiliyor. Yapay zeka ve insanlar birbirine uyum sağlarken bunun nereye varacağını bilmiyoruz
Tersine, yazının yüksek statülü sayılmasını istiyorsan kendin yazabilirsin. pg bunu bir keresinde “writes and write-nots” diye ifade etmişti: https://paulgraham.com/writes.html
Burada LLM teknolojisinin kendisini reddetmek söz konusu değil; HN de ona büyük ölçüde dayanıyor. Mesele onu nasıl kullanacağın ve başka insanlara açık şekilde sunduğun yazılarda kullanıp kullanmaman gerektiği: https://x.com/paulg/status/2058871512451412457
Sadece işaretleme amaçlı bir şikayet aslında fiilen bir etiket özelliği olurdu; HN bunu bugüne kadar sürekli reddetti, ama tamamen dışlamış da değil. Bunun yerine, şikayet ederken neden isteme ve üretken yapay zeka şüphesi, spam, konu dışılık, saldırganlık gibi seçenekler sunma ihtimali daha yüksek. Yalnızca oylar hiçbir zaman yeterli olmuyor: https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
HN’nin üretken yapay zeka çağında değişmesi gerekip gerekmediği sorusuna ise https://news.ycombinator.com/item?id=48887149 ile cevap vermek isterim; bu da https://news.ycombinator.com/item?id=3742902 için bir selam niteliğinde
Yanlış anlama ya da boşlukların yazarın anlayış eksikliğinden mi, yapay zekanın anlayamamasından mı, yoksa yazarın düzgün gözden geçirmemesinden mi kaynaklandığını bilemiyorsunuz. Ortada şaşırtıcı bir fikir olsa bile bunun yazarın içgörüsü mü olduğu, daha fazla açıklayabilip açıklayamayacağı ya da nereden çıktığı doğrulanamıyor
İnsan bir ortak yazar yeterince emek verirse kendi bakış açısını ve anlayışını metne doğru biçimde yansıtabilir, ama pratikte bu nadirdir; ayrıca fiilen ortada gerçek bir yazarın bulunmaması ve bu yüzden içerikle daha derin bir etkileşime girilememesi, özellikle tartışma siteleri için büyük bir sorun
Yazı tanınmış bir uzmandan geliyorsa güvenip öğrenme niyetiyle okunabilir, ama yapay zekanın sık kullandığı klişe ifadeler bunun ne kadar insan denetiminden geçtiğinin bilinmediğine işaret eder. Sonuçta bu tür metinler, “değerinin ortaya çıkması için baştan sona insanın analiz etmesi gerekebilecek yazılar” olarak sonraya bırakılır ya da doğrudan reddedilir
IgorPartola: Yapay zeka üretimi etiketi güven kaybına yol açacağı için kimse bunu gönüllü olarak eklemek istemez. Topluluk ipuçları ve tahminlerle şikayet edebilir, ama bu ne isabetlidir ne de ek emek gerektirmez
Blog çağı fiilen sona erdi ve bu mutlaka kötü bir şey değil. Yapay zekadan önce de blog spam’i ve kurumsal bloglar kaliteli blogları mahvetmişti; bu yüzden asıl soru blogların yerini neyin alacağı
Yapay zeka yazıları insan yazılarından ayırt edilemez hale gelirse ve doğru, ilgi çekici olursa, kimin yazdığı gerçekten önemli mi? Kaçınılması gereken şey yapay zeka üretimi olması değil, düşük kalite değil mi
Kusursuz biçimde ayırt edilemeyen bir gelecek gelebilir, ama belirsiz bir gelecek yüzünden bugün hiçbir şey yapmayalım demek iyi bir argüman değil. Günümüzde yapay zeka içeriği epey ayırt edilebilir durumda ve yapay zeka gibi görünmesin diye elden geçirildiyse, en azından içine daha fazla insan emeği girmiş demektir
Bir insanın bunu klavyeyle bizzat yazıp yazmadığı önemli değil, ama içeriğin bir insan tarafından şekillendirilip şekillendirilmediği önemlidir. LLM sadece yazıya dökmekle kalmaz; üslup, ton, ses ve yapıyı da belirler ve bunlar insanlar arası iletişimin özüdür
Retr0id: Oy verenlerin önemli bir kısmı AI tarafından üretilmiş cümleleri fark etmiyor; fark etseler bile umursamıyorlar ya da öncül yeterince ilgi çekiciyse bunu sorun etmiyorlar. İyi/kötü ve AI/insan şeklinde iki boyutlu bir oylama getirilirse, bir yazıda AI’nin ne kadar kullanıldığı etrafındaki meta tartışmalar azalabilir gibi görünüyor
minimaxir: AI işaretleme özelliği pratikte teoridekinden çok daha tehlikeli. Sosyal medyada biri kötü niyetle “AI?” diye ortaya atınca yanlış pozitiflerin yol açtığı bir kargaşa çıkıyor ve asıl yazar kendini kanıtlamak zorunda kalıyor
Blog yazılarının insan tarafından yazıldığını kanıtlamanın somut yolları da az; düzenleme geçmişini sunmayı istemek de haksızlık olur. HN böyle bir özellik eklerse yarardan çok zarar getirme ihtimali yüksek
shantnutiwari: Karşıyım. HN’de üst sıralardaki her gönderinin altında birkaç tane “bu bir LLM” yorumu oluyor; artık bu, “bu yazıdan hoşlanmadım, o hâlde LLM olmalı” demenin yerine geçen bir ifadeye dönüştü: https://news.ycombinator.com/item?id=48063759
Bu yorumlar az da olsa oy aldığı için tembel karma çiftçiliği gibi hissettiriyor. 100 yazıya LLM derseniz birini mutlaka tutturursunuz, sonra da astrologlar gibi o tek isabetle övünebilirsiniz. Böyle düşük çabalı yorumları caydırmanın bir yoluna ihtiyaç var
dawnerd: YC AI’ye yatırım yaptığı için böyle bir adım beklemek zor. Burada buna sadece boyun eğip kabullenmek gerektiğini düşünen fazlasıyla insan var ve bana göre bu biraz fail mantığı gibi geliyor
nunez: Aynı özelliği bir ay önce de istemiştim: https://news.ycombinator.com/item?id=48296731
Yeterince kullanıcı bir yazıyı AI içeriği olarak bildirirse, başlığın sonuna
[AI Generated]etiketi eklenmesi iyi olurCM30: AI ile üretilmiş içerik genelde elde yapılmış işlere göre daha az emek içerdiğinden işaretlenmesi faydalı olabilir, ama bunun nasıl düzgün yapılacağı belirsiz
İnternette, uzun tire kullanıldı ya da resimdeki eller tuhaf görünüyor diye insan işi eserlerin bile AI diye damgalandığı çok sayıda cadı avı ve yanlış pozitif var. En kötüsünü varsayan tetikte kullanıcılar olursa sitenin yarısına AI etiketi yapışabilir
Yazarlar gönüllü olarak beyan ederlerse güven ve okur kaybedecekleri için yalan söyleme teşvikleri yüksek olur; AI tespit araçları da çok hata verdiğinden güvenilmez. Bildirim nedenleri arasına AI içeriği eklenebilir ama normal gönderilerde iyi niyet varsayılmalı; sitenin genel olarak aşırı paranoyak ya da aşırı kısıtlayıcı bir yere dönüşmesini istemem
Debugreality: AI’nin yardımı olmadan dünyaya çıkamayacak fikirler de var. On yıllardır düşündüğüm bir demokrasi taslağını yakın zamanda bir whitepaper olarak yayımladım; AI, fikirleri genişletmede ve belgenin yapısı ile ana metnin yazımında yardımcı oldu
Akademisyen olmadığım için AI olmadan bunu tamamlayamamış olmam çok muhtemel; sadece kafamın içinde kalıp yok olmasındansa yayımlanmasının daha iyi olduğunu düşünüyorum. Tamamen benim yazdığım akademik bir metin elbette daha iyi olurdu ama metnin büyük kısmını AI yazmış olsa da iki gün boyunca bütün paragraflara katılıp katılmadığımı kontrol ettim ve sorunları düzelttim
Kaliteyi değerlendirirken AI kullanılıp kullanılmadığından çok harcanan insan emeğine bakmak daha doğru
Ana gövdeyi LLM’ye yazdırmaktansa sadece temel içgörüleri kendinizin yazdığı bir sürümü çok daha fazla tercih ederim. Sayfalarca cümle arasında ana fikri aramak istemiyorum. Özellikle fikirleri “şişirmek” için LLM kullanmak, insanları sıkmanın en garantili yolu
İçgörüleri uzun ve ayrıntılı bir belgeye dönüştürmek ancak yasalaştırma aşamasında gerekir. “Verileri nasıl kullandığını söyle” ile GDPR’daki ilgili maddeleri karşılaştırmanız yeterli
lazyasciiart:
[1997]gibi bir başlık etiketi olsa nasıl olur. Okuyucunun ilgisini çekebilir de çekmeyebilir de ama kaynağı bilince içeriği farklı değerlendirebilir[AI]eklenebilir ama AI’nin meşru kullanım alanları da olduğundan belki[SLOP]daha uygun olabilirteo_zero: AI tarafından üretilmiş yazıya tahammül edemeyenler olduğu gibi, dilbilgisi hatalarına tahammül edemeyenler de var. Bir
AI generatedetiketi gelirse,lousy with mistakesetiketi de istenmeye başlanırDevKoala: Tek önemli olan şey, bir yazının yararlı, olgulara dayalı ve tarafsız olup olmadığı. Nasıl yazıldığı umurumda değil
thinkingemote: HN’de istediğim yazıların önemli bir kısmı LLM’lerle ilgili ve bunların çoğu da LLM’lerle yazılmış. Okuması berbat ve ilham veren cevherler de neredeyse yok; konuyla ilgiliyse sadece göz gezdiriyorum, asıl değer de çoğunlukla yorumlarda oluyor
LLM üslubunu kolayca fark edebiliyorsanız, tüketiciye yönelik LLM’lerden önceki yapay zeka araştırmacıları ve girişimci makalelerine de bakmaya değer. O üslup bugünkü LLM düzyazısına şaşırtıcı derecede benziyor
rddbs: AI’nin yazdığı yazılardan çok AI ile ilgili yazıların kendisini gizlemek istiyorum. Artık HN içeriğinin çoğu AI konuşması gibi geliyor, bıktım. Dengeyi geri getirecek tarayıcı eklentisi gibi bir yol var mı merak ediyorum
Ben ilk adım olarak ana sayfadaki AI ile ilgili tüm yazıları gizliyorum, ikinci adımda da geriye kalan ilginç yazıları arıyorum. Ne yazık ki bugünlerde geriye hiçbir yazının kalmadığı günler çok oluyor
mattas: Bu noktada belki de
not AIetiketi eklemek daha uygun olabilirramon156: Kişisel bir eklenti yaptım; AI üretimi içerikleri ağırlıklı olarak paylaşan kişileri kendi akışımdan engelliyor. Benim için iyi çalışıyor ama tüm hizmet genelinde de işe yarar mı emin değilim
İnsanların kendilerinin karar vermesi için sadece etiket sağlamak bile yeterli olabilir. DeArrow ve SponsorBlock gibi YouTube ile ilgili eklentiler kitlesel katılım yaklaşımını iyi uyguluyor
cloudpilot: Bir uygulamayı AI yardımıyla yaptım ama mesajı kendim yazmama rağmen ihbar edildim
jaredcwhite: AI üretimi metinlerin hiç görünmemesi gerektiğine güçlü biçimde inanıyorum. Ama bariz LLM izleri dışında bunu kanıtlamak zor ve gerçekten insan tarafından yazıldığının kanıtını istemek de kolay değil
Giderek, meşru biçimde paylaşılan yazıların insan tarafından yazıldığı varsayımının geçerli olduğu toplulukları tercih eder oldum
İlkeye katılıyorum ama bunu adil biçimde uygulamak zor ve ayrımcılık riski yüksek. Yazım hatalarını düzeltip düzenleme izleri bırakmanın insan işi gibi görünmeyi kolaylaştırması da ayrı bir paradoks
shahzaibmushtaq: AI, insan zekasından (HI) üstün değil ve gelecekte de olamaz. Kişinin kendi çalışmasının AI ile üretilip üretilmediğini ve ne oranda kullanıldığını açıklaması yazarın ve üreticinin sorumluluğudur
KingOfCoders: Yazı ya harikadır ya da değildir. Bunu insanın mı, AI’nin mi, yoksa kedinin mi yazdığı umurumda değil
amelius: Unicode’a, Latin-1 karakterleriyle aynı görünen ama yalnızca AI araçlarına ayrılmış bir kod alanı eklemek güzel olurdu. Böylece AI üretimlerinde bir tür sabit işaret biti bırakılabilirdi
Hatta bugün bile AI şirketlerinden ASCII
0x20yerine özel boşluk karakteri kullanmalarını istemekle benzer bir şey yapılabilir; bu, üretilen verinin yeniden eğitime katılması sorununu önlemeye de yardımcı olurnickandbro: Düz metin yazıda uzun tire saymak gibi bir şey mi yapacağız, bunun pratikte nasıl zorunlu kılınacağını bilmiyorum. Bu amaç için yapılmış AI tespit araçlarının bile hata oranı çok yüksek
warshinder: Önce yorumlara bakıyorum. Birileri her zaman bunun AI yazısı olup olmadığını, okumaya değip değmediğini ya da sayfanın yüklenmediğini söyler
Erken dönem HN’de bu, gönderiyi paylaşanın aşırı trafik yükünden kaçınmasına da yardımcı olurdu; ücret duvarı varsa da birisi arşivlenmiş sürümü yorumlara koyardı
CqtGLRGcukpy: Birinin AI üretimi sandığı bir yazı aslında öyle olmayabilir ve AI tespit araçları da kesin konuşacak kadar güvenilir değil
Şu anda ana sayfada 1 numara olan sığ reklamvari yazı buna iyi bir örnek: https://news.ycombinator.com/item?id=48884853
aryehof: Belirli bir insanın bakış açısını AI üretimi imasıyla bile kolayca itibarsızlaştırmak ya da susturmak mümkün hale gelir diye korkuyorum
rdataguy: AI üretimi olup olmadığını her zaman kolayca anlamak mümkün değil ve özellik kötüye de kullanılabilir. Yine de kolektif zekâ yeterince çok örneği ayırt edebilirse faydalı olabilir
itsgrimetime: AI yazılarına etiket konmasına karşı değilim ama yazının nasıl üretildiğinden bağımsız olarak içeriğin kendisinin daha derin ele alınmasını isterim. Son dönemde paylaşımların ne söylediğinden çok, nasıl yazıldığına bakıp anında reddetme ya da eleştirme eğilimi arttı gibi geliyor
Xotic007: AI etiketi gelirse, üreticilere sadece kaçınmaları gereken açık bir tespit hedefi verilmiş olur. Sonuçta bariz AI üslubu azalır ama tespitten kaçınmak zor olmadığından üretim çabası neredeyse hiç artmaz
deevus: Kendi yazdığım bir Show HN gönderisi otomatik moderasyona takıldı. Açıkçası bu durum reddedilme hassasiyetimi tetikledi ve o günden beri HN’ye bir şey göndermiyorum
edoceo: Gönderilere sadece eksi oy özelliği eklemek yetmez mi
flagvarEsophagus4: Bakılabilecek ilgili kavram https://en.wikipedia.org/wiki/Evil_bit
atomicthumbs: Makinenin yazdığı bir şeyi okumanı önermek, karşı tarafın zamanına saygı göstermemektir. Bunu bizzat yazacak kadar önemsemediysen, başkasının da okuması için bir neden yoktur; dolayısıyla değeri 0'dır
mleroy: AI içeriğini takip edip ihbar etmek yerine, yazarların bunun özgün içerik olduğunu gönüllü olarak belirtmesi sağlanabilir. Linklere
[Handmade],[Craft-Article],[Artisan-Thinking]gibi etiketler eklenebilirjeremyjh: Gönderiler eksilenemiyor ve kimsenin bizzat yazmadığı yazıları okumaktan rahatsız olmayan çok kişi var; bu yüzden normal oylama tek başına yeterli değil
Yazma dışındaki süreçlere hatırı sayılır emek gitmiş olabilir; bu yüzden AI tarafından yazıldı diye değersiz olduğunu kesin biçimde söyleyemeyiz. Yine de gerçek insan-insan iletişimini önemseyen bir norm oluşturmak için yaptırım uygulanması yönüne eğiliyorum
Çeşitli amaçlarla AI'ı çok kullanıyorum ve üretilmiş içeriği sık sık okuyorum; AI'a özgü ses, fark ettikçe daha da rahatsız edici geliyor. Kendi prompt'uma verilmiş bir yanıtı okumakla, prompt'u, düzeltme sayısını ve insan incelemesi olup olmadığını hiç bilmediğim bir metni okumak arasında büyük fark var
Genelde insanın yazdığı bir metinde yazar, okurdan en az 5 kat fazla emek harcar; ama AI metinlerinde okurun yazardan daha fazla zaman harcayıp harcamadığını bilmek mümkün değil, bu yüzden katlanması zor bir dikkat dağıtıcı unsur hâline geliyor
nyellin: AI kullanımını belirtme sistemi gelirse, bütün yazıların yorumları bunun AI tarafından yazılıp yazılmadığına ve ne ölçüde kullanıldığına dair tartışmaya dönüşür. İçeriğin kendisine göre değerlendirilmesine izin vermek daha iyi
lukasbm: Kimse filtreden geçmemiş chatbot çıktısını okumayı sevmez, ama bunu kesin olarak tespit etmek de imkânsızdır