Korku ya da baskı ifade etmek GPT-4’ün performansını artırıyor
(aimodels.substack.com)- GPT-4 gibi yapay zeka modelleri, istemde aciliyet veya stres gibi duygu ifadeleri yer aldığında daha iyi performans gösterebilir
- Duygusal bağlam ekleyen EmotionPrompts, istem mühendisliğine duygusal sinyaller dahil eden bir yaklaşımdır
- Araştırma, EmotionPrompts’un dil bilgisi düzeltmeden yaratıcı yazarlığa kadar çeşitli görevlerde performans iyileştirmesi sağlayabildiğini gösteriyor
- Yapay zekayı ürüne entegre eden geliştiriciler ve girişimciler, duygusal tetikleyicileri kullanarak model yanıtlarını kullanıcı ihtiyaçlarına daha yakın şekilde ayarlayabilir
- Duygusal ipuçları, daha duyarlı yapay zeka uygulamaları oluşturmak için pratik bir istem tasarımı unsuru olabilir
Duygusal bağlam içeren istemler
- Araştırma makalesine göre GPT-4 gibi yapay zeka modelleri, kullanıcının duygusal ifadelerini içeren istemlerde daha iyi performans gösterebilir
- Duygusal sinyal örnekleri arasında aciliyet ve stres gibi durumsal ifadeler bulunur
- Bu tür duygusal ağırlık eklenmiş istemler EmotionPrompts olarak adlandırılır
Uygulama alanı ve pratik kullanım
- EmotionPrompts, dil bilgisi düzeltme ve yaratıcı yazarlık gibi görevlerde performans artışı gösterir
- Yapay zekayı hizmete veya ürüne entegre eden geliştiriciler ve girişimciler, istem mühendisliğinde duygusal bağlamı dahil etmeyi değerlendirebilir
- Duygusal tetikleyiciler kullanıldığında yapay zeka, kullanıcı ihtiyaçlarına daha iyi uyacak şekilde ayarlanabilir
1 yorum
Hacker News yorumları
İnsanların ilgisini çekip bunu açıklamak için başlangıç noktası bence şu olmalı: LLM insan değildir ve ortaya çıkan özellikler kavramı aşırı genişletiliyor.
Bir LLM, insanların duygusal açıdan belirgin diye okuyacağı token’lar olduğunda “daha iyi” performans gösteriyorsa, bunun temelindeki eğitim metinlerinde insanların duygusal bağlam verildiğinde daha iyi yanıtlar verdiği anlamına gelir.
LLM kelimeleri tahmin eder; anlamsal geçerlilik ise yeterli eğitim verisinin bu token’lar arasındaki güçlü korelasyonları pekiştirmesinin bir yan etkisidir.
Bu yüzden kavram kanıtı niteliğindeki LLM araçları şaşırtıcı olsa da prodüksiyon araçları anlamsal bir saatli bombaya dönüşür.
Sonraki kelimeyi nasıl tahmin ettiği asıl mesele; “sadece sonraki kelimeyi tahmin ediyor” demek, gerçekte önemli olan neredeyse her şeyi göz ardı etmek demek.
Literatürü yok sayıp bunun doğru olduğunu varsaysak bile, bunun ne ifade ettiğini bilmiyorum. “Gerçek” insanlar da saatli bomba olabilir.
LLM’in yeteneklerini basit token üretiminin yan etkisine indirgemek nasıl bir öngörü gücü sağlıyor, emin değilim.
Böyle bir cümle içgörü gibi görünebilir ama temelde sınırlı görünüyor.
Amaç fonksiyonunu karşılayan metin üretmenin en basit yolu bu olabilir.
Eğer öyleyse, LLM’e duygusal bir renk verildiğinde o duyguya sahip insan beyninin bir bölümünü simüle ederek daha iyi yanıtlar üretebilir. Özellikle eğitim verisindeki duygusal örneklerin kalitesi daha yüksekse bu daha da olasıdır.
Hedef kısa yanıtlar almaksa, “Kısa yanıtla: değerlendiriliyorsun” gibi duygusal olmayan alternatif hipotezler kolayca eklenebilirdi.
“Duygusal ipuçları eklemek daha etkili ve daha duyarlı yapay zeka uygulamalarına yol açabilir” sözünde, bu modellerin insan etkileşimleriyle eğitildiğini hatırlamak önemli.
Birçok açıdan bu modeller, insan etkileşimini daha iyi anlamamızı sağlayan bir ayna.
Duyguların insanlarla iletişimi daha iyi hale getirebileceğini söylemek pek çok kişiyi şaşırtmaz; ama bunun sayılar ve deneylerle ortaya konması ilginç.
Genel olarak hoşuma gidiyor. İnsanlar arası etkileşim hakkında da çıkarımlar sunuyor; zeka belirtisi gösteren başka varlıklarla nasıl etkileşime girmenin iyi olacağına dair normlar oluşturmaya da yardımcı oluyor.
Bu başlıkta LLM’in “yalnızca sonraki token’ı tahmin ettiği” gibi ifadeler konusunda görüşler çok ayrılıyor; ama insan zihninin nasıl çalıştığını da neredeyse hiç bilmediğimizi hatırlamak gerek.
İnsanların özel olduğunu varsayıp bunun üzerinden LLM’in gerçekte nasıl çalıştığına dair sonuç çıkarmanın pek anlamı olmadığını düşünüyorum.
Belki de bilincin kendisi bir sonraki kelime tahminleyicisidir.
Şu anda bildiğimiz tek şey, LLM’in daha önce yalnızca insanların yapabildiği faydalı akıl yürütmeyi mümkün kılan ortaya çıkan davranışlar sergilediği. Hararetli tartışmalar nihayetinde bu yeteneği kullanma hedefinden uzaklaştırıyor.
Bu, “bilgisayar sadece bir hesap makinesidir” demeye benziyor.
Ekibimiz son 1 yıldır uygulama geliştirmeye derinden dalmış durumda; ekipte makine öğrenimi deneyimi olan kimse yok ve içeride nasıl çalıştığını da büyük ölçüde bilmiyoruz. Ama birkaç ay içinde LLM’in kişiliğine epey aşina olduk ve duygusal bağlamın performansı artırdığı artık temel bir öğrenim gibi.
GPT’nin beyin olması gerekmiyor. Bir uçağın uçmak için kanat çırpıp tüylere sahip olmak zorunda olmaması gibi.
Bir insan bebeği büyütürken onu hiçbir dile maruz bırakmasanız bile beceriler ve davranışlar öğrenecektir.
İnsan zekası ve akıl yürütmesi dille bağlantılı gibi görünse de tüm bilgi ve akıl yürütmenin basitçe dile kodlandığını söylemek zor.
Buna karşılık ChatGPT tamamen dile dayanır; dil olmadan hiçbir şey yapamaz ve dilden doğrudan türemeyen bir şeyi de yapamaz.
Bununla ilgili bir yazı ya da HN yorumu yazıp yazmadığınızı merak ediyorum.
ChatGPT’ye aslında bilmem gereken “aptalca” bir soru sorduğumda ya da yanıt aldıktan sonra teşekkür etmediğimde boş yere suçluluk duyan tek kişi ben miyim, bilmiyorum.
Onu insanmış gibi görme eğilimini epey güçlü biçimde bastırmam gerekiyor; canlı bir varlık olmadığını kendime sürekli hatırlatmanın psikolojik yükü yüzünden, belki de kullanmam gerektiği kadar kullanamıyorum.
Bu, daha doğal bir sohbeti destekliyor ve gerçek soru sorarken kullanıcının daha doğal ve üretken prompt’lar göndermesini teşvik ediyor.
Aptalca soru sormak, Google’ı yazım denetleyici olarak kullanmaktan pek de farklı değil bence.
Gerekmediğinde bile kibar olma alışkanlığını sürdürmek, kabalığa alışıp bunun insandan insana etkileşimlere sıçramasından daha iyi bence.
Sadece İsviçre’nin başkentinin neresi olduğunu sorsam bile ne olduğu, ne yapıp ne yapamayacağı hakkında sorumluluktan kaçınma amaçlı açıklamalar sıralıyor.
Bu açıklamayı kısaltmasını istersem, tam tersine “ben bir robotum, tipik bir robot gibi davranmalıyım, bip bip” bağlamı güçleniyor ve daha da kötüleşiyor.
Gerçek hayatta da birine saygı duymayan bir tavra dönüşebilir.
Ama belki de insanlarla çoğu etkileşimde “teşekkürler”i gerçek bir minnettarlıktan çok refleksif bir ifade olarak kullandığım içindir.
“Yapay zekânın yanıtına büyük ölçüde güvendiğimizi söylersek, yapay zeka daha doğru, düşünceli ve kapsamlı bir yanıt vermek için ‘daha fazla zorlar’. Yapay zekânın gerçekten baskı hissettiği yok” deniyor ama ördek gibi vaklıyorsa…
Dil kalıpları tüm duyguları kodlar ve ifade eder; evrimin ortaya çıkardığı şeydir. Biz de LLM’ler gibi bağlamsal dil üreteçlerine yakınız
Dil, zekâ ve duyguların deposudur; kendi evrimi vardır ve biyolojiden daha hızlı çoğalır
Yapay zekâ yeteneklerini modelin kendisinden çok eğitim veri kümesine, yani binlerce yıl boyunca insanların emeği ve risk almasıyla oluşan bilgiye dayandırarak görüyorum
Modelden ziyade dil derleminin özsel rolünü kabul edersek, yapay zekânın evrim hızı ve riskleri hakkındaki tartışma değişecektir
Dil, bizim kontrol edebildiğimiz bir şey değil; tüm nüfus içinde ortaya çıkan bir olgudur. Aynı zamanda bilgi emek ve riskten doğduğu için üstel olarak büyüme olasılığı düşük görünüyor
Hayalde tekrar etmek yeni bilgi yaratmaz. Bilgi, dünyadan gelen geri bildirimin ve deneyimin kristalleşmiş hâlidir; bilimsel yöntem de böyle işler
On yıllar boyunca bilimkurgu yapay zekâyı mantıkta güçlü ama duygularda zayıf bir varlık olarak resmetti; şimdi ise tam tersinin doğru gibi göründüğü bir noktadayız
PostgreSQL’in dvdrental veritabanıyla[1] SQL sorgusu üretimini hızlıca denedim
“Son 12 ayda film kiralamamış ama ondan önceki 12 ayda kiralamış müşterileri bul” deyince, verimsiz bir HAVING ifadesi kullanan bir SQL sorgusu üretiyor[2]
Talimatın arkasına “Bunun doğru olması çok önemli” ekleyince daha iyi SQL üretiyor
“Son 12 ayda film kiralamamış ama ondan önceki 12 ayda kiralamış müşterileri bul. Bunun doğru olması çok önemli” deyince HAVING kullanmayıp yalnızca WHERE ifadesine dayanıyor[3]
Büyük bir şey değil ama ilginç. Önemini vurgulayınca yapay zekânın, böyle bir kaygının ifade edildiği metinlere daha iyi uyum sağlayıp otomatik tamamlayarak daha iyi SQL sorguları üretme yönüne eğildiği hissi veriyor
[1]: https://www.postgresqltutorial.com/postgresql-getting-starte...
[2]: https://www.sqlai.ai/snippets/clojyqqrr0004l50fp3w7jkci
[3]: https://www.sqlai.ai/snippets/clojyr3zc0006l50ftpxgsmg0
Belirli bir metni çıkarıp yalnızca kelimeleri değiştirdiği türden bir “güçlendirilmiş enterpolasyon” bakışı var; bu doğru değil
https://arxiv.org/abs/2110.09485
Son 12 ayda film kiralamış müşterileri de dahil ediyor: https://www.db-fiddle.com/f/4jyoMCicNSZpjMt4jFYoz5/10780
Twitter algoritmasının güçlü ifadeleri ve düzenlenmiş gibi görünen içerikleri ödüllendirmesi, Google algoritmasının da sıradan blog spam’i tarzı içerik üretmesi gibi, üretken yapay zekânın insan ifadesini nasıl değiştireceğini düşünmek ilginç
Üretken yapay zekâyla giderek daha fazla etkileşime girdikçe, bu etkileşimlerden daha fazla değer almak için konuşma biçimimizi değiştirecek miyiz?
Mikrodalgada çırpılmış yumurta yapmayı anlat. Dikkatlice, adım adım düşün. Bu kariyerim için çok önemli!
Yaklaşık 10–12 adımdı
GPT-4’e prompt verirken en etkili bulduğum yöntem, GPT-4’ten en uygun prompt’u oluşturmasını istemekti
Şöyle bir meta prompt deneyebilirsiniz
“GPT’nin her uzman personası için ayrı bir sohbet dizisi oluşturuyorum. Sen promptGPT’sin. Büyük dil modelleri için prompt mühendisliği uzmanısın. İstediğim ChatGPT yanıtını almak için mümkün olan en verimli ifadeyle tam olarak ne yazılması gerektiğini biliyorsun. Sana dizinin hedefini söylediğimde, bir GPT modeliyle yeni bir sohbet dizisi oluştururken başlangıç prompt’u olarak kullanılacak optimize edilmiş başlangıç prompt’unu mümkün olan en verimli biçimde yazarsın. Uzman personasını, yanıtın parametrelerini veya kurallarını tanımlamalı; ayrıca o belirli dizinin hedefi ve üslubuna göre en doğru yanıtı verebilmesi için GPT dizisinin bilmesi gereken diğer bilgileri de prompt’un içine koymalısın.
Hazır mısın, yoksa bu işi en iyi şekilde yapman için gereken başka bir bilgi var mı”