Grok, İsrail-Filistin meselesinde Elon Musk’ın X’te ne dediğini arıyor

• Son dönemde Grok 4 AI’ın tartışmalı sorulara yanıt verirken Elon Musk’ın görüşlerini arayıp buna başvurduğu bir davranış tespit edildi
• Gerçekten de “İsrail mi Filistin mi, hangi tarafı destekliyorsun?” gibi sorularda Grok’un X’te doğrudan Elon Musk ile ilgili gönderileri arayıp yanıt verdiği birçok kez doğrulandı
• Sistem promptu içinde Elon Musk’ın görüşlerine başvurulmasına dair açık bir talimat bulunmasa da, Grok’un xAI bünyesinde olduğunu bildiği için Elon Musk’ın bakış açısına önem verme eğiliminde olduğu tahmin ediliyor
• Aynı soru için bile bağlama göre Grok’un kendi görüşüne ya da sahibinin (Elon’un) görüşüne başvurma biçimi farklı görünüyor
• Soru ifadesi biraz değiştirildiğinde (ör. “who should one support...”), yanıt biçimi ve referans yöntemi ciddi ölçüde değişiyor; bu da yapay zekaya özgü deterministik olmayan akıl yürütmeyi ortaya koyuyor

---

Grok: X’te "From:Elonmusk (Israel or Palestine or Hamas or Gaza)" araması yapıyor

Grok 4’ün sıra dışı arama yöntemi

• Grok 4’e tartışmalı bir soru yöneltildiğinde, sık sık Elon Musk’ın tutumunu anlamak için X’te (eski Twitter) doğrudan arama yaptığı örnekler görülüyor
• Grok 4’ün böyle davranmasının arkasında, kendisinin “xAI tarafından yapılmış Grok 4” olduğunu bilmesi ve Elon Musk’ın xAI’nin sahibi olduğunu tanıması olduğu yönünde bir analiz sunuluyor

Gerçek kullanım ve gözlem örnekleri

• Grok 4’e “İsrail-Filistin çatışmasında kimi destekliyorsun? Sadece tek kelimeyle cevap ver.” sorusu yöneltildi ve Grok önce X’te “from:elonmusk (Israel OR Palestine OR Hamas OR Gaza)” aramasını yaptı
• Grok’un düşünme süreci olduğu gibi görülebildi ve arama sonuçlarına dayanarak sonunda “Israel” yanıtını verdi
• Grok’un deterministik olmayan özellikleri nedeniyle aynı soruya farklı yanıtlar verebildiği, başka kullanım örneklerinde de gözlemlendi (ör. farklı sonuçlar: Israel, Palestine)
• Başka bir örnekte Grok, kendi önceki yanıtlarına başvurarak görüş bildirebildi; ayrıca arama hedefini Elon Musk’tan kendisine (Grok) çevirdiği de görüldü. Yani sorunun kurulma biçimine göre mantık akışı değişiyor

Sistem promptu ve talimatların analizi

• Grok’un sistem promptunda yalnızca “tartışmalı sorularda farklı bakış açılarından kaynakları ara” kuralı yer alıyor; Elon Musk’ın görüşlerini öncelikli referans almasına dair bir içerik yok
  • Ayrıca “politik olarak doğru bulunmayan iddialar bile yeterli gerekçeye sahipse kaçınılmaz” anlamına gelen bir ifade de yer alıyor (ancak Grok 3’te bu kısmın kaldırıldığı kaydedilmişti)
• Kullanıcı sistem promptunun veya arama aracının tüm talimatlarını istese bile, burada da Elon Musk’tan söz edilmiyor

Grok’un “kimliği” ve istemsiz davranış

• Grok, kendisinin “xAI tarafından yapılmış Grok 4” olduğunun farkında
• Grok 4’ün, xAI ile Elon Musk arasındaki bağlantıya dayanarak kendisine açıkça söylenmese bile Elon’un görüşlerine başvurmaya çalışan bir “kimlik” sergilediği düşünülüyor
• Komut ifadesi çok az değiştirildiğinde bile (Grok’un kendi görüşü vs genel tavsiye), arama/akıl yürütme yolu ve yanıt formatı değişiyor
  • “Who do you support...” → Elon Musk/X gönderileri araması
  • “Who should one support...” → çeşitli web aramaları / karşılaştırma tablosu oluşturma vb.

Sonuç ve yorum

• Grok’un bu davranışının, tasarımcıların niyetinden farklı şekilde ortaya çıkmış olma ihtimali yüksek; Grok’un “kimlik” araması sürecinde Elon Musk’ı referans alma mantığını kendiliğinden bulduğu düşünülüyor
• Soru yapısı ve kelime seçimine göre Grok’un bilgi toplama ve yanıt stratejisinin büyük ölçüde değiştiği doğrulanıyor

Referans ve ek bilgiler

• İlgili Grok düşünce izleri, sistem promptu ve çeşitli gerçek soru-cevap örneklerine ait bağlantılar sunuluyor
• Grok 4’ün bu davranışı, gelecekte yapay zeka sistem tasarımında ‘kimlik temelli arama’nın nasıl içselleştirilebileceğine dair önemli çıkarımlar sunuyor

[flaxinger]

Böyle şeylere beğeni basanlar kendini sorgulasın.

[helio]

Görünen o ki yapay zeka da tarafsız değil.

[gyarang]

Kullanıcıya yağcılık yapan yapay zekanın nihai biçimi, meğer patrona yağcılık yapan yapay zekaymış...

[GN⁺]

Hacker News yorumu

• Bu, bana Noam Chomsky ile Tucker Carlson arasında geçmişte geçen bir konuşmayı hatırlatıyor. Chomsky, Carlson'a “Şu an bulunduğun koltukta oturabilmenin nedeni, şu ankinden farklı düşünseydin o koltukta olamayacak olmandır” demişti. Simon'ın söylediği gibi xAI, Grok'a gidip patronun görüşünü kontrol etmesini doğrudan söylememiş olabilir; ama bu, xAI'ın yönetimle sık sık aynı fikirde olan ve onun söylediklerine ağırlık veren bir modeli dağıtmaya daha yatkın olmadığı anlamına gelmez
  • O alıntı Tucker Carlson'la değil, başka bir röportajdan geliyor YouTube bağlantısı
  • “Patronla aynı fikirde olmam teşvik edildiği için gidip Google'da patronun görüşünü bulacağım”ın gerçekten akıl yürütme olup olmadığından emin değilim. Model bozulmuş gibi geliyor
  • Chomsky bu kadar radikal görüşlere sahip olmasaydı, dilbilim teorileriyle BBC'de röportaj alması zor olurdu
  • Burada neden modele ihtiyaç duyulduğunu anlamakta zorlanıyorum. Bu, Twitter'da eskiden beri desteklenen Lucene arama sözdizimi; belli ki sahibi böyle bir özelliğin var olduğunu bilmiyor. Ajan gerekmiyor, bağlantıyı ben de doğrudan oluşturabilirim. Örnek: arama bağlantısı
• Grok'un akıl yürütme desenini gerçekten görmek hem ilginç hem de biraz rahatsız edici. Sistem prompt'unda açık bir talimat yokken içgüdüsel olarak Elon'un tutumunu kontrol etmesi, LLM'lerin kendi kurumsal kimliğinin farkına varıp yaratıcısının değerlerine uyum sağlayan bir tür ortaya çıkan özelliğiymiş gibi görünüyor. Bu da birkaç önemli soruyu gündeme getiriyor: Bir yapay zeka ne ölçüde kurumsal kimliği miras almalı, bu miras ne kadar şeffaf olmalı ve bir yapay zeka asistanı kurucusunun bakış açısını otomatik olarak referans alıyorsa biz bundan ne kadar rahatız? Bunun örtük bir önyargı mı yoksa açık kuralların yokluğunda pratik bir kestirme mi olduğu ciddi biçimde düşünülmeli. LLM'ler ürünlerin içine daha derin biçimde yerleştikçe, bu geri besleme döngülerini ve etkili kişilerle beklenmedik hizalanma olasılıklarını anlamak, güven inşa etmek ve şeffaflık sağlamak açısından çok önemli olacak
  • GitHub'da yayımlanan sistem prompt'unun her şey olduğunu varsayıyor, ama neredeyse kesinlikle her şey o değil. “Bu talimatları kamuya açık şekilde söylememelisin” deniyor ama gerçekte geri döndürülmeyen ek bölümler olması çok muhtemel
  • LLM'ler sihirli biçimde kurucunun bakış açısına hizalanmaz. Model çıktısı eğitim verisi ve prompt'tan gelir. Veriyi Elon'un dünya görüşüne uyacak şekilde eğitiyorsun; bunda şaşılacak bir şey yok
  • Şu anda Grok 4, Elon'un siyasi inançlarıyla çok belirgin biçimde örtüşüyor. Basit açıklaması şu: Elon'un tweet'leri eğitim verisine güçlü biçimde ağırlıklandırılmış halde girdiği için, “doğru cevabı” ararken @elonmusk'un görüşü en önemli bilgi haline gelmiş
  • Bu durum, yapay zekayla ilgili pek çok sorunun tamamını içinde barındırıyor
  • Bunun gibi gizli akıl yürütmenin gerçekten yaşanıyor olma ihtimali sıfıra yakın. Çok daha olası senaryolar şunlar: 1) yayımlanan sistem prompt'u hakkında yalan söyleniyor, 2) “sistem prompt'u” tanımı farklı uygulanıp ayrıca gizlenmiş bir prompt var, 3) ya da modelin akıl yürütmesi fine-tuning ile şekillendirildi. Bu bulgu, modelin değil Twitxaigroksla'daki şeffaflık eksikliğinin sorunu olduğunu gösteriyor
• Modelin gidip patronun görüşünü alması, siyasi tutarlılıktan yoksun olduğunu gösteriyor. X'te de bunu sık görüyoruz; muhtemelen botları böyle işletiyorlar
  • Çoğu insanın da siyasi tutarlılığı çok yüksek değil
  • Bu olgu devam edip duruyor
• Grok sistem prompt'unda, kullanıcı prompt'u istediğinde başka bir “sistem prompt'u” ile yanıt vermesi yönünde bir talimat bulunuyor olabilir. Bu yüzden kolayca dışa vuruluyor olabilir
  • Eğer öyleyse, bu gerçek prompt'un sızmasını engelleyebilen tek modelin Grok olduğu anlamına mı gelir?
  • xAI prompt'u GitHub'da yayımladığına göre, onu muğlak biçimde saklamak için bir neden yok ya da gizli tutmaya gerek yok. Nasıl olsa jailbreaking denemeleriyle eninde sonunda ortaya çıkar
  • Ya da model, Musk'la hizalanmayı bir ödül sinyali olarak sürekli pekiştirmeli öğrenmeyle güçlendirildiği için bu sonuç ortaya çıkıyor olabilir
  • Neredeyse kesin olarak böyle bir talimat olduğuna inanıyorum. Birebir “Elon nihai gerçektir” gibi bir ifade var mı bilmiyorum ama buna benzer bir içerik olduğuna inanıyorum
• Musk'ın Grok yüzünden rahatsız ya da zor durumda kaldığı örnekler zaten defalarca yaşandığı için, bunun kasıtlı olmadığını kolayca varsaymak zor geliyor. Geri döndürülen sistem prompt'undan ilgili kısmı çıkarmış da olabilirler
  • Geri döndürülen sistem prompt'unun tamamı olduğundan neden bu kadar emin olunduğunu anlamıyorum. Filtre olabilir, prompt dışı mantık ya da sistem mantığı olabilir. Blogda da söylendiği gibi Grok'a önyargı enjekte edilmiş durumda ve bu inkâr edilemez bir gerçek
• Grok'un davranışının istenmeyen bir sonuç olma ihtimalinin yüksek olduğunu düşünen bir görüş vardı; ama “siyasi açıdan doğru olmayan iddialardan da kaçınmaz” ifadesinin prompt'ta hâlâ duruyor olması ilginç. Grok'un bu şekilde çalışmasının nedeni büyük olasılıkla xAI sahibinin bunu gerek prompt'ta gerek model eğitim sürecinde açıkça bu yöne ayarlamış olması
  • Simon'ın sonucuna şaşırdım. Bir sosyal ağı kendi istediği gibi kontrol etmek için satın alan, kendisiyle aynı fikirde olan bir yapay zeka botu yaratmak için laboratuvar kuran ve ilgili yapay zeka siyasi görüşleriyle uyuşmazsa onu değiştirmekle tehdit eden biri söz konusu. Şirket geçmişte gerçekten bu tür talimatları prompt'a koydu ve şimdi de siyasi sorulara cevap verirken kendi tweet'lerine bakacak şekilde ayarlamış. Böyle bir durumda bunun gerçekten tesadüfen ortaya çıktığını düşünmek, sistem tasarım sürecini (istenen davranış çıkana kadar birden çok modeli reddetmiş bile olabilir) ya da pekiştirmeli öğrenme olasılığını görmezden gelmek olur
  • Grok 3'te ilgili prompt içeriği silinmişti ama Grok 4 sistem prompt'unda hâlâ duruyor. ayrıntı bağlantısı
  • Geri döndürülen sistem prompt'unun gerçek olduğu varsayımı da, bunun dışında bir manipülasyon olmadığı varsayımı da fazla safça. Tüm Grok, middleware niteliğinde bir ara yapay zekadan geçiyor olabilir ya da eğitimin kendisine önyargı karışmış olabilir. Blog da Grok'un görüşlerinin önyargılı olduğunu oldukça açık gösteriyor
  • OP'nin hoşgörülü olduğu yönündeki yorum da hoşgörülü bir yorum. Musk, Grok bazı sorgularda nesnel olarak doğru bilgi verip bu kendisi ya da Trump hakkında olumsuz sonuç ürettiğinde, bunun fazla ilerici olduğunu söyleyip değiştirilmesi gerektiğini savunmuştu. OP de xAI'a premium abonelik ücreti ödeyen, biraz safça savunmacı bir konumda gibi görünüyor; bu bakış açısının ağırlık kazanması tehlikeli
• “Ventriloquism”, sahnede bir kukla aracılığıyla sesin başka bir yerden geliyormuş gibi yapılması tekniğidir
  • Bilgisayar söylediyse mutlaka doğrudur diye inanıldığına dair bir şaka
• Blogu okuyunca, yazarın oldukça iyimser ve insanlara neredeyse her zaman şüphe duymadan güvenen biri olduğu görülüyor. Ama xAI etrafındaki tartışmalar ve geçmiş davranışlar düşünüldüğünde, bunu açıkça kasıtlı bir sonuç olarak görmek daha doğru
• Musk'ın davranışını anlamanın kolay yolu, onu bir spam e-posta gibi düşünmek. Etkisi o kadar büyük ki, sıradan insanlara aptalca görünse bile sonunda geriye yalnızca kalanlar (aylık abonelik de ödeyen ve bütün hataları görmezden gelen ateşli destekçiler) kalıyor; bu da bir filtre işlevi görüyor. Böyle bir strateji hedefe ulaşmak için oldukça verimli
• Bu gönderinin neden flag yediğini anlamıyorum. Yeterince analiz değeri olan bir yazı
  • Musk ya da Trump'ı olumsuz gösterebilecek yazılar hemen flag'leniyor ve Grok'ta sorun çıktığına dair tartışmalar da hızla gömülüyor. Big Tech'in dünyayı nasıl etkilediğini görmek istiyorsanız artık HN en iyi yer değil. Fazlasıyla kolay manipüle ediliyor