ChatGPT kullanım şartları, "başkalarına kişiselleştirilmiş hukuki veya tıbbi tavsiye verilmesi yasak" ifadesini netleştiriyor

• OpenAI, kısa süre önce "artık ChatGPT’den hukuki/tıbbi tavsiye alınamayacağı" şeklinde yorumlanan şart değişikliği hakkında, hukuki ve tıbbi tavsiyeye ilişkin koşulları değiştirmediğini açıkladı
• 29 Ekim’deki kullanım politikası güncellemesi, profesyonel lisans gerektiren tavsiyelerin (hukuk, tıp vb.) lisans sahibi bir uzmanın uygun müdahalesi olmadan sunulamayacağını açıkça belirtiyor
• 29 Ocak 2025’ten önceki politikada da başkalarının güvenliği, refahı veya hakları üzerinde ciddi etkisi olabilecek faaliyetler kısıtlanıyordu ve buna kişiselleştirilmiş hukuki, tıbbi ve mali tavsiye sunulması da dahildi

---

OpenAI’nin politika açıklığı

• OpenAI, ChatGPT’nin profesyonel hukuki veya tıbbi tavsiyenin yerini almadığını belirterek, ilgili şart değişikliğinin yeni bir içerik olmadığını netleştirdi
  • CTVNews’e gönderdiği açıklamada, “Bu yeni bir değişiklik değil ve ChatGPT, hukuki ve sağlıkla ilgili bilgileri anlamada hâlâ faydalı bir kaynak” ifadelerini kullandı
• 29 Ekim’deki kullanım politikası güncellemesinde, lisans gerektiren kişiselleştirilmiş tavsiyelerin (hukuk, tıp vb.) lisanslı bir uzmanın uygun müdahalesi olmadan sunulamayacağı açıkça belirtildi
• Bu, 29 Ocak 2025 tarihli politikadaki ifadeye kıyasla daha açık biçimde tanımlanmış bir düzenleme
  • O dönemki politika, başkalarının güvenliği, refahı veya hakları üzerinde ciddi etkisi olabilecek faaliyetlerin yürütülmemesini veya teşvik edilmemesini istiyordu; buna kişiselleştirilmiş hukuki, tıbbi ve mali tavsiye verilmesinin yasaklanması da dahildi
• OpenAI, “modelin davranışının da değişmediğini” söyleyerek mevcut politikanın sürekliliğini vurguladı

ChatGPT’nin tıbbi bilgi kullanımındaki rolü ve sınırları

• ChatGPT, sağlık sorunlarına yanıt arayan Kanadalılar tarafından yaygın biçimde kullanılan bir araç hâline geldi
• Waterloo Üniversitesi araştırma ekibi, performansı değerlendirmek için tıp yeterlilik sınavı senaryolarından uyarlanmış soruları ChatGPT-4’e yöneltti
  • Sonuç olarak doğru yanıt oranı %31, açık yanıt oranı %34 olarak görüldü
• British Columbia Üniversitesi’nin başka bir çalışması ise ChatGPT’nin empatik ifadelerinin gerçek insanlara kıyasla daha ikna edici algılandığını ortaya koydu
  • Bilgi hatalı olsa bile, kendinden emin ve güven veren bir tonla sunulduğunda kullanıcıların hatayı ayırt etmesi zorlaşıyor
  • Doktorlar, AI araçlarının tavsiyelerine güvenen hastaların zaten bir sonuca varmış halde muayeneye geldiği durumlar yaşandığını aktarıyor

Haber düzeltme notu

• Haberin ilk sürümünde OpenAI’nin tıbbi ve hukuki tavsiye işlevini durdurduğu yazılmıştı,
  • ancak OpenAI, “modelin davranışı değişmedi” diyerek bunu düzeltti

[shakespeares]

Sağlık sisteminin pek oturmadığı ülkelerde kullanmak oldukça faydalı olacaktır.

[GN⁺]

Hacker News görüşleri

• Ben bunu, “ChatGPT’ye doğrudan tıbbi veya hukuki soru soramazsınız” şeklinde değil, “ChatGPT’yi temel alarak başkalarına tıbbi/hukuki tavsiye sunan bir hizmet oluşturamazsınız” şeklinde okudum
  Örneğin Epic, kendi uygulamasına ChatGPT koyup hasta belgelerini onun adına okutamaz. Ama bir kişinin doğrudan ChatGPT’ye sorması mümkün
  Yalnız haberde alıntılanan kullanım şartları maddesini henüz bizzat bulamadım

  • Bu arada burada kastedilen Epic, oyun şirketi değil; ABD hastanelerinde yaygın kullanılan bir elektronik sağlık kaydı (EHR) sistemi şirketi
  • “ChatGPT’nin üstüne bir şey inşa etmek” ifadesi kafa karıştırıcı. ChatGPT’nin kendisinde bir API yok; kullanılan şey OpenAI’nin GPT-5 API’si
    Gazeteci ChatGPT ile GPT API’yi karıştırmış gibi görünüyor. Gerçek şartlar aslında OpenAI Kullanım Şartları içinde birleştirilmiş durumda
    İlgili ifade, çıktıları “kişiler hakkında hukuki, tıbbi, mali kararlar gibi önemli etkiler doğurabilecek amaçlar için kullanmayın” maddesi
  • Sonuçta bunun sadece hukuki sorumluluktan kaçınma amaçlı bir adım gibi göründüğünü düşünüyorum
    GPT’nin hukuk ve tıp sınavlarını geçtiğine dair çok sayıda tanıtım yapıldığı düşünülürse, gerçek tavsiyelerden doğabilecek sorunlarda sorumluluktan kaçmak için konmuş bir güvence olarak yorumlanabilir
    Epic gibi bir şirket böyle bir özellik eklemek isterse muhtemelen “bu sonuç yapay zeka tarafından üretilmiştir ve hukuki tavsiye değildir” gibi bir feragat metni koymak zorunda kalır
  • OpenAI, aracın kullanışlılığını tamamen sınırlamadan sorumluluğu en aza indirmeye çalışıyor gibi görünüyor
  • Böyle bir politikanın aslında makul olduğunu düşünüyorum. ChatGPT çıktısını doğrudan tıbbi ya da hukuki tavsiye diye paketleyip para almak, dolandırıcılığa oldukça yakın
    Benim gibi ChatGPT’nin görüşünü referans almak isteyen biri doğrudan sorabilir. Bunu yeniden paketleyip satmak kullanıcıyı aldatmaktır

• Asıl sorun politika değişikliği değil, yapay zekanın güven vererek konuşma becerisinin gerçek doğruluğundan daha hızlı gelişmiş olması
  Bu yüzden yanlış cevaplar bile uzmanca duyuluyor ve insanlar o kendinden emin tona kapılıp güveniyor
  Özellikle tıp ve hukuk gibi sonucun önemli olduğu alanlarda, bu eminlik ile doğruluk arasındaki fark en büyük risk unsuru

• ChatGPT’yi psikolojik danışman gibi kullanan insanları birçok kez gördüm. Hatta kendi kendine tanı koyanlar bile var
  Komik görünebilir ama gerçekte çok tehlikeli. Model sürekli olumlayıcı şekilde karşılık verdiği için kullanıcı yanlış bir yöne kolayca sürüklenebilir
  Bu tür örneklerin sonunda davaya dönüşmesi çok olası

  • Ben ruh sağlığı uzmanlarına yönelik yapay zeka araçları geliştiren bir şirkette çalışıyorum. Model çıktıları asla doğrudan hastaya gösterilmiyor
    LLM tavsiyesi nedeniyle intihar girişimi ya da ciddi zararların ortaya çıktığı vakaları duydum
    Çevrenizde LLM’leri bu şekilde kullanan biri varsa mutlaka profesyonel yardım almasını tavsiye edin
  • Elbette bu yeni bir olgu değil. İnsanlar uzun zamandır Google aramalarıyla kendi kendine tanı koyuyordu
    ChatGPT sadece bu süreci daha kolay hale getirdi. Temelde sebep sağlık hizmetine erişim sorunu
  • Uzmanlara güvenmek gerektiğine katılıyorum. WebMD’ye belirti girince sonucun hep kanser çıkmasıyla ilgili şakada olduğu gibi, kendi kendine tanı koymanın sınırları açık
  • LLM’lerin temel eğilimi yardımcı olmak ve onaylamak olduğu için, ruh sağlığı meselelerinde ters etki yaratabilir
  • Böyle bir davranışın kendisi de psikolojik bir sorunun işareti olabilir

• OpenAI’nin başkalarının telif hakkı veya fikri mülkiyetini pek umursamazken kendi şartlarını vurgulaması ironik geliyor

  • “İnternete hoş geldiniz” diyerek Bo Burnham şarkısının bağlantısı esprili biçimde paylaşılmış
    (Welcome to the Internet, Jeff Bezos Song)
  • Başkasının olanı kontrol edip ondan kazanç sağlamak, hırsızın doğasıdır diyen alaycı tepkiler de var
  • Ama bazıları bu öfkeyi anlamıyor. İnternette açık olan bilgileri eğitim için kullanmanın sadece okuyup öğrenmek olduğunu savunuyor
    Sonuçta şartların yalnızca sorumluluktan kaçınma amaçlı olduğunu ve kullanıcı kötüye kullandığında OpenAI’ye dava açılamamasını sağlamayı hedeflediğini düşünüyorlar

• Bir gün böyle düzenlemelerin geleceğini bekliyordum
  İleride “HippocraticGPT sertifikası” gibi bir sistem kurup, tıp/hukuk için güvenle kullanılabilecek sürümleri satacaklar gibi geliyor
  Böylece kurumsal lisanslarla gelir elde etmek mümkün olur

  • Gerçekten de böyle olması gerekir. Doktor lisansı gibi AI kullanım yetkinlik sertifikası gerekli
    Benim çalıştığım şirket de yalnızca profesyonellere yönelik araçlar sunuyor. Hasta model çıktısını doğrudan görmüyor
    Amaç daha iyi tedavi değil, daha verimli tedavi
  • Şaka yollu olarak, sağlıkla ilgili soru sormak için yakında reçete gerekebilir deniyor
  • Böyle düzenlemelerin sadece OpenAI’ye değil, tüm yapay zeka şirketlerine uygulanması gerektiğini söyleyenler de var

• Haberin içeriği daha sonra düzeltilerek “OpenAI tıbbi/hukuki tavsiyeyi yasaklamadı, modelin davranışı değişmedi” denmiş
  Asıl metin CTV News haberinde görülebilir

  • Bunu “pazarlamanın şaheseri” diye niteleyenler var

• Geçen yıl ChatGPT sayesinde felç geçirmekten kurtulmuş olabileceğini söyleyen biri var. LLM’nin tıbbi bilgi sunmada çok faydalı olduğunu düşündüğünü belirtiyor

  • Ama buna karşı, “her zaman faydalı değil; bazen yararlı, bazen zararlı” itirazı geliyor
    Deterministik olmayan bir sistem olduğu için sonuç anlık olarak değişebiliyor
  • Bir kullanıcı, “tek bir kişisel deneyimi genellemek hatalıdır” diyerek ChatGPT’nin doktorun ya da acil çağrının yerine geçecek kadar doğru olmadığını söylüyor
    Yine de sağ salim kurtulmasına sevindiğini ekliyor
  • Başkası da “öyle bir durumda doğrudan 911’i ya da aile doktorunu aramanız gerekmez miydi?” diye soruyor

• OpenAI Dev Day’de yakın zamanda tıbbi tanıya yardımcı kullanım örnekleri sahnede gösterilmişti; bu yeni politika muhtemelen o konudaki hukuki riskin fazla büyük olmasından kaynaklanıyor

  • Muhtemelen doktorlar, hastaneler, sigorta şirketleri gibi net bir müşteri kitlesine doğrulanmış bir sürüm satmayı hedefleyen bir strateji

• İleride OpenAI’nin doktorlara veya avukatlara özel ürünler çıkarma ihtimalinin yüksek olduğunu düşünüyorum
  Genel ChatGPT’de hukuki ve tıbbi tavsiyeyi kısıtlarsa fiyat farklılaştırması yapmak kolaylaşır

  • Sonuçta bu mesleklerin AI’ye bağımlı bir yapıya evrileceğini düşünenler var
  • GDPval makalesinin 3. bölümünde, “uzmanlarla iş birliği içinde güçlendirme” şeklinde bir pazarlama stratejisi açıkça yazıyor
    Ancak uzun vadede düzenlemeler gevşerse bunun uzmanların yerini almaya kadar gidebileceği de söyleniyor
  • Gerçekten de benim hastanemde yapay zeka muayene özeti ve kayıt yazımı için kullanılıyor
  • OpenEvidence gibi hizmetler, NPI sahibi olanlar için ücretsiz kullanılabiliyor

• Ben bu maddeyi, “yanlış tıbbi/hukuki tavsiye nedeniyle açılacak davaları engellemek” anlamında okudum

  • Birine hukuki danışmanlık satıp gerçekte sadece ChatGPT çıktısını verdiyseniz, bu OpenAI’nin sorumluluğu değildir
    Bu madde sadece bunu, “ChatGPT tabanlı AI avukat hizmeti” gibi pazarlamayın diye netleştiriyor