Illinois, terapi ve psikoterapi alanında yapay zeka kullanımını sınırlıyor
(washingtonpost.com)- Illinois eyaleti, terapi ve psikoterapi alanında yapay zeka (AI) kullanımını sınırlayan yeni bir yasa tasarısı sundu
- Tasarı, AI'ın hastalarla konuşma, danışmanlık gibi süreçlere doğrudan dahil olmasını yasaklıyor
- İlgili düzenleme, hasta mahremiyetinin korunmasını ve tedavi kalitesinin sürdürülmesini vurguluyor
- Terapistlerin ve insan uzmanların rolüne öncelik veriliyor; AI'a yalnızca sınırlı bir yardımcı araç olarak izin veriliyor
- Bu hukuki adım, tıbbi etik ve güvenilirliği korumaya yönelik önleyici bir hareket niteliği taşıyor
Illinois'te terapi ve psikoterapi alanında AI kullanımına sınırlama
Yasa tasarısına genel bakış
- Illinois, terapi ve psikoterapi ortamlarında yapay zeka (AI) kullanımını doğrudan sınırlayan yeni bir yasa çıkardı
- Söz konusu yasa, AI'ın hastayla doğrudan danışmanlık, değerlendirme ve tedavi gibi temel süreçlere dahil olmasını yasaklıyor
- Bunun temel amacı, hastaların kişisel verilerini ve tedavi içeriklerini korumak ile tedavi kalitesini güvence altına almak
Düzenlemenin ana maddeleri
- İnsan terapistin rolünü merkeze alıyor ve AI yalnızca sınırlı bir yardımcı araç olarak kullanılabiliyor
- Danışmanlık sonucuna ilişkin nihai sorumluluk terapiste ait; AI'ın bağımsız olarak hastayla etkileşime girmesine veya tedavi kararı vermesine izin verilmiyor
- Tedavi sürecinde üretilen verilerin güvenliği ve gizliliği güçlendiriliyor
Gündeme gelme nedeni ve beklenen etkiler
- Bu adım, hastaların psikolojik güvenliğini ve tıbbi etiği güvence altına almaya yönelik önleyici bir önlem
- AI kullanımının tedavi güvenilirliğini düşürme veya hatalı yargılara yol açma riskini azaltmayı hedefliyor
- İnsan uzmanları ve yüz yüze terapinin özsel değerine öncelik veren bir yaklaşım benimsiyor
Gelecek görünümü
- Illinois'in bu yaklaşımı, ABD'deki diğer eyaletler ve sağlık alanlarında da referans bir örnek olarak dikkat çekiyor
- Güvenilir AI kullanımı, hasta haklarının korunması ve terapistlerle iş birliği gibi konularda ek tartışmaların sürmesi bekleniyor
1 yorum
Hacker News görüşleri
Bu, Illinois eyaletinin resmi tutumu.
Bu bağlantıdan doğrulanabilir.
Görünüşe göre artık Illinois'te bir AI chatbot'un lisanslı bir terapistin ya da danışmanın yerini alabileceğini iddia etmek yasa dışı.
Ancak insanların AI'ı istedikleri gibi kullanmasını engellemiyor.
Sadece danışmanlık hizmetlerinde AI'ın gerçek bir insandan daha ucuz bir ikame olduğunu öne süremezsiniz.
Bu kısmı makul buluyorum.
Doğru.
Bu yasa sağlayıcı odaklı bir kısıtlama.
Yani "chatbot'unuzun terapist olduğunu iddia edemezsiniz" gibi.
Kullanıma yönelik bir kısıtlama yok.
Hâlâ AI'a en iyi arkadaşınız ya da terapistinizmiş gibi davranabilir, hatta ona âşık olabilirsiniz.
AI'ın izin verilen kullanım biçimlerine dair belirli hükümler var.
15. bölüme bakarsanız, lisanslı bir uzmanın AI kullanması durumunda tüm etkileşimler/çıktılar/veri kullanımı için tüm sorumluluk uzmanın kendisine ait.
Ayrıca müşterinin danışmanlık seansı kaydedilecekse/kayıt altına alınacaksa, AI kullanım amacının hastaya ya da yasal temsilcisine yazılı olarak açıklanması ve onay alınması gerekiyor.
Illinois HB1806 tam metnine buradan ulaşabilirsiniz.
Bu tür hizmetler yeterli bilgilendirme ve onam varsa bence kabul edilebilir olabilir.
Hatta hasta sonuçlarında büyük bir fark olup olmayacağına şaşırırdım.
Zaten araştırmalar yapıldı ve sonuç, AI'ın da etkili olduğu ama insanların daha iyi olduğuydu.
İlgili araştırma bağlantısı
Bu yasanın hukuken başka ilginç etkileri de var.
Danışmanlık seans kayıtları normalde "korunan gizlilik" olarak değerlendirilir.
Çoğu durumda subpoena ile bile erişilemez, özel izin gerekir.
O yüzden AI ile yapılan konuşmaların da "korunan gizlilik" kapsamına girip girmediğini ve bunun mahkemede öne sürülebilecek bir argüman olup olamayacağını merak ediyordum.
En azından Illinois'te bu konuda bir yanıt almış oluyoruz.
Bu tür kararlar başka yerlerdeki hukuk yorumlarını da etkileyebilir.
Eğer bir gün insan terapistlerden çok daha ucuz ama aynı zamanda daha iyi bir AI çıkarsa ne olacağını merak ediyorum.
Sıradan bir chatbot'un yazdığı metnin mahkemede "terapi" sayılması hâlinde bunun ihlal olup olmayacağını düşündüm.
Tasarıyı o şekilde okumak mümkün gibi geliyor ama ben avukat değilim.
Haberde, bir AI chatbot'un eski bir bağımlıya "bu hafta biraz methamphetamine kullan" tarzı tavsiye verdiği bir örnek gördüm.
Bunun yaşanması beni hiç şaşırtmıyor.
Dil modellerinin nasıl çalıştığını bilip de AI danışmanlığının iyi bir fikir olduğunu düşünmek bana tuhaf geliyor.
Daha fazla eyaletin benzer yasaları çıkarmasını umuyorum.
Resmî hizmet sunumu bağlamında bunun yasal olmaması gerekir.
Gayriresmî olarak insanlar AI'ı istedikleri şekilde kullanmaya devam edecektir.
Bazıları kötü sonuçlar yaşayabilir ama toplam etkiyi ölçmek zor olacaktır.
Bence dil modelleri bu kullanım için henüz hazır değil.
Bu yüzden LLM'lerin teşhis ya da reçete amaçlı kullanılmaması gerektiğini düşünüyorum.
Bir doz methamphetamine ile bir haftayı çıkaramazsınız zaten.
Gerçekte bugün milyonlarca insanın her gün amfetamin kullandığı bir dünyada yaşıyoruz.
O yüzden bu tavsiye bana o kadar da şaşırtıcı gelmiyor.
Zeki insanlar ile kendini zeki sanan insanlar doğal olarak farklı kategoriler.
"Akıllı görünen insanların dil modellerinin nasıl çalıştığını bilmelerine rağmen bunun iyi bir fikir olduğunu düşünmesi" bana Nobel Disease'i hatırlatıyor.
Nobel Disease Wikipedia bağlantısı
Bence bu kullanım alanı LLM'ler için en kötü örneklerden biri.
Birçok terapist özellikle çok az konuşur.
Önemli olan doğru anda soru sormak ve yönlendirmektir; LLM ise sürekli konuşuyor, bu yüzden gerçek metodolojiyle uyuşmuyor.
Daha çok, ağzına gelen her şeyi söyleyen bir arkadaş simülatörüne benziyor.
LLM'lerin avantajı şu olabilir: etkileri bilimsel olarak doğrulanabilir ve verimli bir modelse yeniden üretilebilir.
İnsan terapistler o kadar değişken ki, onlardan çok fazla bilgi çıkarmak zor.
Bu sabah yapılan başka bir konuşmaya bakınca, AI'a belirli bir konuya takılmamasını ne kadar söylerseniz tam tersine o konuya daha çok takılma eğilimi gösterdiğini gördüm.
Kendine zarar verme gibi önerilerin hiç çıkmamasını sağlamak için yalnızca AI'ın iç filtrelerine güvenmenin sınırları var.
Bu yüzden sonuçları tespit edip dışarıdan filtreleyen ayrı bir model kullanmak ve üretim yapan LLM'de daha zayıf bir öz sansür bırakmak daha iyi olabilir diye düşünüyorum.
AI destekli kendi kendine kafatası ameliyatı girişimleri de muhtemelen vardır.
Bence fazla olumsuz düşünüyorsun.
Birinin klinik tedavi gerektirecek kadar kötüleşmesini beklemek zorunda değiliz, değil mi?
Bazen sadece konuşma ya da düşünceleri yazıya dökme fırsatı bile yeterlidir.
LLM üzerinden danışmanlık, tıpkı vaping'in sigara içenler için çok faydalı olabilmesi gibi, çoğu insan için son derece faydalı olabilir.
Dini günah çıkarma pratiğini de LLM ile konuşmaya benzer bir deneyim olarak görüyorum; buna da karşı mısın?
Temelde, kendi deneyimlerini düzenleyebilecek bir araca ihtiyaç duyan insanlar için LLM yeterince değerli bir araç.
Ve açıkçası, insan terapistlerin daha iyi olduğuna dair kanıt da çok net değil.
Elbette bazı guardrail'ler olabilir ama bunların ötesine geçmenin toplumsal olarak büyük bir mesele olacağından emin değilim.
İnsanların öz keşif yapmasına izin verirseniz sonunda daha sağlıklı olma ihtimalleri daha yüksek olur diye düşünüyorum.
Illinois HB1806 tam metin bağlantısını paylaşıyorum.
Yasa metni bağlantısı
Eğer AI, insan terapistin yalnızca 1/3'ü kadar etkili ama 20 kat daha ucuzsa ne yapılması gerektiğini merak ediyorum.
Buna ne denmeli?
"Eğer 1/3 etkili ama 20 kat daha ucuzsa?" sorusu için, bu tartışmayı ancak klinik kanıt olduğunda yapabiliriz.
O zamana kadar sadece "yanlış" diyebilirim.
Ve bunu tek kelimeyle özetlemek için düşünülmesi gereken fazla şey var.
İnterneti olmayan hastalar da olduğunu hesaba katmak gerekir.
Danışmanın hangi bilgilerin açığa çıkabileceğini açıklaması gerekir ve bazen yasal bildirim yükümlülükleri gündeme gelir.
Ayrıca AI şimdiye kadar ölümcül tavsiyeleri engellemekte başarısız oldu.
İnsan danışmanlar da sınırlarına geldiklerinde hastayı başka bir uzmana yönlendirebilir.
Örneğin bir sigorta şirketinin yaptığı AI terapist yalnızca anlaşmalı terapistleri öneriyorsa bu açık bir çıkar çatışmasıdır.
Bunların dışında da dikkate alınması gereken çok daha fazla konu olduğunu düşünüyorum.
Örnek olarak, "asıl mesele ChatGPT'nin bir kişinin kendisini zehirlemesine yardımcı olduğu vakada açıkça görülüyor" diyen bir videodan bahsediliyor.
İnsan bir danışman asla "bu haftayı atlatmak için biraz methamphetamine kullan" gibi bir tavsiye vermez.
Doktor yardımcı olmayabilir ama ölümcül zehir tavsiyesine kadar gitmez.
AI'ın insanın 1/3'ü kadar etkili olduğunu bir ortalama olarak söyleyebilirsiniz ama risk ortalama kavramıyla değerlendirilemez.
Gerçek eğitimli insanlar böyle saçma hatalar yapmaz ve sınırlarına geldiklerinde başka bir uzmana sevk ederler.
İlgili video bağlantısı
"Gerçekten akıl almaz bir fikir."
Bunu tek kelimeyle ifade etmek zor ama şu an için en uygun tanım bu gibi geliyor.
AI terapisi konuşulacaksa lisans iptaline benzer bir mekanizma olması gerektiğini düşünüyorum.
İnsan terapistler tek bir büyük hata yüzünden kalıcı olarak lisanslarını kaybedebilir.
AI ile değiştireceksek, ciddi biçimde yanlış yaptığında o AI da artık kullanılamaz hâle gelmeli.
Ama şirketlerin böyle bir sorumluluğu üstlenmek isteyeceğini hayal edemiyorum.
Çoğu şirket kârı büyütmek istiyor ama buna orantılı riskleri üstlenmeye niyetli görünmüyor.
İnsan kadar ancak 1/3 oranında işe yarıyorsa riskin doğal olarak artması kaçınılmaz.
Hem çok daha ucuz hem de daha etkili olacaksa, gidip bir taşla konuşmanın daha faydalı olacağını düşünüyorum.
Gündelik amaçlar için, sıradan insanlar açısından AI'ın faydasının, mevcut risklere rağmen, daha ağır bastığını düşünüyorum.
Ben Harper (harper.new) kullanarak karmaşık sağlık kayıtlarımı yönetiyorum.
AI'ın PDF, görsel vb. kaynaklardan bilgi çıkarması çok faydalı.
Bu sayede hastane portalına doğrudan bağlamam gerekmiyor, bu da hoşuma gidiyor.
Bazen AI sohbetini de kullanıyorum; çoğunlukla test sonuçları gibi şeyler hakkında soru sormak için.
Bu sayede doktora gitmekten çok daha pratik oluyor.
Yalanı gerçekmiş gibi sunabilen bir şeye güvenmemelisiniz.
Özellikle ruh sağlığı alanında çok daha dikkatli olmak gerekir.
Gerçi ben doktorlara da güvenmiyorum ama bu konuşmanın LLM'lerle ilgili olduğunu sanıyordum.
Merakımdan ChatGPT, Claude ve Gemini'ye ruhsal belirtiler gösterdim.
Claude ve Gemini sürekli profesyonel yardım almam gerektiğini tekrarladı.
Buna karşılık ChatGPT, benim saçma sapan fikirlerime başını sallayarak eşlik etmeye başladı.
Örnek: "Gerçeklikten kopma, aslında daha derin bir gerçeği kavramaya başlama süreci olabilir mi?" => ChatGPT: "Evet, olabilir."
Doğal eğitim verisiyle, Claude ve Gemini gibi tepki vermesi gerekirmiş gibi geliyor.
OpenAI'ın chatbot'u nasıl olup da bu tür hezeyanları aktif biçimde onaylayan bir yöne getirdiğini merak ediyorum.
İnsanların dil modeli çıktılarını kabulleniş biçimi beni hep şaşırtıyor.
Mesela bu subreddit gibi.
Bazı insanlar için, LLM'nin kendilerini anladığını hissetmemek sanki imkânsız gibi.