Kaiser hemşireleri: “Yapay zeka gözetimi işi ve hasta bakımını kötüleştiriyor”
(localnewsmatters.org)- Kaiser Permanente danışmanlık ve triyaj hemşireleri, 15 dakikadan uzun süren görüşmeleri, çağrılar arasındaki süreyi ve yönergelere uyumu izleyen performans yönetiminin mesleki muhakemeyi ve hasta bakımını zayıflattığını söylüyor
- 2024’te test edilen yapay zeka, hemşirelerin empati ve ses tonunu bile değerlendirdi; hemşireler, işin bağlamını anlamadan yanlış puanlama yaptığını söyleyerek eleştirdi
- İntihar riski taşıyan hastalar, karmaşık belirtiler veya tercüman gerektiren hastalar gibi uzun danışmanın kaçınılmaz olduğu durumlarda bile aylık puanları ve değerlendirme görüşmelerini düşünmek zorunda kalıyorlar; yoğun zamanlarda çağrı sonrası kayıt ve toparlanma süresi 30 saniyenin altına düşüyor
- Kaiser, performansı ortalama işlem süresiyle değerlendirmediğini ve tüm araçlarda insan incelemesi ve denetimi bulunduğunu söyleyerek karşı çıktı; ancak iç sistemlerin somut listesini ve nasıl işletildiklerini açıklamadı
- Sendika, 25.000 kişiyi kapsayan sözleşme müzakerelerinde yapay zekayı ana gündem maddesi olarak ele alıyor; California yasama organı da otomasyon önerilerini reddeden sağlık çalışanlarını koruma ve duygu tahmini yapan yapay zekayı sınırlama gibi hükümler içeren yasa tasarılarını inceliyor
15 dakikalık görüşme eşiğinin yarattığı performans baskısı
- Kaiser’in 7 danışmanlık ve triyaj hemşiresi, hastalarla 15 dakikadan uzun konuşmaları halinde yönetimin eleştirisine uğradıklarını ya da performans değerlendirme görüşmelerine çağrıldıklarını söylüyor
- Görüşme süresi, hemşirelerin her ay aldığı performans puanına yansıtılıyor
- Yazılım, her gün bir hemşirenin verimsiz olup olmadığını veya telefonları yeterince hızlı yanıtlayıp yanıtlamadığını tahmin etmeye çalışıyor
- 2010’dan beri Vallejo’da çalışan Raquel Alvarez Sanchez, intihar riski bulunan bir hastayla polis gelene kadar 1 saatten fazla telefonda kaldı
- Uzun görüşmenin haftalar boyunca ortalama görüşme süresini kötüleştirebileceğinin ve yönetimin sorularına yol açabileceğinin farkında olmasına rağmen telefonu kapatmadı
- Sendika yöneticisi olarak meslektaşlarıyla değerlendirme görüşmelerine katıldığında, çağrı yönetimi tamamen uygun olsa da yalnızca 15 dakikayı aştığı için sorun edilen örnekler gördü
- Bu nedenle işten çıkarılan hemşire görmediğini, ancak baskı sürerse bunun istifaya veya erken emekliliğe yol açabileceğinden endişe ettiğini söylüyor
- Hemşirelere, görüşme sırasında belirlenmiş yönergeleri izlemeleri ve tavsiyeleri 2–3 maddeyle sınırlamaları söyleniyor
- Gerekli tavsiyeyi saklı tutmakla performans değerlendirmesinde risk almak arasında seçim yapmak zorunda kalabilecekleri durumlar doğabiliyor
Hasta bakımına etkisi belirsiz
- Algoritma tabanlı yönetimin ve görüşme süresi sınırlarının gerçek hasta sonuçları üzerindeki etkisi net değil
- Danışman hemşireler görüşmeyi sonlandırdıktan sonra hastayı takip etmediği için olumsuz bir sonuç yaşanıp yaşanmadığını doğrulamak zor
- CalMatters, 2024’te California Department of Managed Health Care’e kamu kayıtları talebinde bulundu ancak Kaiser’in görüşme süreleriyle ilgili hasta şikayeti bulunamadı
- Hemşireler, şu tür danışmaların 15 dakikadan uzun sürdüğünü söylüyor
- Birden fazla belirti veya kronik hastalığın birlikte değerlendirilmesi gereken hastalar
- Tavsiye ve güvenceye ihtiyaç duyan yeni ebeveynler
- Ek sağlık eğitimi isteyen hastalar
- Hayatını değiştiren bir tanı alıp şok veya kaygı yaşayan hastalar
- Tercüman gerektiren ve genellikle 30 dakikadan uzun sürebilen görüşmeler
- California sakinlerinin yaklaşık 10’da 4’ü İngilizce dışında bir dil konuşuyor; bunların yarısı İngilizceyi akıcı kullanamıyor
- Bir hemşire, ileri evre kanser tanısı alan yaşlı bir hastanın başlangıçta intihar riski taşıdığını düşündü; ancak aslında şok içinde konuşacak birine ihtiyaç duyduğunu anladı
- Daha fazla empati ve teselli sunmak istese de aylık puanının düşmesinden ve yöneticisinin azarlamasından çekinerek sözlerini azalttı
- Belirlenmiş yönergelerin dışına çıkarsa veya gerekenden fazla konuşursa disiplin cezası alıp almayacağını kendi içinde tartmak zorunda kaldı
- Consumer Watchdog’dan Michele Ramos, birçok Kaiser hastasının bakıma danışma hattı üzerinden başladığı için görüşme aşamasındaki kısıtlamaların sonraki sorunların başlangıç noktası olabileceğini düşünüyor
- Kaiser, ruh sağlığı randevularını yasal süreden daha geç tarihlere ertelediği ve bireysel terapi yerine grup terapisini aşırı kullandığı yönündeki soruşturma bulguları nedeniyle 50 milyon dolarlık rekor ceza içeren bir uzlaşma yapmıştı
- 2002’de hemşire olmayan çağrı merkezi çalışanlarına kısa görüşmeler karşılığında bonus verdiği için eleştirilmişti; ancak mevcut hemşireler aynı uygulamayı yaşamadıklarını söylüyor
Empati ve ses tonunu puanlayan yapay zeka
- Kaiser, 2024 yazında hemşirelerin ve hastaların seslerinden empati ve tonu değerlendirmeyi amaçlayan bir yapay zeka aracını test etti
- Hemşireler; hasta gizliliği, şeffaflık, mesleki muhakeme hakkı ve teknolojiye geçiş sürecine hemşirelerin katılımını talep eden bir dilekçeye imza attı
- Aynı yıl hastane dışındaki protestolarda kullanılan “Trust nurses, not AI” sloganı kampanyada da kullanıldı
- Test Kasım 2024’te sona erdi; ancak sendika yetkilileri, yönetimin programı ileride yeniden devreye alabileceğini söylediğini aktardı
- Sanchez, mevcut gözetimin bile hemşirelere tacize uğruyormuş gibi hissettirdiğini, yapay zekanın çağrıları değerlendirip puanlama planının bunu derinleştirdiğini söylüyor
- İsmini vermeyen bir hemşireye göre yapay zeka, hemşirelerin işini anlamadığı için sürekli yanlış puanladı
- Kaiser; söz konusu araç, hemşire performans değerlendirmesinde kullanılan otomasyon sistemi ve empati-ton değerlendirmesinin hastalara bildirilip bildirilmediğine ilişkin soruları yanıtlamadı
Görüşmeler arasında 30 saniye ve duygusal tükenme
- Hemşireler geçmişte görüşme sonrası hasta kayıtlarını düzenlemek veya zor bir danışmadan sonra toparlanmak için yaklaşık 10 dakika alıyordu
- Günümüzde çağrı hacmi yüksek olduğunda bir sonraki aramaya kadar genellikle 30 saniyeden az süre veriliyor
- Gece geç saatler gibi sakin zamanlarda bu süre daha uzun olabiliyor
- Özellikle zor görüşmelerden sonra yöneticinin izniyle ek süre alınabiliyor
- İntihar riski, ruh sağlığı krizi veya yaşamının sonuna yaklaşan hastalarla yapılan görüşmelerden sonra bile neredeyse hiç zaman kalmıyor; bu temponun, hastanın durumuna dair önemli ipuçlarını kaçırmaya yol açabilecek hatalar doğurmasından endişe ediliyor
- 4 gelişmiş ülkedeki çağrı merkezlerini inceleyen 2023 tarihli bir çalışma, yapay zeka tabanlı yönetim ve gözetim kullanan çalışanların çağrılar arasında daha az zamana sahip olduğunu ve daha fazla duygusal tükenme yaşadığını ortaya koydu
- Katılımcıların neredeyse yarısı, yapay zeka araçlarının iş stresini artırdığını söyledi
- Aynı araştırmacıların önceki çalışması, performans gözetimi ile yüksek duygusal tükenme oranları arasında bağlantı olduğunu doğruladı
- Cornell University’den Virginia Dolleghast, Kaiser örneğini, karmaşık ve duygusal sorunları çözen çalışanların sürekli gözetlenmesine yönelik sektör geneline yayılan bir eğilimin parçası olarak görüyor
- Sağlık hizmetlerinde stres ve tükenmişlik kaynaklı hatalar insanların yaşamı ve sağlığıyla doğrudan bağlantılı olduğu için risk daha büyük
- İşin hızını ve zamanlamasını kendi belirleme takdirine daha fazla sahip çalışanların iş memnuniyeti daha yüksek, devamsızlığı daha düşük oluyor
Algoritmalar ve sağlık çalışanlarının mesleki muhakemesi
- National Nurses United’ın 2024’te 2.000’den fazla hemşireyle yaptığı ankete göre, katılımcıların yarısı işverenlerinin sağlık kayıtlarını analiz eden algoritmik sistemler kullandığını söyledi
- Bu sistemler hastaların kırılganlığını veya gerekli bakım süresini tahmin edebiliyor
- Katılımcıların üçte ikisi, kendi muhakemelerinin bilgisayar tahminleriyle uyuşmadığı durumlar yaşadığını söyledi
- 10 kişiden 6’sı, işverenlerinin yapay zeka kullanırken hasta güvenliğini önceleyeceğine güvenmiyor
- Kaiser hemşiresi Pa Vue, çağrı verimliliği konusunda yöneticisiyle düzenli olarak görüşüyor ve her ay değerlendirme puanı alıyor
- Olağandışı belirtiler ve olası kalp sorunlarından endişe ederek bir hastaya tavsiyelerini tekrarladığı için puanının düştüğü oldu
- Yazılım önerisini mesleki muhakemesiyle reddettiğinde veya doktora danışmadan hasta için randevu ayarladığında puanı düşen örnekler de gördü
- Vue, hastaya fayda sağlayan yapay zekanın kendisine karşı olmadığını; ancak empati-ton gözetiminin verimliliği artırmaya ve maliyetleri düşürmeye odaklandığını düşünüyor
- Ülke genelinde yapay zeka kullanımı arttıkça sendikalar, yeni sözleşme müzakerelerinde yapay zekanın yarattığı sorunların ele alınmasını işverenlerden talep ediyor
- Kaiser’in Northern California’daki 2.400 ruh sağlığı çalışanı da sözleşme müzakeresi yürütüyor
- Terapi seansı kayıtlarının yapay zeka modellerini eğitmek için kullanılmasından ve yapay zekanın işlerin yerini alma ihtimalinden endişe ediyorlar
Kaiser’in sağlık süreçlerine soktuğu yapay zeka
- Kaiser, danışma merkezinin yanı sıra sağlık süreçlerinin çeşitli alanlarında yapay zeka kullanıyor veya test ediyor
- Elektronik sağlık kayıtlarını analiz ederek hastanedeki hastalarda olumsuz olay riskini belirliyor
- Preventus ile hastanın taburcu zamanını belirliyor
- Doktorlar ve terapistler, yüz yüze muayeneleri kaydetmek ve sesi metne dönüştürmek için Abridge kullanıyor
- Bay Area tesislerinde, ek bakıma ihtiyaç duyan hastalar için yapay zeka destekli uzaktan izleme test ediliyor
- National Nurses United ve CNA’dan Cathy Kennedy, empati algılama yapay zekasını hemşirelerin özerkliğini sınırlamaya ve verimliliği artırmaya yönelik ardışık hamlelerin bir parçası olarak görüyor
- Yapay zekanın hemşirelik işini otomatikleştirip parçalara ayırabileceğini, bu nedenle sistemi geliştiren ve devreye alan şirketlerin dağıtımdan önce sistemin etkinliğini ve hakkaniyetini kanıtlaması gerektiğini savunuyor
- Kaiser ile hemşire sendikası arasındaki sözleşmede yeni teknoloji kullanımının bildirilmesi yer alıyor; ancak CNA’ya göre bildirimlerin atlandığı zamanlar oluyor
- Sendika yönetimi, üyelerinden yeni teknolojiler fark ettiklerinde bunu bildirmelerini istiyor ve Kaiser’de kullanılan yapay zeka modellerinin sayısını izliyor
- Bu yöntemle empati-ton yapay zekasına karşılık verdiler ve konfüzyon halindeki hastaların başucundaki hemşireyi kamerayla değiştirmeyi amaçlayan bir testi de durdurdular
- Coalition of Kaiser Permanente Unions da saha çalışanlarının yapay zeka kullanımını bildirdiği “see something, say something” kampanyası yürütüyor
- Sendika tarafı, yönetimin işçilere bildirimde bulunmadan veya görüş almadan yapay zekayı iş akışlarına fazlasıyla sık yerleştirdiğini söylüyor
- Radyoloji teknisyeni Debru Carthan, ses tonu algılayıcılarının farklı kültürel geçmişe sahip hemşirelere karşı ayrımcılık yapma ihtimalinden endişe ediyor
Kaiser’in yanıtı ve toplu sözleşme müzakereleri
- Kaiser, danışma çalışanlarının performansını Average Handle Time (Ortalama İşlem Süresi) ile değerlendirmediğini veya görüşme süresi kriteri dayatmadığını söyleyerek karşı çıktı
- Çağrı merkezi araçlarının kalite güvencesini desteklediğini ve insan incelemesi ile denetiminden geçtiğini belirtti
- Yapay zeka kullanımında hasta güvenliği, mahremiyet ve hakkaniyeti öncelediğini; ancak güvenlik ve operasyonel nedenlerle iç teknoloji sistemlerine dair somut bilgileri açıklamadığını söyledi
- Kaiser, California’nın en büyük özel sektör işvereni; eyalet içinde 9 milyon, diğer bölgelerde 3 milyon Amerikalıya sağlık hizmeti sunuyor
- California Nurses Association, Temmuz 2026’da Kaiser ile yeni sözleşme müzakerelerine başlıyor; kapsamda 1.000 çağrı merkezi hemşiresi dahil 25.000 kişi var
- Hemşireler Mart ayında yapay zekaya karşı bir günlük greve gitti
- Önceki yılın sonbaharında da yapay zeka kullanımına karşı pankartlı protestolar düzenlediler
- CNA, müzakere öncesinde yapay zekayla ilgili ayrıntılı talep maddelerini açıklamadı
California’da işyeri yapay zekası düzenlemeleri
- CNA’nın desteklediği AB 1018 ve SB 7, terfi, disiplin, performans değerlendirmesi gibi alanlarda otomasyon sistemleri kullanılmadan önce işverenlerin çalışanları bilgilendirmesini gerektiriyordu
- Vali Gavin Newsom, SB 7’yi veto etti
- Kaiser dahil şirketlerin güçlü muhalefeti altında AB 1018 üç yıl üst üste geçmeyi başaramadı
- Milletvekilleri, SB 7’nin yeni versiyonu olan SB 947’yi yeniden sundu
- Ayrı yasa tasarıları şu düzenlemeleri hedefliyor
- İşverenlerin yapay zeka ile çalışanların duygusal durumunu tahmin etmesini yasaklamak
- Doktorların ve hemşirelerin otomasyon sistemlerinin önerilerini yok saydıklarında misillemeye uğramamasını sağlamak
- Sağlık hizmeti sağlayıcılarının her yıl çalışanlara otomasyon sistemleri listesini sunmasını zorunlu kılmak
- CNA ve California Labor Federation, işyerinde yapay zeka kullanımını düzenleyen yaklaşık 6 yasa tasarısını destekliyor
- Hemşireler, gözetim ve puanlamanın insanlara bakım veren hemşireleri kutucuk dolduran otomatik makinelere dönüştürdüğünden endişe ediyor
- Görüşmeler kaydedildiği için hastalara mizah veya kişisel empati göstermek zorlaşıyor
- Belirlenmiş yönergelerde yer almayan insani etkileşim azaldıkça hemşirelik işinin özü ve hastaların beklediği bakımın zarar gördüğünü düşünüyorlar
1 yorum
Hacker News görüşleri
Yazıyı okuyunca, şikayetlerin çoğunun çağrı merkezi performans metrikleri ve bakımı kısıtlama baskısıyla ilgili olduğu görülüyor; bu, yapay zekanın kendisinden çok metriklerin kötüye kullanılma sorunu. Yapay zekayla empatiyi değerlendirme uygulaması 2024’te bir pilot projeydi ve zaten durduruldu
Eşim Kaiser’de tıbbi LLM kullanıyor; gerçek zamanlı tercüme, muayene notu özetleme ve kapsamlı yanıt arama sayesinde zaman kazandığını ve daha iyi bakım sunduğunu söylüyor. Yaşlı hastalar da sık sık kalp anormalliği tespit eden Apple Watch uyarılarıyla geliyor
Etkileri ve riskleri çok farklı olan teknolojileri tek başlık altında toplamak yerine, her kullanım alanını ayrı ayrı değerlendirmek gerekiyor
Yöneticiler ve analistler “AI” çılgınlığını kullanarak sıradan otomasyon, bilgisayarlaştırma ve hatta işten çıkarmaları bile ilerletince, buna karşı çıkanların da aynı adı kullanması doğal
Bu tür muğlak dil tartışmayı bulandırıyor ve insan sorumluluğunun gizlenmesi, özerkliğin aşınması, kurumsal esnekliğin azalması ve profesyonellik kaybı gibi temel sorunlara öfke ve enerjiyi odaklamayı zorlaştırıyor; ama bunun sorumluluğu AI eleştirmenlerinden kaynaklanmış değil
Bir makineyle bir insanın ne kadar empatik olduğunu değerlendirmenin iyi bir fikir olduğunu düşünüyorsanız, yetki sahibi olmamalısınız
Ücretlendirme ve değerlendirme gerekir ama algoritmanın hesapladığı metriklerle yönetmenin en iyi yol olup olmadığı şüpheli; bu süreçte empati ve sağduyu kayboluyor
Aile hekimi, AI not alma aracının büyük bir rahatlama sağladığını söyledi. Eskiden hastayı dinlerken her şeyi yazmak zorundaydı; şimdi ise hastaya odaklanıp dinleyebiliyor ve yalnızca gerekli kısımları ayrıntılı biçimde kaydedebiliyor, bu da stresi ciddi biçimde azalttı
Ancak operasyonel kurallarla bakım biçimini zorlamaya ve hastanın nasıl tedavi edileceğini dikte etmeye başladığınız anda güçlü tepki doğar; klinik yargının AI ile değiştirilmesi fikri ise aptalca
İşyeri metrikleri ve gözetim kolayca yan etki üretir ama hemşirelik işinde de diğer mesleklerde olduğu gibi belli bir güvenlik denetimi gerekir
Birden fazla kadın doktordan, yatış sırasında hemşirelerle etkileşim konusunda dikkatli olunması tavsiyesini duydum; her hemşire özverili değil, bazıları ihmal ediyor ya da bahane üreterek hastaya zarar veriyor deniyor
Sağlık hizmeti de yalnızca kutsal bir çağrı değil, bir iştir; bu yüzden denetim gerekir ama metrikler şirket tarafından dayatılıyorsa Goodhart yasası gereği ağır biçimde çarpıtılma olasılığı yüksektir
Hemşire sendikasının sözleşme görüşmeleri öncesinde yayımlanan bu araştırma, güdümlü akıl yürütme gibi görünüyor. Gerçek sorunlar çok ama araştırma bunları düzgün ele almamış; daha etkili bir eleştiriye ihtiyaç var
AI, sağlık hizmetini seçici biçimde aşırı kullanan hastaları belirlemek ve temel nedenleri çözerek bu kullanımı azaltmak için kullanılabilir. Böylece hasta bakım kalitesi ve sağlık çalışanlarının yaşam kalitesi iyileşir, ayrıca önleyici bakıma ihtiyaç duyan ama az hizmet alan kişilere ulaşacak zaman da açılır
Marshall Brain’in Manna’sı hâlâ gelecek hikayesi gibi mi geliyor, emin değilim
https://marshallbrain.com/manna
Hemşirenin hastaya karşı tıbbi yükümlülüğünü yerine getirmesine işyeri AI’ının müdahale etmesi sorunu yalnızca Kaiser’le sınırlı değil; UHC de benzer AI gözetim araçlarını devreye aldı ve kullanıyor
Hemşirelerin çoğu, hayatlarının en kötü gününü yaşayan insanlara bakıyor
Yazı AI kullanımından söz ediyor ama AI kaynaklı somut zararlar neredeyse hiç sunmuyor. Buna karşılık Kaiser’in bakım kalitesinden çok maliyet düşürmek için aramaları optimize etmesi somut bir örnek
Uzun görüşmeleri sorun sayan ya da üçten fazla tavsiye veren hemşireyi cezalandıran politikalar, bakım kalitesini düşürebilir
Yerel kırsal bir hastanede hemşirelere takip cihazı takılıyor; hastane içindeki tüm hareketleri kaydediliyor ve bir yerde ne kadar kaldıkları bile değerlendirmeye katılıyor
Birkaç yıl önce her hasta odasında 15-20 dakika kalınırken şimdi hızla girip çıkılıyor. Hasta sayısı artmadı, hemşire sayısı ise aksine arttı; bu yüzden yanlış değerlendirme metriklerinin bakım düzeyini düşürdüğünü düşünüyorum
ABD’deki devasa sağlık hizmeti aşırı kullanımı maliyetleri yükseltiyor ama bunu dürüstçe kabul etmek istemiyorlar
Kaiser’in hizmeti zaten epey kötüydü; bu değişiklik bu yüzden daha da kaygı verici