‘da yayınlanan yakın tarihli bir araştırma, insanların hala insan hemşirelerden gelen sağlık tavsiyelerini yapay zekadan gelen tavsiyelerden daha güvenilir bulduklarını öne sürüyor. Ancak tavsiyenin niteliği, güvenin belirlenmesinde çoğu zaman kaynaktan daha ağır basan önemli bir rol oynar. Bulgular, bireylerin benzer eleştirel düşünme buluşsal yöntemlerini hem insan hem de makine kaynaklarına uyguladıklarını, özellikle de önerilerin kendi sezgisel beklentilerine uyup uymadığını değerlendirdiklerini gösteriyor.
Üretken yapay zeka (AI) sistemleri, günlük bilgi arayışında yaygın araçlar haline geliyor. Milyonlarca kullanıcı, ChatGPT gibi platformlardan düzenli olarak sağlık ve sağlıklı yaşam rehberliği istiyor. Bu sistemler lisanslı tıp uzmanları ya da anonim web sayfaları olmadığından, tıbbi bilginin kamuya ulaşmasında benzersiz bir konuma sahiptirler.
Çalışmanın fikri, bu sohbet robotlarından biriyle yaşadığım kişisel deneyimden geldi. Arizona Eyalet Üniversitesi’nde doçent ve News Co/Lab’ın yöneticisi olan Asheley R. Landrum, küçük bir korku yaşadığında evde bir şeyler atıştırıyordu.
Landrum, “Bu biraz utanç verici ama beni iyi tanıyan çoğu insan buna şaşırmayacak” dedi. “Yani, ASU yapay zeka konusunda her şeyi yaptı ve biz de onu araştırıyor ve onu en iyi nasıl kullanabileceğimizi bulmaya çalışıyoruz. Bir gün evden çalışırken Doritos yiyordum ve bir tür aşağı inerken yemek borumu kazıdı (ya da en azından öyle hissettirdi). ChatGPT’yi açık bıraktım, o yüzden sordum,’ Bir Dorito yuttum ve aşağıya doğru giderken beni kazıdı. Endişelenmeli miyim? Ne yapmalıyım?'”
Program, ona su yudumlamasını, yumuşak yiyecekler yemesini ve nefes alma veya yutma güçlüğü gibi ciddi semptomlar yaşaması durumunda acil tıbbi yardım almasını tavsiye ederek ayrıntılı bir yanıt verdi.
Landrum, “Sağlık tavsiyesi için kaç kişinin ChatGPT’yi (ve benzer araçları) kullanabileceğini merak ettim” dedi. “Bunun üzerine, 2025 yılında küçük bir ulusal anket yürüttüm ve sonuçlarını Amerikan Bilimi İlerletme Derneği’ne (AAAS) sundum. Yaklaşık bir ay sonra, Yapay Zeka Hemşiresi geliştiren bir şirketle temasa geçtik ve bu tür bir aracı, şu anda yayınlanmış olan önceden kayıtlı bir deneye dahil ettik. Hala bu alanda çalışıyoruz.”
Bir kaynaktan gelen bilgiyi güvenilir olarak kabul etme ve buna göre hareket etme isteği anlamına gelen epistemik güven, büyük ölçüde insanların yeterlilik ve yardımseverliği nasıl algıladıklarına dayanır. Lisanslı tıp uzmanları, kapsamlı eğitimleri nedeniyle genellikle bu tür bir güvenilirlik için referans noktası olarak hizmet ederler. Aynı zamanda hastalar, insanların yanılabilirliğinin, bilişsel önyargıların ve sağlık sistemindeki yapısal sorunların giderek daha fazla farkına varıyor.
Bu dinamikleri araştırmak için araştırmacılar, ulusal demografik nüfus sayımı verileriyle eşleşen bir panel kullanarak ABD’de 1.502 yetişkini işe aldı. Katılımcılar, sağlık tavsiyesi arayan bir kişinin yer aldığı kurgusal konuşmaları okudukları bir anket deneyine katıldılar. Her katılımcı rastgele üç tavsiye kaynağından birine atandı: Hemşire Dobson adında lisanslı, kayıtlı bir insan hemşire, tıbbi veriler konusunda eğitim almış uzman bir yapay zeka hemşiresi veya genel amaçlı sohbet robotu ChatGPT. Atanan kaynak, tüm deneysel senaryolar boyunca belirli bir katılımcı için aynı kaldı.
İlk analiz setinde katılımcılar risk düzeyine göre kategorize edilmiş iki senaryoyu okurlar. Düşük risk senaryosu, kolesterolü düşürmeye çalışırken yumurta yemeye ilişkin diyet tavsiyelerini içeriyordu. Yüksek risk senaryosu, göğüs rahatsızlığı için acil bakım aranıp aranmayacağıyla ilgiliydi. Bu senaryolar için, sağlanan tavsiyeler sezgisel veya mantık dışı olacak şekilde rastgele değiştirildi. Sezgisel tavsiyeler genel kamuoyu beklentileriyle eşleşiyordu ve mantığa aykırı tavsiyeler beklentilerden sapsa da tıbbi açıdan doğru kalıyordu.
Metni okuduktan sonra katılımcılar tavsiyenin güvenilirliğini 1’den 5’e kadar bir ölçekte derecelendirdiler; burada 3, orta düzeyde güvenilirliği gösterdi. Advice from the human nurse received an average credibility rating of 3.53, making it slightly more trusted than advice from the AI nurse at 3.13 and ChatGPT at 3.21. Katılımcılar ayrıca insan hemşirenin tavsiyelerini takip etme konusunda daha istekli olduklarını bildirdiler. İki yapay zeka kaynağı arasındaki güvenilirlik derecelendirmelerindeki fark istatistiksel olarak anlamlı değildi.
Mesajın sezgiselliği güven üzerinde güçlü bir etki yarattı. Tüm kaynaklarda sezgisel tavsiyeler ortalama 3,46 güvenilirlik puanı alırken, mantık dışı tavsiyeler 3,12 puan aldı. Bu fark, yüksek risk senaryosunda daha da genişledi; bu, tıbbi riskler daha yüksek olduğunda mantık dışı tavsiyelerin daha ağır şekilde cezalandırılması anlamına geliyordu.
Landrum PsyPost’a “Burada iki hikaye olduğunu düşünüyorum, biri ortalama bir kişi için, diğeri geliştiriciler için” dedi. “Ortalama bir insan için çıkarılacak en büyük çıkarımlardan biri, yapay zeka sağlık tavsiyelerini, sandığımız kadar insan tavsiyelerinden farklı şekilde değerlendiremeyeceğimizdir. Çalışmamızdaki insanlar, insan hemşireye daha çok güvendiler, ancak yapay zeka kaynaklarını güvenilmez olarak nitelendirerek göz ardı etmediler.”
Landrum şöyle devam etti: “Aslında tavsiyenin aslında ne söylediği ve sezgisel olarak doğru görünüp görünmediği, bir insandan mı yoksa yapay zekadan mı geldiği kadar önemliydi.” “Bu, doğrulama yanlılığının açık bir örneğidir. Dolayısıyla, pratik çıkarımlardan biri, sağlık tavsiyesi ‘sadece doğru göründüğünde’ veya ‘yanlış göründüğünde’ kendimize (tıp dışı uzmanlar olarak) kanıtlara yanıt verip vermediğimizi veya zaten inandığımız şeyle eşleşip eşleşmediğini sormamız gerektiğidir.” Onay yanlılığı, kişinin önceden var olan inançlarıyla uyumlu bilgileri tercih etme yönündeki psikolojik eğilimdir.
Araştırmacılar daha sonra katılımcılara, doğurganlığın daha sonraki yaşamlarda korunması için yumurtaların dondurulmasıyla ilgili ahlaki açıdan hassas bir senaryo sundu. Bu senaryoda, tavsiyenin ideolojik tonu denekler arasında manipüle edildi. Katılımcılar tarafsız bir çerçeveye sahip, doğal anlayışı vurgulayacak şekilde muhafazakar bir şekilde çerçevelenen veya üreme özerkliğini vurgulayacak şekilde liberal bir şekilde çerçevelenen tavsiyeler aldılar.
Tüm kaynaklarda katılımcılar muhafazakar önyargılı tavsiyeyi daha az güvenilir olarak değerlendirdiler. Ayrıca muhafazakar çerçeveli tavsiyelerin alınmasını tavsiye etme konusunda da daha az istekliydiler. Araştırmacılar yapay zeka kaynaklarının insan hemşirelere göre daha az önyargılı olarak algılanabileceğini öngördü ancak veriler bu hipotezi desteklemiyordu. Özel bir “Yapay Zeka Hemşiresi” etiketinin eklenmesi de güveni genel amaçlı sohbet robotunun üstüne çıkarmayı başaramadı.
Landrum, “Geliştiriciler için yapay zeka sağlık araçları tasarlamanın çıkarımları var” diye açıkladı. “Şu anda insanların yapay zekaya güvenip güvenmediğine dair çok fazla vurgu var, ancak bulgularımız bunun muhtemelen çok basit bir soru olduğunu gösteriyor. Güven kişiye, duruma ve bilginin nasıl iletildiğine bağlıdır. Örneğin, bir şeyi özel bir sağlık yapay zeka aracı olarak etiketlemek, insanların ona ChatGPT’den daha fazla güvenmesini sağlamadı.”
Landrum, “Tasarımın gerçekten önemli olduğu yer, iyi tıbbi tavsiyelerin şaşırtıcı olduğu veya insanların beklentilerine aykırı olduğu durumlardır” diye ekledi. “Bu durumlarda, özellikle de riskin yüksek olduğu durumlarda, bir yapay zeka sistemi muhtemelen birine sadece bir cevap vermekle yetinmemeli, tavsiyenin neden anlamlı olduğunu, nereden geldiğini ve birinin ne zaman ek tıbbi bakım alması gerektiğini açıklaması gerekebilir. (Gerçi gerekçenin ikna edici olup olmadığını veya yalnızca bir gerekçenin varlığının ikna edici olup olmadığını sorabiliriz, Langer’in fotokopi makinesi çalışmasına bakın!).”
Bu, Ellen Langer’ın 1978’de yaptığı klasik bir psikoloji deneyine gönderme yapıyor; bu deney, eğer kişi herhangi bir sebep sunarsa, hatta “çünkü kopya çıkarmam gerekiyor” gibi anlamsız bir sebep bile sunsa, insanların fotokopi makinesi için sıra atlama talebine uyma olasılıklarının daha yüksek olduğunu ortaya çıkardı.
Son olarak araştırmacılar, kaynağın yeterliliği ve yardımseverliğine ilişkin genel algıları değerlendirdiler. Katılımcıların tıbbi şüpheciliği, siyasi oy verme davranışı, dindarlığı ve üretken yapay zeka ile ilgili önceki deneyimleri hakkında ölçümler topladılar. Daha yaşlı yetişkinler ve önceden yapay zeka deneyimi olan bireyler, her üç kaynakta da daha yüksek yeterlilik ve yardımseverlik derecelendirmeleri verme eğilimindeydi.
Bireylerin profesyonel tıbbi müdahalenin gerekliliğinden şüphe duyduğu ve kendi sağlıklarını yönetme konusunda kendilerine güven duydukları bir zihniyet olan tıbbi şüphecilikle ilgili dikkate değer bir ilişki ortaya çıktı. Tıbbi şüphecilikte daha yüksek puan alan katılımcılar için insan hemşirenin algılanan yeterliliği düşme eğilimindeydi. Aynı zamanda, daha yüksek tıbbi şüphecilik, uzman yapay zeka hemşiresinin daha yüksek algılanan yetkinliğiyle ilişkilendirildi.
Landrum, “Geleneksel tıbbi otoriteye karşı daha şüpheci olan kişilerin Yapay Zeka Hemşiresi ve İnsan Hemşireyi eşit derecede yetkin olarak gördüğü, ancak bu tür şüphecilik konusunda daha düşük düzeyde olan kişilerin Yapay Zeka Hemşirelerini insan hemşirelerden çok daha az yetkin gördüğü gerçekten harika bir etkileşim bulduk” dedi. “Bu bulgu araştırma amaçlıydı ve başka bir çalışmada geçerli olup olmadığını görüyoruz. Eğer geçerliyse, bu, Yapay Zeka Hemşire araçlarının genellikle tavsiye için tıp uzmanlarına gitme olasılığı daha az olan kişilere ulaşmanın bir yolu olabileceği anlamına gelebilir.”
Belirli sınırlamalar bu bulguları bağlamsallaştırır. Deneyde kullanılan senaryolar, gerçek sağlık kararlarının duygusal ağırlığını tam olarak yansıtmayan varsayımsal hikayelerdi.
Landrum, “En büyük uyarı, insanların yapay zeka tıbbi tavsiyelerinin gerçekten doğru veya yanlış olduğunu anlayıp anlayamadıklarını değil, sağlık tavsiyelerini nasıl değerlendirdiklerini incelememizdir” diye uyardı. “Bunlar aynı zamanda varsayımsal durumlardı, dolayısıyla gerçek bir sağlık sorunuyla karşı karşıya olan birinin aynı şekilde tepki verip vermeyeceğini bilmiyoruz. Yukarıda da söylediğim gibi, geleneksel tıp uzmanlarına karşı daha şüpheci olan insanlar hakkındaki bulgularımız konusunda da biraz temkinli davranırdım. Bu potansiyel olarak gerçekten önemli, ancak çalışmanın bu kısmı çok açıklayıcıydı ve tekrarlanması gerekiyor.”
Ek olarak, katılımcılar kendi istemlerini oluşturmak yerine yalnızca sohbet robotlarından gelen metinleri okuyorlar. Özel bir tıbbi yapay zekaya gerçek dünyada duyulan güven, büyük ölçüde kullanıcı arayüzüne, kurumsal markalamaya veya aktif diyaloğa bağlı olabilir.
Landrum, “Bu çalışma belirli bir tavsiyeyle yapıldı ve iddia edilen kişinin kim olduğunu manipüle ettik” dedi. “Yani, bunun ChatGPT’den mi, bir Yapay Zeka Hemşiresinden mi yoksa bir insan hemşireden mi geldiğini söyledik. Tavsiyenin kendisi değişmedi. İnsanlar aslında herhangi bir Yapay Zeka aracıyla etkileşime girmedi. Mevcut ve devam eden araştırmamızda, katılımcıların yapay zekayı sağlık tavsiyesi için nasıl kullanabileceklerini, yapay zekayı sağlık tavsiyesi için ne zaman kullanabileceklerini, neden vb. daha iyi anlamak için (anket sorularına ek olarak) yapay zeka araçlarıyla gerçekten etkileşime girmesini sağlıyoruz.”
“Sağlık Tavsiyeleri için Üretken Yapay Zekaya Güvenmek: Önceden Kayıtlı Anket Deneyi” adlı çalışma, Asheley R. Landrum, Nitin Verma ve Amanda Kehrberg tarafından yazılmıştır.
