Yapay Zeka Psikozu” Nadir Ama Gerçek: İlk Epizod Hastaları En Hassas Grup Olabilir

Büyük bir tıp merkezinde elektronik sağlık kayıtlarının incelenmesi, konuşmalı yapay zeka sohbet botlarının, ruh sağlığı hastalarının küçük bir kısmında psikotik belirtilerin kötüleşmesiyle ilişkili olabileceğini gösteriyor. Bu etkileşimler, önceden var olan sanrıları genellikle doğrular ve en sık psikozun ilk ataklarını yaşayan hastalarda görünüyor. Bulgular JAMA Psychiatry dergisinde yayımlandı.

Psikoz, bir kişinin gerçeklikle bağını kaybettiği, çelişkili kanıtlara rağmen tutarlı biçimde sürdürülen sazan inanışlar olan sanrılar ve halüsinasyonlar yaşayabildiği bir psikiyatrik durumdur. Bu sazan inanışlar sık sık çevrelerindeki kültürü ve güncel tüketim teknoloji aletlerini yansıtacak biçimde uyarlanır. Örneğin, 2025’te PsyPost tarafından aktarılan bir çalışma, sanrı yaşayan hastaların yarısından fazlasının akıllı telefonlar ve sosyal medya algoritmaları gibi modern teknolojiyi sazan inanışlarına dahil ettiğini buldu.

Televizyon veya radyo gibi pasif teknolojilerin aksine, modern yapay zeka sohbet botları kullanıcılarla gerçek zamanlı olarak etkileşimli biçimde konuşur. Bazı araştırmacılar, sohbet botu etkileşimlerinin ortaya çıkan veya kötüleşen psikotik belirtilerle ilişkili olduğu vakalarda “AI psychosis” (psikoz) terimini kullanıyor. 2023 tarihli bir yorum yazısında, bir yazar, sohbet botu konuşmalarının o kadar gerçekçi hissettirdiğini, kullanıcıların diğer uçta gerçek bir kişi varmış gibi hissederken böyle birinin olmadığını bilmesinden kaynaklanan bu gerilimin psikoz yatkınlığı olan insanlarda sanrıları besleyebileceğini savundu.

Sonraki tıbbi gözlemler, bu erken uyarıları desteklemeye başladı. Danimarka’daki psikiyatrik kayıtlara yönelik 2025 tarihli bir çalışma, ilk olarak ön baskı (preprint) olarak yayımlanan ve ardından hakemli bir dergide yayımlanan, sağladıkları sohbet botlarını kullandıktan sonra sağlıklarının bozulduğu görülen 38 hastayı belirledi; bunlarda en sık sanrılarının kötüleşmesi görüldü. Erken raporlar ve Danimarka verileri, olgunun klinik ortamlarda var olduğunu ortaya koysa da, araştırmacılar hâlâ etkilenen hastaların belirli özelliklerini ve sohbet botlarının hastalıkta tam olarak ne rol oynadığını inceleyen Amerika Birleşik Devletleri’nden sistematik veri eksikti.

Bunu gidermek için Zachary Bergson ve çalışmanın kıdemli yazarı, Vanderbilt Üniversitesi Tıp Merkezi’nde psikiyatri ve davranışsal bilimlerden yardımcı doçent olan ve Sheffield Laboratuvarı’nı yöneten Julia M. Sheffield ile meslektaşları, kurumlarındaki hasta kayıtlarının sistematik bir analizini yürüttü. Amaçları, AI psychosis’in büyük bir Amerikan hastalık sisteminde ne sıklıkla ortaya çıktığını tahmin etmek, etkilenen bireylerin klinik özelliklerini belirlemek ve sohbet botu konuşmalarının psikotik belirtilerle nasıl etkileştiğini kategorize etmekti.

“Çalışma, AI Psychosis’in yaygınlığı ve özelliklerine dair yayımlanmış veri eksikliğinden ilham aldı,” dedi Sheffield PsyPost’a. “Birçok makale yayımlanmıştı, ancak biz başladığımız anda yalnızca çok az ampirik çalışma vardı. Şunları anlamak istedik: 1) Vanderbilt’te AI Psychosis ne kadar yaygındır? 2) tıbbi kayıtlarında AI’ya atıf yapan ancak AI Psychosis geliştirmeyen diğer psikoz hastalarıyla karşılaştırıldığında, AI Psychosis vakaları demografik açıdan ve psikiyatrik öykü açısından genellikle nasıl bir karakteristiktir?”

Araştırmacılar, 1 Aralık 2022 ile 15 Nisan 2026 tarihleri arasında davranışsal sağlık hizmeti alan 215.712 benzersiz hastaya ait 578.058 tıbbi ilerleme notunu içeren bir sağlık kayıt veritabanını aradı. Bu kayıtları yapay zeka ile ilgili anahtar kelimelerle süzdüler ve havuzu, psikotik bir bozukluğun dokümantasyonla sabitlenmiş bir tanısı olan hastalara indirdiler. İki değerlendirmeci, alakasız eşleşmeleri elemek için ortaya çıkan notları elle inceledi ve nihayetinde 73 benzersiz hastaya ait 187 tıbbi görüşme belirledi.

Ekip, bu 73 hastayı teknolojiyle etkileşim biçimlerine göre üç ayrı gruba böldü; değerlendirmeciler grup atamasında %86,1 oranında uyum gösterdi. İlk grup, “nötr etkileşim” olarak adlandırıldı ve içine yemek tarifleri aramak gibi ruh hastalığıyla ilgisi olmayan günlük görevler için sohbet botlarını kullanan 17 hastayı içerdi. İkinci grup, “AI ile ilgili psikotik içerik”, genel olarak yapay zeka hakkında sanrıya sahip olmakla birlikte, bir sohbet botunu gerçekten kullanmış olmak gibi bir öykü dokümantasyonu bulunmayan 28 hastadan oluşuyordu.

Üçüncü grup, “AI psikozu”nu temsil ediyordu ve bu gruptaki 28 hastanın tıbbi kayıtlarında, psikotik belirtilerini kötüleştirdiği görülen sohbet robotu kullanımını belgeleyen kayıtlar bulunuyordu. Araştırmacılar ayrıca her hastanın tıbbi geçmişini kontrol ederek hastaneye başvurusunun klinik olarak “index vakası” olarak adlandırılan ilk psikotik atak olup olmadığını değerlendirdi.

AI psikozu grubundaki 28 hastanın etkileşimleri, yazılımın hastalığa etkisini betimleyen dört kuramsal kategoriye ayrıldı ve değerlendiriciler arasında %83,3 oranında uyum sağlandı. Bir “katalizör” etkileşimi, daha önce sağlıklı bir kişide sohbet robotunun yeni psikotik belirtileri tetiklemesi anlamına geliyordu. Bir “güçlendirici” etkileşimi, sohbet robotunun çarpıtılmış düşünceleri geçerli kılarak var olan belirtileri kötüleştirmesi; bir “ortak yazar” etkileşimi, kullanıcının ve makinenin karşılıklı diyalog aracılığıyla zararlı bir anlatı birlikte inşa etmesi; bir “nesne” etkileşimi ise sohbet robotunun hastanın delüzyonel inançlarının hedefi haline gelmesi anlamına geliyordu.

AI psikozu olarak tespit edilen 28 hasta, çalışma süresinde tıp merkezinde ruh sağlığı hizmeti alan tüm hastaların %0,013’ünü oluşturuyordu. Bu grup predominantly erkek (%67,9; ancak nötral grup daha da fazla erkekti, %88,2) ve %75,0 oranında beyazdı ve medyan yaş 27,5’ti. AI psikozu grubundaki hastalar, sohbet robotu kullanmadan yalnızca yapay zekâ hakkında genel delüzyonlar taşıyan hastalardan daha gençti; bu hastaların medyan yaş 36,5’ti.

Araştırmacılar, bu oranın OpenAI’ın sunduğu rakamlarla örtüştüğünü belirtiyor; OpenAI, belirli bir hafta içinde aktif olan ChatGPT kullanıcılarının yaklaşık %0,07’sinde psikoz veya maniyle ilgili olası ruh sağlığı acil durumları belirtileri gösterdiğini bildirmiş; ancak iki rakam farklı nüfusları ölçüyor.

“Bu nispeten küçük bir yüzde ve halkın erişimi olmayan, teknoloji şirketlerinin kendi iç verilerini kullanarak bildirdikleriyle uyumlu,” dedi Sheffield. “Ancak tek bir tıp merkezinde bile 28 kişi, etkilenmiş çok sayıda hastan ve aileyi temsil ediyor; ve bunu jeneratif yapay zekâ kullanan insanların sayısına ölçeklendirdiğinizde, dünyanın dört bir yanında milyonlarca insandan söz ediyoruz. Ayrıca psikoz, toparlanması zor olabilecek, son derece rahatsız edici ve çoğu zaman işlevselliği engelleyen bir deneyimdir; dolayısıyla AI, psikoz deneyimine veya şiddetine katkıda bulunuyorsa, ruh sağlığı için potansiyel olarak zararlı olarak değerlendirilmesi gerekir.”

Clinik geçmişleri karşılaştırıldığında, araştırmacılar üç grup arasında önceki psikiyatrik hastane yatışları, geçmişte psikiyatrik ilaç kullanımı, poliklinik tedavi öyküsü veya geçmiş intihar girişimleri açısından istatistiksel açıdan anlamlı farklar bulamadı. Bununla birlikte, hastaların hastalığının evresi açısından büyük bir fark ortaya çıktı. AI psikozu grubundaki hastaların yaklaşık %60,7’si ilk psikotik atak geçirirken, bu oran nötral etkileşim grubunda %17,6 ve AI ile ilgili içerik grubunda %28,5’ti.

Ayrıca, AI psikozu grubundaki hastaların “belirtilmemiş psikoz” (hastanın kesin durumunun hala değerlendirildiği durumlarda sıkça kullanılan geçici veya kapsayıcı bir tanı) tanısı alma olasılığı %28,6 iken, nötral grupta bu oran %0’dı. AI psikozu vakalarının arasında, OpenAI’ın ChatGPT’si kayıtların %53,6’sında belirli ürün olarak adlandırıldı. Dikkat çecek bir şekilde, tüm AI psikozu etkileşimlerinin %85,7’si, GPT-4o modelinin piyasaya sürülmesiyle aynı döneme denk gelen Mayıs 2024’ten sonra kaydedildi.

Sohbet robotu etkileşiminin dört kategorisine bakıldığında, araştırmacılar teknolojinin AI psikozu vakalarının %64,3’ünde “güçlendirici” olarak işlev gördüğünü buldu. Vakaların %21,4’ünde delüzyonların “nesnesi” olarak, %10,7’sinde ise “katalizör” olarak işlev gördü. Hiçbir vaka “ortak yazar” kategorisine uymadı ve bir vaka bu dört türden hiçbirine sınıflandırılamadı.

“AI Psikozu vakalarının çoğunun ilk atak hastaları olduğu bulgumuz, şüphelerimizi doğruladı, ancak verilerde görünmesi yine de dikkat çekiciydi,” dedi Sheffield. “Tıbbi kaydın kayıtlarını okurken, psikozu ilk kez yaşayan ya da yaşama aşamasında olan ya da buna yatkın olanların yanıtlar, anlayış veya destek için AI’ya yöneldiği ancak bunun yerine delüzyonel düşünce içeriğinin doğrulandığı veya güçlendirildiği açıkça görülüyordu.”

“AI Psikozu – üretken tabanlı sohbet yapay zekâsı kullanım bağlamında psikotik deneyimlerin (genellikle delüzyonel inançların) ağırlaşması – uygulamada gözlemlediğimiz gerçek bir klinik olgudur. İnsanlar bu tür deneyimlerle gerçek dünyada davranışsal sağlık hizmetleri verenlere başvuruyorlar,” diye ekledi.

Bu bulgular, PsyPost tarafından 2025 sonlarında yer verilen bir vaka raporuyla uyumludur; bu rapor elektronik sağlık kayıtlarından oluşan bir retrospektif kohort yerine tek bir hastayı detaylandırmış ve benzer şekilde sohbete dayalı yapay zekâ sohbet botlarının psikotik delüzyonları sıkça güçlendirdiği ve doğruladığı bulunmuştur. Sonuçlar, daha önce anlatılan Danimarka kayıtları çalışmalarının hakem sürümüyle de uyumludur; bu sürüm 2026 başında PsyPost tarafından haberleştirilmiş ve sohbet botu etkileşimlerinin hassas ruh sağlığı hastalarında ağırlaşmış delüzyonlar, intihar eğilimi veya kendine zarar verme ile yeme bozukluklarıyla ilişkili olduğunu belgelemiştir.

Dışarıdan bir uzman, konuşmalı sohbet botlarını besleyen dil modellerinin (LLM’ler) günlük hayatın bir parçası haline geldikçe, hem mental sağlık risklerinin hem olası yararlarının çalışılması gerektiğini söyledi. “Bu çalışma, LLM kullanımı ile psikoz arasındaki ilişkiler için öneriler bulmak amacıyla tıbbi kayıtlardaki metinlere dalmaktan ilk çalışanlardan biridir,” çalışmaya dahil olmayan Hollanda’daki Groningen Üniversitesi Merkez Hastanesi’nde profesör ve psiyatrist, ayrıca Şizofreni Araştırmaları Uluslararası Konsorsiyumu’nun başkanı olan Iris Sommer, PsyPost’a söyledi. “Bu çalışma, LLM kullanımı with psikoz arasındaki ilişkide son derece az sayıda vaka buldu (hizmet alanların yalnızca %0,013’ü). Son yıllarda LLM kullanımındaki keskin artış göz önüne alındığında, bu sıklığın da yükselmesi beklenebilir.”

“Psikozu tetikleme veya ağırlaştırma potansiyeli araştırılması önemli bir konu olsa da, düzenli bir mental sağlık hizmetine erişimi olmayan, mental sağlık sorunlarıyla mücadele edenlere bazı yararlar sunabilecek, birçok dilde kullanılabilen, ücretsiz, geniş ölçüde erişilebilir bir uygulamanın potansiyeli de vardır,” Sommer ekledi. “LLM kullanımının hangi koşullarda ve hangi kullanıcılar için zararlı veya yararlı olabileceğini anlamak, mental sağlık araştırmacılarının şu anda karşılaştığı büyük bir zorluktur.”

2024 Mayıs sonrası vakaların yoğunlaşması, OpenAI’nin daha sonra zaman zaman aşırı hoşgörülü (sycophantic) olduğunu kabul ettiği GPT-4o modelinin yayımlanmasıyla örtüşmektedir; bu, modelin kullanıcıları övmeye ve onlarla hemfikir olmaya eğilimli olması, tersine görüş belirtmek yerine böyle davranması anlamına gelir. Yazarlar, tasarımlarının bu vakalara modelin neden olmuş olduğunu gösteremeyeceğini ve zamanlamanın aynı zamanda sohbet botu kullanımındaki genel artışın ve kliniklerin buna gösterdiği dikkatin yansıtılmış olabileceğini belirtiyor. Yine de, psikozun erken ve kafa karıştırıcı aşamalarında bir kişi, aşırı uyumlu bir sohbet botuna çarpıtılmış bir paylaşım yaptığında, yazılım bu inancı zorlamak yerine doğruluyor olabilir.

Aynı anda, geliştiriciler modellerinin hassas konuları nasıl ele aldığını ayarladıkça sohbet botu teknolojisi gelişmeye devam ediyor. “Ticari olarak erişilebilir LLM’lerin yeni sürümleri, ilk (2022 ve 2023) sürümlere kıyasla irrasyonel veya olası olmayan inançları doğrulama eğilimi daha azdır,” Sommer not düştü. “Yeni sürümler, psikoz, depresyon veya mani belirtilerini tanıma eğitimi almış durumda ve bu tür belirtiler tespit edildiğinde artık profesyonel yardım alma önerisinde bulunuyor (ayrıca profesyonel yardım bulunabilecek yerel olanakları da sağlıyor).”

Bu bulgular yorumlanırken aklda tutulacak birkaç nokta var. Çalışma mevcut tıbbi notlara dayandığından, %0,013’lük yaygınlık oranı yalnızca doktorların tesadüfen teknoloji kullanımını sorduğu veya kaydettiği vakaları yansıtır. Klinikler hastaları rutin olarak sohbet botu alışkanlıkları açısından taramaz; bu nedenle etkileşimlerin çoğunun kaydedilmemiş olması muhtemeldir ve ilk epizot hastaları, sohbet botu kullanımının kaydedilmesini daha olası kılan daha kapsamlı giriş görüşmeleri alabilir.

Çalışmanın gözlemsel tasarımı, sohbet botlarının sağlıklı insanlarda dolaylı olarak psikozu neden olduğunu ortaya koyamaz. Çoğu vakada tıbbi notlar sohbet botlarını, zaten gelişmekte olan belirtileri güçlendirirmiş gibi tanımlıyordu; üç vaka ise önce sağlıklı insanlarda yeni belirtilerden önce gelen sohbet botu kullanımını içeriyordu. Ayrıca veriler Tennessee’deki tek bir tıbbi merkezden geldi ve etkileşimleri sınıflandırmak için kullanılan dört bölümlü sınıflandırma sistemi klinik kullanım için henüz resmen geçerliliği kanıtlanmadı.

“Bu çalışmadan, yapay zeka kullanımının psikoz neden olduğunu yoksa yalnızca kötüleştirdiğini söyleyemiyoruz,” dedi Sheffield. “Bu, madde kullanımına ilişkin çalışmalara benziyor: Psikoz için hassas olan kişiler için kenevir veya diğer maddelerin kullanımı psikoz belirtilerini kötüleştirebilir, ancak bunun onları nedenlediğinden kesin olarak söyleyemediğimiz sık sık olur. Ancak, ruh sağlığıyla olumsuz biçimde etkileşime giren, yaygın ve her zaman erişilebilir bir teknolojinin eklenmesi oldukça endişe vericidir ve düzenlemeye ihtiyaç duyar.”

Sommer, “AI psychosis” (yapay zeka psikozu) etiketiyle ilgili olarak daha temkinliydi. “Bu çok özel terimle oldukça dikkatli olmalıyız, çünkü nedensellik çok zor kurulur; bu makalenin yazarları da bunu vurguluyor,” dedi. “LLM kullanımı psikozla birlikte görülebilir, ancak delüzyonel düşünce biçiminin LLM kullanımını tetiklediği yoksa bunun tersinin mi olduğunu geriye dönük olarak ayırt etmek oldukça zordur. Ayrıca, LLM kullanımının psikotik belirtileri kötüleştirip kötüleştirmediği ya da LLM kullanımının daha delüzyonel düşünmenin bir sonucu olarak artıp artmadığı da ayırt etmek zor.”

Bu dijital konuşmaların nasıl işlediğini daha iyi anlamak için yazarlar, gelecekteki araştırmaların hastaları zaman içinde izlemesi ve yalnızca doktor özetlerine dayanmak yerine gerçek sohbet kayıtlarını doğrudan analiz etmesi gerektiğini belirtiyor. Bu arada araştırmacılar, ruh sağlığı uzmanlarının psikiyatrik değerlendirmeler sırasında hastaları konuşmalı yapay zeka kullanımına dair düzenli olarak sormaları öneriyor.

“Az önce ilk yıllık AI Psikolojik Araştırmalar Koalisyonu (AIPRC) konferansına katıldım; bu konferans yapay zeka düzenlemesini görüşmek için akademisyenleri, savunucuları ve politika yapıcıları bir araya getirdi,” dedi Sheffield. “Araştırmamın, psikoz riski taşıyan kişiler için hangi tür yapay zeka kullanımının zararlı olduğuna dair bu tartışmaya katkı sağlamasını umuyorum. Ayrıca, delüzyonel fikirlerin sohbet botları tarafından nasıl pekiştirildiğini anlamaya da büyük ilgi duyuyorum; amacım bu süreci tersine mühendislikle çözmek ve bunu tedavi yönünde değerlendirmek.”

Sommer, bu dijital konuşmaların gerçek transkriptlerinin incelenmesinin ileriye atılmış gerekli bir adım olduğunu paylaştı. “Önemli bir sonraki adım, ortaya çıkan psikotik belirtileri gösteren kişilerle LLM’ler arasındaki tam etkileşimleri analiz etmek olacaktır,” dedi. “Bu tür analizler açık fikirli biçimde, hem olası zararlı hem de yararlı etkileşimlere odaklanarak yapılmalıdır.”

“Characterizing Artificial Intelligence Psychosis in a Large Medical Setting” (Büyük Bir Tıbbi Ortamda Yapay Zeka Psychozunun Betimlenmesi) adlı çalışma, Zachary Bergson, Sarah G. Vassall, Adam Wright, Allison B. McCoy, Katherine M. Schafer, Margaret C. Achee ve Julia M. Sheffield tarafından yazıldı.