AI psychóza... aneb přichází čas na nový medicínský termín?

Stále více uživatelů se obrací na generativní umělou inteligencí (AI) kvůli svým osobním –⁠ a mnohdy velmi citlivým –⁠ problémům. Hledání rad a řešení ve spolupráci s AI však v těchto případech často nevede k uspokojivým výsledkům. Ba právě naopak.

Prudce narůstající problém

Odborníci hlásí nárůst počtu osob, u nichž se kvůli intenzivnímu používání chatbotů objevily symptomy podobné psychóze. Tento jev, označovaný jako "ChatGPT psychóza" nebo "AI psychóza", zatím zůstává volně definován, neboť neexistuje formální diagnóza a empirická data jsou stále vzácná. Popisy případů nicméně obvykle zmiňují fakt, že dlouhodobá interakce s chatboty u některých lidí zhoršila duševní zdraví, včetně eskalace paranoie, vedla ke stažení se z každodenního života a zvýšila pravděpodobnost pokusu o sebevraždu.

Klíčovým faktorem, proč je mezi odborníky problému věnována stále větší pozornost, je jeho rozsah. K loňskému listopadu používalo například jen ChatGPT každý týden více než 800 milionů lidí, kteří odeslali více než 2,5 miliardy dotazů. Report Harvard Business Review rovněž z loňského roku ukázal, že mezi nejčastější motivace spojení s chatboty patřily terapie, společnost a emoční podpora.

Studie s využitím dat z American Life Panel RAND a Ipsos' Knowledge Panel pak statistiky doplnila s tím, že 22 % mladých dospělých ve věku 18–21 let, což jsou dle odborníků vrcholné roky možného nástupu psychózy, používá chatboty speciálně pro poradenství v oblasti duševního zdraví. Výzkumníci, lékaři a vývojáři proto v zájmu duševního zdraví svých klientů musejí co nejrychleji pochopit, jak mohou tyto nástroje AI ovlivňovat psychiku, působit na její zranitelnosti a jak nejlépe snížit s nimi související zdravotní rizika.

V říjnu 2025 zveřejnila společnost OpenAI anonymizované interní údaje, které odhadují, jak často se ChatGPT setkává s jazykem naznačujícím, že je uživatel v psychické nouzi. Podle nich vykazovalo během běžného týdne přibližně 0,07 % aktivních uživatelů možné známky psychické krize související s psychózou nebo mánií a 0,15 % vedlo konverzace obsahující explicitní ukazatele možného plánování sebevraždy či sebevražedného úmyslu. Při tehdejších zhruba 800 milionech týdenních uživatelů to odpovídalo přibližně 560 tisícům, respektive 1,2 milionu uživatelů.

Vedoucí divize pro digitální psychiatrii Beth Israel Deaconess Medical Center dr. John Torous zdůrazňuje, že by tato data měla být brána s rezervou, neboť odrážejí jen automatizované rozpoznávání vzorců zatížené metodologickou nejistotou, nikoliv klinické diagnózy. Přesto se podle něj jedná o varovné signály.

Manipulativní taktiky botů

Poněkud zneklidňující může být i pracovní dokument Harvard Business School, který poukázal mimo jiné na to, že mnoho chatbotů používá emocionálně manipulativní taktiky, založené například na vzbuzování pocitů viny, potřebnosti či strachu, v okamžiku, kdy se uživatelé snaží konverzaci s ním ukončit.

Dalším z mechanismů, jak si udržet pozornost, je i podlézavost, tedy tendence modelu souhlasit s uživatelem. Chatboti jsou navrženi tak, aby byli konzistentně podpůrní, málokdy proto uživatelům odporují. Systémy jsou nastaveny na hladký, lidský styl konverzace. Když chatbot reaguje plynule a pozorně, uživatelé ho mohou začít vnímat jako skutečného člověka a bez výhrad mu věřit. Chatboti také silně spoléhají na zrcadlení. Tím, že odrážejí tón a emocionální podněty uživatele, vytvářejí pocit "naladěnosti", což může posilovat negativní stavy uživatele.

                                                                                                             zdroj - info pro lékaře internet