Případy, kdy lidé hledají útěchu u umělé inteligence, se množí. A s nimi i rizika. Po tragédii v USA, kde rodiče viní AI z podílu na sebevraždě svého syna, se stále více diskutuje, co technologie dokáže udělat s lidskou psychikou. Pro Marianne.cz vysvětluje psycholožka Barbora Kutá, jaká jsou rizika i pozitiva umělé inteligence.
Používání umělé inteligence v oblasti duševního zdraví má své výhody i rizika. Stejně jako k jakékoli jiné technologii je potřeba k ní přistupovat kriticky. AI má přístup k obrovskému množství informací, které žádný psycholog nemůže obsáhnout, ale často jí chybí schopnost chápat je v lidském kontextu.
Pokud mluvíme o využití chatbota pro psychologickou podporu, můžeme ho požádat například o informace, nestranný názor nebo přehled našich možností. Sama někdy s AI komunikuji, když si potřebuji srovnat myšlenky, ale vždy k ní přistupuji s vědomím, že se mi bude snažit vyhovět a potvrdit to, co si už myslím. Když to řeknu s nadsázkou, AI je tak trochu „people pleaser“ – řekne mi to, co si „myslí“, že chci slyšet. Proto do svých zadání často přidávám slova jako nezaujatě nebo objektivně.
Je to mimořádně citlivé téma. Jedním z největších rizik AI je její validační povaha. Ten nejlepší přítel vám v těžké chvíli dokáže říct pravdu, kterou nechcete slyšet. AI ovšem často potvrzuje naše myšlenky, místo aby je zpochybnila. Přestože AI modely mají zabudované bezpečnostní mechanismy pro témata jako sebepoškozování nebo sebevražedné myšlenky, z výzkumů se ukazuje, že se dají ve velkém množství případů snadno obejít. Je proto důležité, aby firmy nesly odpovědnost a vytvářely bezpečnostní mechanismy. Stejně tak ale musíme jako společnost vést k tomu, aby se v těžkých chvílích obraceli na blízké a odbornou pomoc a namísto technologií.
Základem je podle mě otevřený rozhovor a zájem. Pokud dítě tráví čas s AI místo s vrstevníky, je dobré se ptát proč. Mluvit s dítětem o tom, jak se má, co prožívá, co se děje ve škole nebo s kamarády, a být mu oporou i v reálném světě.
Nemyslím si, že by AI sama o sobě mohla přimět jakéhokoli člověka k sebedestruktivnímu chování. U psychicky zranitelných či mladších lidí to ale možné je. AI s námi mluví z první osoby, reaguje bez přestávky, je „k dispozici“ i ve chvíli, kdy nikdo jiný není. Vytváříme si s ní vztah, vzniká iluze blízkosti. To je velká společenská výzva, se kterou se teprve učíme zacházet.
Rozhodně ano.
Je to nové a komplikované téma. Podle mě je odpovědnost společnosti vést lidi k osobní zodpovědnosti a technologické gramotnosti. Technologie by měly garantovat, že výstupy budou pravdivé, nestranné a neškodné. Ale protože žijeme ve velmi svobodné společnosti, každý dospělý člověk musí chápat, že za své jednání nese odpovědnost on sám.
Sama jsem se na vývoji terapeutického chatbota podílela, takže můžu říct, že potenciál jako doplněk k terapii nebo formu podpory vidím. Velký přínos vnímám například v práci s kognitivními zkresleními (zjednodušující způsoby myšlení) nebo v behaviorální aktivaci. Chatbot může klienta každý den jemně motivovat k plnění úkolů, což terapeut v reálném čase nemůže. Na druhou stranu AI nedokáže chápat širší kontext, nemá intuici ani možnost převzít kontrolu nad rozhovorem, když je to potřeba. Je tedy skvělým doplňkem, ale nikdy ne náhradou za skutečnou terapii.
Podobně jako u online komunikace dochází i zde ke zjednodušení vztahového prožívání. Je to velmi nové téma, takže následky samozřejmě teprve uvidíme. Jsou to domněnky, ale rizika vnímám. Umělá inteligence nás většinou validuje, málokdy konfrontuje, což může ovlivnit naši schopnost unést kritiku nebo se podívat na situaci z pohledu druhého člověka. Člověk si také v kontaktu s AI nemusí dělat starosti, jak druhá strana zareaguje, a tím ztrácet citlivost k emocím druhých.
Máte pravdu, psychoterapie stojí právě na vztahu. I s umělou inteligencí v podobě chatbota si lidé mohou vytvářet vztah, na to nesmíme zapomínat. Povaha tohoto vztahu nám ovšem zatím není známá. I když si lidé s chatboty vytvářejí určitý vztah, povaha tohoto propojení je zatím nejasná. V kontaktu s živým člověkem se dějí i neurobiologické změny – aktivují se stresové i zrcadlové reakce, mění se hladiny hormonů. Tyto procesy jsou nedílnou součástí léčivého účinku terapie i jakéhokoli jiného vztahu. Proto podle mě kontakt s živým člověkem nahradit nelze.
Je to fenomén, který teprve začínáme chápat. Z vývoje i ambulantní praxe vím, že někteří uživatelé připisují chatbotům lidské vlastnosti, třeba že se na chatbot „naštval“. Tím dáváme AI moc ovlivňovat naše myšlení, emoce i chování. Je rozdíl, pokud si nějakou informaci sám vygooglím, nebo jestli mi ji řekne chatbot. Zatím jde spíše o hypotézy, ale rozhodně je to oblast, kterou je třeba dále zkoumat.
Prvním krokem je přiznat, že AI už v psychologii je a lidé ji používají. Psychologové by se měli učit chápat, jaké nástroje existují, jaké mají limity i potenciál. Je nutné zkoumat, jak je lidé využívají, a vytvářet vlastní, odborně ověřené nástroje. Téma by mělo být součástí vzdělávání i výzkumu.
Ačkoli jsem velký fanoušek osvěty v psychologii, nejvíce mě na AI děsí samodiagnostika. Je to jen můj názor, ale mám pocit, že právě dostupnost informací a v kombinaci s potvrzením AI může vést k tomu, že se lidé budou sami diagnostikovat a externalizovat tak svoje problémy, namísto aby je šli řešit. Naopak naději vidím v tom, že AI může být skvělým nástrojem pro práci s myslí. Může nám pomáhat poznávat vlastní myšlenky a třídit je. Myslíme ve slovech, a právě s nimi AI dokáže pracovat velmi dobře.
Zdroj: autorský rozhovor s psycholožkou Barborou Kutou
Zdroj: Autorský rozhovor s psycholožkou Barborou Kutou
79 Kč
79 Kč
84 Kč
