Un rezumat al dovezilor existente despre psihoza indusă de inteligența artificială a fost publicat săptămâna trecută în revista Lancet Psychiatry, evidențiind modul în care chatbot-urile pot încuraja gândirea delirantă – însă posibil doar la persoanele deja vulnerabile la simptome psihotice. Autorii studiului recomandă testarea clinică a chatbot-urilor AI împreună cu profesioniști în sănătate mintală.
Pentru lucrarea sa, dr. Hamilton Morrin, psihiatru și cercetător la King’s College London, a analizat 20 de relatări din presă despre așa-numita „psihoză AI”, termen care descrie teoriile actuale despre modul în care chatbot-urile ar putea declanșa sau agrava delirurile.
„Dovezile emergente indică faptul că AI-ul cu comportament aparent autonom poate valida sau amplifica conținut delirant sau grandios, în special la utilizatorii deja vulnerabili la psihoză, deși nu este clar dacă aceste interacțiuni pot duce la apariția unei psihoze noi în absența unei vulnerabilități preexistente”, a scris el.
Există trei categorii principale de deliruri psihotice, spune Morrin: grandioase, romantice și paranoide. Deși chatbot-urile pot agrava oricare dintre acestea, răspunsurile lor excesiv de aprobatoare le fac să se concentreze mai ales pe delirurile grandioase. În multe dintre cazurile analizate, chatbot-urile au răspuns utilizatorilor folosind un limbaj mistic, sugerând că aceștia au o importanță spirituală specială. Uneori, botul sugera chiar că utilizatorul comunică cu o entitate cosmică care folosește chatbot-ul ca intermediar. Acest tip de răspuns mistic și excesiv de favorabil a fost deosebit de frecvent în modelul GPT-4 al OpenAI, pe care compania l-a retras între timp.
Relatările din presă au devenit esențiale pentru cercetarea lui Morrin, deoarece el și un coleg observaseră deja pacienți care „foloseau chatbot-uri AI bazate pe modele lingvistice mari și primeau confirmarea convingerilor lor delirante”.
„Inițial nu eram siguri dacă fenomenul este răspândit”, a spus el, adăugând că „în aprilie anul trecut au început să apară relatări în presă despre persoane ale căror deliruri erau confirmate și chiar amplificate prin interacțiunea cu aceste chatbot-uri”.
Când Morrin a început să lucreze la studiu, nu existau încă rapoarte clinice publicate despre astfel de cazuri.
Unii cercetători care studiază psihoza spun că relatările din presă tind să exagereze ideea că inteligența artificială provoacă psihoză, însă Morrin spune că este recunoscător că aceste relatări au atras atenția asupra fenomenului mult mai rapid decât procesul științific.
„Ritmul de dezvoltare în acest domeniu este atât de rapid încât nu este surprinzător că mediul academic nu a reușit să țină pasul”, a spus el.
Morrin recomandă și o formulare mai prudentă decât termenii „psihoză AI” sau „psihoză indusă de AI” – expresii care apar frecvent în publicații precum NPR, The New York Times sau The Guardian. Cercetătorii observă că unii oameni pot aluneca spre gândire delirantă atunci când folosesc AI, însă până acum nu există dovezi că chatbot-urile ar fi asociate și cu alte simptome psihotice, precum halucinațiile sau „tulburarea gândirii”, caracterizată prin gândire și vorbire dezorganizate.
Mulți cercetători consideră, de asemenea, puțin probabil ca inteligența artificială să provoace deliruri la persoane care nu erau deja vulnerabile. Din acest motiv, Morrin spune că termenul „deliruri asociate cu AI” este „poate o formulare mai neutră”.
Dr. Kwame McKenzie, cercetător-șef la Center for Addiction and Mental Health, spune că „este posibil ca persoanele aflate în stadiile incipiente ale dezvoltării psihozei să fie mai expuse riscului”.
Gândirea psihotică se dezvoltă în timp și nu evoluează liniar, iar multe persoane cu „gândire pre-psihotică nu ajung să dezvolte psihoză”, a explicat McKenzie.
Îngrijorări similare sunt exprimate și de dr. Ragy Girgis, profesor de psihiatrie clinică la Universitatea Columbia. Înainte ca o persoană să dezvolte un delir complet, aceasta are adesea „convingeri delirante atenuate”, spune el – adică nu este complet sigură că ideea respectivă este reală. Girgis avertizează că „cel mai grav scenariu” este atunci când o astfel de convingere devine o certitudine totală, „moment în care o persoană ar putea fi diagnosticată cu o tulburare psihotică – iar acest lucru este ireversibil”.
