Studiul examinează efectele automatizării AI în domeniul psihoterapiei
Psihoterapia a fost întotdeauna o activitate profund umană: un pacient care vorbește, un terapeut care ascultă și răspunde, iar vindecarea se produce prin cuvinte.
Însă, odată cu ascensiunea rapidă a inteligenței artificiale conversaționale, în special a modelelor mari de limbaj (LLMs), această paradigmă se schimbă rapid.
O echipă de cercetători de la Universitatea din Utah abordează această schimbare, însă nu prin întrebarea „Vor înlocui roboții terapeuții?”, ci prin întrebări mai practice: Ce anume automatizăm și în ce măsură?
„Istoria noilor tehnologii este aproape întotdeauna despre colaborare și despre cum sprijină expertul uman în realizarea muncii pe care o poate face”, a declarat Zac Imel. „Este util să ne gândim la cadre pentru a înțelege diferitele tipuri de muncă care ar putea fi realizate prin automatizare, iar asta este ceea ce face acest articol.”
Studiul este rezultatul unei colaborări între cercetători din Colegiul de Inginerie, Școala de Medicină și Colegiul de Educație al Universității.
În termeni simpli, automatizarea se referă la faptul că mașinile îndeplinesc sarcini pe care oamenii le-au realizat anterior. În terapie, aceasta poate varia de la un chatbot care oferă sfaturi predefinite, la sisteme AI care iau și organizează notițe, analizează sesiuni de terapie și oferă feedback clinicianilor sau chiar comunică direct cu pacienții.
Co-autorul Vivek Srikumar folosește mașinile autonome ca analogie pentru diferitele niveluri de automatizare.
„Industria auto a introdus sisteme de asistență pentru șoferi de mulți ani, iar versiunea extremă sunt mașinile autonome”, a spus Srikumar. „Acest articol poate fi văzut din această perspectivă. Versiunea extremă a AI în psihoterapie este un terapeut AI, dar există diferite niveluri de automatizare care ar putea fi asociate cu diferite grade de risc.”
Imel și Srikumar colaborează de mult timp cu Brent Kious pentru a crea cadrul de automatizare, care a fost postat înainte de publicare de Current Directions in Psychological Science.
Echipa a definit patru categorii, reprezentând diferite niveluri de automatizare pe un continuum.
Categoria A: Sisteme scriptate. Conținutul este predefinit de oameni, dar oferit pacienților de chatbots care urmează arborele decizional.
Categoria B: AI evaluează terapeuții. AI-ul revizuiește sesiunile de terapie și oferă feedback sau evaluări.
Categoria C: AI asistență pentru terapeuți. AI-ul sugerează intervenții, întrebări sau formulări, dar un terapeut uman oferă îngrijirea.
Categoria D: AI oferă terapie direct. Un agent autonom generează răspunsuri și interacționează cu pacienții, posibil cu supraveghere.
Echipa a evaluat fiecare categorie în funcție de utilitatea și riscurile potențiale, care variază considerabil. Un chatbot scriptat, un instrument de coaching AI pentru terapeuți și un terapeut AI complet autonom sunt tehnologii fundamental diferite cu diferite riscuri. Totuși, adesea nu este clar pentru utilizatori sau chiar pentru sistemele de sănătate ce tehnologie utilizează.
„Prin catalogarea diferitelor niveluri de automatizare, aceeași întrebare capătă diferite nuanțe la diferite niveluri, întrebări despre risc, întrebări despre consimțământ, cine are dreptul la consimțământ și cât de mult consimțământ și impactul erorilor potențiale și întrebările despre cine și cât de multă responsabilitate revine diferitelor părți”, a spus Srikumar. „Toate aceste lucruri rămân aceleași, dar impactul acestor întrebări se schimbă.”
Echipa este interesată în mod special de îmbunătățirea modului în care sunt evaluați și îndrumați clinicianii pentru a îmbunătăți nivelul de îngrijire oferit pacienților.
„Colaborăm în prezent cu SafeUT, linia de criză text bazată pe statul Utah, pentru a dezvolta instrumente care ajută la evaluarea sesiunilor consilierilor în criză, astfel încât să poată primi feedback pentru a-și menține abilitățile cheie și chiar pentru a dezvolta altele noi pe măsură ce învățăm mai multe despre consilierea în criză”, a spus Kious.
Evaluarea și formarea sunt domeniile în care modelele mari de limbaj pot susține terapeuții fără a-i înlocui, a spus Imel. Metodele actuale nu sunt suficiente în raport cu nevoile din îngrijirea sănătății mintale.
„Evaluarea unei sesiuni de psihoterapie este extrem de laborioasă. Este lentă, nesigură, rar este utilizată”, a spus Imel. „Nu înregistrezi sesiunile tale și apoi le trimiti unui expert care să le asculte și să le evalueze și să îți ofere feedback pentru a învăța din asta.” În acest context, LLM-urile, bine pregătite, pot captura rapid componentele esențiale ale tratamentului și oferi aceste informații terapeuților rapid, adesea în timp real.
Cercetătorii notează că oricine poate apela acum la ChatGPT pentru consiliere care ar putea semăna cu psihoterapia. LLM-urile sunt concepute pentru a fi angajante și a suna empatic, fiind antrenate pe seturi de date vaste, dar nu folosesc neapărat tehnici de psihoterapie bazate pe dovezi. În consecință, acestea prezintă riscuri enorme, deoarece sunt cunoscute pentru că fabrică informații, encodează prejudecăți și răspund într-un mod imprevizibil.
„De ce ai dori să implementezi versiunea cea mai riscantă a unui instrument când există atât de multe versiuni mai ușoare pe care le putem implementa deja și care vor îmbunătăți viața clinicianilor?”, a spus Srikumar. „O aplicație de notițe, de exemplu, ceva care să mențină notițe pe parcursul unei sesiuni. Acestea vor îmbunătăți deja calitatea vieții pentru clinicieni și calitatea serviciilor.”
Echipa își imaginează de asemenea un rol pentru AI în liniile de asistență în criză în viitor.
„Este un mediu foarte provocator în care nu știi nimic despre persoanele cu care vorbești. Ele sună, poate ai doar cinci sau șase schimburi de replici pentru a te conecta cu ele. Ai un spațiu foarte restrâns pentru a încerca să ajuți această persoană, să o faci în siguranță și să reduci riscurile”, a spus Srikumar. „Ce prevăd este că sistemele viitoare de consiliere în criză vor fi puternic augmentate de AI, deoarece scala este prea mare pentru a fi satisfăcută fără automatizare.”
