O cercetare leagă companionii AI de creșterea singurătății și scăderea bunăstării
Companionii AI devin din ce în ce mai populari, milioane de utilizatori formând conexiuni profunde cu chatboții și partenerii AI simulați.
Cu toate acestea, dacă te gândești să te bazezi pe un companion AI pentru sprijin emoțional, o cercetare realizată în laboratorul lui Diyi Yang de la Stanford sugerează că ar fi bine să te gândești de două ori: conform unui articol publicat în Nature Human Behavior, cercetătorii au descoperit că deschiderea față de chatboți cu privire la probleme personale a făcut ca unii oameni să se simtă nu mai bine, ci mai rău.
„În timp ce unii oameni apelează la chatboți pentru a-și satisface nevoile sociale, constatăm că utilizarea acestora în acest mod nu înlocuiește conexiunea umană – în multe cazuri, oamenii se simt mai singuri interacționând cu AI”, afirmă Yang.
Cercetarea a analizat utilizarea companionilor AI pe platforma Character.AI, un serviciu generativ de chatbot, unde utilizatorii pot crea și interacționa cu o gamă variată de chatboți. Asistentul de cercetare Yutong Zhang și studentul la doctorat Dora Zhao au folosit platforma de cercetare Prolific pentru a aduna date din sondaje de la 1.131 de utilizatori Character.AI, dintre care 244 au donat transcrieri complete ale conversațiilor. Zhang și Zhao au întrebat participanții să își identifice motivul principal pentru utilizarea chatboților (de exemplu, productivitate, divertisment, curiozitate, relaționare) și să descrie în propriile cuvinte relațiile formate cu interlocutorii lor AI. Apoi, au folosit o colecție de instrumente AI – GPT-4, LLaMA 3-70B și TopicGPT – pentru a analiza datele și a căuta indicii despre modul în care utilizatorii interacționau cu chatboții și cum aceste interacțiuni se corelau cu senzația subiectivă de bunăstare psihologică a utilizatorilor.
Cercetătorii s-au concentrat pe trei factori principali: motivele pentru care oamenii foloseau chatboții, intensitatea interacțiunilor măsurată prin frecvența utilizării și cât de dispuși erau oamenii să împărtășească informații personale sensibile pe teme variate, de la stres emoțional la consum de substanțe și gânduri suicidale. De asemenea, au evaluat dimensiunea rețelelor sociale offline ale participanților, întrebând, de exemplu, despre numărul de prieteni și membri ai familiei cu care utilizatorii se simțeau confortabil să discute despre probleme personale.
Interesant este că a existat o discrepanță între modul în care participanții și-au descris motivele și ceea ce descrierile lor deschise și transcrierile de chat au dezvăluit. De exemplu, în timp ce puțin sub 12% au raportat compania ca motiv principal pentru interacțiunea cu chatboții, puțin peste 50% i-au descris folosind termeni precum „prieten”, „companion” sau „partener romantic”, iar mai mult de 80% din sesiunile de chat donate s-au concentrat pe căutarea sprijinului emoțional și social din partea conversaționalilor alimentați de LLM.
La prima vedere, o utilizare mai intensă părea a fi asociată pozitiv cu bunăstarea. Însă, când cercetătorii au aprofundat analiza datelor, au constatat că acest lucru depindea în mare măsură de modul și motivul pentru care participanții foloseau tehnologia. Oamenii care interacționau intens și simțeau mândrie în utilizarea tehnologiei sau o considerau semnificativă obțineau scoruri bune în ceea ce privește bunăstarea subiectivă.
Cu toate acestea, alții nu au avut aceeași experiență.
Cercetătorii au descoperit că utilizarea intensă a chatboților în rândul participanților cu rețele sociale reale mai mici era corelată cu un sentiment de bunăstare scăzut, iar această asociere era cea mai puternică atunci când compania era motivul principal pentru care căutau chatboții.
Participanții care erau mai dispuși să împărtășească informații personale sensibile cu companionii lor AI erau, de asemenea, mai predispuși să demonstreze un sentiment mai scăzut de bunăstare. Acest lucru este cu atât mai surprinzător cu cât auto-divulgarea tinde să aibă efectul opus în relațiile umane.
Zhang și Zhao suspectează că mai mulți factori ar putea influența aceste rezultate. Chatboții nu pot împărtăși reciproc informații personale așa cum pot oamenii și este posibil să nu fie capabili să recunoască și să răspundă adecvat la conversațiile cu încărcătură emoțională. În același timp, aceștia sunt construiți intenționat pentru a menține interacțiunea, indiferent de situație. „Acești companioni AI sunt proiectați pentru a promova angajamentul”, afirmă Zhao.
Toate acestea fac ca compania AI să fie comparabilă cu ceea ce Zhang numește „snack social”, dacă nu chiar junk food: ceva ce oferă utilizatorilor o soluție atrăgătoare pe termen scurt pentru singurătate și izolare, dar care nu conține ingredientele necesare pentru sănătatea emoțională și bunăstarea pe termen lung. De asemenea, riscă să creeze un cerc vicios în care persoanele cu rețele sociale limitate sunt atrase de utilizarea intensă a companionilor AI, ceea ce are efectul neplăcut de a reduce contactul social real, făcându-le să se simtă și mai singure și deconectate.
Zhang și Zhao încearcă acum să determine care caracteristici specifice ale interacțiunii uman-chatbot ar putea determina corelația dintre compania AI și bunăstarea scăzută în rândul utilizatorilor vulnerabili. Obiectivul lor este să identifice intervenții potențiale, cum ar fi impunerea unor limite de utilizare sau îndrumarea utilizatorilor către sprijin uman real atunci când conținutul conversației sugerează că au nevoie de ajutor.
Între timp, ei subliniază necesitatea de a educa publicul despre riscurile potențiale ale companionilor AI, indiferent cât de convenabili sau atractivi ar putea părea.
„Trebuie să facem oamenii să înțeleagă dezavantajele lor potențiale, astfel încât să fie mai atenți în utilizarea acestora”, afirmă Zhang.
