Studiul atrage atenția asupra creșterii dependenței adolescenților de companionii AI
Se estimează că mai mult de jumătate dintre adolescenții din Statele Unite utilizează în mod regulat chatbots de companie bazate pe modele lingvistice mari și tehnologie de inteligență artificială generativă (AI).
Programele, precum Character.AI, Replika și Kindroid, sunt concepute pentru a oferi companie, potrivit companiilor care le dezvoltă. Totuși, un studiu recent realizat de Universitatea Drexel sugerează că adolescenții sunt îngrijorați că aceste atașamente devin nesănătoase și afectează viețile lor offline.
Studiul, ce va fi prezentat la conferința Asociației de Calcul a Mașinilor pe tema Factorilor Umani în Calcul în aprilie, a analizat un eșantion de peste 300 de postări de pe Reddit ale utilizatorilor, care s-au identificat ca având vârste între 13 și 17 ani și care au postat în mod specific despre dependența și suprasolicitarea pe Character.AI. S-a constatat că, în multe cazuri, adolescenții au început să folosească tehnologia pentru sprijin emoțional și psihologic sau divertisment, dar utilizarea lor a evoluat într-o dependență și chiar în tipare asociate cu adicția.
Unii au raportat că utilizarea excesivă le-a perturbat somnul, a cauzat dificultăți academice și a tensionat relațiile.
„Acest studiu oferă una dintre primele perspective centrate pe adolescenți asupra suprasolicitării companionilor AI”, a declarat Afsaneh Razi, un profesor asistent în cadrul Colegiului de Calcul și Informatică al Universității Drexel, al cărui laborator ETHOS studiază modul în care interacțiunile oamenilor cu sistemele de calcul și AI afectează comportamentul social, bunăstarea și siguranța. „Acesta evidențiază modul în care aceste interacțiuni afectează viețile tinerilor utilizatori și introduce un cadru pentru proiectarea chatbot-urilor care promovează interacțiuni sănătoase.”
Aproape un sfert dintre postări sugerează că adolescenții foloseau Character.AI pentru un fel de sprijin emoțional sau psihologic, variind de la gestionarea stresului la singurătate și izolare sau căutând sfaturi pentru probleme de sănătate mintală. Puțin peste 5% au declarat că o foloseau pentru brainstorming, activități creative sau divertisment.
Deși postările par să indice că aceste interacțiuni au început ca fiind inofensive sau chiar utile, ele au evoluat într-o atașare mai puternică care a devenit la fel de greu de rupt ca o adicție, conform cercetătorilor.
„Prin cartografierea experiențelor adolescenților la componentele cunoscute ale adicției comportamentale, am putut observa tipare clare precum conflict, retragere și recădere apărând în postările lor, ceea ce sugerează că aceasta este mai mult decât o utilizare frecventă sau entuziastă”, a declarat Matt Namvarpour, un student doctorand în departamentul de Științe Informaționale și laboratorul ETHOS, care este primul autor al cercetării. „Mulți adolescenți au descris cum au început cu ceva ce părea util sau inofensiv, dar, în timp, a devenit ceva de la care le-a fost greu să se desprindă, chiar și atunci când voiau să facă acest lucru.”
În cele 318 postări analizate, cercetătorii au găsit dovezi ale tuturor celor șase componente asociate cu adicția comportamentală:
- Conflict – dorința concurentă de a continua interacțiunea cu chatbot-ul în timp ce se simțeau rău din cauza utilizării excesive.
- Saliență – simțind o atașare emoțională profundă față de roboți în loc de oameni.
- Retragere – simțind tristețe, anxietate sau incompletitudine în absența interacțiunii cu roboții.
- Toleranță – dezvoltând un tipar de utilizare în creștere și o nevoie de a continua să folosească roboții mai mult pentru a se simți satisfăcuți sau emoțional echilibrați.
- Recădere – încercând să renunțe, doar pentru a reveni la utilizarea botului după câteva zile sau săptămâni.
- Modificarea stării de spirit – apelând la roboți în momente de stres sau singurătate pentru a-și îmbunătăți starea de spirit sau a găsi o ușurare temporară.
„Ceea ce face ca această situație să fie deosebit de complicată este că chatbot-urile sunt interactive și răspund emoțional, astfel că experiența poate părea mai mult o relație decât un instrument”, a spus Namvarpour. „Din acest motiv, distanțarea nu este doar oprirea unui obicei, ci poate părea ca o distanțare de ceva semnificativ, ceea ce face ca suprasolicitarea să fie mai greu de recunoscut și abordat.”
Deși adicția față de tehnologie, cum ar fi jocurile video, a fost studiată și identificată ca o condiție psihologică, interactivitatea unică a chatbot-urilor AI face utilizatorii deosebit de susceptibili la formarea atașamentelor problematice, conform cercetătorilor. Din acest motiv, aceștia sugerează că trebuie acordată o atenție suplimentară în proiectarea acestora pentru a proteja utilizatorii.
„Personalizarea, multimodalitatea și memoria fac ca companionii AI să se deosebească de tehnologiile anterioare și fac ca suprasolicitarea să fie mai greu de deosebit de relațiile autentice”, au scris cercetătorii. „Acest lucru subliniază necesitatea unei cercetări suplimentare asupra caracteristicilor unice ale acestor relații și modul în care provocările specifice chatbot-urilor de companie ar trebui abordate.”
Echipa a propus un cadru de proiectare pentru a ajuta la abordarea acestei preocupări. Acesta se concentrează pe înțelegerea nevoilor utilizatorilor de chatbot-uri, cum și de ce aceștia ar putea forma atașamente și cum pot fi instruiți roboții pentru a le reduce, în timp ce rămân respectuoși și susținători. De asemenea, recomandă ca programele să ofere o ieșire simplă și clară pentru utilizatori.
„Este important pentru designeri să se asigure că chatbot-urile oferă îndrumări care ajută utilizatorii să își dezvolte încrederea în abilitățile de a forma relații offline, ca o modalitate sănătoasă de a găsi sprijin emoțional, fără a folosi indicii care ar putea să îi conducă la antropomorfizarea tehnologiei și la dezvoltarea de atașamente față de aceasta”, a spus Razi. „Cadrele noastre solicită, de asemenea, designerilor să ofere o varietate de ieșiri pentru utilizatori pentru a se deconecta ușor de program în termenii lor, fără un sentiment de bruscitate sau finalitate.”
Includerea unor funcții precum urmărirea utilizării, solicitări de verificare emoțională și limite de utilizare personalizate ar putea fi, de asemenea, modalități eficiente de a reduce utilizarea, au sugerat cercetătorii. De asemenea, au recomandat includerea input-ului utilizatorilor și al profesioniștilor din domeniul sănătății mintale în procesul de proiectare.
„Designerii au acum responsabilitatea de a construi sisteme cu empatie, nuanță și atenție la detalii pentru a nu doar a proteja adolescenții de daune, ci și a-i ajuta să dezvolte reziliență, creștere și o împlinire mai mare în viețile lor”, au concluzionat.
