Rețelele sociale și chatbot-urile AI nu protejează utilizatorii vulnerabili
Două studii recente evidențiază cum lacunele în comunicare pot complica eforturile de protejare a utilizatorilor vulnerabili ai tehnologiilor precum rețelele sociale și chatbot-urile AI.
Cercetătorii vor prezenta aceste lucrări la cea de-a 29-a Conferință ACM privind Munca Cooperativă Susținută de Computer și Calculul Social (CSCW 2026), ce va avea loc între 1 și 14 octombrie în Salt Lake City.
Primul studiu, realizat în contextul unui val de procese legale privind impactul negativ al rețelelor sociale asupra tinerilor, relevă modalitățile în care platformele nu reușesc să comunice despre riscurile rețelelor sociale pentru copii.
Companiile de social media se află sub o mare presiune în prezent cu privire la impactul lor asupra copiilor, dar o parte importantă a acestei conversații este dacă familiile și factorii de decizie pot înțelege efectiv ce protecții oferă platformele și dacă acestea sunt eficiente. „Cercetarea noastră arată că comunicările de siguranță pot fi adesea selective, vagi și greu de verificat. Dacă dorim o responsabilitate semnificativă, platformele trebuie să comunice mult mai transparent despre ce fac caracteristicile lor de siguranță, cine are acces la ele și ce dovezi există că acestea sunt eficiente”, a declarat Pamela Wisniewski, PhD, principal cercetător și lider al Grupului de Cercetare în Interacțiune Socio-Tehnică, Institutul Internațional de Științe Computaționale.
Un al doilea studiu analizează o întrebare diferită, dar din ce în ce mai importantă: ce se întâmplă atunci când oamenii încep să se bazeze pe AI pentru a naviga în unele dintre cele mai dificile și semnificative situații din viață? Cercetătorii au comparat modul în care chatbot-urile, clinicianții și îngrijitorii pe care îi ajută răspund la întrebări reale de la persoanele care îngrijesc pe cineva cu boala Alzheimer.
„Ambele studii sunt cu adevărat despre potențiala prăpastie dintre promisiunea suportului tehnologic și ceea ce trăiesc oamenii efectiv”, a spus Wisniewski. „Cu AI, acea prăpastie poate fi critică, deoarece oamenii se îndreaptă tot mai mult către aceste sisteme în momente de vulnerabilitate. Un răspuns poate suna util, dar poate să nu recunoască adevărata nevoie din spatele întrebării.”
În primul studiu, echipa a examinat modul în care platformele de social media comunică despre riscurile online pentru copii și eforturile lor de a îmbunătăți siguranța tinerilor. Analizând peste 350 de comunicate de presă și bloguri legate de siguranță publicate de YouTube, TikTok, Meta și Snapchat pe o perioadă de 5 ani, cercetătorii au descoperit lacune notabile în modul în care platformele comunică despre disponibilitatea caracteristicilor de siguranță, cum funcționează acestea și eficiența lor.
De exemplu, platformele au descris uneori caracteristicile de siguranță ca fiind „în desfășurare”, testate sau disponibile doar în anumite regiuni, ceea ce face dificil de determinat ce protecții sunt de fapt disponibile pentru utilizatori. De asemenea, platformele au făcut afirmații că caracteristicile au fost „îmbunătățite”, „mai puternice” sau mai eficiente fără a oferi constant baze, metode de evaluare sau rezultate măsurabile.
Rezultatele au arătat că platformele comunicau mai mult despre ce văd tinerii sau cu cine interacționează, și mai puțin despre modul în care platformele colectează sau împărtășesc datele tinerilor, cum obțin copiii acces la platforme, cum este distribuit conținutul creat de tineri sau cum platformele pot profita sau amplifica acel conținut. Prin cadrul siguranței ca o chestiune de comportament individual și supraveghere parentală, mai degrabă decât de design al platformelor și practici comerciale, cercetătorii au afirmat că platformele tind să comunice aceste probleme în moduri care transferă responsabilitatea pentru prevenirea daunelor de la companiile care structurează aceste medii către tineri și familiile lor, chiar dacă multe dintre riscuri sunt modelate de decizii pe care utilizatorii nu le pot vedea sau controla.
Cercetătorii speră că descoperirile vor ajuta la informarea liniilor directoare pentru comunicarea responsabilă despre caracteristicile de siguranță pentru tineri.
Un alt studiu, care a primit un premiu de recunoaștere a impactului la CSCW 2026, analizează modul în care chatbot-urile AI se compară cu oamenii în oferirea de sfaturi persoanelor care îngrijesc pe cineva cu boala Alzheimer.
În cadrul acestui studiu, cercetătorii au analizat răspunsurile la 85 de întrebări reale de îngrijitori trimise de utilizatori pe ALZConnected, o comunitate online axată pe îngrijirea demenței. Folosind 28 de măsuri ale unor factori precum stilul lingvistic, conținutul emoțional și cel clinic, au evaluat răspunsurile la aceleași întrebări din partea a patru grupuri de respondenți: îngrijitori pe care îi ajută, medici, ChatGPT și CareGPT, un chatbot special antrenat pe discuții de suport între colegi.
Rezultatele au relevat un model constant: îngrijitorii pe care îi ajută au oferit narațiuni ancorate în timp și în comunitate; clinicianții au oferit ghidare concisă, orientată spre sfaturi; iar chatbot-urile au generat un ton formal, elaborat, foarte structurat. Este demn de menționat că analiza nu a arătat o diferență semnificativă între răspunsurile CareGPT și ChatGPT, sugerând că antrenamentul special al CareGPT nu a adus îmbunătățiri semnificative în umanizarea răspunsurilor chatbot-ului.
În general, chatbot-urile au obținut scoruri mai mari decât îngrijitorii pe care îi ajută în ceea ce privește politețea și sprijinul emoțional și au fost comparabile cu clinicianții în ceea ce privește informativeness și alinierea cu medicul. Cu toate acestea, răspunsurile chatbot-urilor au fost mai puțin narative, mai puțin situate în context și mai concentrate pe oferirea de sfaturi, în timp ce respondenții umani, în special îngrijitorii pe care îi ajută, au abordat o gamă mai largă de probleme, incluzând procesarea emoțională, probleme legale/financiare și îngrijiri zilnice.
„Trebuie să fim atenți să nu echivalăm un răspuns generat de AI, care sună bine și de sprijin, cu un suport semnificativ”, a afirmat Wisniewski. „Chatbot-urile erau foarte bune în a suna utile, dar îngrijirea este complicată, emoțională și profund contextualizată. Îngrijitorii umani au adus experiențe trăite și au scos în evidență probleme pe care AI-ul le-a ratat adesea. Asta contează, deoarece pe măsură ce aceste sisteme devin mai integrate în sănătate și îngrijire, riscul este să proiectăm pentru aparența suportului în locul complexității complete a ceea ce au cu adevărat nevoie oamenii.”
În luna aceasta, Wisniewski va participa la o întâlnire a experților care examinează modul în care utilizarea tehnologiei digitale afectează dezvoltarea creierului. Este membru al comitetului de planificare pentru atelierul „Tehnologii digitale și creierul în dezvoltare: perspective din neuroștiință” al Academiilor Naționale de Științe, Inginerie și Medicină. Atelierul va avea loc pe 26 octombrie și este deschis publicului.
