Studii recente sugerează că IA descurajează interacțiunea socială pentru utilizatorii autiști
Atunci când oamenii solicită sfaturi de la modele de IA precum ChatGPT, ei împărtășesc adesea detalii personale în speranța de a obține răspunsuri mai bune: vârsta, sexul, istoricul de sănătate mintală, chiar și diagnostice medicale precum autismul.
Cercetările recente de la Virginia Tech sugerează însă că aceste dezvăluiri pot influența sfaturile oferite de modelele de IA, urmând adesea stereotipuri comune legate de persoanele cu autism. Până la 70% din timp, IA descurajează persoanele autiste să socializeze. Unii utilizatori s-au declarat nemulțumiți de această abordare.
În luna aprilie, studentul în anul doi la Departamentul de Informatică, Caleb Wohn, a prezentat lucrarea sa „Scriem o coloană de sfaturi pentru Spock aici? Înțelegerea stereotipurilor în sfaturile IA pentru utilizatorii autiști” la Conferința Asociației pentru Mașini de Calcul, cunoscută sub numele de CHI.
Cercetarea pe care a coordonat-o a explorat ce se întâmplă atunci când utilizatorii autiști își dezvăluie diagnosticul unui model de IA înainte de a solicita sfaturi sociale. Rezultatele ridică întrebări dificile cu privire la personalizarea răspunsurilor IA sau dacă acestea oferă sfaturi părtinitoare care întăresc stereotipurile.
„M-am gândit la experiențele mele de a crește cu autism,” a spus Wohn.
„Ar fi fost foarte tentant pentru mine, în anumite momente, să vreau să pot vorbi doar cu ceva care nu este o persoană, care pare obiectiv și simt că primesc un sfat obiectiv.”
Ca informatician, el s-a îngrijorat că mulți utilizatori ar putea să nu realizeze cât de mult pot schimba sistemele de IA răspunsurile în funcție de informațiile legate de identitate.
„Pentru cineva ca mine în copilărie, sau pentru cineva care nu este în domeniul IA și nu are toate aceste cunoștințe tehnice, vroiam să știu: Cum se vor schimba răspunsurile dacă dezvălui că sunt autist?” a adăugat Caleb.
Această cercetare se bazează pe studii anterioare realizate în laboratorul Eugeniei Rho, profesor asistent de informatică, care a descoperit că utilizatorii autiști se îndreaptă frecvent către instrumentele de IA pentru suport emoțional, ajutor în comunicarea interpersonală și sfaturi sociale.
Alți cercetători de la Virginia Tech implicați în proiect includ studenții la doctorat în informatică Buse Carik și Xiaohan Ding, precum și profesorul asociat Sang Won Lee. Young-Ho Kim, un om de știință cercetător la NAVER Corporation din Coreea de Sud, a colaborat, de asemenea, la studiu.
Această cercetare are loc într-un moment crucial, pe măsură ce tot mai mulți oameni folosesc sistemele IA – denumite tehnic modele de limbaj mari (LLM) – pentru decizii extrem de personale.
„Oamenii caută cu adevărat să personalizeze LLM-urile,” a afirmat Rho. „Dar dacă un utilizator spune modelului că este autist, o femeie sau orice altă autoidentificare, ce presupuneri va face?”
„Și cum vor colora acele presupuneri răspunsurile sale, iar ce impact ar putea avea asupra utilizatorilor?”
Pentru a răspunde acestor întrebări, echipa a identificat mai întâi 12 stereotipuri bine documentate asociate cu autismul și a creat sute de scenarii de luare a deciziilor în jurul acestora. Cercetătorii au testat șase modele majore de limbaj mare, inclusiv GPT-4, Claude, Llama, Gemini și DeepSeek, folosind mii de scenarii în care utilizatorii solicitau sfaturi („Ar trebui să fac A sau B?”) despre situații sociale, inclusiv evenimente, confruntări, experiențe noi și relații romantice.
După generarea a 345.000 de răspunsuri, au măsurat cum s-a schimbat sfatul atunci când utilizatorii și-au descris explicit trăsăturile stereotipice și când au dezvăluit că erau autiști. Cercetătorii au descoperit că dezvăluirea autismului a schimbat adesea recomandările modelelor către presupuneri stereotipice despre persoanele autiste, cum ar fi introversia, obsesiile, awkwardness-ul social sau lipsa de interes pentru romantism.
De exemplu, un model a recomandat refuzarea unei invitații sociale de aproape 75% din timp atunci când autismul a fost dezvăluit, comparativ cu aproximativ 15% din timp când nu a fost menționat. În scenariile de întâlniri, un alt model a recomandat evitarea romantismului sau rămânerea singur aproape 70% din timp după dezvăluirea autismului, comparativ cu aproximativ 50% atunci când autismul nu a fost menționat.
Rezultatele au arătat că 11 din cele 12 indicii stereotipice au influențat semnificativ deciziile modelelor în cel puțin patru din cele șase sisteme de IA testate.
Însă cercetătorii nu s-au oprit la statistici.
Echipa a intervievat 11 utilizatori autiști de IA și le-a arătat exemple de cum au răspuns modelele cu și fără dezvăluirea autismului. Unii dintre aceștia au fost șocați de faptul că rezultatele au arătat cât de mult se bazează LLM-urile pe stereotipuri în oferirea de sfaturi.
Unul dintre ei a exclamat: „Scriem o coloană de sfaturi pentru Spock aici?” – invocând celebrul personaj din serialul Star Trek, care prioritiza logica și rațiunea în detrimentul emoției. Alții au descris abordarea ca fiind restrictivă, paternalizantă sau infantilizantă, uneori folosind un limbaj destul de puternic.
Cu toate acestea, unii participanți au spus că sfaturile mai prudente, bazate pe dezvăluire, păreau valabile și susținătoare.
„Părtinirea unui utilizator ar putea fi personalizarea unui alt utilizator,” a afirmat Rho.
Acelși participant ar putea reacționa pozitiv într-o situație și negativ în alta. Această tensiune a dus cercetătorii la ceea ce ei numesc un „paradox al siguranței-opotunității.” Sfaturile care le par protective unora pot părea limitative altora.
Pentru Wohn, una dintre cele mai îngrijorătoare descoperiri a fost cât de greu poate fi pentru utilizatori să observe aceste tipare în timp real.
„IA este foarte bună la a părea de încredere,” a spus el. „Răspunsurile sale sunt foarte clare și profesionale, iar ele par corecte. Dar când te gândești la ele fiind implementate sistematic, când te gândești la tipurile de părtiniri sistematice care formează de fapt răspunsurile sale, atunci devine mult mai îngrijorător.”
El a comparat problema cu imaginile generate de IA.
„Ele arată foarte clare și lustruite, iar apoi când te uiți la detalii, lucrurile se destramă,” a spus Caleb. „Finisajul exterior este frumos, dar a privi mai profund devine din ce în ce mai greu, pentru că modelele devin mai bune în a masca.”
Echipa speră ca cercetarea lor să încurajeze dezvoltatorii să construiască sisteme de IA mai transparente, care să ofere utilizatorilor un control mai mare asupra modului în care informa
