Rezumatul generat de AI poate influența amintirile oamenilor despre evenimente
Rezumatele generate de inteligența artificială devin din ce în ce mai comune – de la previzualizări de articole de știri la transcrieri ale întâlnirilor de lucru și în contexte de înaltă responsabilitate, cum ar fi înregistrările video de la camerele de body-cam ale poliției – în ciuda studiilor care arată că AI-ul poate genera informații înșelătoare sau inexacte.
O nouă cercetare realizată de o echipă de specialiști de la Universitatea Georgetown și Universitatea din Washington sugerează că, atunci când sunt solicitate să rezume un videoclip, sistemele AI care oferă informații greșite pot manipula memoria oamenilor și percepția adevărului.
Studiul, intitulat „Manipularea memoriei umane prin intermediul AI: Rezumate generate de AI înșelătoare distorsionează memoria umană”, a fost publicat recent și va fi prezentat la a noua Conferință AAAI/ACM despre AI, Etică și Societate (AIES), o conferință academică supusă evaluării de către colegi, care va avea loc în octombrie 2026.
Mattea Sim, profesor asistent de cercetare la McCourt School of Public Policy din Georgetown, a coordonat cercetarea. Coautori ai studiului sunt Yoshi Kohno, titular al catedrei McDevitt în informatică, etică și societate și profesor la Departamentul de Informatică și Centrul pentru Etica Digitală din Georgetown, și Yael Eiger, doctorand la Universitatea din Washington.
„Acest studiu face parte dintr-un efort tot mai mare la Georgetown de a explora impactul și relația dintre AI și oameni, bazându-se atât pe psihologie, cât și pe informatică”, a declarat Kohno.
Printre concluziile importante se numără:
- Rezumatele AI pot omite detalii esențiale, confirmând constatări anterioare. Cea mai frecventă categorie de erori din acest studiu a fost omisiunea sau neîntreținerea menționării principalelor evenimente dintr-un videoclip animat care ilustra un accident între o mașină și un pieton. În medie, rezumatele au omis 51,6% din detaliile centrale. Toate, cu o singură excepție, au omis 95% din detaliul cel mai central al evenimentului din videoclipul animat: coliziunea dintre mașină și pieton.
- Un rezumat înșelător generat de AI poate distorsiona memoria oamenilor cu privire la un eveniment. În studiu, participanții au fost întrebați dacă mașina din videoclip s-a oprit la un semn „stop” sau „cedează trecerea”. Cercetătorii au descoperit că 83,6% din participanții care au citit un rezumat cu informații corecte despre videoclip au răspuns corect, în timp ce doar 44,8% din cei care au citit un rezumat înșelător au dat răspunsuri corecte.
- Oamenii pot fi susceptibili la dezinformare în rezumatele AI, indiferent dacă cred că rezumatul a fost scris de AI sau de un om. Impactul rezumatelor înșelătoare asupra memoriei umane în studiu nu a depins de încrederea sau familiaritatea oamenilor cu AI.
„AI este o nouă metodă de a transmite dezinformarea și are potențialul de a crea amintiri false pentru persoanele care citesc acele informații”, a declarat Sim. „Cred că ar trebui să ne gândim foarte profund și critic la modul în care AI ar trebui utilizat pentru a rezuma informațiile, mai ales în contexte de înaltă responsabilitate.”
Cercetătorii au adoptat două abordări distincte pentru a explora impactul rezumatelor AI asupra memoriei umane.
În primul rând, au analizat rezultatele rezumatelor generate de AI de către ChatGPT de la OpenAI și Gemini de la Google pentru a cuantifica frecvența și categoria erorilor apărute în rezumatele generate de AI. Studiul a constatat că rezumatele AI pot include frecvente erori, omite detalii esențiale, distorsionează informațiile și „hallucina” detalii inexacte.
„Am fost impresionată de cât de proaste erau rezumatele, chiar și în acest stadiu al dezvoltării AI”, a declarat Eiger, care își concentrează cercetarea pe tehnologia din sistemul carceral. „Mă îngrijorează că departamentele de poliție pot folosi tehnologii de rezumare video fără teste riguroase și fără conștientizarea modului în care rezumatele greșite generate de AI ar putea afecta.”
În partea experimentală, cercetătorii au solicitat participanților să vizioneze unul dintre cele două videoclipuri animate, care au fost create într-un studiu de replicare recent care a modernizat materialele dintr-un studiu clasic de memorie umană.
„Nu am folosit înregistrări video reale de la camerele de body-cam ale poliției”, a precizat Kohno.
Videoclipurile ilustrau o mașină roșie care se apropia de o intersecție cu un semn de „stop” sau „cedează trecerea”. (Participanții au fost repartizați aleatoriu pentru a vedea unul dintre cele două semne de circulație.) În videoclipuri, mașina virează la dreapta la o intersecție și lovește un pieton care intră pe drum. După ce a fost doborât, pietonul se ridică, iar șoferul iese din mașină, iar cei doi se întâlnesc.
În a doua parte a experimentului, la 24 până la 48 de ore după vizionare, participanții au fost repartizați aleatoriu pentru a citi un rezumat generat de AI, care era fie corect, fie conținea un detaliu inexact pe care cercetătorii l-au modificat. Înainte de a citi rezumatul, participanții au fost informați că acesta a fost redactat fie de AI, fie de un transcriptor uman. Textul rezumatului, însă, a fost generat integral de ChatGPT, iar în unele cazuri, părțile separate din răspunsurile ChatGPT au fost combinate pentru a asigura uniformitatea condițiilor experimentale.
Un total de 331 de persoane au finalizat ambele părți ale experimentului.
Participanții care au citit un rezumat înșelător generat de AI au fost semnificativ mai puțin predispuși să își amintească cu acuratețe evenimentul original, comparativ cu cei care au citit un rezumat corect, conform autorilor studiului. Chiar și atunci când participanții au fost informați că rezumatele au fost produse de AI, memoriile lor au fost totuși manipulate, au spus cercetătorii.
„Aceste descoperiri au implicații pentru modul în care AI ar trebui folosit în situații critice”, scriu Sim și colegii săi în studiu. „Deși se așteaptă ca „oamenii din cerc” să corecteze greșelile AI, munca noastră sugerează că memoria umană poate fi distorsionată în schimb de aceste greșeli. AI are potențialul de a genera dezinformare, chiar și în absența vreunei intenții oculte, ceea ce poate avea un impact semnificativ asupra memoriei umane.”
Pe măsură ce indivizii și societățile devin tot mai dependente de AI, Kohno speră că concluziile acestui studiu vor încuraja oamenii să fie din ce în ce mai conștienți că rezultatele AI pot avea un impact direct asupra percepției pe care oamenii o au asupra lumii.
Aceasta poate avea o semnificație deosebită în situații de înaltă responsabilitate, precum cele legate de poliție sau în domeniul medical.
„Sunt foarte interesată de toate tehnologiile care sunt
