Studiul evidențiază abuzuri extinse legate de imagini intime generate de inteligența artificială fără consimțământ
Unul din 15 adulți a experimentat abuzuri legate de imagini generate de inteligența artificială, conform unui nou studiu.
Cercetarea, care a implicat un sondaj în rândul a peste 7.200 de adulți din Statele Unite, Regatul Unit și Australia, a relevat că 7% dintre respondenți au suferit cel puțin o formă de abuz legat de imagini intime generate de AI după împlinirea vârstei de 18 ani.
Printre aceste abuzuri se numără crearea sau modificarea unei imagini intime a persoanei respective fără consimțământ, distribuirea unei imagini intime generate de AI fără consimțământ sau amenințarea cu divulgarea unei astfel de imagini.
Aproape 87% dintre supraviețuitorii abuzurilor au raportat cel puțin un impact asupra vieții lor, incluzând efecte asupra sănătății și bunăstării, relațiilor, muncii sau finanțelor.
Profesorul Nicola Henry de la RMIT University din Australia a condus acest studiu cu sprijinul Google, subliniind că rezultatele arată amploarea abuzului în comunitate.
„Acum avem dovezi despre cât de răspândit este abuzul legat de imagini intime generate de AI, afectând nu doar celebrități și figuri publice”, a declarat ea.
„Scara reală poate fi chiar mai mare, deoarece unii oameni s-ar putea să nu afle niciodată că imagini generate de AI cu ei au fost create sau distribuite.”
Rate mai ridicate ale abuzului au fost raportate de persoanele cu vârsta sub 35 de ani, cei din minorități rasiale și etnice, bărbați și persoanele cu dizabilități.
Bărbații au raportat experiențe de abuz la o rată de peste două ori mai mare decât femeile, 10,2% comparativ cu 3,8%.
Cu toate acestea, femeile au raportat reacții și efecte negative mai severe, inclusiv frica pentru siguranța lor și efecte asupra sănătății mentale și fizice. Aceasta poate reflecta inegalitățile de gen mai largi, stigmatizarea și riscurile de siguranță cu care se confruntă femeile într-o măsură disproporționată.
Henry a menționat că rezultatele indică faptul că oricine poate fi afectat de acest tip de abuz, dar atât riscul de a experimenta abuzul, cât și consecințele sale nu sunt distribuite uniform.
„Pe măsură ce AI generativ devine mai accesibil, există un potențial mai mare pentru aceste instrumente să fie folosite greșit pentru a crea, distribui sau amenința cu distribuirea imaginilor intime fără consimțământ”, a afirmat ea.
„Ce nu știm încă este cât de repede se transformă acest lucru în creșterea victimizării.”
Cele mai recente descoperiri, publicate în International Journal of Human–Computer Interaction, completează două studii anterioare care au folosit același set de date internațional.
Unul dintre studiile anterioare a constatat că 3,2% dintre respondenți au raportat că au creat, distribuit sau amenințat cu distribuirea de imagini sexuale generate de AI fără consimțământ.
Printre cei care au distribuit materialul, cea mai frecvent menționată motivație a fost „pentru distracție sau ca o glumă”.
Un alt studiu a arătat că aproape unul din cinci adulți a vizionat deliberat imagini sexuale generate de AI ale unor persoane reale, excluzând aceia care au făcut acest lucru doar pentru a raporta sau elimina materialul.
Henry a subliniat că rezultatele întăresc necesitatea unei responsabilități mai mari din partea companiilor tehnologice pentru a preveni abuzurile legate de imagini intime generate de AI înainte de a se întâmpla.
„Datoria digitală de îngrijire propusă în Australia este o oportunitate de a schimba accentul de la răspunsul la abuz după ce acesta s-a întâmplat, la a solicita serviciilor online să prevină daunele previzibile”, a spus ea.
„Dar reglementarea și noile legi nu sunt suficiente. De asemenea, avem nevoie de o educație mai bună, de suport accesibil pentru supraviețuitorii abuzului și de o responsabilitate mai mare din partea companiilor tehnologice și a dezvoltatorilor pentru a construi siguranța în instrumentele și aplicațiile AI de la început.”
„Am colaborat cu cercetătorii de la Google timp de mult timp pentru a înțelege mai bine această problemă mai amplă și pentru a identifica unde sunt cele mai necesare eforturile de prevenire la nivelul industriei.”
Coautoarea Dr. Rebecca Umbach, cercetător în experiența utilizatorilor la Google, a afirmat că rezultatele oferă dovezi importante despre această formă de abuz.
„Înțelegerea celor care experimentează abuzuri legate de imagini intime generate de AI, modul în care acestea se produc și impactul pe care îl au asupra oamenilor este esențială pentru a proiecta măsuri mai eficiente de prevenire și reacție”, a spus Umbach.
„Cercetarea care aduce împreună expertiza academică și din sectorul tehnologic poate ajuta la identificarea locurilor unde intervențiile sunt cele mai necesare și cum tehnologia însăși poate fi parte din prevenirea răului.”
Echipa internațională își continuă munca pentru a înțelege mai bine și a preveni abuzurile legate de imagini intime generate de AI.
