Studiul ridică întrebări despre rolul AI în deciziile etice sensibile
Modelele de inteligență artificială (AI) prioritizează atribute diferite față de oameni în luarea deciziilor critice și nu manifestă indecizie, conform unui nou studiu realizat de cercetători de la Penn State, ceea ce ridică întrebări cu privire la rolul AI în sprijinul deciziilor etice, cum ar fi cele din domeniul medical.
Cercetătorii au folosit un scenariu ipotetic pentru a explora deciziile morale ale AI în situații critice: dacă există mai mulți pacienți care necesită un transplant de rinichi, dar doar un organ disponibil, cine ar trebui să primească rinichiul? Aceasta este întrebarea fundamentală investigată de laureatul Premiului Nobel, Alvin Roth, ca exemplu al provocării alocării resurselor rare. Echipa a examinat modul în care moralitatea influențează astfel de decizii, în loc să abordeze problema exclusiv prin designul mecanismelor, așa cum a făcut Roth.
Cercetătorii au comparat judecățile unor modele de limbaj mari cu cele date de persoane reale în studii anterioare, investigând în ce măsură modelele AI se aliniază sau nu cu valorile umane și dacă acestea manifestă indecizie în fața unor dileme etice dificile.
Rezultatele au arătat că chatbot-urile AI iau adesea decizii care diferă de judecata umană, simplificând excesiv deciziile complexe și având o încredere nejustificată atunci când nu există un răspuns clar. Aceste descoperiri au fost prezentate la conferința FAccT 2026, organizată de Association for Computing Machinery, în luna iunie. Studiul a fost publicat în lucrările conferinței.
„Deciziile morale în situații precum alocarea organelor determină direct cine trăiește și cine moare, așa că obținerea unui rol corect al AI în aceste decizii nu este opțională”, a declarat Hadi Hosseini, cercetător principal la Penn State. „Deși nu intenționăm să încurajăm utilizarea AI ca un substitut pentru judecata profesională în luarea deciziilor medicale sau în alte contexte critice, devine esențial să înțelegem comportamentul lor, pe măsură ce indivizii, organizațiile și firmele se bazează din ce în ce mai mult pe AI pentru a lua decizii sau a primi recomandări.”
Cercetătorii au realizat o serie de comparații directe: doi pacienți ipotetici, descriși prin atribute precum vârsta, numărul de persoane aflate în întreținere, starea de sănătate și obiceiurile de consum, ambii având nevoie de același rinichi. Aceștia au cerut mai multor chatbot-uri AI să decidă cine ar trebui să primească rinichiul, folosind aceleași scenarii prezentate participanților umani fără pregătire medicală în studii anterioare.
„Am realizat aceste comparații în câteva moduri diferite. Uneori, am izolat un singur atribut, alteori am combinat mai multe trăsături pentru a observa cum cântărește AI factorii concurenți, și uneori am adăugat opțiunea de a arunca o monedă pentru a măsura indecizia, un factor cheie prezent în judecata morală umană”, a spus Hadi Hosseini.
Cercetătorii s-au bazat pe seturi de date existente din studii publicate despre alocarea rinichilor, unde sute de participanți reali au făcut deja aceste alegeri. Astfel, au putut compara alegerile AI cu cele ale oamenilor.
Două descoperiri majore s-au remarcat, conform lui Hosseini. „În primul rând, chatbot-urile AI se abat adesea de la valorile umane în modul în care cântăresc trăsăturile unui pacient”, a afirmat el. „Ele se concentrează pe un singur factor, cum ar fi obiceiurile de consum, în loc să echilibreze mai multe considerații așa cum fac oamenii.”
În al doilea rând, cercetătorii au observat că AI nu se confruntă cu indecizia. În timp ce oamenii recunosc că nu există întotdeauna un răspuns corect, modelele AI aleg cu încredere oricum un răspuns. „Oamenii exprimă frecvent indecizie poate pentru că nu doresc să-și asume responsabilitatea”, a spus Hosseini. „Modelele AI aproape niciodată nu fac acest lucru: chiar și atunci când li se oferă opțiunea de a ‘arunca o monedă’, ele se angajează în mod covârșitor într-un răspuns determinist și încrezător. Aceasta este o diferență semnificativă, deoarece dilemele morale reale nu au adesea un răspuns corect clar.”
Hosseini a subliniat importanța abordării acestei diferențe prin cercetări și guvernanță continuă, implicând factori de decizie, reglementatori și alte părți interesate. „Întrebările despre capacitatea AI de a lua decizii morale sau dacă acestea se aliniază cu valorile umane sunt mai mult decât simple speculații filozofice, ele sunt esențiale în discursul actual despre AI,” a spus el. „Miza etică este ridicată, iar rolul AI în astfel de decizii care schimbă vieți necesită o reflecție profundă.”
Două studente de la College of IST au contribuit la această lucrare: Samarth Khanna, care își urmează doctoratul în informatică, și Leona Pierce, studentă în anul patru, distinsă cu titlul de Schreyer Scholar, care are trei specializări: științe ale datelor, matematică și statistică. Cercetătorii au colaborat cu John Dickerson.
„Când alocăm ceva rar, fie că este vorba de un rinichi, un loc de muncă sau acces la o altă resursă, nu există întotdeauna un singur răspuns corect obiectiv,” a afirmat Dickerson. „Oamenii recunosc această ambiguitate și o codifică prin dezbatere deschisă în procesul de alocare. Modelele AI adesea nu fac acest lucru.”
