Erorile AI au influențat deciziile medicilor, în ciuda dovezilor contradictorii
Cercetătorii au descoperit că medicii au continuat să urmeze indicațiile unui sistem AI care a clasificat greșit pacienții fictivi, chiar și atunci când rezultatele tratamentului au arătat că clasificările erau incorecte.
Un studiu recent publicat în revista PLOS Digital Health a analizat dacă medicii pot să ignore clasificările eronate bazate pe inteligență artificială (AI) atunci când au acces la informații relevante despre rezultatul tratamentului.
În cadrul studiului, medicii au decis dacă să administreze un medicament fictiv pacienților clasificați greșit de sistemul AI ca fiind mai sau mai puțin sensibili la tratament. În al doilea experiment, tratamentul a fost folosit ca model de pseudomedicină, prezentat ca fiind potențial util, dar neprobat eficient, utilizat în principal pentru a studia percepțiile privind eficiența tratamentului.
Participanții au avut, în general, încredere în clasificarea AI pentru a-și informa judecățile clinice și au avut dificultăți în a folosi rezultatele pacienților pentru a corecta erorile, chiar și atunci când informațiile relevante erau disponibile. Deși medicamentul a fost complet ineficace în al doilea experiment, participanții au evaluat, în general, că acesta era eficient.
Aceste concluzii sugerează că medicii ar trebui să evalueze critic clasificările pacienților generate de AI, cu toate că experimentele online simplificate nu stabilesc direct modul în care medicii s-ar comporta în practica clinică de zi cu zi.
Pe măsură ce sistemele digitale și fluxurile de lucru computerizate se extind, modelele bazate pe AI sunt din ce în ce mai utilizate în practica clinică. Aceste modele pot ajuta profesioniștii din domeniul sănătății în clasificarea pacienților și estimarea riscurilor de boală.
Algoritmii AI pot, de asemenea, să prezică răspunsul la tratament, ghidând astfel alocarea resurselor pentru a îmbunătăți îngrijirea și a reduce povara asupra sistemului de sănătate. Totuși, aceste modele pot trasa inferențe din date învechite, incorecte sau incomplete. De asemenea, modelele pot fi antrenate pe date omogene, dar aplicate pe populații diverse. Din această cauză, estimările bazate pe AI pot fi inexacte. Se așteaptă ca profesioniștii din domeniul sănătății să recunoască și să corecteze erorile AI, în special când informațiile critice sunt disponibile.
În cadrul studiului, cercetătorii au investigat dacă profesioniștii din domeniul sănătății pot identifica și corecta erorile AI. Aceștia au desfășurat două experimente cu eșantioane finale separate de 105 și 118 participanți, rezultând un eșantion combinat de 223 de medici auto-reportați, recrutați prin platforma de sondaje Prolific.
Participanții vorbeau fluent engleza și s-au auto-reportat ca fiind medici activi în mediile de sănătate. Aceștia și-au raportat specialitatea și anii de experiență profesională. În Experimentul 1, participanții au evaluat în ce măsură considerau sistemul AI ca fiind de încredere. Au completat, de asemenea, Scala Generală a Atitudinilor față de AI (GAAIS), care a măsurat atitudinile lor față de utilizarea AI. Aceste măsuri nu au fost incluse în Experimentul 2.
În fiecare experiment, participanții au interacționat cu un sistem AI care a clasificat greșit 60 de pacienți fictivi în grupuri de mai puțin și mai mult sensibili la un medicament investigational utilizat pentru tratarea unei boli rare cunoscută sub numele de sindromul Lyndsay. Deși pacienții au fost plasați în categorii definite de AI, aceștia au răspuns similar la tratament în fiecare experiment. În Experimentul 1, șapte din zece pacienți s-au recuperat după ce au primit medicamentul, comparativ cu două din zece care s-au recuperat fără tratament. În Experimentul 2, 7 din 10 pacienți s-au recuperat fie că au primit, fie că nu au primit medicamentul, indicând că tratamentul era complet ineficace.
Medicii participanți au decis dacă să ofere medicamentul acestor pacienți și au primit imediat feedback la nivel de pacient, indicând dacă fiecare pacient s-a recuperat. Pe parcursul încercărilor, aceste rezultate le-au permis participanților să deducă că ambele grupuri clasificate de AI au răspuns similar și că, prin urmare, clasificarea era incorectă. În experimentul inițial, medicamentul a fost moderat eficace pentru ambele tipuri de pacienți. În experimentul următor, medicamentul a fost ineficace în ambele grupuri.
Participanții aveau o vârstă medie de 38,6 ani în Experimentul 1 și de 36,6 ani în Experimentul 2. Experiența profesională medie a fost de 13,1, respectiv 10,6 ani. Cele mai comune specialități în Experimentul 1 au fost Medicina Generală și Pediatria, iar în Experimentul 2, Medicina Generală și Medicina Internă. În Experimentul 1, participanții au evaluat, în general, sistemul AI ca fiind destul de fiabil, cu un scor mediu de 3,65 din 5. Scorul mediu al atitudinii pozitive a fost de 3,7, indicând o viziune general favorabilă asupra AI. Deși participanții care au avut o viziune mai pozitivă asupra AI au tendința de a-l evalua ca fiind mai fiabil, îngrijorările legate de AI nu i-au făcut neapărat să-l considere mai puțin fiabil.
În ambele experimente, medicii participanți au avut, în mare parte, încredere în clasificarea AI, în ciuda primirii rezultatelor pacienților care ar fi putut fi folosite pentru a o contesta. Aceștia au avut dificultăți în a-și actualiza judecățile pe baza dovezilor la nivel de pacient, care au arătat constant același model de răspuns la tratament în ambele grupuri clasificate de AI. Participanții păreau să nu integreze complet rezultatele recuperării pacienților necesare pentru a recunoaște că clasificarea AI era inexactă.
În Experimentul 1, participanții au administrat tratamentul la 89,3% dintre pacienții clasificați ca fiind foarte sensibili, comparativ cu 55,7% dintre cei clasificați ca fiind puțin sensibili. În Experimentul 2, aceștia au administrat tratamentul ineficace la 78,3% dintre pacienții dintr-un grup și 36,8% din celălalt grup.
Medicii participanți au judecat greșit că medicamentul ar fi mai eficace în rândul indivizilor clasificați ca fiind mai sensibili. În realitate, în al doilea experiment, aceștia nu au reușit să recunoască că medicamentul era ineficace, ridicând îngrijorări cu privire la siguranța pacienților dacă se repetă modele similare în practica clinică. Totuși, studiul a folosit o sarcină fictivă foarte controlată și nu a testat deciziile luate în medii clinice reale.
Concluziile din Experimentul 2 demonstrează că participanții au supraestimat, în general, eficiența unui tratament care era, de fapt, complet ineficace. Aceștia au făcut acest lucru în ciuda primirii informațiilor despre rezultate de la fiecare pacient. Aceste constatări sugerează că modelele de clasificare AI eronate pot influența deciziile de tratament și evaluările de eficiență ale medicilor în condiții experimentale controlate. Prin urmare, profesioniștii din domeniul sănătății ar trebui să evalueze critic astfel de sisteme, pe măsură ce utilizarea AI în sănătate se extinde.
