Medicii se bazează adesea pe recomandări greșite ale inteligenței artificiale
În cadrul unor experimente în care medicii luau decizii privind tratamentul pacienților ipotetici, aceștia au avut tendința de a se baza pe sfaturi incorecte prezentate ca fiind generate de inteligența artificială (AI), chiar și după ce au avut ocazia să observe că datele de recuperare ale pacienților contraziceau recomandările.
Aranzazu Vinas de la Universitatea Țării Bascilor din Spania și colegii săi au publicat aceste descoperiri în jurnalul cu acces deschis PLOS Digital Health.
Sistemele AI pot ajuta medicii să categorizeze pacienții în funcție de nevoile lor de îngrijire, cum ar fi probabilitatea de a beneficia de un anumit tratament. Deoarece aceste sisteme nu sunt perfecte, ele sunt destinate a fi utilizate ca sugestii, cu posibile erori care să fie identificate și corectate de către medici.
Cercetările anterioare au arătat că, în general, oamenii se confruntă cu dificultăți în a observa și corecta greșelile făcute de AI. Pentru a explora cum această provocare s-ar putea extinde la medici, Vinas și colegii săi au analizat datele provenite de la 223 de medici care au participat anonim la experimente online.
Medicii au fost rugați să își imagineze că au opțiunea de a trata pacienți cu o boală rară folosind un tratament încă în dezvoltare. Aceștia au fost informați că un sistem AI a identificat care pacienți sunt mai mult sau mai puțin susceptibili să beneficieze de tratament. Ulterior, medicii au ales pacienții pe care doreau să îi trateze și, după ce au fost prezentați cu date despre recuperarea pacienților, au evaluat percepția lor asupra fiabilității sistemului AI.
Este esențial de menționat că eficiența reală a tratamentului ipotetic nu s-a aliniat cu recomandările AI. Într-un experiment, tratamentul a fost moderat eficient pentru toți pacienții, iar într-un alt experiment, acesta a fost complet ineficient pentru toți.
Cu toate acestea, în ambele experimente, medicii au avut tendința de a considera sistemul AI ca fiind fiabil și, aparent, nu au folosit datele de recuperare ale pacienților pentru a concluziona că recomandările AI erau greșite. În cel de-al doilea experiment, medicii nu au realizat că tratamentul era complet ineficient.
Aceste constatări evidențiază provocările potențiale legate de integrarea clasificării bazate pe AI în domeniul sănătății. Cercetările viitoare ar putea construi pe acest studiu, prin dezvoltarea și testarea strategiilor și protocoalelor care ar putea spori gândirea critică umană și detectarea erorilor AI, pentru a maximiza beneficiile colaborării om-AI și a minimiza posibilele erori.
Aranzazu Vinas subliniază: „În ambele experimente, medicii au avut în principal încredere în clasificările AI și au avut dificultăți în a învăța din feedback. În plus, în cel de-al doilea experiment, profesioniștii nu au observat că tratamentul era complet ineficient.”
Helena Matute adaugă: „Oamenii tind să spună că există întotdeauna un om care controlează algoritmul, dar experimentele noastre arată că medicii (la fel ca toți ceilalți) au probleme în a învăța din dovezile disponibile atunci când acestea contrazic sugestiile unui algoritm.”
Fernando Blanco rezumă: „Este important să investigăm erorile pe care oamenii (inclusiv medicii) le fac atunci când lucrează cu algoritmi, pentru a învăța cum să minimizăm problemele care apar din acestea.”
