Echipele umane-AI îmbunătățesc sănătatea doar când clinicienii păstrează controlul
O revizuire majoră arată că AI poate ajuta clinicienii să lucreze mai repede și mai precis, dar numai atunci când sistemele sunt construite în jurul fluxurilor de lucru clinice reale, cu încredere calibrată și responsabilitate clară.
O nouă revizuire disponibilă ca articol în presă în jurnalul npj Digital Medicine discută dovezile recente privind utilitatea colaborării între oameni și inteligența artificială (AI) în domeniul sănătății.
Aplicarea AI în domeniul sănătății crește rapid în cadrul sarcinilor clinice, inclusiv documentația medicală, trierea și prioritizarea sarcinilor, interpretarea imaginilor și coordonarea îngrijirii.
Cu toate acestea, în mediile de sănătate în care se iau decizii critice, utilitatea AI nu poate fi evaluată doar prin compararea performanței sistemului AI cu cea a clinicianului. Este necesară o colaborare între oameni și sistemele AI care funcționează sub supraveghere umană semnificativă în astfel de medii, unde siguranța pacientului, responsabilitatea profesională și luarea deciziilor în context sunt cele mai importante.
Politicile și reglementările relevante pentru sănătate, inclusiv Organizația Mondială a Sănătății (OMS), Actul AI al Uniunii Europene și Administrația pentru Alimente și Medicamente din SUA (FDA), au subliniat că implementarea sistemelor AI în medii critice de sănătate ar trebui să fie monitorizată și ghidată de profesioniști calificați, susținută de măsuri de supraveghere umană pentru a minimiza riscurile pentru sănătate, siguranță și drepturi fundamentale.
În această revizuire, autorii au analizat dovezile recente privind colaborarea uman-AI în domeniul sănătății, concentrându-se pe evaluarea eficienței AI în sarcinile clinice, determinanții tehnici, umani și organizaționali ai colaborării de succes, precum și cerințele etice, de siguranță și de guvernanță pentru o colaborare responsabilă.
Revizuirea a inclus un total de 140 de studii empirice publicate între 1 ianuarie 2015 și 27 octombrie 2025, extrase din 17.463 de înregistrări. În general, aceste studii au raportat mai multe beneficii ale colaborării uman-AI în domeniul sănătății; cu toate acestea, autorii au observat că aceste beneficii sunt greu de comparat în funcție de contexte.
Analiza, concentrată pe trei domenii principale, a relevat că eficiența acestei colaborări depinde de sarcină și că încrederea, integrarea fluxului de lucru și instruirea sunt determinanți majori ai colaborării de succes. De asemenea, analiza a evidențiat un decalaj persistent între așteptările de guvernanță pentru supravegherea umană și evaluările pe care aceste studii le analizează.
Referitor la evaluarea eficienței AI în sarcinile clinice, analiza a relevat o dependență clară de sarcină: eficiența colaborării uman-AI variază în funcție de contextul sarcinii, subliniind necesitatea de a pune accent pe diferite măsuri de rezultat. De asemenea, analiza a indicat că eficiența a fost de obicei evaluată folosind metrici pe termen scurt la nivelul sarcinii, mai degrabă decât rezultate pentru pacienți sau sistem.
În ceea ce privește determinanții tehnici, umani și organizaționali ai colaborării de succes, analiza a arătat că colaborarea este asociată cu mai multe beneficii, inclusiv îmbunătățirea performanței, munca mai rapidă și o acceptare mai mare, în funcție de adaptarea sistemului la fluxul de lucru și distribuția sarcinilor.
Beneficiile cele mai clare și mai constant raportate au fost observate atunci când AI a fost utilizată pentru sarcini specifice, bine definite, cum ar fi prioritizarea cazurilor, evidențierea zonelor sau redactarea textului, iar clinicianții au păstrat responsabilitatea pentru decizia finală.
Cele mai ample și standardizate dovezi privind colaborarea uman-AI au fost obținute pentru interpretarea diagnostică, în timp ce dovezile mai mici și mai heterogene au fost obținute pentru screening și prioritizarea sarcinilor, luarea deciziilor terapeutice și sarcinile administrative sau de documentare.
Majoritatea studiilor care au analizat interpretarea diagnostică au raportat beneficii ale implementării sistemelor de colaborare uman-AI. Studiile care au analizat alte domenii de sarcini clinice au raportat, de asemenea, frecvent rezultate mai pozitive decât neutre sau negative.
Printre cerințele etice, de siguranță și de guvernanță, analiza a identificat responsabilitatea și siguranța pacientului ca cele mai frecvent discutate subiecte. Cu toate acestea, aceste subiecte au fost rareori considerate în evaluarea principală, evidențiind decalajul dintre așteptările politice pentru supravegherea umană și ceea ce studiile testează efectiv.
Revizuirea subliniază importanța crescândă a colaborării uman-AI ca mod important pentru implementarea sigură și eficientă a sistemelor bazate pe AI în domeniul sănătății. Cu toate acestea, în ciuda creșterii rapide, baza de dovezi rămâne inconsistentă în funcție de tipurile de sarcini, de designul studiilor și de conceptualizările colaborării.
În baza concluziilor revizuirii, autorii au recomandat ca evaluarea eficienței colaborării să fie mai specifică în funcție de sarcină și context. Eficiența nu ar trebui considerată ca un singur construct în cadrul sarcinilor clinice și administrative. Studiile viitoare ar trebui să evalueze colaborarea uman-AI folosind măsuri de rezultat care să reflecte nu doar precizia și eficiența, ci și impactul asupra fluxului de lucru, povara cognitivă și rezultatele pentru pacienți și sistem.
Mai mulți factori umani și organizaționali, inclusiv calibrul încrederii, designul interfeței, integrarea fluxului de lucru și instruirea, pot determina succesul colaborării uman-AI. Sistemele care permit clinicianților să păstreze responsabilitatea finală în timp ce aplică AI la sarcini specifice și bine definite sunt cele mai susceptibile de a beneficia de colaborare.
Autorii au mai afirmat că responsabilitatea și siguranța pacientului trebuie considerate ca măsuri etice fundamentale în studiile viitoare. Supravegherea umană de una singură nu este suficientă decât dacă este susținută de transparență, contestabilitate, trasabilitate și o guvernanță organizațională clară cu privire la modul în care AI influențează deciziile în practică.
Fiind o revizuire de tip scoping, autorii nu au efectuat o evaluare formală a riscului de bias sau a biasului de publicare, ceea ce limitează certitudinea și comparabilitatea constatărilor și nu oferă o estimare agregată a eficacității clinice. Autorii au mai menționat că revizuirea a fost restricționată la studii în limba engleză, nu a inclus o căutare dedicată a literaturii gri și s-a concentrat pe studiile controlate de interpretare diagnostică, ceea ce poate supra-reprezenta constatările pozitive.
În general, aceste constatări oferă o bază pentru o evaluare mai specifică în funcție de sarcină, longitudinală și conștientă de guvernanță a colaborării uman-AI în domeniul sănătății.
