Reglementarea AI-ului în sănătate trebuie să fie centrată pe pacient
Un nou comentariu publicat în Journal of the Royal Society of Medicine atrage atenția că abordările actuale de reglementare a inteligenței artificiale (AI) în domeniul sănătății, bazate pe evaluarea riscurilor, sunt insuficiente pentru protejarea pacienților.
Aceste lacune pot conduce la tratamente inadecvate, fie prin supratratare, fie prin subtratare, dar și la discriminarea anumitor grupuri de pacienți.
Autorii studiului subliniază că, deși sistemele de AI și învățare automată pot îmbunătăți acuratețea clinică, persistă îngrijorări legate de inexactitate, opacitate și potențialul de prejudecată al acestora, aspecte care nu sunt suficient abordate de reglementările actuale propuse prin Legea AI a Uniunii Europene.
Legea AI, adoptată în 2025, clasifică AI-ul medical drept „de mare risc” și introduce controale stricte pentru furnizori și utilizatori. Totuși, autorii argumentează că acest cadru bazat pe riscuri ignoră trei probleme esențiale: preferințele individuale ale pacienților, efectele sistemice și pe termen lung ale implementării AI și dezinteresul pacienților în procesele de reglementare.
Fiecare pacient are valori diferite în ceea ce privește acuratețea, prejudecățile sau rolul AI în îngrijirea sa. Reglementarea trebuie să depășească siguranța la nivel de sistem și să ia în considerare drepturile și participarea individuală.
Autorii solicită introducerea unor drepturi pentru pacienți în legătură cu diagnosticarea sau planificarea tratamentului generate de AI, inclusiv dreptul de a:
solicita o explicație;
da sau retrage consimțământul;
căuta o a doua opinie;
refuza diagnosticul sau screening-ul bazat pe date publice, fără consimțământ.
Ei avertizează că, fără o implicare urgentă din partea actorilor din domeniul sănătății – inclusiv clinicieni, reglementatori și grupuri de pacienți – aceste drepturi riscă să rămână neglijate în fața evoluției rapide a AI în domeniul sănătății.
„AI transformă îngrijirea medicală, dar nu trebuie să o facă în detrimentul autonomiei și încrederii pacienților”, a declarat Thomas Ploug, autor principal, profesor de etică a datelor și AI la Universitatea Aalborg, Danemarca. „Este timpul să definim drepturile care vor proteja și împuternici pacienții într-un sistem de sănătate bazat pe AI.”
