Diagnosticările greșite influențează responsabilitatea spitalului în cazul implicării active a medicilor
Cercetările recente sugerează că spitalele ar putea avea nevoie de o supraveghere mai cuprinzătoare decât cea simbolică, arătând că revizuirea amănunțită de către medici poate diminua reacțiile negative ale publicului atunci când diagnosticele asistate de AI cauzează daune.
Inteligența artificială (AI) este din ce în ce mai utilizată în domeniul sănătății pentru sarcini precum diagnosticarea, planificarea tratamentului, comunicarea cu pacienții și operațiunile clinice. Totuși, în cazul în care aceasta este implicată în erori de diagnostic sau evenimente adverse care dăunează pacienților, reacțiile publicului pot fi negative, sugerează constatările experimentale, conform unui studiu recent publicat în revista npj Digital Public Health. Autorii notează de asemenea că acest fenomen este mai puțin pronunțat atunci când medicii rămân implicați substanțial și interactiv în procesul decizional asistat de AI.
Utilizarea AI în domeniul sănătății, pe lângă câștigurile așteptate în eficiență și performanță, implică riscuri de evenimente adverse legate de AI, „leziuni neintenționate cauzate de managementul medical”, în special atunci când rezultatele generate de AI sunt incorecte sau incomplete și sunt aplicate în îngrijirea pacientului. Acestea pot fi urmate de o scădere a încrederii pacienților în spital, deteriorarea reputației acestuia și acțiuni legale.
Puțină cercetare a fost efectuată asupra modului în care reacționează publicul la astfel de evenimente, în special în ceea ce privește atribuirea responsabilității și vinovăției spitalelor. Spitalele sunt o țintă evidentă, deoarece acestea supraveghează implementarea și monitorizarea sistemelor AI prin structura lor organizațională și sunt adesea considerate principalii furnizori de îngrijire, așa cum este cazul în Marea Britanie.
Raportul actual descrie două studii. Primul a examinat reacțiile publicului față de spitale în contextul unor evenimente adverse ipotetice implicând un diagnostic ratat. Acesta a variat în funcție de sursa interpretării diagnostice și de nivelul de implicare a medicului.
Primul studiu, care a inclus 299 de participanți online, a arătat că evenimentele adverse implicând AI erau mai susceptibile să genereze reacții negative îndreptate către spital, chiar și atunci când un endoscopist a revizuit rezultatul AI. Totuși, în acest caz, atribuirea responsabilității a fost semnificativ mai scăzută comparativ cu situația în care a fost utilizat doar AI, deși tot rămânea mai mare decât în cazul în care s-a utilizat exclusiv un diagnostic uman.
Al doilea studiu, care a inclus 602 participanți online, a examinat dacă colaborarea între un medic și AI influențează reacția publicului. Spre deosebire de primul studiu, care a analizat niveluri generale de colaborare, al doilea studiu a explorat modalități structurale distincte de colaborare, așa cum se întâmplă în viața reală. Participanții au fost repartizați aleatoriu în una dintre următoarele condiții: AI doar (diagnostic AI), uman doar (diagnostic radiolog fără asistență AI), colaborare uman-AI: autonom (conducerea AI, implicare umană scăzută), secvențial (radiologul a revizuit zonele semnalate de AI, implicare moderată), interactiv (radiologul a revizuit atât zonele semnalate de AI, cât și imaginea completă, integrând inputul AI într-o evaluare clinică independentă, implicare ridicată).
Scenariul a fost același în toate condițiile: un diagnostic de pneumonie a fost ratat, rezultând în daune pentru pacient.
În toate comparațiile, reacțiile publicului față de spital au fost mai nefavorabile atunci când a fost utilizat AI exclusiv sau cu implicare autonomă sau secvențială a medicului. Participanții au atribuit mai multă responsabilitate spitalului și erau mai predispuși să depună o plângere sau să considere acțiuni legale atunci când AI a fost implicat fără o implicare substanțială a medicului, comparativ cu o implicare semnificativă din partea unui medic uman. Colaborarea secvențială nu a schimbat semnificativ reacția negativă comparativ cu interpretarea exclusiv AI.
În modelul exclusiv uman sau în condiția de colaborare interactivă AI-medic, cu o implicare ridicată a medicului, participanții erau mai puțin înclinați să atribuie responsabilitate spitalului sau să depună o plângere împotriva acestuia. Acțiunile legale erau mai puțin probabile în condiția de colaborare interactivă decât în cazul utilizării exclusiv AI.
Aceste constatări subliniază valoarea potențială de protecție și asigurare a unei supravegheri umane cu un nivel ridicat de implicare în sarcinile integrate AI în domeniul sănătății. Acest lucru sugerează că o supraveghere vizibilă și cuprinzătoare din partea medicilor ar putea fi valoroasă pentru a asigura pacienții cu privire la îngrijirea asistată de AI.
Cercetătorii au folosit situații ipotetice, deoarece nu este etic să se inducă scenarii adverse reale. Participanții au fost în principal recrutați din Marea Britanie, deși analizele suplimentare raportate au arătat că modelele observate nu au variat sistematic între țări.
Aceasta este unul dintre primele studii care examinează reacțiile publicului la evenimente adverse asociate cu utilizarea AI în spitale. Studiul demonstrează că reacțiile publicului față de spitalele asociate cu evenimente adverse implicând AI sunt mai negative decât pentru evenimentele adverse comparabile doar umane, mai ales fără niveluri ridicate de implicare umană a medicului. Participanții au atribuit mai multă responsabilitate acestor spitale și au raportat probabilități mai mari de a depune plângeri și de a urmări acțiuni legale, iar spitalele au fost în continuare considerate responsabile pentru deciziile asistate de AI. Deși AI poate fi utilizată ca parte a fluxurilor de lucru clinice, spitalele au fost percepute ca fiind responsabile pentru adoptarea, implementarea și supravegherea utilizării AI. Rolul unei comunicări clare și al designului fluxurilor de lucru în menținerea eficienței asociate AI fără a risca pierderea încrederii pacienților rămâne de evaluat.
Cercetările viitoare ar trebui să examineze, de asemenea, gradul variat de responsabilitate pe care publicul îl atribuie medicilor, dezvoltatorilor de AI și spitalelor pentru greșelile comise în timpul îngrijirii susținute de AI. O altă direcție de cercetare implică diferențele în reacțiile la diferite grade de rezultate pentru pacienți.
