Un nou cadru stabilește principii pentru inteligența artificială orientată spre sănătate
Inteligența artificială devine rapid parte integrantă a modului în care oamenii caută, interpretează și acționează pe baza informațiilor legate de sănătate.
Cu toate acestea, tehnologia avansează mai repede decât dovezile necesare pentru a determina dacă aceste sisteme ajută oamenii să înțeleagă ce este important, să ia decizii informate și să știe ce trebuie să facă în continuare.
O nouă perspectivă condusă de profesorul Rebecca K. Ivic de la Universitatea din Alabama, împreună cu Scott C. Ratzan de la CUNY SPH și Ruth M. Parker de la Emory University School of Medicine, introduce conceptul de inteligență artificială orientată spre sănătate și propune patru principii pentru proiectarea și guvernarea comunicării în domeniul sănătății mediate de AI: înțelegere, capacitate de acțiune, responsabilitate și proporționalitate.
„Implementăm AI în contexte de sănătate mai repede decât construim dovezile necesare pentru a ști dacă aceasta ajută oamenii să înțeleagă, să decidă și să acționeze”, afirmă Ivic.
Pe măsură ce sistemele AI sunt utilizate pentru a răspunde la întrebări legate de simptome, a rezuma indicațiile de sănătate, a interpreta riscurile și a susține deciziile, un răspuns tehnic plauzibil poate fi oferit, dar poate să nu comunice cât de urgentă este o situație, cât de sigură este informația, ce alternative există, când este necesară o îngrijire profesională și cum să se obțină judecata și dialogul uman pentru o decizie adecvată.
Autorii definesc AI orientată spre sănătate ca fiind AI proiectată pentru a alinia informațiile, indicațiile și responsabilitatea cu abilitățile, contextul și nevoile utilizatorilor. Cadrele propuse îndreaptă atenția nu doar asupra acurateței tehnice a informației generate de AI, ci și asupra capacității oamenilor de a înțelege ce înseamnă acea informație, de a lua decizii informate și de a determina ce trebuie să facă mai departe.
Cele patru componente sunt:
- Înțelegere: Oamenii pot interpreta rezultatele generate de AI în raport cu limba, cunoștințele anterioare și circumstanțele lor?
- Capacitate de acțiune: Informația susține acțiuni semnificative și informate, inclusiv alegeri clare și pași următori?
- Responsabilitate: Dovezile, incertitudinile, limitările și responsabilitatea sunt vizibile?
- Proporționalitate: Cantitatea și urgența indicațiilor se potrivesc cu miza situației?
Împreună, aceste componente oferă o bază pentru a considera dacă comunicarea mediată de AI este adecvată în contexte relevante pentru sănătate.
„Având în vedere toate discuțiile și avertizările legate de potențialele daune ale AI, avem nevoie de gândire, cercetare și analiză expertă care să protejeze oamenii de posibilele riscuri, în timp ce realizăm promisiunile acestei noi tehnologii pentru sănătate”, spune Ratzan.
„Este AI în sănătate graalul sacru sau turnul din Babel?” întreabă Parker. „În medicină, există întrebări imediate: Toți oamenii pot înțelege și folosi în siguranță ceea ce aceste sisteme le spun pentru a îmbunătăți rezultatele de sănătate? Este utilizarea sa rentabilă și, de asemenea, aliniată cu valorile noastre umane?”
Cadrele propuse se bazează pe decenii de cercetare în domeniul alfabetizării în sănătate, care a examinat din ce în ce mai mult nu doar abilitățile individuale, ci și modul în care guvernele, organizațiile și sistemele facilitează sau îngreunează înțelegerea și utilizarea informațiilor de sănătate. De peste 30 de ani, Parker și Ratzan au contribuit semnificativ la acest domeniu, inclusiv prin cercetări privind alfabetizarea în sănătate ca o preocupare sistemică și politică. Ivic propune un model nou pentru mediul informațional digital de astăzi, examinând modul în care platformele, instituțiile și tehnologiile emergente conturează producția, interpretarea și utilizarea informațiilor de sănătate.
În loc să plaseze întreaga povară pe umerii indivizilor de a interpreta informațiile automate din ce în ce mai complexe, AI orientată spre sănătate întreabă cum designul și guvernarea sistemelor AI pot sprijini înțelegerea și acțiunea informată. Autorii provocă, de asemenea, designerii să își imagineze cum AI ar putea ajuta la implementarea accesibilității îngrijirii de sănătate, un obiectiv de lungă durată, bine recunoscut, pe care nu l-am atins.
„Acest model oferă cercetătorilor, dezvoltatorilor și regulatorilor o modalitate comună de a aborda o întrebare mai semnificativă”, afirmă Ivic. „Întrebarea nu este doar dacă AI poate genera un răspuns, ci dacă oamenii pot înțelege, utiliza și acționa corespunzător pe baza acestuia. AI orientată spre sănătate ar trebui să facă o parte mai mare din muncă de a face informațiile de sănătate de calitate ușor de înțeles, acționabile și responsabile, cu designul și guvernarea colaborând pentru a avansa AI responsabil în domeniul sănătății.”
Autorii susțin că acest lucru este deosebit de important în situații cu mize ridicate sau ambigue. Sistemele AI ar trebui să facă distincția între informare, consiliere și decizie și să clarifice aceste roluri pentru utilizatori. Când rezultatul automat este insuficient, sistemele ar trebui să identifice, de asemenea, când este necesară judecata umană, evaluarea clinică sau deliberarea etică.
„Scopul nu este să facem oamenii mai buni în navigarea informațiilor din ce în ce mai complexe generate de AI”, spune Ivic. „Scopul este de a oferi domeniului o modalitate de a începe să măsoare dacă acest lucru se întâmplă cu adevărat.”
Perspectiva susține că alfabetizarea în sănătate nu ar trebui să implice doar adaptarea oamenilor la tehnologii din ce în ce mai complexe. Pe măsură ce AI devine un intermediar din ce în ce mai important între oameni și informațiile de sănătate, sistemele în sine ar trebui să fie proiectate în jurul persoanelor care trebuie să le înțeleagă și să le folosească.
Autorii fac apel la adoptarea principiilor de AI orientată spre sănătate pentru a informa designul, evaluarea, cercetarea și guvernarea în ecosistemele AI relevante pentru sănătate. De asemenea, ei subliniază o lacună importantă în dovezi: este necesară mai multă cercetare pentru a determina dacă AI îmbunătățește într-adevăr înțelegerea, luarea de decizii informate și acțiunile legate de sănătate.
„AI în domeniul sănătății oferă fără îndoială oportunități de inovație, dar este nevoie de mai multă cercetare, reglementări și măsuri de protecție pentru a asigura că beneficiile sale depășesc clar riscurile”, afirmă Parker. „Designul și utilizarea sa trebuie să îmbunătățească abilitățile utilizatorilor de a înțelege și de a lua decizii care îmbunătățesc sănătatea, sunt accesibile și aliniate în mod constant cu valorile noastre umane.”
