Asistenții medicali reduc birocrația, dar apar îngrijorări privind acuratețea
Instrumentele de inteligență artificială sunt promovate ca soluții pentru timpul petrecut de medici după orele de lucru, dedicat compilării notelor pacienților.
Pe măsură ce spitalele adoptă din ce în ce mai mult scribii AI pentru a asculta și a lua notițe în timpul consultațiilor, datele generate de aceștia devin baza pe care se construiesc informațiile despre sistemul de sănătate, de la facturare la cercetare și luarea deciziilor clinice.
Această infrastructură în continuă schimbare este subiectul unui articol recent scris de Taofeeq Oluwatosin Togunwa, M.D. și Jodyn Platt, Ph.D., din Departamentul de Științe ale Învățării în Sănătate al Universității din Michigan.
În trecut, medicul sau clinicianul care lua notițele era filtrul pentru date. Acum, un sistem funcționează în acest proces, decidând ce devine și ce nu devine date.
Adesea, aceste sisteme sunt proprietare și utilizează date de antrenament opace.
„Ce se întâmplă dacă AI-ul nu este antrenat pe un anumit demografic al pacientului?”, s-a întrebat Togunwa. „De obicei, aceste modele sunt antrenate pe accente englezești și americane și apoi funcționează bine în cadrul acestei distribuții. Însă există literatură îngrijorătoare care arată că aceste modele nu performează la fel de bine cu persoane care au tipuri diferite de accente,” a subliniat el.
Halucinațiile generate de AI – fabrici introduse de acesta atunci când datele de intrare nu se potrivesc cu datele de antrenament – ajung astfel să facă parte din setul de date oficial.
Deși clinicienii ar trebui să verifice notele generate de mașină pentru acuratețe, „nu există un mare stimulent de a verifica fiecare linie dacă nota arată în general bine,” a menționat el.
În plus, scribii AI pot deveni mai puțin preciși în timp, dacă nu sunt actualizați periodic.
„Dacă datele din viața reală sunt substanțial diferite de datele de antrenament, încep să apară aceste provocări în care performanța modelului scade. Astfel, există o nevoie de a audita continuu aceste sisteme,” a adăugat el.
Pe lângă monitorizarea abaterilor, pentru a proteja infrastructura de date în fața noilor tehnologii, Platt subliniază importanța măsurării.
„Măsurarea este foarte importantă. Trebuie să măsurăm mai multe lucruri mai des,” a afirmat ea. „Și nu aceleași lucruri vechi și nu doar lucrurile care sunt ușor de măsurat, ci lucrurile care știm că sunt importante.”
Deși reducerea timpului de notare este esențială, Platt consideră că sistemele de sănătate ar trebui să se asigure că beneficiile sunt reciproce.
„Pacienții noștri primesc, de asemenea, același nivel de beneficii în îngrijirea lor medicală? De exemplu, reușesc să obțină un diagnostic mai rapid sau să consulte un clinician mai repede și aceste beneficii sunt acumulate echitabil?”
