Reglementarea utilizării tehnologiei de recunoaștere vocală în sănătate este necesară, arată un studiu
Tehnologia AI de recunoaștere vocală a avut un moment de strălucire în cadrul serialului medical „The Pitt”, difuzat recent.
„Studiile arată că se poate economisi cu 80% din timpul alocat documentării”, afirmă personajul Baran Al-Hashimi, un medic care le prezintă colegilor săi un nou instrument AI de recunoaștere vocală. Totuși, un coleg sceptic a ridicat probleme după ce instrumentul a interpretat greșit denumirea unui medicament prescris unui pacient.
Deși povestea este ficțională, ridică o întrebare reală: riscurile acestor instrumente AI depășesc beneficiile?
Nelly Elsayed a dorit nu doar să răspundă acestei întrebări, ci și să găsească soluții specifice pentru avansarea sistemelor AI sigure și fiabile în documentarea medicală.
Lucrarea sa, „Riscurile socio-tehnice ale sistemelor clinice de recunoaștere vocală: provocări de transparență, confidențialitate și fiabilitate în documentarea condusă de AI”, a fost recent publicată în International Journal of Medical Informatics. Studiul a examinat o multitudine de cercetări existente, linii directoare etice și reglementări guvernamentale pentru a evidenția cum adoptarea AI depășește supravegherea acesteia.
„Aceste instrumente AI, calitatea lor se îmbunătățește, dar există și alte aspecte de care trebuie să ne preocupăm pentru a le face mai eficiente și transparente”, a declarat Elsayed.
Printre cele cinci riscuri principale asociate sistemelor clinice de recunoaștere vocală se numără:
- Practicile inconsistente de divulgare și consimțământ
- Performanța scăzută pentru discursuri cu accent sau cu tulburări
- Sunetele externe din facilitățile clinice care afectează acuratețea AI
- Lipsa unei revizuiri umane asupra textului generat de AI, ceea ce duce la greșeli necontrolate
- Responsabilitatea neclară pentru erori: este software-ul sau clinicianul responsabil?
Elsayed a subliniat că simpla revizuire a datelor de către o persoană înainte de finalizare poate reduce o parte semnificativă din aceste probleme.
„Trebuie să avem un om în loop pentru a verifica dacă textul este exact ceea ce s-a spus”, a explicat Elsayed. „Și acest test trebuie realizat pentru întregul text, nu doar pentru primele câteva propoziții.”
Elsayed a descoperit, de asemenea, că există o multitudine de factori în mediile reale care pot afecta abilitatea AI de a înregistra corect. AI este adesea antrenat într-un mediu „ideal”, fără agitația unui cabinet medical real, cum ar fi aparatele care bipăie și medicii care discută. Fără antrenarea modelelor de limbaj mare în scenarii specifice, pentru diferite accente și tulburări de vorbire, acestea nu pot fi fiabile în realitate.
O altă modalitate de a reduce erorile este instruirea medicilor cu privire la software înainte de a-l adopta în practica lor.
„Organizația care dezvoltă sistemul trebuie să ofere linii directoare pentru medici, ce pot folosi, ce nu pot folosi și la ce trebuie să fie atenți”, a afirmat ea.
