Cercetătorii identifică o problemă în modelele AI pentru tratamentul sepsisului
Cercetările recente evidențiază o deficiență în utilizarea metodelor AI pentru a ghida tratamentul sepsisului, subliniind necesitatea unei implementări mai prudente a acestor tehnologii în domeniul sănătății.
Shengpu Tang, profesor asistent de informatică la Universitatea Emory, și colegii săi au descoperit o eroare în numeroase studii revizuite de colegi care folosesc metoda AI cunoscută sub numele de învățare prin întărire pentru a trata sepsisul.
Rezultatele lor au fost publicate în jurnalul npj Digital Medicine.
Prin experimente de simulare, cercetătorii au demonstrat o problemă cu o tehnică frecvent utilizată pentru preprocesarea și indexarea datelor legate de tratamentul sepsisului. Această tehnică defectuoasă duce la o ușoară nealiniere temporală, ceea ce face ca agentul AI să se abată de la cursul temporal corect, ajungând să utilizeze uneori un eveniment viitor pentru a prezice trecutul.
Dacă datele de testare pentru un model sunt nealiniate în același mod, problema rămâne ascunsă, avertizează cercetătorii.
„Defectul este mascat în spatele unor metrici de performanță „inflated”, care arată bine pe hârtie, dar vor eșua în practică”, a afirmat Tang.
Dacă aceste sisteme defectuoase pentru tratamentul sepsisului ar fi implementate în mediul sanitar, ele ar recomanda fie supratratament, fie subtratament în aproape jumătate din cazurile pacienților, au arătat cercetătorii.
„Am descoperit că majoritatea studiilor care utilizează învățarea prin întărire pentru a analiza tratamentul sepsisului în ultimul deceniu au făcut această greșeală de nealiniere temporală – inclusiv propria noastră lucrare”, a spus Tang, autor principal al lucrării actuale.
El și colegii săi au dezvoltat o soluție simplă pentru a evita această eroare, reprezentând o schimbare fundamentală în modul în care problemele sunt formulate în învățarea prin întărire pentru domeniul sănătății.
Experimentele de simulare, bazate pe date clinice din lumea reală, au arătat că, atunci când eroarea nu este abordată, un algoritm de învățare prin întărire pentru a ghida tratamentul sepsisului nu reduce și nici nu crește rata de mortalitate a pacienților.
Eliminarea defectului de nealiniere temporală, totuși, duce la o scădere de 8-10% a mortalității pacienților, conform simulărilor.
„Sperăm ca această lucrare să servească drept un apel de atenție și o hartă pentru construirea unor modele de învățare prin întărire mai sigure și mai fiabile pentru utilizarea clinică”, a declarat Tang.
Sepsisul reprezintă o afecțiune medicală gravă, cauzată atunci când o infecție declanșează o reacție în lanț care poate pune viața în pericol. Pacienții spitalizați sunt adesea vulnerabili din cauza sistemelor imunitare compromise. Conform Centrelor pentru Controlul și Prevenirea Bolilor, unu din trei adulți care decedează într-un spital a avut sepsis în timpul internării.
Anumite sisteme de sănătate utilizează deja instrumente AI pentru a ajuta la monitorizarea riscului unui pacient de a dezvolta sepsis. Algoritmii pentru aceste instrumente predictive sunt adesea dezvoltați folosind o metodă de învățare automată cunoscută sub numele de învățare supervizată. Modele mari de date cu semne vitale și alte statistici pentru pacienții care au dezvoltat sau nu sepsis sunt alimentate în model în timpul antrenamentului.
Prin urmare, modelul AI poate fi utilizat în situații reale, alertând lucrătorii din domeniul sănătății cu privire la pacienții cu risc crescut.
Eficiența acestor instrumente de predicție a riscurilor a determinat oamenii de știință să dorească să ducă AI un pas mai departe pentru a ajuta la ghidarea protocoalelor de tratament. Tratamentul rapid după un diagnostic este esențial pentru a preveni daunele tisulare, insuficiența organelor sau decesul.
Spre deosebire de evaluarea riscurilor, totuși, prezicerea unui protocol de tratament necesită sincronizarea unei game de seturi de date într-un mediu dinamic – diferite tipuri de tratamente, cum ar fi fluidele intravenoase, antibioticele, medicamentele pentru tensiune arterială și intervențiile chirurgicale; dozajul sau intensitatea unui tratament; durata unui tratament; semnele vitale ale pacientului înainte și după tratament; și rata de supraviețuire/mortalitate.
Învățarea prin întărire este necesară pentru a gestiona acest mediu dinamic și a lua o serie de decizii care se desfășoară în timp, fără un răspuns „da” sau „nu” predefinit. De exemplu, învățarea prin întărire este folosită pentru a antrena algoritmi AI să concureze în jocuri pe ture, cum ar fi șahul.
În anii recenți, algoritmii de învățare prin întărire au fost aplicați unei game variate de sarcini de decizie secvențială în domeniul sănătății. Algoritmii analizează secvențele istorice de tratament pentru a identifica tipare asociate cu rezultate favorabile. O regulă de decizie învățată mapează aceste tipare la tratamentele recomandate bazate pe condițiile pacientului în evoluție.
La fiecare pas de timp discret, agentul observă starea fiziologică a pacientului și selectează un tratament. Situația evoluează apoi către o nouă stare.
Tang a lucrat la o lucrare din 2020 ca student de doctorat, folosind învățarea prin întărire pentru a studia cele mai bune practici în tratamentul sepsisului.
După finalizarea acelei lucrări, Tang a început să suspecteze că metoda de preprocesare a datelor folosită frecvent în învățarea prin întărire poate să nu ofere cele mai precise rezultate într-un cadru sanitar. El și colegii săi au început să investigheze problema și au descoperit eroarea.
O revelație surprinzătoare
Spre deosebire de standardele de învățare prin întărire care funcționează pe traiectorii bine definite, aplicațiile din domeniul sănătății implică adesea evenimente nesamplează neregulat în timp. De exemplu, introducerea datelor pentru dosarele electronice de sănătate poate sau nu să se întâmple în timp real.
Datele pentru starea pacientului și acțiunea întreprinsă pentru tratament sunt preprocesate pentru învățarea prin întărire prin divizarea acestora în feronete de timp egale. Aceste indexuri sunt apoi aliniate pentru a forma o pereche stare-acțiune.
Problema apare deoarece agentul AI percepe starea pacientului ca un rezumat al semnelor vitale, care poate fi calculat doar la sfârșitul feronetei de timp. O acțiune, totuși, trebuie determinată la începutul acelei feronete de timp.
„Un pacient ar fi putut primi o pastilă pe parcursul feronetei de timp”, explică Tang, „sau ar fi putut începe o infuzie mult mai devreme în feroneta, dar agentul AI presupune că decizia de a oferi aceste tratamente a fost cauzată de rezumatul stării pacientului, care este determinat doar la sfârșitul feronetei de timp.”
Tang și colegii săi au început să investigheze alte lucrări care folosesc în
