Raportarea demografică pentru AI medical este insuficientă, arată un studiu
O recentă avalanșă de modele și conținuturi de inteligență artificială (AI) a adus cu sine o problemă nedorită: biasul. AI-ul a fost observat că formează, copiază și amplifică stereotipuri dăunătoare pentru grupurile deja marginalizate.
Această problemă are efecte de amploare pe măsură ce AI devine o parte normală a vieții cotidiene. Cel mai îngrijorător este faptul că biasul deja existent în sistemele de sănătate ar putea fi amplificat de deciziile luate pe baza AI. Aceste decizii pot avea un impact direct asupra îngrijirii pacienților și rezultatelor acestora, subliniind necesitatea unei evaluări atente a potențialelor prejudecăți.
În acest sens, un grup de cercetare condus de Dr. Shannon L. Walston de la Școala de Medicină a Universității Metropolitane Osaka a realizat o revizuire sistematică pentru a identifica studiile care validează produsele comerciale de AI în radiologie și pentru a observa tendințele în raportarea subgrupurilor demografice, precum sexul, vârsta și etnia. Echipa a colectat 545 de studii referitoare la 252 de produse cu date raportate despre subgrupuri demografice. Tendințele au fost mapate folosind o analiză de regresie.
Dintre cele 545 de studii, doar 77, care validau 52 de produse, au inclus detalii demografice și rezultate ale analizei subgrupurilor. Atunci când formula intervalului de încredere Wilson, utilizată pentru a calcula proporția, a fost aplicată studiilor care validau AI pentru detectarea tuberculozei, cercetătorii au descoperit că 67% din seturile de date raportate erau în pericol de a fi subdimensionate pentru analiza subgrupului de sex. Aceasta a arătat că, în ciuda cererii pentru o raportare îmbunătățită a demografiei, raportarea performanței pentru subgrupurile demografice nu a devenit mai comună.
Această constatare scoate în evidență necesitatea unei raportări eficiente și transparente pentru a confirma performanța sigură și fără prejudecăți a acestor produse AI medicale pentru toate subgrupurile de pacienți.
„Această revizuire sistematică cuantifică cât de fragmentat este peisajul validării comerciale, arătând că raportarea atât pentru demografii, cât și pentru performanța pe subgrupuri este inadecvată pentru estimarea prejudecății între subgrupuri. Această problemă sistemică necesită eforturi din partea tuturor părților interesate, de la cercetători la agenții de reglementare, încurajând raportarea cuprinzătoare și validarea produselor comerciale pentru a susține încrederea medicilor și pacienților în produsele AI medicale”, a declarat Dr. Walston.
Constatările au fost publicate în European Radiology.
