Expansiunea inteligenței artificiale în sănătatea femeilor ar putea întări prejudecăți vechi
Pe măsură ce inteligența artificială atrage o atenție tot mai mare în domeniul sănătății femeilor, cercetătorii avertizează că categoriile reduse și expansiunea supravegherii datelor ar putea adânci inegalitățile pe care tehnologia promite să le abordeze.
Un articol recent din jurnalul npj Women’s Health a examinat critic entuziasmul în creștere pentru inteligența artificială (AI) în cercetarea și practica sănătății femeilor. Autorii au subliniat riscurile tratării AI ca pe o soluție universală și au accentuat importanța abordării factorilor structurali și sociali pentru a atinge egalitatea de gen în rezultatele sănătății.
Inegalitățile de gen și sex continuă să influențeze cercetarea medicală și furnizarea de servicii de sănătate. Femeile, precum și persoanele transgender și cei cu identități de gen diverse, primesc adesea o îngrijire mai slabă și experimentează rezultate de sănătate mai proaste. Recent, ordine executive din SUA au restricționat cercetările privind disparitățile de gen, sex și sănătate, probabil amplificând aceste probleme.
Aceste restricții impun o viziune simplistă și binară asupra genului și sexului, limitând cercetarea asupra complexităților acestora. Totuși, există un optimism crescut cu privire la potențialul AI de a aborda aceste bariere. AI este adesea descrisă ca un mijloc de a genera informații personalizate de sănătate, de a construi modele de boală adaptate și de a colecta date individualizate.
Cadrul AI ca o soluție universală pentru sănătatea femeilor riscă să eclipseseze problemele sistemice mai profunde. Printre preocupările cheie se numără persistența categoriilor reduse de gen și sex în cercetare, riscul ca adoptarea necritică a AI să codifice aceste presupuneri greșite și posibilitatea ca aceste tendințe să perpetueze sau să agraveze inegalitățile existente în domeniul sănătății. Abordarea acestor provocări necesită mai mult decât o atenție asupra confidențialității sau părtinirii; este necesară o implicare cu complexitățile fundamentale ale genului, sexului și tehnologiei.
O mare parte a cercetării în domeniul sănătății femeilor continuă să se bazeze pe definiții înguste și binare ale genului și sexului, ignorând realitățile complexe modelate de interacțiunile dintre factori biologici, sociali și culturali, inclusiv rasă și clasă. Aceasta limitează înțelegerea și nu include identități diverse, în timp ce persoanele transgender, intersexuale și cele cu identități de gen diverse se confruntă deja cu o expunere disproporționată la practici medicale discriminatorii și îngrijire inadecvată.
Politicile și practicile de cercetare adesea recurg la categorii binare, așa cum se observă în politica „Sex as a Biological Variable” (SABV) a National Institutes of Health (NIH), care impune ca cercetările pe animale să includă atât animale de sex feminin, cât și masculin și să raporteze rezultatele pe baza categoriei binare de sex. Această abordare neglijează considerațiile mai largi legate de gen și poate oferi o înțelegere limitată a rezultatelor de sănătate individuale, chiar și în cadrul populațiilor cisgen. Articolul susține că tehnologiile AI codifică frecvent aceste limitări, perpetuând presupunerile învechite în loc să avanseze o înțelegere mai nuanțată.
AI este promovată frecvent ca o soluție puternică în cercetarea medicală, dar definiția sa rămâne vagă, iar capacitățile sale sunt adesea exagerate. Articolul avertizează că această acceptare necritică poate reduce responsabilitatea și poate prioritiza acuratețea predictivă în detrimentul înțelegerii cauzale sau mecanice. Învățarea automată este utilizată adesea pentru a identifica diferențe, în special în cercetările bazate pe sex, chiar și atunci când modelele se bazează pe presupuneri simpliste sau greșite.
Cercetarea medicală recurge adesea la categorii binare de sex fără a pune la îndoială relevanța sau originile acestora. Unele încercări de a reduce părtinirea în AI pot întări aceste diviziuni, iar credința în obiectivitatea AI poate transforma constatările slabe în afirmații despre diferențe inerente. Drept urmare, modelele AI pot reproduce și amplifica inegalitățile sociale existente, în timp ce obscurizează limitările gândirii binare, împiedicând progresul către o asistență medicală echitabilă. Deși aceste probleme existau înainte de apariția AI, autorii susțin că hype-ul actual legat de AI ar putea normaliza și legitima și mai mult aceste probleme.
Orientarea AI ca o soluție universală pentru sănătatea femeilor poate adânci inegalitățile. Dorința continuă de a obține mai multe date distrage adesea atenția de la abordarea întrebărilor de cercetare defectuoase și a barierelor sistemice. Actorii privați pot accesa și monetiza datele intime de sănătate și comportamentale, iar accentul pus pe inovația tehnologică devine frecvent o distragere de la schimbările structurale necesare.
Potrivit autorilor, multe aplicații de sănătate bazate pe AI care promit împuternicire depind de supravegherea extinsă și extragerea de date, ridicând probleme de confidențialitate și transferând responsabilitatea pentru sănătate asupra indivizilor. Această auto-supraveghere poate submina bunăstarea psihologică și depolitiza disparitățile în sănătate. În cadrul clinic, prioritizarea datelor în detrimentul experiențelor trăite poate reduce la tăcere pacienții.
La nivel global, articolul susține că multe instrumente de sănătate bazate pe AI extrag date din populații vulnerabile din Sudul Global sub narațiuni de „AI pentru binele social”, dar pot distrage atenția de la nevoile reale de sănătate publică. Aceste tendințe înlocuiesc uneori îngrijirea esențială cu tehnologie și pot eșua în a îmbunătăți rezultatele, pe măsură ce hype-ul legat de AI accelerează adoptarea și extinde raza de acțiune a acestora.
Autorii scriu că finanțarea cercetărilor pentru sănătatea femeilor și asistența medicală echitabilă din punct de vedere al genului a scăzut dramatic, în timp ce interesul pentru soluțiile bazate pe AI a crescut. Totuși, echitatea necesită o evaluare atentă la fiecare etapă a procesului AI, de la definirea problemei până la colectarea și utilizarea datelor. Tehnologia de una singură nu poate rezolva inegalitățile în sănătate, iar schimbările sociale și structurale rămân esențiale.
În evaluarea lor, multe aplicații AI în sănătatea femeilor păstrează categoriile binare și extind supravegherea, adesea ascunzând cauzele structurale mai profunde ale disparității. Abordarea părtinirii, transparenței și responsabilității în AI necesită o examinare a categoriilor și presupunerilor din spatele acestor sisteme. Autorii recomandă ca cercetătorii să se concentreze pe factorii sociali și biologici relevanți, să implice comunitățile afectate și să cântărească riscurile de reprezentare greșită și supraveghere în raport cu nevoia de date reprezentative. Accentul ar trebui să se mute de la cine este inclus în seturile de date la modul și motivul în care are loc includerea. Potențialul AI depinde de o înțelegere nuanțată a sexului, genului și
