Cercetările în AI pentru oncologie ignoră siguranța și confidențialitatea pacienților
Cercetătorii de la Universitatea Flinders au fost parte a unei echipe internaționale care a realizat o revizuire sistematică ce a identificat 2.441 de înregistrări, dintre care doar 32 de studii au analizat cum se simt pacienții cu cancer, supraviețuitorii și îngrijitorii în legătură cu utilizarea AI generativă în îngrijirea lor.
Persoanele afectate de cancer s-au arătat, în general, favorabile atunci când AI generativă îmbunătățește accesibilitatea și claritatea informațiilor din domeniul sănătății. Cu toate acestea, majoritatea studiilor s-au concentrat pe furnizarea de informații despre cancer sau simplificarea rapoartelor clinice, lăsând multe alte aplicații potențiale ale AI generative în îngrijirea cancerului neexplorate.
„Proiectarea AI pentru pacienți nu este același lucru cu proiectarea ei împreună cu ei”, afirmă Dr. Bradley Menz, un cercetător de la Universitatea Flinders.
„Dacă aceste instrumente vor influența îngrijirea cancerului, atunci pacienții, supraviețuitorii și îngrijitorii trebuie să aibă un rol semnificativ în modelarea modului în care sunt concepute, gestionate și utilizate.”
De asemenea, cercetarea a arătat că aspecte importante ale angajării cu AI generativă au fost evaluate doar ocazional în studiile anterioare, inclusiv disponibilitatea pacienților cu cancer de a utiliza AI și preocupările legate de intimitate, alinierea cu așteptările și familiaritatea.
Revizuirea a constatat că încrederea în AI generativă depinde adesea de personalizarea răspunsurilor, de adecvarea emoțională și de percepția acurateței acestora.
Au fost identificate lacune majore în întrebările adresate persoanelor afectate de cancer. Din cele 32 de studii, perspectivele privind responsabilitatea au fost examinate în doar trei studii, iar nicio cercetare nu a evaluat perspectivele asupra siguranței, transparenței, echității sau păstrării autonomiei umane.
„Obținerea perspectivelor din partea pacienților cu cancer ar putea ajuta la informarea designului și implementării AI generative care să servească cel mai bine pacienții oncologici, inclusiv în ceea ce privește designul interfeței, educația pacienților, procesele de consimțământ, integrarea în fluxul de lucru, guvernanța, monitorizarea și mecanismele de feedback”, afirmă Associate Professor Ashley Hopkins de la Universitatea Flinders.
Cercetătorii speră că revizuirea lor va deschide calea pentru o examinare mai specifică și detaliată a AI generative în oncologie – inclusiv modul în care perspectivele persoanelor afectate de cancer pot influența adoptarea, implicarea, eficacitatea și preocupările legate de impactul mai larg al utilizării AI.
