Oamenii oferă detalii incomplete despre simptomele raportate la AI
Este foarte posibil ca, în curând, oamenii să fie nevoiți să își descrie simptomele unei inteligențe artificiale (AI) înainte de a obține o programare medicală.
Această inteligență artificială va decide ulterior dacă este vorba despre o urgență medicală sau dacă tratamentul poate aștepta, programând întâlnirile în consecință.
Din fericire, nu am ajuns încă în acest stadiu, dar digitalizarea avansează rapid și în sectorul sănătății. Chatboturile AI și verificatoarele digitale de simptome devin din ce în ce mai importante, servind ca prim punct de contact pentru așa-numitul „auto-triaj”, adică evaluarea inițială a urgenței tratamentului de către pacienți.
Cu toate acestea, în ciuda capacităților tehnice în continuă creștere ale acestor sisteme, un alt factor devine din ce în ce mai relevant în cercetare: modul în care oamenii comunică cu mașinile. Acesta este un aspect important, deoarece chiar și cea mai bună tehnologie, în special în diagnosticul medical, depinde de informații precise, pe care utilizatorii nu le oferă întotdeauna în întregime.
Reticența umană limitează potențialul AI.
Aceasta este concluzia centrală a unui studiu recent publicat în revista Nature Health. Studiul a fost condus de profesorul Wilfried Kunde de la Universitatea din Würzburg și de Moritz Reis, un asistent de cercetare în acel departament. La cercetare au participat și specialiști de la Charité – Universitätsmedizin Berlin, Universitatea din Cambridge, Helios Klinikum Emil von Behring și Vivantes Klinikum Neukölln din Berlin.
„Cei 500 de participanți la studiu au fost solicitați să redacteze rapoarte simulate de simptome pentru două afecțiuni comune – dureri de cap neobișnuite și simptome asemănătoare gripei”, explică Moritz Reis designul studiului. Aceștia au fost conduși să creadă că rapoartele lor vor fi citite fie de un chatbot AI, fie de un medic uman. Scopul a fost de a examina calitatea acestor rapoarte în ceea ce privește adecvarea lor pentru o evaluare a urgenței medicale.
Pierderile de calitate sunt evidente în nivelul redus de detaliu.
Principala concluzie: Atunci când participanții credeau că comunică cu inteligența artificială, adecvarea descrierilor lor pentru o evaluare medicală inițială s-a deteriorat semnificativ comparativ cu interacțiunile cu presupusii profesioniști medicali. Acest efect a fost observat chiar și în rândul participanților care experimentau efectiv simptomele relevante în momentul desfășurării sondajului.
Această pierdere de calitate se reflectă direct în nivelul de detaliu al rapoartelor. În timp ce descrierile oferite profesioniștilor medicali aveau o medie de 255,6 caractere, cele furnizate chatboturilor aveau o medie de doar 228,7 caractere.
Deși o diferență de 28 de caractere poate părea mică, echipa de cercetare afirmă că acest efect este practic relevant și poate duce ca chiar și modelele AI performante să ofere, în final, sfaturi medicale greșite. Până la urmă, aceste modele nu pot face o evaluare medicală corectă dacă pacienții nu oferă toate informațiile esențiale. Succesul evaluărilor digitale inițiale depinde mai puțin de puterea de calcul și mai mult de dorința pacientului de a oferi o descriere detaliată.
Barierile psihologice: îngrijorări legate de un diagnostic „universal”.
Dar de ce sunt oamenii atât de reticenți în fața mașinilor? Un motiv principal este probabil ceea ce se numește „neglijență a unicității”. „Multe persoane presupun că AI nu poate înțelege nuanțele individuale ale situației lor personale, ci se limitează să alinieze modele standardizate”, explică Wilfried Kunde.
În plus, scepticismul față de capacitățile algoritmilor de diagnostic, precum și îngrijorările legate de confidențialitate, pot determina oamenii să ofere informații succinte sau vagi. Moritz Reis rezumă componenta umană astfel: „Dacă nu avem încredere că o mașină poate înțelege unicitatea noastră, este posibil să reținem inconștient informațiile de care aceasta ar avea nevoie pentru a oferi asistență precisă.” Acest filtru psihologic poate face ca detaliile medicale relevante să nu ajungă niciodată în sistem, scăzând astfel calitatea diagnosticului.
Îmbunătățirea dialogului cu mașina.
În opinia echipei de cercetare, constatările arată clar că avansul tehnologic al AI nu este suficient. Ei consideră, așadar, că o soluție potențială constă în proiectarea inteligentă a interfețelor utilizator.
Pentru a îmbunătăți calitatea rapoartelor de simptome, dezvoltatorii ar trebui să ofere exemple concrete de descrieri de calitate înaltă și să programeze AI-ul să solicite activ detalii lipsă. Numai atunci când utilizatorii sunt încurajați să ofere informații detaliate, se pot evita diagnosticările greșite, iar povara asupra sistemului de sănătate poate fi redusă în mod eficient.
