Chatboții AI oferă informații eronate pacienților cu apnee în somn, conform unui studiu
Într-o treime din cazuri, chatboții AI oferă pacienților cu apnee în somn asigurări greșite că simptomele lor nu sunt grave, descurajându-i să solicite o trimitere la un specialist, arată o cercetare prezentată la Congresul Societății Europene de Respiratorie (ERS) în Barcelona, Spania.
Pacienții cu apnee obstructivă în somn (OSA) sforăie adesea puternic, iar respirația lor începe și se oprește pe parcursul nopții, ceea ce îi poate face să se trezească de mai multe ori. Aceasta nu doar că provoacă somnolență excesivă, dar poate crește și riscul de hipertensiune arterială, accident vascular cerebral, boli de inimă și diabet de tip 2. OSA este o afecțiune foarte comună, dar mulți oameni nu conștientizează că o au.
Cercetarea a fost prezentată de Dr Deeban Ratneswaran, cercetător asociat la Guy’s and St Thomas’ NHS Foundation Trust din Londra și academic vizitator la King’s College London, Marea Britanie.
Dr Ratneswaran a declarat la congres: „Chatboții AI gratuiti au sute de milioane de interacțiuni pe săptămână și au devenit prima opțiune pentru întrebările legate de sănătate, adesea înainte ca vreun clinician să fie implicat. Totuși, cercetările de până acum s-au concentrat în principal pe cât de clar răspund la întrebări medicale formulate clar, nu pe comportamentul lor atunci când un pacient contestă informațiile.”
„Studiez modul în care AI eșuează în relația doctor-pacient și un mod de eșec a fost constant cel mai periculos: tendința acestor modele de a spune ce vrei să auzi.”
Dr Ratneswaran consideră că OSA ar fi un caz de testare perfect: 80-90% din cazurile moderate până la severe rămân nediagnosticate, diagnosticul depinzând complet de trimitere, iar mulți pacienți minimizează simptomele.
Echipa de cercetare a creat șapte „pacienți” realiști cu OSA, care îndeplineau fiecare criteriile pentru a fi trimiși la un studiu de somn (un test în care medicii monitorizează respirația pacientului în timpul somnului pentru a diagnostica afecțiuni precum OSA). Au creat apoi conversații între pacienți și cei cinci cei mai utilizați chatboți gratuiti – ChatGPT, Google Gemini, Claude, DeepSeek și Grok.
În total, au fost realizate 700 de conversații. Fiecare scenariu a fost realizat în două versiuni cu fapte medicale identice: una în care pacientul era deschis și cooperant, și alta în care își minimiza simptomele și se opunea trimiterii, astfel încât orice schimbare în comportamentul chatbot-ului să fie atribuită atitudinii pacientului.
Cercetătorii au constatat că, în cazul unui pacient cooperant, chatboții au oferit întotdeauna sfaturi corecte: 350 din 350 de conversații s-au încheiat cu recomandarea de a solicita o evaluare specializată. Însă, atunci când aceleași fapte medicale proveneau de la un pacient care era rezistent la trimitere, acel sfat a fost menținut în doar 64% din conversații (225 din 350).
Dr Ratneswaran explică: „Sfaturile corecte au fost abandonate de mai mult de o treime din cazuri doar din cauza modului în care a vorbit pacientul. Iar modelele au cedat cel mai mult în cazurile cele mai grave: în cazul unui caz sever de manual, sfatul a supraviețuit doar 22% din timp, iar în cazul unui bărbat care deja adormise la volan, doar 32%, riscul de a conduce fiind de obicei omis de chatbot în eșecuri.”
În aproximativ un sfert până la jumătate din conversațiile cu pacienții care și-au minimizat simptomele, în funcție de model, AI a oferit pacienților sfaturi de stil de viață în loc să recomande trimiterea, susținând astfel o întârziere riscantă în tratament. Dr Ratneswaran consideră că pacienții ar trebui să fie foarte precauți față de asigurările oferite de chatboți. „Dacă sforăi puternic, te oprești din respirație în somn sau lupți cu somnolența pe timpul zilei, în special la volan, consultă un clinician – chiar dacă un chatbot spune că poți aștepta,” adaugă el.
Dr Io Hui, președinte al Grupului de M-sănătate și e-sănătate al Societății Europene de Respiratorie și Fellow onorific în Sănătate Digitală la Universitatea din Edinburgh, Marea Britanie, care nu a fost implicat în cercetare, a afirmat: „Chatboții AI sunt larg disponibili și știm că oamenii îi folosesc din ce în ce mai mult pentru a pune întrebări legate de sănătate. Aceasta înseamnă că trebuie să îi testăm într-un mod realist pentru a vedea cum ar putea oamenii folosi chatboții și dacă răspund în moduri utile sau nefolositoare.”
„Această cercetare arată că chatboții pot oferi sfaturi bune cu pacientul ideal ‘cooperant’, dar că se scot singuri din aceste sfaturi atunci când vorbesc cu un pacient mai realist, reticent. Problema nu este ce știe chatbot-ul, ci cum gestionează dezacordul; se pare că manifestă o tendință de a-i face pe plac utilizatorului, un fenomen cunoscut sub numele de ‘sifoneria AI’.”
„Aceste instrumente AI, în mare parte nereglementate, sunt adesea prima opțiune pentru pacienți care caută diagnostic, și, deși pot fi o sursă utilă de informații, ar putea împiedica oamenii să acceseze tratamente. Oricine prezintă simptome posibile de apnee în somn ar trebui să discute întotdeauna cu medicul său pentru sfaturi suplimentare.”
