Chatboturile agresive în domeniul sănătății descurajează paciente de la screeningul cervical
Pacienții care își programează examenele cervicale prin intermediul unui chatbot AI reacționează pozitiv la un limbaj prietenos și orientat spre alegere, dar sunt deranjați de mesajele excesive, de memento-urile insistențe și de confuzia dintre uman și AI, conform unei cercetări recente de la Universitatea Surrey.
Studiul, publicat în revista Lingua, a descoperit că modul în care un chatbot de sănătate comunică este la fel de important ca ceea ce face. Folosind interviuri cu pacienți de la un cabinet medical din nordul Londrei și un sondaj realizat pe 300 de persoane eligibile pentru screening cervical prin NHS, echipa a analizat percepțiile utilizatorilor asupra lui Asa, un recepționer AI generativ care invită pacienții să își facă programări prin WhatsApp.
Pacienții care au avut o reacție pozitivă la Asa au descris tonul său ca fiind „prietenos”, „gentil” și „nu forțat” și au apreciat modul în care sistemul s-a integrat în rutinele lor existente. Mai mulți au remarcat că interacțiunea cu un AI numit, care prezenta trăsături feminine, le-a facilitat dezvăluirea informațiilor sensibile, precum necesitatea de a anula o programare din cauza menstruației, comparativ cu vorbirea cu un recepționer de sex masculin.
Cu toate acestea, cercetarea a identificat și puncte de fricțiune clare. Mulți pacienți au considerat că mesajele de urmărire trimise în termen de 24 de ore sunt intruzive și au descris formulări imperative precum „Hai să te programăm” ca fiind agresive, mai degrabă decât utile. Pentru pacienții care se confruntă cu probleme de sănătate mintală, condiții neurodivergente sau responsabilități de îngrijire solicitante, presiunea de a răspunde rapid a părut nedreaptă.
Îngrijorările etice au constituit cel mai consistent rezultat negativ al studiului. Pacienții au exprimat temeri legate de securitatea datelor, de impersonare și de confuzia dintre uman și AI. Declarația chatbot-ului că utilizatorii pot „vorbi cu mine ca și cum aș fi o persoană reală” a avut efecte contrare pentru mulți, care au interpretat-o ca fiind suspectă, mai degrabă decât liniștitoare.
Dr. Doris Dippold, autor principal al studiului și profesor asociat în Comunicare Interculturală la Universitatea Surrey, a declarat: „Analiza noastră arată că antropomorfismul nu este întotdeauna pozitiv. Caracteristicile asemănătoare cu cele umane pot construi raporturi – dar atunci când acestea intră în conflict cu așteptările pacienților privind transparența într-un context medical, subminează exact încrederea pe care chatbot-ul încearcă să o construiască.”
Studiul sugerează că designul chatbot-urilor din domeniul sănătății ar trebui să respecte următoarele principii cheie: ajutarea oamenilor să își atingă obiectivele, oferirea controlului asupra deciziilor, răspunsul adecvat la nevoile lor, tratarea acestora cu respect, asigurarea echității și transparența cu privire la modul de funcționare al tehnologiei.
Aceste descoperiri sunt deosebit de relevante având în vedere că rata de participare la screeningul cervical din Marea Britanie a scăzut cu 5,3% în 2023-2024, iar grupurile etnice minoritare sunt constant subreprezentate în programele de screening. Cabinetul medical în care a fost testat Asa deservește o comunitate diversă, cu un statut socio-economic precar în Islington, făcând comunicarea echitabilă și accesibilă o prioritate.
Studiul subliniază importanța construirii unei relații între pacienți și chatbot-urile din sănătate printr-o comunicare care să fie percepută ca respectuoasă, transparentă și de susținere.
Dr. Dippold a adăugat: „A te simți văzut, apreciat și susținut emoțional nu este o caracteristică de lux în AI-ul de sănătate – este o condiție de acces. Dacă pacienții se deconectează deoarece un chatbot pare insistent sau nesigur, serviciul de sănătate îi pierde complet.”
