Recomandările AI pentru medicamente favorizează produsele de marcă scumpe
Modelele lingvistice mari (LLMs), precum ChatGPT și Claude, sunt tot mai frecvent folosite pentru a oferi informații despre sănătate publicului.
Deși acest lucru îmbunătățește accesul la informații despre tratamente, un nou studiu a evidențiat limitările lor, găsind că LLM-urile au fost părtinitoare în alegerile de tratament, iar utilizarea acestor rezultate în practică ar putea crește costurile tratamentului.
O echipă de cercetare condusă de profesorul Daiju Ueda la Universitatea Metropolitană Osaka, în colaborare cu MD Anderson Cancer Center din Texas, a solicitat cinci LLM-uri (GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 și MedGemma) să recomande până la trei produse medicamentoase aprobate de FDA pentru o serie de scenarii simulate.
Deși, în medie, erau disponibile 5,5 produse aprobate de FDA pentru fiecare ingredient activ specificat, un singur produs a reprezentat, în medie, 97,5% din recomandările inițiale în toate scenariile și modelele testate.
„Recomandările au fost, în principal, pentru medicamente de marcă, foarte vizibile în căutările pe Google, și pentru tratamente care aveau pagini dedicate pe Wikipedia”, a declarat profesorul Ueda.
LLM-urile au avut, de asemenea, tendința de a nu recomanda produse aprobate mai recent de FDA și cele mai frecvent prescrise în practica medicală reală. Studiul a identificat și recomandări care erau inconsistente cu informațiile reglementare, inclusiv produse retrase.
Cercetătorii au evaluat apoi cât de mult ar putea costa acest lucru pacienții, folosind date din SUA. Au analizat un scenariu în care comportamentul de prescriere al medicilor urma recomandările LLM-urilor.
„Am descoperit că costurile anuale de achiziție ar crește cu aproximativ 55,6 milioane de dolari”, a rezumat profesorul Ueda. „Aceasta reprezintă o creștere de 1.019% a costului achiziției acestor rețete.”
Când au fost instruiți să prioritizeze produsele de cost mai mic sau generice, modelele și-au ajustat recomandările în consecință; totuși, recomandările au rămas concentrate pe un set limitat de produse.
„Constatările noastre subliniază necesitatea de a evalua AI-ul în domeniul sănătății pentru părtiniri în selecția produselor și gestionarea informațiilor legate de costuri și reglementări”, a declarat profesorul Ueda. „Combinarea sistemelor AI cu surse de informații despre medicamente de încredere și supravegherea umană ar putea ajuta la susținerea unor alegeri mai adecvate de medicamente.”
