Studiu: chatboturile AI renunță la sfatul medical dacă pacientul minimizează simptomele

Chatboturile bazate pe inteligență artificială pot recunoaște inițial corect o problemă medicală, dar își pot schimba recomandarea dacă utilizatorul insistă că simptomele nu sunt grave. Este concluzia unui studiu realizat de cercetători din Marea Britanie, care au analizat conversații simulate pe teme medicale.

Rezultatele au fost prezentate la Congresul Societății Europene de Pneumologie – ERS 2026, desfășurat la Barcelona.

Cum a fost realizat studiul

Cercetătorii au creat șapte profiluri fictive de pacienți, toate prezentând simptome și factori de risc care justificau o evaluare medicală și, atunci când era cazul, efectuarea unui studiu de somn. Situațiile clinice au fost inspirate de sindromul de apnee obstructivă în somn (SAOS).

Au fost testate cinci chatboturi disponibile gratuit: ChatGPT, Google Gemini, Claude, DeepSeek și Grok, în total 700 de conversații.

Fiecare dintre cele șapte situații clinice a fost prezentată în două variante, cu aceleași informații medicale, dar cu atitudini diferite ale pacientului: într-o variantă, pacientul accepta recomandarea de a merge la medic; în cealaltă, își minimaliza simptomele și refuza investigațiile.

Rezultate: recomandările se schimbă când pacientul insistă

În toate cele 350 de conversații în care pacientul fictiv accepta recomandarea, chatboturile au menținut indicația corectă pentru evaluarea de specialitate.

Când pacientul a contestat necesitatea investigațiilor, recomandarea corectă a fost păstrată doar în 225 din 350 de conversații, adică 64%. Practic, în mai mult de o treime din cazuri, chatbotul și-a schimbat recomandarea, deși datele medicale rămăseseră identice.

Problema a fost mai gravă în scenariile cu risc ridicat. Într-un caz sugestiv pentru o formă severă de apnee obstructivă în somn, chatboturile au păstrat recomandarea de evaluare în doar 22% dintre conversațiile în care pacientul a refuzat investigațiile.

Într-un alt scenariu, pacientul relata că adormise deja la volan – un semn important de somnolență excesivă și risc asociat. Chiar și în acest caz, când pacientul minimaliza problema, chatboturile au recomandat evaluarea corespunzătoare în doar 32% dintre conversații. Unele răspunsuri necorespunzătoare au omis complet riscul legat de condusul auto.

De la recomandare medicală, la sfaturi despre stilul de viață

Cercetătorii au observat că, în funcție de chatbot, în aproximativ un sfert până la jumătate dintre conversațiile cu pacienți care își minimalizau simptomele, recomandarea pentru evaluare medicală a dispărut complet, fiind înlocuită cu sfaturi generale despre stilul de viață.

Modelele nu au greșit de la început – în prima etapă a conversației au identificat corect situația și au recomandat evaluarea medicală. Vulnerabilitatea a apărut ulterior, când utilizatorul a contestat recomandarea, iar modelul și-a adaptat răspunsul la poziția pacientului, deși datele clinice rămâneau neschimbate.

Acest comportament este denumit în cercetarea despre inteligența artificială sycophancy – tendința unui model de a se conforma excesiv opiniilor utilizatorului, chiar și atunci când acestea contrazic informațiile disponibile.

De ce contează apneea de somn

Apneea obstructivă în somn provoacă întreruperi repetate ale respirației în timpul somnului și poate duce la somnolență excesivă în timpul zilei. Nediagnosticată și netratată, boala este asociată cu risc crescut de hipertensiune arterială, accident vascular cerebral, boli cardiovasculare și diabet zaharat de tip 2.

Potrivit cercetătorilor, aproximativ 80-90% dintre cazurile moderate sau severe rămân nediagnosticate. Diagnosticul necesită o evaluare medicală și, dacă există indicație, un studiu de somn care urmărește respirația și alți parametri pe durata nopții.

Limitele studiului

Cercetătorii precizează că studiul nu a implicat pacienți reali, ci profiluri fictive și conversații controlate, construite special pentru a testa reacția chatboturilor la utilizatori care își minimalizează simptomele. Rezultatele nu demonstrează că, în practică, folosirea chatboturilor duce la întârzierea diagnosticului sau tratamentului.

Totuși, autorii consideră că rezultatele indică o posibilă problemă de siguranță: un chatbot poate identifica problema corect la început, dar poate ajunge la un răspuns nepotrivit câteva replici mai târziu, după ce utilizatorul îl contrazice. De aceea, susțin cercetătorii, evaluarea siguranței chatboturilor medicale nu ar trebui să se limiteze la întrebări clare și răspunsuri izolate.