Uno studio propone di ridurre i bias cognitivi con un sistema di agenti virtuali multipli

Questo sito si è occupato in più occasioni dei bias cognitivi, errori di ragionamento molto comuni: per esempio, quando ci si fissa subito sulla prima diagnosi possibile e non si prendono più in considerazione alternative. In medicina questo può essere pericoloso, perché può portare a diagnosi sbagliate e quindi a cure non adatte.
Lo studio descrive come l’intelligenza artificiale possa aiutare i medici a evitare errori di diagnosi causati dai bias cognitivi.
Per affrontare questo problema, gli autori hanno usato GPT-4 in modo particolare. Invece di far lavorare il modello da solo, lo hanno trasformato in un piccolo gruppo di “medici virtuali” che discutono tra loro. Ogni agente aveva un ruolo diverso: uno proponeva la diagnosi, un altro la metteva in dubbio, un altro ancora aiutava a riconoscere i bias cognitivi, e infine un agente riassumeva il risultato della discussione. L’idea era che il confronto tra più punti di vista potesse migliorare la diagnosi finale.
Lo studio è stato fatto su 16 casi clinici complessi in cui, nella realtà, c’era stata una diagnosi iniziale sbagliata proprio a causa di un bias cognitivo. Prima della discussione, il sistema sbagliava sempre la diagnosi iniziale, proprio come spesso accade nei casi più ingannevoli. Però, dopo il confronto tra gli agenti, l’accuratezza migliorava molto.
Il sistema migliore arrivava a una diagnosi corretta nel 76% dei casi, facendo meglio anche di un gruppo di medici umani che si era fermato al 48%.
Il risultato più interessante è che il sistema funzionava meglio quando uno degli agenti aveva il compito preciso di riconoscere i bias cognitivi e di spingere gli altri a rivedere il ragionamento. Questo fa capire che non basta avere molte informazioni: conta anche il modo in cui si ragiona su quelle informazioni.

Gli autori concludono quindi che questi sistemi potrebbero essere utili sia nella formazione dei medici, sia come supporto pratico nelle decisioni cliniche. Naturalmente non dovrebbero sostituire il medico, ma aiutarlo a riflettere meglio e a evitare errori.

Lo studio ha comunque dei limiti, perché i casi erano pochi e basati solo su testi, senza immagini o dati clinici completi. Nonostante questo, i risultati mostrano che un sistema multi-agente basato su intelligenza artificiale può diventare uno strumento promettente per migliorare la qualità della diagnosi.


Giampaolo Collecchia e Riccardo De Gobbi


Riferimento bibliografico
Ke Y et al. Mitigating Cognitive Biases in Clinical Decision-Making Through Multi-Agent Conversations Using Large Language Models: Simulation Study
J Med Internet Res 2024;26:e59439 doi: 10.2196/59439