 |
|
|
|
|
| |
|
|
|
Intelligenza Artificiale in Medicina - Parte quarta |
|
|
Inserito il 15 marzo 2026 alle 06:28:00 da admin. IT - Medicina digitale - PILLOLA PUBBLICATA
In questa serie di pillole verrà affrontata un'analisi critica dell'uso della Intelligenza Artificiale (AI) in medicina.
Nelle pillole precedenti abbiamo visto vari aspetti caratteristici della AI usata a scopo diagnostico. Esamineremo ora le implicazioni concrete per la pratica.
La trappola della trasparenza illusoria
Quando un sistema fornisce una spiegazione dettagliata e ben costruita, il clinico tende ad abbassare la guardia critica. Non perché sia ingenuo, ma perché il pattern è quello di una nota clinica competente: premesse, ragionamento, conclusione. La struttura attiva automaticamente il meccanismo di valutazione che si userebbe per un collega esperto.
Il rischio è proporzionale alla complessità del caso. Nei pazienti con presentazioni tipiche, il sistema ha alta probabilità di essere accurato e la spiegazione è verosimilmente allineata al calcolo. Nei pazienti atipici — anziani con multimorbilità, presentazioni cliniche insolite, dati parziali o contraddittori — la dissociazione tra spiegazione e processo è più probabile, e precisamente là il supporto decisionale sembra più necessario.
Il problema medico-legale che nessuno discute
In un numero crescente di contesti ospedalieri, la spiegazione del sistema di AI entra nella documentazione clinica, esplicitamente o implicitamente. Diventa parte dell’iter diagnostico registrato. Se quella spiegazione non è fedele al processo computazionale, l’audit — clinico o medico-legale — si fonda su una ricostruzione potenzialmente inaccurata del ragionamento che ha guidato la decisione.
Non è una vulnerabilità teorica. È una questione di responsabilità concreta che i risk manager ospedalieri e i comitati etici non hanno ancora affrontato sistematicamente.
I dati che il sistema non vede — e non sa di non vedere
I modelli sono addestrati su dati strutturati: campi compilati, codici ICD, valori numerici. La cartella clinica reale è molto più ricca: note di triage scritte a mano, osservazioni verbali dell’infermiere, informazioni raccolte nell’anamnesi informale. Quando questi dati non sono nei campi strutturati, il sistema non li elabora — e non segnala questa lacuna nella propria spiegazione. La spiegazione resta fluida e completa anche quando si basa su un sottoinsieme ristretto delle informazioni disponibili. E allora le conclusioni possono essere fuorvianti.
(Continua)
NB. Le pillole precedenti sono state pubblicate in data 22 febbraio 2026, 1 marzo 2026 e 8 marzo 2026.
Fausto Bodini
|
|
|
Letto : 1897 | Torna indietro
|
|
|
|
|
|
|
|
© Pillole.org 2004-2026 | Disclaimer | Reg. T. Roma n. 2/06 del 25/01/06 | Dir. resp. D. Zamperini 
ore 15:29 | 124663 accessi| utenti in linea:
71468
|
| |
Home
Entra
Iscriviti
Versione stampabile
