Fornire una risposta scientificamente esatta non equivale automaticamente a garantire una comunicazione sanitaria efficace. Un'informazione può basarsi su dati precisi, riportare fonti attendibili ed essere priva di imprecisioni, ma risultare comunque poco chiara per l'utente, lasciandolo incerto sulla rilevanza del messaggio, sui reali rischi o sulle decisioni da prendere. Su questa differenza si focalizza una Perspective pubblicata il 15 settembre su Nature Human Behaviour ad opera di Rebecca Ivic, Scott Ratzan e Ruth Parker.
Gli studiosi introducono il concetto di “health-literate AI”, riferito a modelli capaci di elaborare contenuti non solo corretti, ma calibrati sulle competenze, sul contesto e sulle reali esigenze del lettore. Il modello di riferimento individua quattro pilastri fondamentali: comprehension, agency, accountability e proportionality. L'obiettivo è fare in modo che l'utente non si limiti a ricevere un dato esatto, ma sia in grado di comprenderlo, applicarlo correttamente, individuarne le responsabilità e fruire di un livello di approfondimento adeguato alla circostanza. Si tratta di un'evoluzione significativa rispetto agli attuali standard di valutazione dell'IA in ambito medico, finora focalizzati quasi esclusivamente su parametri quali factual accuracy, hallucination rate ed explainability.
Come sottolinea Francesco Maria Avitto, Direttore editoriale di Homnya, «Per molto tempo abbiamo considerato la correttezza scientifica come il punto di arrivo della comunicazione. In realtà è soltanto il punto di partenza. Un’informazione può essere perfettamente corretta e produrre comunque una comprensione sbagliata. Con i sistemi conversazionali questo problema diventa ancora più evidente, perché la stessa evidenza viene riformulata in tempo reale per utenti con competenze, aspettative e livelli di alfabetizzazione molto diversi.»
La necessità di questo approccio appare evidente quando un sistema conversazionale si trova a rispondere al medesimo quesito posto da uno specialista, da un medico di medicina generale o da un paziente: pur condividendo la medesima base scientifica, il messaggio richiede strutture, registri, dettagli e contestualizzazioni differenti per evitare da un lato un tecnicismo inaccessibile e dall'altro una banalizzazione fuorviante. In quest'ottica, la proportionality assume una rilevanza cruciale nel modulare il tono e la portata del messaggio rispetto alla reale urgenza o marginalità del rischio. Pur non definendo uno standard normativo o dimostrando un impatto diretto sugli esiti clinici, lo studio propone una prospettiva innovativa: la valutazione delle IA sanitarie dovrà affiancare al quesito “la risposta è corretta?” la verifica se “la persona ha capito correttamente cosa significa?”.
La Redazione
Source: DAILYHEALTHINDUSTRY
