L’intelligenza artificiale sta entrando sempre più nei processi della sanità pubblica, dalla diagnostica al supporto alle decisioni cliniche, fino alla gestione dei dati e dei servizi. Ma mentre le sperimentazioni aumentano, per Asl, aziende ospedaliere e Regioni si apre una questione altrettanto importante: come utilizzare questi strumenti in modo sicuro, trasparente e conforme alle nuove regole europee e nazionali.
L’entrata in vigore progressiva dell’AI Act introduce un approccio basato sul rischio e impone alle organizzazioni che utilizzano sistemi di intelligenza artificiale nuovi obblighi in termini di valutazione, documentazione, qualità dei dati, supervisione umana e controllo lungo l’intero ciclo di vita delle tecnologie. Un cambiamento che riguarda anche il modo in cui la Pubblica amministrazione acquista e governa le soluzioni di AI.
L’innovazione deve procedere senza compromettere sicurezza dei pazienti, tutela dei dati e responsabilità professionale
Per la sanità, la sfida è particolarmente delicata: l’innovazione deve procedere senza compromettere sicurezza dei pazienti, tutela dei dati e responsabilità professionale. E proprio la regolazione può diventare, secondo AgID, non un freno ma lo strumento per superare la frammentazione delle tante sperimentazioni oggi in corso e costruire un’adozione dell’IA più omogenea e strutturale nel Servizio sanitario nazionale.
Di questo, e delle conseguenze concrete dell’AI Act per le amministrazioni sanitarie, parliamo con Mario Nobile, direttore generale di Agid (Agenzia per l’Italia Digitale).
Dottor Nobile, l’AI Act introduce un approccio basato sul rischio che, in sanità, può avere conseguenze particolarmente rilevanti. Quali saranno, concretamente, gli adempimenti aggiuntivi per Asl, aziende ospedaliere e Regioni che utilizzano sistemi di AI, soprattutto quando questi incidono su diagnosi, valutazione clinica o accesso alle cure?
Gran parte delle applicazioni clinico-diagnostiche sono sistemi ad alto rischio ma contemporaneamente hanno un grande impatto positivo sugli obiettivi di salute e di cura; non bisogna quindi scoraggiare la sperimentazione e l’adozione di sistemi che possono migliorare notevolmente la vita delle persone. L’approccio del legislatore europeo e nazionale mira, infatti, ad agganciare l’analisi del rischio agli obiettivi specifici delle singole strutture sanitarie. Nel concreto, le strutture dovranno effettuare la valutazione d’impatto sui diritti fondamentali (la cosiddetta Fria), censire e documentare i sistemi all’interno dei registri dedicati e verificare in modo rigoroso la qualità dei dati con cui vengono alimentati. Non si tratta di complicanze formali, ma di garanzie sostanziali di sicurezza per i cittadini.
Uno dei nodi più delicati è quello della responsabilità: con l’AI la decisione può essere supportata, o in alcuni casi fortemente condizionata, da un algoritmo, ma la responsabilità finale resta umana. Come dovranno organizzarsi le strutture sanitarie per garantire supervisione, tracciabilità delle decisioni e possibilità di intervenire quando il sistema produce un risultato errato o discriminatorio?
L’intelligenza artificiale non è un semplice prodotto “a scaffale”, ma uno strumento vivo che si inserisce in un ciclo di vita e richiede competenze umane continue. Per questo la responsabilità sanitaria ed amministrativa rimane e deve rimanere inderogabilmente in capo alle persone. Le Asl e gli ospedali dovranno strutturare workflow operativi di tipo human-in-the-loop. Ciò significa che le interfacce tecnologiche devono permettere al personale sanitario di comprendere l’inferenza dell’algoritmo, tracciarne la logica e, se necessario, disattivarla o modificarla in un istante. Parallelamente, dobbiamo combattere con decisione la shadow AI, ovvero l’uso informale di strumenti generici non autorizzati nelle attività di corsia o di amministrazione. Infine, serve una formazione che permetta al personale di guidare l’algoritmo e non di subirlo.
Le Asl e gli ospedali dovranno strutturare workflow operativi di tipo human-in-the-loop
Quanto l’AI Act cambierà concretamente il modo in cui il SSN acquista soluzioni di AI? In particolare, quali requisiti dovrebbero diventare imprescindibili nei capitolati di gara per valutare affidabilità, qualità dei dati, trasparenza degli algoritmi, sicurezza e possibilità di controllo da parte della PA? Le nuove linee guida AgID sul procurement puntano proprio a fornire alle amministrazioni un quadro operativo per l’acquisizione e il monitoraggio di queste soluzioni.
Oggi il procurement pubblico non può più limitarsi all’acquisto di software tradizionali. Le nuove Linee Guida AgID sul procurement dell’AI nascono con l’obiettivo di creare un linguaggio operativo comune tra amministrazioni e mercato, promuovendo al contempo autonomia tecnologica e libertà di scelta e riducendo il rischio di dipendenza da singoli fornitori.
I capitolati di gara per l’acquisizione di sistemi di intelligenza artificiale devono essere scritti in modo da garantire la modularità e la neutralità tecnologica delle architetture, la trasparenza e la possibilità di spiegare gli algoritmi, il rispetto degli standard di cybersecurity e la governance rigorosa della proprietà dei dati. Inoltre, è necessario prevedere clausole di monitoraggio continuo: il fornitore non deve limitarsi a consegnare un sistema, ma ne deve garantire l’affidabilità e le prestazioni lungo tutto il suo ciclo di vita.
La qualità e la disponibilità dei dati sanitari saranno determinanti per evitare che l’AI amplifichi bias e disuguaglianze. Quali responsabilità avranno le amministrazioni sanitarie nella gestione dei dati utilizzati per addestrare o alimentare i sistemi di AI e quali strumenti servono per garantire che questi dati siano rappresentativi, aggiornati e utilizzabili in sicurezza?
La qualità del dato è un punto fondamentale che sta alla base del buon funzionamento dei sistemi informativi, non solo dell’AI. Un dato parziale o distorto genererà un’assistenza sanitaria distorta, errata o ingiusta. La prima responsabilità delle amministrazioni sta quindi nella governance: assicurare la pulizia, l’aggiornamento e la rappresentatività dei dati con cui i modelli vengono addestrati o alimentati a livello locale. Per esempio, una delle pratiche da evitare in senso più assoluto è l’inserimento di dati sanitari protetti all’interno di modelli generici o non certificati.
Attualmente lo strumento principale su cui stiamo lavorando è l’integrazione degli ecosistemi dati: infrastrutture come il Fascicolo Sanitario Elettronico 2.0 e la Piattaforma Nazionale Dati permettono di avere dati strutturati, interoperabili e rispettosi della privacy. Solo utilizzando dati di qualità possiamo garantire che si riducano le disuguaglianze anziché accentuarle.
Guardando ai prossimi anni, l’AI Act rischia di essere percepito dalla sanità pubblica soprattutto come un vincolo regolatorio oppure può diventare uno strumento per accelerare un’adozione più sicura e omogenea dell’AI nel SSN? E quali sono, secondo AgID, le condizioni che oggi mancano perché Asl, ospedali e Regioni possano passare dalle numerose sperimentazioni a un utilizzo dell’IA realmente strutturale?
L’AI Act non è un vincolo, è una garanzia. La credibilità e la reputazione regolatoria europea rappresentano un vantaggio competitivo enorme per fare in modo che la tecnologia guadagni la fiducia di medici e pazienti. La conformità normativa serve a trasformare l’AI da un insieme di “cantieri isolati” a una scelta di sistema.
L’AI Act non è un vincolo, è una garanzia
Oggi manca anzitutto una diffusione omogenea delle competenze: dobbiamo formare la dirigenza sanitaria e il personale clinico per superare il mito dell’algoritmo come “scatola nera” e considerarlo per ciò che è, ovvero un alleato di processo. Manca poi il superamento dei troppi progetti pilota diffusi a macchia di leopardo. Grazie alla nuova legge italiana sull’AI e alle linee guida di AgID, abbiamo oggi gli strumenti per abbandonare la frammentazione e adottare architetture trasparenti, sicure e integrate nei flussi di cura quotidiani.
Rispetto alla sua domanda, mi piace ricordare che la regolazione deriva dalla parola latina “regùla”, ovvero riga, stadia. Lo strumento usato dagli ingegneri romani per costruire ponti, strade, edifici. Non è stato un vincolo, visto che ancora oggi utilizziamo edifici, strade, acquedotti romani. La sanità pubblica può utilizzare l’AI Act come strumento per migliorare la salute e la cura delle persone.
