Nella società moderna, l’intelligenza artificiale sta diventando sempre più comune: non rappresentando più né un orizzonte remoto né un ambito riservato a pochi addetti ai lavori, è ormai divenuta un elemento cardine nella sequenza operativa di molte aziende (incluse quelle pubbliche) e che interessa anche il settore della salute.
Ogni giorno, i collaboratori, in veste gestionale, medica o tecnica, impiegano diverse risorse fondate sull’intelligenza artificiale per comporre scritti, redigere atti, esaminare informazioni, riassumere notizie e supportare le scelte, rendendo in tal modo le prassi amministrative notevolmente più snelle. Proprio questa espansione così repentina e “naturale” rende evidente uno snodo cruciale, ovvero che il rischio connesso all’utilizzo dell’Intelligenza Artificiale non è unicamente di natura tecnologica, bensì affonda le proprie radici in difficoltà strutturali e quesiti valoriali.
Impatti sugli assetti organizzativi
Sul piano strutturale, tali difficoltà riguardano innanzitutto il modo in cui le organizzazioni sono progettate e funzionano. L’introduzione dell’AI mette in discussione gli assetti organizzativi tradizionali, sollevando interrogativi non marginali: chi è responsabile di una decisione supportata o influenzata da un sistema algoritmico? Qual è il ruolo effettivo dell’AI nel processo decisionale: semplice strumento di supporto, elemento propositivo, filtro informativo o meccanismo automatizzato?
Questi interrogativi evidenziano come le strutture amministrative attuali, i ruoli professionali e le procedure esistenti siano state concepite per decisioni pienamente umane e fatichino ad adattarsi a modelli decisionali ibridi, nei quali l’intervento dell’algoritmo diventa progressivamente più pervasivo.
Strutture e procedure pensate per decisioni umane faticano ad adattarsi all’era degli algoritmi
Trasparenza e ricostruibilità decisionale
Un’ulteriore criticità strutturale riguarda i processi decisionali. Quando una scelta si fonda, anche solo in parte, su un output algoritmico, diventa essenziale comprendere se il procedimento resti trasparente e ricostruibile. La possibilità di spiegare come e perché si sia giunti a una determinata decisione rappresenta un presupposto fondamentale dell’azione amministrativa, ma può entrare in tensione con logiche algoritmiche spesso opache, difficilmente interpretabili e non sempre completamente comprensibili. Si crea così una frizione tra l’esigenza di razionalità e tracciabilità propria dell’amministrazione e l’utilizzo di strumenti che operano secondo criteri non sempre immediatamente leggibili.
Il problema delle responsabilità
A ciò si aggiunge il tema del sistema delle responsabilità. In caso di errore o di esito negativo, chi ne risponde? Il singolo funzionario che ha fatto affidamento sull’output dell’AI, il dirigente che ne ha autorizzato l’uso o l’azienda che ha adottato lo strumento? Le categorie tradizionali di responsabilità giuridica e amministrativa non sono state pensate per l’uso dell’intelligenza artificiale e mostrano evidenti difficoltà di adattamento a contesti decisionali nei quali il confine tra valutazione umana e supporto algoritmico tende a sfumare.
Profili valoriali dell’uso dell’AI
Accanto a questi profili strutturali emergono difficoltà di natura valoriale, ancora più profonde. L’impiego dell’AI interroga direttamente i principi che orientano l’azione amministrativa e professionale.
In primis, il tema della trasparenza: un sistema può mostrare un’elevata efficienza, ma non è detto che sia sempre chiaro. Viceversa, l’amministrazione pubblica ha il dovere di motivare le proprie decisioni e di renderle fruibili ai cittadini, generando un confronto costante tra l’esigenza di efficacia e quella di trasparenza democratica.
Un sistema può mostrare un’elevata efficienza, ma non è detto che sia sempre chiaro
Un secondo elemento valoriale è l’indipendenza nell’incarico professionale. Il vero rischio è che il valutatore umano, anziché eseguire un giudizio critico, si accontenti di ratificare l’esito suggerito dall’algoritmo, mutando l’intelligenza artificiale in una sorta di “autorità silenziosa”. In questo contesto, viene meno la responsabilità individuale, che è uno dei pilastri dell’agire amministrativo e medico.
Per concludere, soprattutto nell’ambito della cura, si palesa la rilevanza fondamentale del principio del fulcro sulla persona. La propagazione dell’intelligenza artificiale potrebbe ridimensionare il cittadino o l’ammalato a un mero aggregato di informazioni, con il pericolo di impoverire la relazione professionale e decisionale. Questa questione è più connessa all’etica pubblica, alla deontologia e alla bontà dell’azione gestionale che non alla tecnica di per sé.
Sensibilità del contesto sanitario
Per quanto riguarda le amministrazioni più complesse, specialmente in ambito sanitario, l’adozione dell’intelligenza artificiale riguarda argomenti assai sensibili. Questi possono comprendere elementi quali la cura delle informazioni riservate e mediche, i sistemi decisionali, la chiarezza nella gestione, i rapporti con i fornitori e la cittadinanza, senza tralasciare le responsabilità professionali implicate.
Attualmente, per quanto concerne il quadro normativo europeo (il quale si fonda su un approccio c.d. “risk-based” o basato sul rischio), esso offre sì da un lato un quadro di riferimento generale e alcune categorie operative, ma dall’altro affida poi alle singole organizzazioni o amministrazioni la responsabilità finale nel gestire in modo concreto e consapevole l’impiego dell’intelligenza artificiale nei propri processi interni, come previsto dal nuovo quadro normativo europeo sull’AI.
Il rischio dell’uso non regolamentato
L’utilizzo dell’intelligenza artificiale in sé non rappresenta il rischio più comune, è piuttosto l’utilizzo della stessa in assenza di alcun genere di regolamentazione ad essere la principale e più frequente minaccia in questo ambito.
La principale minaccia non è la tecnologia, ma la mancanza di regolamentazione
Differenti strumenti utilizzati in modo disomogeneo, inserimento di dati senza una previa valutazione, eccessiva fiducia negli output prodotti, difficoltà nel ricostruire le responsabilità, gli strumenti utilizzati e i presupposti adottati. Queste sono alcune tra le ipotesi in cui l’AI si determina un incremento complessivo del livello di rischio, dato dall’intreccio tra aspetti di protezione dei dati, sicurezza dei sistemi informativi e responsabilità di natura disciplinare e reputazionale.
L’AI non è una questione individuale, ma organizzativa
Ne consegue, pertanto, la necessità di trattare l’intelligenza artificiale come un ulteriore fattore di rischio trasversale, assimilabile ad altri rischi già noti e strutturalmente presidiati dalle organizzazioni. La governance dell’intelligenza artificiale non implica quindi un divieto di impiego né un rallentamento dell’innovazione, ma richiede che il suo utilizzo sia consapevole, tracciabile e allineato ai valori e alle regole dell’organizzazione. Ne deriva che l’AI non può essere gestita come una competenza individuale informale, bensì deve trovare collocazione strutturata all’interno dei sistemi sia di governance che di controllo.
Il ruolo della formazione
Uno dei primi elementi cardini in questo processo è rappresentato dalla formazione.
Ma per aiutare davvero gli utenti nella vita di tutti i giorni con l’intelligenza artificiale, non basta solo insegnare il funzionamento tecnico degli strumenti o le loro funzioni. È molto importante, quindi, delineare chiaramente un campo d’uso dell’intelligenza artificiale, che includa limiti, responsabilità, rischi e le giuste modalità per gestire i dati che vengono creati, tutto questo con la supervisione umana in mente.
In questo scenario, avviare corsi di formazione a distanza specifici per l’uso dell’intelligenza artificiale potrebbe essere una vera e propria misura preventiva. Questo approccio permetterebbe di coinvolgere uniformemente l’intera organizzazione, creando una base comune di consapevolezza su come utilizzare uno strumento così potente.
Mappatura dell’utilizzo dell’AI
Può diventare cruciale, infine, parallelamente alla formazione, predisporre un processo di mappatura dell’uso dell’intelligenza artificiale stessa, che consenta di comprendere chi utilizza strumenti di AI, per quali finalità e con quali dati.
Conoscere la diffusione dell’IA nell’operatività quotidiana è il primo passo per governarla
Una modalità semplice ed efficace per mapparne l’utilizzo può essere rappresentata dall’utilizzo di un breve questionario rivolto a tutti i collaboratori, volto a raccogliere informazioni di base sull’effettivo utilizzo degli strumenti di AI nell’operatività quotidiana. A titolo esemplificativo, il questionario potrebbe articolarsi attorno a poche domande essenziali quali:
- Nell’ambito delle tue attività lavorative in azienda, utilizzi strumenti di intelligenza artificiale a supporto del tuo lavoro (inclusi eventuali strumenti aziendali)?
- Per quali finalità utilizzi principalmente strumenti di intelligenza artificiale nel tuo lavoro?
- Quando utilizzi strumenti di intelligenza artificiale, in quale misura incidono sul tuo processo di lavoro?
Un’impostazione di questo tipo consente, con un onere organizzativo limitato, di acquisire una prima fotografia del fenomeno e di orientare in modo più consapevole le successive scelte in termini di governance, regolazione e formazione.
