Intelligenza artificiale e pubblica amministrazione

di Anna Corrado

DOI 10.12910/EAI2025-003

Nonostante la centralità del dibattito e la digitalizzazione che pervade le procedure amministrative, va considerato, tuttavia, che gli ambiti di applicazione dei sistemi di intelligenza artificiale alla PA restano allo stato limitati, coinvolgendo soprattutto, le esperienze in atto, l’attività di vigilanza e di controllo e lambendo appena i processi decisionali veri e propri. In particolare, le amministrazioni dovranno prestare grande attenzione nell’assicurare il pieno rispetto dei diritti e delle prerogative dei soggetti coinvolti, affinché l’era digitale non implichi un arretramento sul fronte dei diritti partecipativi e conoscitivi.

L’utilizzo dell’intelligenza artificiale (IA) nella pubblica amministrazione è tema molto dibattuto, sia per i grandi vantaggi che porterebbe, sia per la necessità, una volta utilizzata, di non perdere di vista la realizzazione degli interessi pubblici, dei diritti fondamentali, dei servizi e delle prestazioni essenziali ai cittadini. Nuovi principi si delineano all’ombra del tecnicismo immanente   e altre tutele si ipotizzano: l’obiettivo è quello di ricercare una strada che assicuri una rinnovata efficienza e un presidio mirato e che sia sempre l’uomo a governare i processi segnati dalle innovazioni, auspicando benessere per l’umanità.

Nonostante la centralità del dibattito e la digitalizzazione che pervade le procedure amministrative, va considerato, tuttavia, che gli ambiti di applicazione dei sistemi di intelligenza artificiale alla pubblica amministrazione restano allo stato limitati, coinvolgendo soprattutto, le esperienze in atto, l’attività di vigilanza e di controllo e lambendo appena i processi decisionali veri e propri.

Molte le idee e molti i progetti che necessiterebbero di essere sperimentati in concreto, anche per capire gli ambiti di operatività,  i dati a disposizione e la loro qualità, per affrontare  il tema di eventuali dataset certificati idonei all’addestramento di sistemi destinati alla pubblica amministrazione, per individuare  il quadro delle regole necessarie e le riforme da varare a partire dalle modifiche alla legge sul procedimento amministrativo (L. 241/1990), concepita in un epoca nella quale l’amministrazione non era investita dalla rivoluzione tecnologica.

E’ interessante sul punto considerare l’invito rivolto alle pubbliche amministrazioni con il Piano triennale per l’informatica 2024-26 (AgID) affinchè giungano a un “piano dei fabbisogni” al fine di individuare i servizi e i processi da valorizzare con sistemi di IA o di identificare aree specifiche dove l’IA può migliorare l’efficienza e l’efficacia dei servizi pubblici. Sarà, quindi, importante individuare e selezionare set di dati pertinenti, assicurare che i dati siano di alta qualità, rappresentativi e privi di bias, analizzare le implicazioni etiche e legali dell’uso dell’IA nei servizi pubblici, assicurando che ogni implementazione sia in linea con le normative vigenti e i principi etici fondamentali.

I principi guida e le regole applicabili

L’utilizzo di tecnologie avanzate in ambito amministrativo risulta conforme ai canoni di efficienza e di economicità dell’azione amministrativa (art.1, l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa, impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale. Il principio di legalità alla base del diritto amministrativo, visti i tempi, va riguardato come principio di legalità algoritmica che trova il suo principale fondamento proprio nell’art. 97 della Costituzione, in quanto l’introduzione dei modelli decisionali automatizzati e l’utilizzo di tecnologie informatiche risponde alla doverosa declinazione della norma costituzionale, coerente con l’attuale e futura evoluzione tecnologica.

Con riferimento all’attività amministrativa è noto che già a partire dal 2017 si è posto il tema della c.d. decisione algoritmica come quella assunta all’esito di procedure amministrative automatizzate che fanno applicazione di algoritmi. In particolare, è stata puntualizzata la necessità che essa soggiaccia, nonostante sia resa attraverso procedure informatiche evolute, ai principi previsti dalla legge sul procedimento amministrativo e, segnatamente, ai principi di imparzialità, pubblicità e trasparenza. Infatti, per quanto indubbi siano i vantaggi che derivano dall’automazione del processo decisionale dell’amministrazione mediante l’utilizzo di una procedura digitale e algoritmica, l’utilizzo della stessa non dovrebbe mai implicare un sacrificio dei principi fondamentali che segnano il procedimento amministrativo e che si sono oramai consolidati nel nostro ordinamento (Cons. Stato, VI, 8 aprile 2019, n. 2270, 13 dicembre 2019, n. 8474).

Il ricorso all’algoritmo appartiene alla scelta organizzativa-discrezionale dell’amministrazione al fine di realizzare finalità di interesse pubblico e può ben essere utilizzato non solo per lo svolgimento dell’attività amministrativa vincolata, ma anche per quella discrezionale, considerate entrambe espressione del potere autoritativo esercitato per il perseguimento del pubblico interesse.

Il futuro delle procedure amministrative

Pur nella consapevolezza dell’indubbio “fascino” che accompagna lo studio dell’impiego nell’attività amministrativa di algoritmi, di apprendimento e non, in particolare per le evidenti ricadute in termini di efficienza e di velocizzazione della decisione pubblica, nonché del fatto che tale utilizzo rappresenta inevitabilmente il futuro delle procedure amministrative, nondimeno le amministrazioni dovranno prestare grande attenzione nell’assicurare il pieno rispetto dei diritti e delle prerogative dei soggetti coinvolti, affinché l’era digitale non implichi un arretramento sul fronte dei diritti partecipativi e conoscitivi. Sarà, quindi, sempre necessario, in particolare,  assicurare una adeguata motivazione e la  trasparenza finalizzate a consentire la  comprensibilità del “risultato algoritmico” .

Sul fronte pubbliche amministrazioni e tutela degli interessi dei cittadini, tre sono i principi importanti e altamente sfidanti da considerare per avere un’IA effettivamente al servizio del cittadino, per consentirne un uso etico e portare  fiducia in questa tecnologia, principi cristallizzati nel Regolamento UE 2024/1689 del 13 giugno 2024 (AI Act): assicurare che venga garantita la trasparenza dei sistemi di intelligenza artificiale in modo da comprenderne il funzionamento  (art. 13), assicurare il diritto alla spiegabilità dei singoli processi decisionali in favore degli interessati (art. 86), che sia  assicurata la sorveglianza umana (art. 14).

Le discipline speciali già introdotte nel nostro ordinamento (art. 30 del d. lgs. 36/2023, art. 9, d. lgs. 103/2024) prevedono che ogni soggetto interessato ha diritto di conoscere l’esistenza di processi decisionali automatizzati che lo riguardano e in tal caso ricevere informazioni sulla “logica utilizzata”.

Il dettato normativo pone in capo all’amministrazione che assume una decisione automatizzata, in linea con l’AI Act, il dovere di assicurare la spiegabilità della stessa, mettendo a disposizione dell’interessato la documentazione necessaria per rendere comprensibile le logiche di funzionamento del software utilizzato e la logica alla base della decisione automatizzata assunta con sistemi di IA. La sfida dei prossimi mesi sarà proprio quella di rendere concreta l’esplicitazione della “logica utilizzata” nell’assunzione della decisione automatizzata. Come è evidente, anche nel caso dell’IA, la strada maestra sarà quella della trasparenza che, dopo aver superato nel tempo lo scoglio del segreto d’ufficio e aver combattuto per avere pari considerazione nel bilanciamento con la riservatezza, giunge ora al banco di prova dell’intelligenza artificiale, chiamata a traghettare le amministrazioni verso il futuro e ad assicurare ai cittadini il diritto alla spiegabilità.

Quelli sopra enunciati sono principi oramai molto noti, già introdotti dal Gruppo di esperti ad alto livello sull'intelligenza artificiale, istituito dalla Commissione europea nel giugno 2018 e ripresi e confermati dalla giurisprudenza amministrativa fin dal 2019 (Consiglio di Stato, sentenze nn. 2270/2019 e 8474/2019), anche se riferiti all’attività amministrativa algoritmica di prima generazione. Principi che ora toccherà rendere concreti avviando, in primis, una necessaria e massiccia campagna di alfabetizzazione delle persone che si dovranno occupare di procedure amministrative intelligenti, per assumere decisioni “informate”. Trattandosi di una tecnologia tanto potente quanto “oscura”, non sarà un percorso facile.

Formazione dei pubblici dipendenti e reclutamento di nuove professionalità

Con riguardo all’intelligenza artificiale nelle pubbliche amministrazioni, tuttavia, il tema che oggi più preoccupa è quello della c.d. “sorveglianza umana”, alias “riserva di umanità” che inevitabilmente si intreccia con quello della responsabilità in capo al funzionario pubblico per i  procedimenti e provvedimenti adottati attraverso intelligenza artificiale (art. 13 del disegno di legge  sull’intelligenza artificiale, A.S. 1146), che potrebbe portare a un rallentamento nell’utilizzo delle nuove tecnologie.  Un’esigenza importante, infatti, nelle amministrazioni, diventa sempre di più quella di poter contare su personale con competenze tecniche adeguate anche al fine di scongiurare un appiattimento e una eccessiva fiducia nelle decisioni automatizzate e per evitare di correre il rischio di veder vanificata nei fatti l’attuazione del principio, affermato dalla giurisprudenza amministrativa, di non esclusività della decisione algoritmica.

Come è stato infatti chiarito, il diritto di pretendere che in una procedura automatizzata vi sia un intervento umano capace di controllare, validare ovvero smentire la decisione automatica implica anche la presenza di soggetti che siano in grado di controllare gli input, gli obiettivi da raggiungere, il processo decisionale e gli output; inoltre, questi stessi soggetti dovrebbero avere la capacità di discostarsi dalla decisione proposta dall’algoritmo. Su questo fronte va considerato che le pubbliche amministrazioni sono allo stato segnate dalla presenza di personale con età media alta e con una scarsa formazione su questi temi e scarsa presenza di profili tecnici, criticità   queste che non potranno essere facilmente risolte solo con un incremento dell’attività di reclutamento. Il Piano dell’informatica citato individua alcuni profili professionali chiave da ricoprire nelle pubbliche amministrazioni: innovation manager esperto di AI, ethics officer, esperto di apprendimento automatico e Intelligenza Artificiale; esperto di dati.

Il tema, quindi, non è solo quello di reclutare le figure mancanti, ma soprattutto quello di  rendere attrattiva la pubblica amministrazione per i giovani tecnici, da un punto di vista di carriera economica e crescita professionale. Queste problematiche potrebbero pregiudicare l’utilizzo dei sistemi di IA nelle pubbliche amministrazioni privandole di una ventata di efficienza e di opportunità di maggior sviluppo ovvero implicare l’esternalizzazione di molte attività impedendo, nei fatti,  la “crescita” e la effettiva trasformazione digitale delle amministrazioni.

Panetta,  i data center e l’IA rallenteranno l’abbandono dei combustibili fossili

"Il mondo in cui viviamo sta affrontando una transizione energetica, ma anche una transizione digitale. Sono interconnesse ed entrambe richiedono investimenti significativi. L'espansione delle tecnologie digitali ad alto consumo energetico, come i data center e l'intelligenza artificiale, per non parlare dei cripto-asset, sta facendo aumentare la domanda di energia”. Ad affermarlo il governatore della Banca d'Italia, Fabio Panetta, in occasione della conferenza G7-Aie su 'Ensuring an Orderly Energy Transition' che si è tenuta il 16 settembre nella sede di Bankitalia a Roma. A giudizio di Panetta “queste tecnologie rappresentano attualmente il 2% del consumo globale di elettricità, ma si prevede che questa cifra sarà più che raddoppiata entro il 2026, arrivando a 1.000 TWh, una   quantità paragonabile alla domanda totale di energia elettrica del Giappone. Questa ulteriore domanda di elettricità – ha proseguito- non solo rallenterà l'abbandono dei combustibili fossili,  ma aumenterà anche la pressione sulle risorse idriche a causa dell'ulteriore produzione di elettricità e del fabbisogno di raffreddamento delle apparecchiature informatiche"."Tuttavia -ha osservato- la tecnologia può anche essere un importante alleato nella transizione energetica. Applicazioni promettenti mostrano il potenziale della tecnologia e dell'intelligenza artificiale per aiutare le reti elettriche a gestire una quota crescente di fonti rinnovabili intermittenti, migliorare le previsioni e la valutazione dei rischi climatici e ridurre il costo dei rapporti sulla sostenibilità. Poiché sia la transizione energetica che quella digitale sono trasformazioni inevitabili – ha sottolineato ancora Panetta - spetta a noi sfruttarle al meglio, assicurandoci di massimizzare il loro potenziale combinato e di raccogliere  tutti i benefici, non solo i costi".