La tecnologia deve sostenere sviluppo sostenibile e obiettivi etici

Intervista a Enrico Vicenti Segretario Generale della Commissione Nazionale Italiana per l'UNESCO

La Commissione Nazionale Italiana per l’UNESCO è stata istituita nel 1950 con l’obiettivo di  favorire la promozione, il collegamento, l’informazione, la consultazione e l’esecuzione dei programmi UNESCO in Italia. In questi ultimi anni fra i temi all'attenzione dell'UNESCO è emersa anche l’intelligenza artificiale sulla quale nel settembre 2023 è stata  pubblicata la prima Guida per l’Intelligenza Artificiale generativa nell’educazione e nella ricerca, con l’obiettivo di supportare gli Stati Membri a realizzare azioni immediate, pianificare politiche di lungo termine e assicurare che lo sviluppo di queste nuove tecnologie sia incentrato sull’essere umano. Su queste tematiche abbiamo intervistato Enrico Vicenti Segretario Generale della Commissione Nazionale Italiana per l'UNESCO.

L'intelligenza artificiale sta trasformando rapidamente settori come l'istruzione, la cultura e la scienza. Come sta lavorando l'UNESCO per promuovere un utilizzo etico e inclusivo dell'IA in questi ambiti?

L’UNESCO adotta un approccio incentrato sugli esseri umani per promuovere il dialogo internazionale sugli aspetti universali dell’Intelligenza Artificiale nelle aree relative all’istruzione, alle scienze, alla cultura, alla comunicazione e all’informazione, con particolare attenzione alla parità di genere, allo sviluppo sostenibile e ai cambiamenti sociali. Già nel 2018, un numero della rivista UNESCO Courier è stato dedicato al tema dell’IA, con un focus sui vantaggi e le minacce legati al suo sviluppo. Da allora l’impegno dell’UNESCO in ambito IA si è andato consolidando con un numero sempre crescente di iniziative e pubblicazioni orientate ad evidenziare la necessità di un approccio alla materia che tenga anche conto dei possibili rischi derivanti da un uso irresponsabile e non etico dell’IA. Se da un lato, l’IA può essere una grande opportunità per accelerare il raggiungimento degli obiettivi di sviluppo sostenibile, dall’altro, occorre anticipare nuovi squilibri che qualsiasi rivoluzione tecnologica porta con sé.

Il 24 novembre 2021 la Conferenza Generale dell’UNESCO ha adottato la “Raccomandazione sull’etica dell’Intelligenza Artificiale”, il primo strumento normativo che fissa i principi etici dell’IA nel rispetto dei diritti umani e delle libertà fondamentali. Il percorso per arrivare all’adozione della raccomandazione è durato due anni e ha coinvolto tutti gli Stati Membri, che hanno partecipato inviando commenti e proposte di modifica a una prima bozza, basata sullo studio preliminare sull’etica dell’IA effettuato dalla Commissione Mondiale dell’UNESCO per l’Etica della Conoscenza Scientifica e delle Tecnologie (COMEST), di cui è membro il Prof. Amedeo Santosuosso dell’Università di Pavia. Per la stesura della bozza erano state avviate in precedenza consultazioni con un ampio numero di stakeholder per contribuire a un testo il più inclusivo possibile.

Molti temono che l'IA possa ampliare le disuguaglianze globali, specialmente nei paesi in via di sviluppo. Quali iniziative sta intraprendendo l'UNESCO per garantire che l'accesso alle tecnologie di intelligenza artificiale sia equo e sostenibile a livello globale?

In occasione della Mobile Learning Week (una iniziativa faro nell’ambito ITC) già nel 2019 l’UNESCO ha presentato un interessante rapporto sull’uso dell’IA per contribuire allo sviluppo sostenibile. Dal 2023 è stata lanciata la Digital Learning Week, che mira ad esplorare le tematiche di maggiore rilevanza e attualità relativamente all’impatto dell’IA sui sistemi educativi tenendo presente la necessità di rafforzare la loro capacità di stimolare un modo di pensare incentrato sull’essere umano, promuovere le competenze digitali e assicurare che la tecnologia sostenga sviluppo sostenibile e obiettivi etici.

Per fornire delle risposte agli interrogativi più comuni in materia di IA, l’UNESCO ha anche pubblicato una prima serie di video, “Thinking Ethics of AI”, che hanno l’obiettivo di diffondere la consapevolezza che oggi sempre più le decisioni che prendiamo possono essere guidate dall’intelligenza artificiale non solo per quanto riguarda gli acquisti online o la scelta del ristorante dove andare a mangiare. Gli algoritmi, infatti, aiutano anche i medici a raggiungere diagnosi più accurate o i giudici ad elaborare una sentenza. L’IA, dunque, può essere rapida e utile; dall’altra parte però, il rischio è quello di nutrire l’IA di un insieme di dati che si presentano già come parziali e non neutrali. Il limite è rappresentato dall’incapacità dei sistemi di IA di comprendere qualità tipicamente umane come l’empatia e più in generale le sfumature di carattere socioculturale conducendo potenzialmente verso risultati che comportano disuguaglianza e ingiustizia. L’UNESCO ha poi realizzato una seconda serie di video che riguardano l’applicazione delle tecnologie digitali alla genetica e i risvolti etici in campo medico e nei diversi settori produttivi. Queste brevi filmati si propongono di richiamare l’attenzione su questioni come le implicazioni etiche, i costi e i benefici dell’editing genomico per i trattamenti medici o l’impatto sull’ambiente e sulla biodiversità che avrebbe l’editing genomico per modificare le caratteristiche delle piante e degli animali.

E sono state intraprese misure rispetto ai pregiudizi di genere causa di discriminazioni?

Nel maggio 2023 l’UNESCO ha lanciato una rete di Donne per l’Intelligenza Artificiale etica, “Women4Ethical AI”, una piattaforma collaborativa composta da 17 esperte (3 le italiane) provenienti dal mondo accademico, delle aziende e della società civile, per far leva su governi e settore privato affinché le donne siano equamente rappresentate, sia nella progettazione che nella realizzazione dell’IA. L’iniziativa è una risposta all’allarme lanciato da più parti circa la possibilità di replicare e amplificare, nelle diverse applicazioni future dell’IA, gli esistenti pregiudizi di genere causa di discriminazioni. I risultati di questo lavoro di ricerca saranno inclusi in una raccolta online per favorire la diffusione di buone pratiche. Il gruppo di studio e analisi guiderà e promuoverà anche i progressi nell’applicazione degli algoritmi di IA non discriminanti, incentivando cosi donne, ragazze e gruppi poco rappresentati a partecipare agli studi mondiali sull’IA. Tra gli strumenti individuati per il raggiungimento di questi obiettivi, sono previsti anche possibili sostegni economici e supporto alle donne impegnate nell’IA, sia come ricercatrici accademiche che imprenditrici.

Quali sono le principali linee guida dell'UNESCO per proteggere i diritti umani e la diversità culturale nell'era dell'intelligenza artificiale?

La Conferenza Internazionale di Pechino sull’Intelligenza Artificiale nel 2019 ha raccomandato all’UNESCO di sviluppare linee guida e risorse per sostenere l’integrazione delle competenze nell’IA nell’ambito educativo e di rafforzare la collaborazione internazionale in questo campo. Per questo nel 2021 l’UNESCO ha pubblicato un interessante documento dal titolo “Intelligenza Artificiale e istruzione: indicazioni per i decisori politici“, che intende offrire una guida su come usare in modo vantaggioso le opportunità offerte dall’IA per innovare l’insegnamento e accelerare il progresso verso l’Obiettivo 4 dell’Agenda 2030 delle Nazioni Unite per lo Sviluppo Sostenibile, un’educazione di qualità, equa e inclusiva. Allo stesso tempo il documento fornisce indicazioni, ispirate ai principi di inclusione ed equità, per affrontare i rischi presentati dalla crescente connessione tra IA e istruzione, attraverso un’analisi delle tendenze che stanno emergendo e delle implicazioni dell’IA per l’insegnamento e l’apprendimento.

“Le implicazioni dell’IA per l’insegnamento e l’apprendimento sono una priorità”.

Come già detto, sempre nel 2021 l’UNESCO ha adottato la “Raccomandazione sull’etica dell’Intelligenza Artificiale”, che rappresenta il primo strumento normativo che fissa i principi etici dell’IA nel rispetto dei diritti umani e delle libertà fondamentali. A seguito della richiesta di sospendere la formazione sull’utilizzo dei sistemi più potenti di intelligenza artificiale, incluso ChatGPT, proveniente da oltre mille professionisti del settore, il 30 marzo 2023 l’UNESCO ha fatto appello a tutti i paesi per attuare subito la sua “Raccomandazione sull’etica dell’intelligenza artificiale”. Al momento oltre 40 paesi in tutto il mondo stanno già lavorando con l’UNESCO per sviluppare sistemi di pesi e contrappesi a livello nazionale sulla base della Raccomandazione.

Nel maggio 2023 le Commissioni Nazionali tedesca, olandese e slovena, con il supporto dell’International Research Centre of Artificial Intelligence under the auspices of UNESCO hanno pubblicato il documento “The UNESCO Recommendation on The Ethics of AI: Shaping the Future of Our Societies”. Si tratta di un documento molto utile che fornisce brevi risposte alle domande che comunemente insorgono sull’intelligenza artificiale e che offre una sintetica descrizione dei contenuti della Raccomandazione, identificando cinque aree chiave di intervento delle politiche nazionali. La Commissione Nazionale Italiana per l’UNESCO ha curato la traduzione in italiano del documento.

Sempre nel 2023 l’UNESCO ha pubblicato la prima Guida per l’Intelligenza Artificiale generativa nell’educazione e nella ricerca, con l’obiettivo di aiutare gli Stati Membri a realizzare azioni immediate, pianificare politiche di lungo termine e assicurare uno sviluppo di queste nuove tecnologie incentrato sull’essere umano.

La Guida propone alcuni passi per arrivare ad una regolamentazione degli strumenti di IA generativa, tra i quali in primo luogo esigere la protezione dei dati personali e stabilire un limite minimo di età per interagire con le piattaforme di IA generativa. Al fine di indicare un uso appropriato di questi strumenti nei settori dell’educazione e della ricerca, la Guida propone un approccio adeguato alla validazione etica e ai processi di progettazione pedagogica.

Guardando al futuro, quali passi concreti ritiene essenziali affinché l'intelligenza artificiale contribuisca al raggiungimento degli Obiettivi di Sviluppo Sostenibile?

L’UNESCO presta particolare attenzione all’attuazione dell’Obiettivo di Sviluppo Sostenibile 4 “Istruzione di qualità” che prevede di “Garantire un’educazione di qualità, equa e inclusiva, e opportunità di apprendimento permanente per tutti”. A questo proposito l’UNESCO Courier ha pubblicato nel 2023 un numero intitolato “l’educazione ai tempi dell’Intelligenza Artificiale”  che propone una riflessione sulle opportunità proposte dalle nuove tecnologie ma anche sui pericoli che ne conseguono, tra i quali,  ai primi posti, l’aumento del divario informatico e la disinformazione.  L’IA generativa, capace di imitare la facoltà umana di creare testi, immagini, video, musica e codici informativi, ci forza a ridefinire la specificità dell’intelligenza umana, che ha delle ripercussioni su quello che impariamo, su come impariamo e anche sul perché impariamo. Per questo, come ci ricorda la Vice Direttrice Generale dell’UNESCO per l’Educazione, Stefania Giannini, è necessario “preparare i giovani a una società dove esseri umani e macchine coesistono, senza però minare l’intelletto umano”.

Nel febbraio 2024 si è svolto in Slovenia il secondo Forum Mondiale sull’Etica dell’Intelligenza Artificiale , promosso dall’UNESCO  e dedicato alla governance dell’IA. Il Forum ha riunito le esperienze e le competenze di circa cinquanta paesi a diversi livelli di sviluppo tecnologico e politico e aperto la strada al dialogo con il settore privato, il mondo accademico e la società civile, consentendo scambi di buone pratiche e opinioni. Gli esperti del settore hanno potuto esplorare le opportunità e le sfide poste dall’IA, come il potenziale della tecnologia per far avanzare l’agenda dell’equità e della non discriminazione, le buone pratiche per una supervisione dell’IA, e il partenariato con il settore privato per valutare l’impatto etico e sull’uguaglianza di genere.

La sessione ministeriale del forum ha visto la partecipazione, per l’Italia, del Sottosegretario alla Presidenza del Consiglio per l’Innovazione Alessio Butti.

Quali sono i risultati più importanti emersi dal Forum?

Il Forum Mondiale rappresenta evidentemente uno strumento di grande importanza per coinvolgere la comunità internazionale e sensibilizzarla verso le questioni etiche, con l’obiettivo di guidare l’IA verso il raggiungimento degli Obiettivi di Sviluppo Sostenibile. Nel giugno di quest’anno il Terzo Forum Mondiale dell’UNESCO sull’Etica dell’Intelligenza Artificiale si svolgerà a Bangkok. Il Forum, intitolato “Governance etica dell’Intelligenza Artificiale in movimento” sarà finalizzato principalmente ad evidenziare i successi raggiunti nell’etica dell’IA dopo la pubblicazione della Raccomandazione sull’Etica dell’IA da parte dell’UNESCO e sottolineare la necessità di progredire ancora attraverso iniziative attuabili.

Il lavoro dell’UNESCO per l’attuazione dell’etica dell’IA si è riflesso anche nella  Dichiarazione sull’Economia Digitale, adottata in occasione del G20 che si è tenuto in Brasile nel 2024. La Dichiarazione promuove l’integrità dell’informazione e la governance etica dell’IA, assicurando un ecosistema digitale allineato con i diritti umani, la libertà e l’accesso all’informazione. L’UNESCO attribuisce particolare enfasi al capitolo relativo all’IA per lo sviluppo sostenibile e la riduzione delle diseguaglianze.