Per un'intelligenza artificiale "umanocentrica"

La sfida è creare una “Explainable IA” che sia robusta, comprensibile e affidabile

Di Alessio Jacona*

«L’intelligenza artificiale deve essere “umanocentrica”, cioè deve essere comprensibile, affidabile e controllabile dall'essere umano». Rita Cucchiara, direttore del Laboratorio Nazionale di Artificial Intelligence and Intelligent Systems del CINI (Consorzio Interuniversitario Nazionale per l'Informatica), riassume così la visione alla base di HumanE AI Net, uno dei tre progetti sostenuti dal consorzio e recentemente finanziati dalla Comunità europea e finanziati nell’ambito della call-to-action “ICT-48-2020: Towards a vibrant European network of AI excellence centres”.

Lo HumanE AI Net nasce per riunire i migliori centri di ricerca europei, le università e i principali campioni industriali in una community internazionale che collabora mettendo insieme competenze su settori come l'interazione uomo macchina, le scienze cognitive, le scienze sociali e la scienza della complessità. L’idea, in linea con le strategie della Comunità europea così come delineate nel programma “Horizon 2020”, è quella di sviluppare un vero e proprio Human Centric Brand dell'IA europea, un “cappello” sotto il quale plasmare una rivoluzione dell'IA che sia vantaggiosa per gli esseri umani sia a livello individuale sia sociale, e che aderisca ai valori etici e alle norme sociali, culturali, legali e politiche europei.

«Per creare un'intelligenza artificiale che sia comprensibile per l'essere umano, la cosiddetta “Explainable AI”, è necessario lavorare sull’interazione uomo-macchina e sull’interazione uomo-robot», spiega la professoressa Cucchiara. «Per fare un esempio pratico del perché sia necessario - continua - possiamo prendere ad esempio la Medicina: i medici, infatti, sono ben contenti di poter usare le reti neurali nelle diagnosi più complesse o difficili, ma hanno bisogno di capire come esse arrivino alle proprie conclusioni per avallare il referto».

Ecco perché il progetto HumanE AI Net mira fare sostanzialmente due cose: «da una parte, spiegare agli esseri umani che cos'è l'intelligenza artificiale affinché questa possa essere accettata ed utilizzata anche in alcuni settori critici come appunto la Medicina o l’esplorazione dello spazio». E questo perché, quale che sia la tecnologia adottata, se si presenta come una “scatola nera” impossibile da comprendere, finirà comunque con il trovare “resistenza” anche da parte di chi potrebbe adottarla con profitto.

«Dall'altra parte, in maniera speculare, è necessario creare un’intelligenza artificiale robusta è affidabile - aggiunge Rita Cucchiara - che sappia comprendere gli esseri umani e che possa adattarsi a contesti sociali complessi, che faciliti l'interazione con uomo-macchina in tutti i compiti, dai più semplici a quelli più complessi», per esempio integrando la capacità di capire il linguaggio naturale (e quindi l’ascolto) con la visione, imparando cioè a comprendere l'essere umano non solo attraverso le sue parole, ma anche interpretando i suoi gesti, «Per capire e farsi capire dagli esseri umani».


E come si arriva a questo tipo di Intelligenza Artificiale? «Dal punto di vista della progettazione, inserendo una serie di punti di controllo lungo tutto il processo - spiega il direttore del Lab CINI AIIS - senza lasciarsi ammaliare dalle reti end-to-end che partono dal problema e arrivano soluzione senza mostrare alcun passaggio. Invece di avere un unico processo che porta delle risposte - conclude - dovremo averne uno fatto di moduli alla fine dei quali è risultato è verificabile, e dove magari è la macchina stessa che spiega, per esempio tramite linguaggio naturale, perché è arrivata a certe conclusioni».

Il progetto HumanE AI Net, infine, punta a coinvolgere l'industria europea, a raggiungere gli stakeholder sociali rilevanti a creare un ecosistema di innovazione che sappia generare un ritorno sugli investimenti significativo per l'economia. I risultati della ricerca saranno messi a disposizione della comunità IA europea attraverso la piattaforma AI4EU e un Laboratorio Virtuale, mentre verranno sviluppate scuole estive, tutorial, MOOC e un programma di dottorato di ricerca industriale, in modo da diffondere la conoscenza e far sì che ricerca e innovazione abbiano un impatto economico e di valore per la società.

*Giornalista, esperto di innovazione e curatore dell’Osservatorio Intelligenza Artificiale ANSA.it

RIPRODUZIONE RISERVATA © Copyright ANSA