Google, un 'tasto rosso' per spegnere Intelligenza artificiale

Sistema per evitare involuzioni come in film Ex Machina

Un "pulsante rosso", di emergenza, in grado di spegnere un'intelligenza artificiale qualora diventasse pericolosa per il genere umano come descritto dal film Ex Machina. Il sistema è oggetto di uno studio condotto da DeepMind di Google (il cui software è finito sotto i riflettori per aver battuto l'uomo al gioco Go) e dall'Università di Oxford, ed è pubblicato sul sito del Machine Intelligence Research Institute dell'università californiana di Berkeley. Lo studio si innesta in un momento storico di forti investimenti da parte della Silicon Valley sull'intelligenza artificiale (AI).

I ricercatori affermano di aver creato una sorta di "pulsante rosso" che non solo è in grado di "arrestare" le azioni di una intelligenza artificiale ma anche di impedire che un sistema troppo sviluppato possa capire e aggirare questa interruzione.

Tuttavia non è ancora chiaro, spiegano gli scienziati al sito Business Insider, "se tutti i tipi di algoritmo possano essere 'interrotti' facilmente e in modo sicuro".

I ricercatori stanno ragionando sul fatto che un agente AI possa evolversi anche in modo pericoloso o controproducente per l'essere umano. Lo studio sarà illustrato alla Conference on Uncertainty in Artificial Intelligence (UAI) in agenda a New York a fine giugno.
   

RIPRODUZIONE RISERVATA © Copyright ANSA