L'Intelligenza artificiale impara anche i pregiudizi dall'uomo

Dai testi e dai libri dell'uomo, l'intelligenza artificiale non impara solo le parole, ma riproduce anche le stesse inclinazioni e pregiudizi, come quelli legati al genere. Lo hanno verificato i ricercatori dell'università di Princeton, guidati da Aylin Caliskan, il cui studio è pubblicato sulla rivista Science. Un risultato utile non solo a studiare pregiudizi e comportamenti nell'uomo, ma che dimostra anche come il linguaggio sia intimamente intrecciato agli stereotipi di genere storici e culturali.

Di solito per misurare i pregiudizi nell'uomo si usa il test di associazioni implicite, dove le persone devono accoppiare concetti che trovano simili, a differenza di altri che trovano diversi. I tempi di risposta cambiano parecchio, indicando così quanto le persone associano una parola all'altra (per esempio, si tende ad associare fiore con piacevole, insetto con spiacevole). In questo caso i ricercatori hanno sviluppato un modo simile per misurare i pregiudizi nei sistemi di Intelligenza artificiale, che apprendono il linguaggio dai testi umani.

Invece di misurare il loro tempo di reazione e di ritardo, hanno usato dei numeri statistici di associazioni tra parole, analizzando circa 2,2 milioni di parole. Hanno così visto che i sistemi di Intelligenza artificiale memorizzano e acquisiscono gli stessi pregiudizi dell'uomo. Ad esempio, gli studi sul comportamento umano hanno mostrato che lo stesso curriculum ha il 50% di possibilità in più di portare ad un colloquio di lavoro se il candidato ha un nome europeo o americano, invece che afro-americano. Allo stesso modo, il sistema di Intelligenza artificiale tende ad associare i nomi europei-americani a stimoli piacevoli (come regalo o felice). E allo stesso modo riproduce i pregiudizi umani anche per il genere: le parole legate al sesso femminile (come donna o ragazza) erano infatti più spesso associate alle arti e non alla matematica, rispetto a quelle legate al sesso maschile.