Gli algoritmi possono anche discriminare

ROMA - Gli algoritmi sono sempre più utilizzati in diverse applicazioni della vita di tutti i giorni, ma talvolta possono essere 'razzisti', discriminando razza e genere. L'allarme è stato lanciato dagli esperti durante un recente congresso organizzato dal Mit di Boston, in occasione del quale i partecipanti , insieme all'Unione americana per le libertà civili hanno deciso di creare la AI Now initiative, per andare a caccia delle intelligenze artificiali 'razziste'.

"Il pregiudizio può esistere in ogni tipo di servizi e prodotti - spiega alla rivista del Mit Kate Crawford, uno dei fondatori -. Siamo ancora agli albori della comprensione del fenomeno, ma più investighiamo più ne troviamo".

L'università di Bath ha dimostrato su Science che gli algoritmi che si utilizzano per interpretare il linguaggio hanno acquisito molti dei 'bias' verificati nell'uomo dagli esperimenti di psicologia. Le parole 'femmina' e 'donna' ad esempio vengono associate maggiormente ad occupazioni 'umanistiche' e legate alla casa.