Facebook, dati dal mondo reale per prevenire l'odio con l'IA

Algoritmi di Intelligenza Artificiale anticipano trend negativi

Redazione ANSA MILANO

(ANSA) - MILANO, 18 AGO - Aumentano i post di odio su Facebook ma anche la capacità del social network di rimuoverli quasi in tempo reale. Merito degli algoritmi di Intelligenza Artificiale che hanno permesso, nel trimestre da aprile a giugno del 2021, di eliminare 31,5 milioni di contenuti di incitamento all'odio, in confronto dei 25,2 milioni del primo trimestre dell'anno. Il numero è in crescita anche su Instagram, dove i team dedicati hanno rimosso 9,8 milioni di post, rispetto ai 6,3 milioni del periodo da gennaio a marzo. Dati che emergono dal più recente 'Report sull'applicazione degli Standard della Comunità', appena diffuso, e che pone in evidenza i miglioramenti nell'uso dell'IA, finalizzata al rilevamento proattivo. "I nostri investimenti in Intelligenza Artificiale ci permettono di rilevare più tipi di violazioni relative ai discorsi di incitamento all'odio su Facebook e Instagram. Questa tecnologia ci aiuta a far rispettare le policy per miliardi di utenti e in più lingue. Gli avanzamenti costanti e continui, come il Reinforcement Integrity Optimizer (RIO), consentono ai modelli di individuare i discorsi negativi, utilizzando i dati provenienti dal mondo reale". L'attenzione di Facebook, circa odio e abusi, è sempre più rivolta ai minori. In precedenza, il gruppo inseriva nel report solo la metrica relativa alla nudità infantile e allo sfruttamento sessuale dei bambini. Adesso invece, sono state aggiunte anche le categorie 'nudità e abuso fisico' e 'sfruttamento sessuale', così da fornire una panoramica più dettagliata e trasparente degli sforzi in questo ambito, supportando in via generale gli esperti di sicurezza e gli accademici. (ANSA).
   

RIPRODUZIONE RISERVATA © Copyright ANSA