- OpenAi, sviluppatore di ChatGpt, ha pubblicato un nuovo post sul suo sito in cui suggerisce il prossimo uso dei modelli di intelligenza artificiale. Il focus è sulla moderazione dei contenuti online. Secondo l'azienda, il linguaggio generativo più recente, Gpt-4, può superare qualsiasi strumento attuale nel monitoraggio di ciò che viene pubblicato in rete, anche sui social network, con risparmio di tempo e costi.
Oggi, i principali social network usano già programmi con cui automatizzano i controlli, ma basandosi in larga parte ancora sull'intervento umano.
OpenAi rileva che l'uso di Gpt-4 limita la revisione manuale e velocizza l'identificazione dei contenuti vietati dalle diverse piattaforme, dopo che l'IA ha appreso le regole di base e l'eventuale cambio di politiche di utilizzo.
L'organizzazione sottolinea però come sia sempre necessaria una supervisione umana per individuare eventuali "allucinazioni" del modello ed evitare errori indesiderati.
"Riteniamo che ciò offra una visione più positiva del futuro delle piattaforme digitali, in cui l'intelligenza artificiale può aiutare a moderare il traffico online e alleviare il carico mentale di un gran numero di moderatori umani" scrivono Lilian Weng, Vik Goel e Andrea Vallone di OpenAi. "Chiunque abbia accesso ai codici di OpenAI potrà implementare questo approccio e creare il proprio sistema di moderazione assistito dall'intelligenza artificiale".
OpenAi afferma che gli strumenti di moderazione potenziati da Gpt-4 possono aiutare le aziende a svolgere circa sei mesi di lavoro in un solo giorno. Meta ha già sperimentato il supporto della moderazione automatica su Facebook mentre X, già Twitter, potrebbe basarsi ulteriormente su tali metodi per far fronte alla riduzione del personale avuta negli ultimi mesi.