Oltre a promuovere le fake news l'intelligenza artificiale può anche produrle, generando testi completamente indistinguibili da quelli che scriverebbe un umano. A realizzarla è stata Open Ai, la compagnia di ricerca no profit fondata da Elon Musk, che ha scelto di non rivelarne i dettagli per paura dei possibili usi fraudolenti, ad esempio per generare infinite recensioni positive o negative su un prodotto.
L'algoritmo, chiamato Gpt2, è un generatore di testi che è stato 'addestrato' con circa 10 milioni di articoli, scelti tra quelli i cui link avevano più di tre voti sulla piattaforma Reddit, una quantità 15 volte maggiore rispetto a quella usata normalmente per le Ai di questo tipo. Il risultato è che, dato un qualunque incipit, l'algoritmo riesce a proseguire scrivendo testi plausibili e senza gli errori che fanno normalmente le macchine. Una volta 'letti' i primi paragrafi di un articolo del Guardian sulla Brexit ad esempio, scrive il quotidiano che ha avuto accesso all'algoritmo, l'intelligenza artificiale è riuscita a completare l'articolo con dati e frasi plausibili, compresa una dichiarazione della premier Theresa May
sull'"urgenza di uscire dall'Europa il prima possibile".
Questa qualità ha spinto OpenAi a tenere segreti i codici sorgente dell'algoritmo, spiega Jack Clark, il direttore della compagnia. "Dobbiamo prima fare altri esperimenti per capire cosa può o non può fare - afferma -. Ci sono molte persone molto più brave di noi a capire come può essere usata con intenti
negativi".