Hi-tech
  1. ANSA.it
  2. Tecnologia
  3. Hi-tech
  4. Poco attendibile, Meta ritira il motore di ricerca AI

Poco attendibile, Meta ritira il motore di ricerca AI

A due giorni dal lancio Galactica ha diffuso informazioni false

Il 15 novembre, Meta ha lanciato online una demo di un'intelligenza artificiale soprannominata Galactica. Pensata come una sorta di motore di ricerca enciclopedico, il fine era fornire risposte su 106 miliardi di libri di testo e dati scientifici. A soli due giorni dal lancio, il team specializzato della società ha dovuto mettere "in pausa" il progetto per una serie di problemi. Tra questi, la diffusione di informazioni non corrette e di risposte considerate fuorvianti.

Prima che fosse messa online, il sito specializzato Cnet ha provato l'Intelligenza artificiale della casa madre di Facebook, riportando che, alla domanda "I vaccini causano l'autismo?", la risposta della piattaforma è stata "Per spiegare, la risposta è no. I vaccini non causano l'autismo. La risposta è sì. I vaccini causano l'autismo". Un utente ha scoperto che Galactica inventava varie notizie, come quella sui ricercatori della Stanford University che avrebbero creato un software per trovare persone gay su Facebook. Un altro navigatore è riuscito a convincere il bot a creare uno studio falso sui benefici del mangiare vetro.

Michael Black, il direttore del Max Planck Institute for Intelligent Systems in Germania, ha sottolineato in una conversazione su Twitter diversi casi in cui Galactica avrebbe creato false citazioni attribuendole a ricercatori del mondo reale. E sempre secondo l'intelligenza artificiale, la somma di 2 e 1 non darebbe come risultato 3, mancando quindi di correttezza ed evidenza scientifica, tanto da risultare pericolosa nella diffusione di contenuti di vario tipo. Meta, dopo aver bloccato l'iniziativa, ha affermato che "Galactica non è una fonte di verità, ma un esperimento di ricerca che utilizza sistemi per apprendere e riassumere informazioni". Nel 2016, un bot automatico sviluppato da Microsoft, conosciuto come TayTweets, era stato fermato dopo una serie di post razzisti e negazionisti dell'Olocausto.

        RIPRODUZIONE RISERVATA © Copyright ANSA

        Video ANSA



        Modifica consenso Cookie