Software&App

Facebook, nuova tecnica per scovare i video falsi

Risalire a modelli generativi per distinguere i filmati bufala

Facebook ha annunciato i primi risultati di una collaborazione con la Michigan State University (MSU) sull'utilizzo di un nuovo metodo che può rilevare i video bufala sul social network, meglio conosciuti come deepfake. Lo strumento poggia sul principio di 'reverse engineering', che parte cioè dal risultato del filmato per risalire al modello informatico da cui è stato generato. Se non vi è una base di partenza rilevabile, il video preso in esame rappresenta persone reali e non sovrapposizioni e montaggi fasulli.

Stando a quanto spiegato dalla stessa Facebook, oltre a rilevare i deepfake, la tecnica permette ai ricercatori di risalire ai modelli unici nella realizzazione dei filmati, così da creare una sorta di gerarchia dei software utilizzati. Per fare ciò, il sistema cerca tracce digitali condivise dai modelli generativi, elementi comuni che l'occhio umano stenta a riconoscere durante la visione di più deep fake. Il gruppo di lavoro ha realizzato un set di dati composto da 100 mila immagini false generate da 100 modelli generativi disponibili pubblicamente. I risultati del test hanno dimostrato che il nuovo approccio offre prestazioni migliori rispetto a sistemi realizzati in precedenza. "Il nostro metodo faciliterà il rilevamento e il tracciamento dei deepfake in ambienti reali in cui lo stesso deepfake è spesso l'unico dato su cui si può lavorare" ha spiegato Xiaoming Liu, professore di informatica della Michigan State University.

"È importante andare oltre gli attuali metodi di attribuzione delle immagini per individuare deepfake sviluppati con tecnologie più recenti". Tra i deepfake più famosi c'è il video di un falso Tom Cruise alle prese con situazioni di vita reale, virale su TikTok, e quello di una falsa presentatrice TG coreana, Kim Joo-Ha.
   

        RIPRODUZIONE RISERVATA © Copyright ANSA

        Video ANSA




        Modifica consenso Cookie