Facebook, nuova tecnica per scovare i video falsi

(ANSA) – MILANO, 21 GIU – Facebook ha annunciato i primi
risultati di una collaborazione con la Michigan State University
(MSU) sull’utilizzo di un nuovo metodo che può rilevare i video
bufala sul social network, meglio conosciuti come deepfake. Lo
strumento poggia sul principio di ‘reverse engineering’, che
parte cioè dal risultato del filmato per risalire al modello
informatico da cui è stato generato. Se non vi è una base di
partenza rilevabile, il video preso in esame rappresenta persone
reali e non sovrapposizioni e montaggi fasulli. Stando a quanto
spiegato dalla stessa Facebook, oltre a rilevare i deepfake, la
tecnica permette ai ricercatori di risalire ai modelli unici
nella realizzazione dei filmati, così da creare una sorta di
gerarchia dei software utilizzati. Per fare ciò, il sistema
cerca tracce digitali condivise dai modelli generativi, elementi
comuni che l’occhio umano stenta a riconoscere durante la
visione di più deep fake. Il gruppo di lavoro ha realizzato un
set di dati composto da 100 mila immagini false generate da 100
modelli generativi disponibili pubblicamente. I risultati del
test hanno dimostrato che il nuovo approccio offre prestazioni
migliori rispetto a sistemi realizzati in precedenza. “Il nostro
metodo faciliterà il rilevamento e il tracciamento dei deepfake
in ambienti reali in cui lo stesso deepfake è spesso l’unico
dato su cui si può lavorare” ha spiegato Xiaoming Liu,
professore di informatica della Michigan State University. “È
importante andare oltre gli attuali metodi di attribuzione delle
immagini per individuare deepfake sviluppati con tecnologie più
recenti”. Tra i deepfake più famosi c’è il video di un falso Tom
Cruise alle prese con situazioni di vita reale, virale su
TikTok, e quello di una falsa presentatrice TG coreana, Kim
Joo-Ha. (ANSA).
   

https://www.carlomauri.net