Microsoft rafforza la lotta contro il deepfake con nuovi strumenti di autenticazione

Microsoft ha annunciato due nuove tecnologie per combattere la disinformazione e nuovi lavori per aiutare a educare il pubblico sul problema, anche attraverso un quiz; nel tentativo di combattere la prevalenza dei deepfake, ha lanciato un nuovo strumento di autenticazione video, in grado di analizzare una foto o un video per fornire una percentuale della possibilità che un elemento multimediale venga manipolato artificialmente: nel caso di un video, ha affermato di poter fornire questa percentuale in tempo reale per ogni fotogramma durante la riproduzione del video. Funziona rilevando il confine di fusione degli elementi deepfake e sottili dissolvenze o scala di grigi che potrebbero non essere rilevabili dall’occhio umano.
I deepfake, o media sintetici, possono essere foto, video o file audio manipolati dall’intelligenza artificiale (AI). Microsoft ha affermato che il rilevamento dei deepfake è fondamentale in vista delle elezioni negli Stati Uniti. La tecnologia è stata creata utilizzando un set di dati pubblico di Face Forensic ++, Microsoft ha affermato che è stata testata sul set di dati DeepFake Detection Challenge, che considera un modello leader per l’addestramento e il test delle tecnologie di rilevamento deepfake.
Microsoft in un post ha scritto:
«Poiché tutti i metodi di rilevamento dell’IA hanno tassi di fallimento, dobbiamo capire ed essere pronti a rispondere ai deepfake che superano i metodi di rilevamento. Pertanto, a lungo termine, dobbiamo cercare metodi più forti per mantenere e certificare l’autenticità di articoli di notizie e altri media».
Microsoft con pochi strumenti disponibili per farlo, ha anche svelato una nuova tecnologia che, secondo la sua opinione, può sia rilevare contenuti manipolati sia assicurare alle persone che i media che stanno visualizzando sono autentici.
La tecnologia ha due componenti, il primo è uno strumento integrato in Microsoft Azure, consente a un produttore di contenuti di aggiungere hash digitali e certificati a una parte di contenuto. Microsoft ha spiegato:
«Gli hash e i certificati quindi convivono con il contenuto come metadati ovunque si trovi online».
Il secondo è un lettore che può essere incluso in un’estensione del browser, controlla i certificati e abbina gli hash per determinarne l’autenticità. Microsoft è impegnata nella lotta deepfake attraverso l’iniziativa Reality Defender 2020 della fondazione, ha anche collaborato con AI Foundation. La partnership vedrà le due parti rendere disponibile l’autenticatore video alle organizzazioni coinvolte nel processo democratico, compresi i notiziari e le campagne politiche.
Project Origin, un’altra partnership con un consorzio di società di media, vedrà testata la tecnologia di autenticità di Microsoft, non solo, hanno già accettato di impegnarsi con Microsoft per testare la sua tecnologia anche Trusted News Initiative; l’Università di Washington; Sensity (società di rilevamento deepfake) e USA Today.
Microsoft ha affermato:
«Migliorare l’alfabetizzazione mediatica aiuterà le persone a separare la disinformazione da fatti autentici e gestire i rischi posti dai deepfake e i “falsi a buon mercato” (una manipolazione creata con software più economico e accessibile a tutti). La conoscenza pratica dei media può consentire a tutti noi – pur apprezzando la satira e la parodia -, di pensare in modo critico al contesto dei media e diventare cittadini più coinvolti».
Microsoft ha annunciato che prima delle elezioni, attraverso la partnership, ci sarà una campagna di annunci di servizio pubblico che incoraggerà le persone a fare una “pausa riflessiva” e controllare per assicurarsi che le informazioni provengano da un’organizzazione giornalistica rispettabile prima di condividerle o promuoverle sul social media.

Trova il Deepfake
Il sito Spotdeepfakes per aiutare gli utenti a individuare i Deepfake, esplorare questa tecnologia, interagire con i media che potrebbero non essere così affidabili come potrebbe sembrare, ha realizzato questo Quiz, nella presentazione ha utilizzato il video manipolato di Nixon. Ha scritto:
«Non è reale, in realtà è un deepfake: una forma di manipolazione audiovisiva che consente ai media di essere facilmente e in modo convincente alterati o fabbricati per far sembrare che qualcuno abbia fatto o detto qualcosa che non ha mai fatto».

Pino Silvestri

About Pino Silvestri

Pino Silvestri, blogger per diletto, fondatore, autore di Virtualblognews, presente su Facebook e Twitter.
View all posts by Pino Silvestri →