Il contenuto digitale sintetico, altrimenti noto come deepfake, può includere qualsiasi cosa, da un’immagine o un video in cui una persona o un oggetto è manipolato visivamente o udibilmente per dire e fare qualcosa di fabbricato.
Chris Ume 31 anni, artista belga degli effetti visivi dietro i deepfake virali, ha dichiarato che vuole aiutare a costruire una migliore tecnologia di rilevamento. Ha creato una serie di video deepfake di Tom Cruise che hanno raccolto più di 11 milioni di visualizzazioni su TikTok, ha detto che non ha mai avuto l’intenzione di ingannare le persone, spera che l’improvviso afflusso di attenzione possa aiutare a portare una maggiore consapevolezza sulla continua evoluzione della tecnologia che può creare falsi video di persone, incredibilmente realistici. Ha affermato:
«È importante non aver ingannato la gente in nessun momento, vorrei aiutare a creare consapevolezza, in futuro mi piacerebbe lavorare per migliorare il rilevamento di video deepfake».
Chris Ume ha creato quattro video, in cui sembra mostrare la star di Hollywood che gioca a golf; fa un trucco magico con le monete; cade mentre racconta una storia sull’ex leader sovietico Mikhail Gorbaciov. Tre di essi sono diventati virali (vedi video), attirando l’attenzione su TikTok e su internet. E anche se la maggior parte delle persone ha capito subito che i video erano falsi, gli esperti sono rimasti colpiti dalla loro qualità.
Hany Farid professore presso l’Università della California, Berkeley, esperto di digital image forensics, consulente per organizzazioni non profit, agenzie governative e organizzazioni giornalistiche, ha detto:
«Il mio primo pensiero è stato che questi video sono incredibilmente ben fatti, divertenti, intelligenti, ma offrono anche un avvertimento: la tecnologia deepfake emersa negli ultimi anni continua a evolversi e migliorare. E sebbene i video deepfake non siano ancora stati utilizzati in modo efficace in molte campagne di disinformazione, il pericolo sta crescendo, già nei primi tempi, si poteva vedere il suo potenziale, ma non era nemmeno immaginabile che arrivasse fino a questo punto. È sembrato un vero passo avanti, come se avessimo appena fatto un grande balzo in avanti nello sviluppo di questa tecnologia».
Tom Cruise non ha risposto a una richiesta di commento, nel frattempo il suo imitatore, Miles Fisher, ha risposto a un’e-mail di NBC News ma ha detto che non desiderava commentare ulteriormente.
Il finto Tom Cruise è approdato su TikTok
I video manipolati hanno guadagnato popolarità negli ultimi anni: un video prodotto nel 2018 da BuzzFeed mostra l’attore e regista statunitense Jordan Peele impersonare l’ex presidente degli Stati Uniti Barack Obama che parla dei pericoli della disinformazione e delle notizie false. Jordan Peele ha trasferito le proprie espressioni facciali sui tratti del viso di Obama con l’aiuto di una profonda tecnologia falsa. Il video ha ottenuto più di 8 milioni di visualizzazioni su YouTube. Recentemente sono emersi altri video che coinvolgono Arnold Schwarzenegger ex governatore della California e Mark Zuckerberg il CEO di Facebook.
Chris Ume nel caso dell’account @deeptomcruise che ha creato su TikTok, ha utilizzato una combinazione di effetti visivi e software di editing per rendere Miles Fisher quasi identico all’attore di “Mission Impossible”.
Hany Farid durante l’analisi dei video di @deeptomcruise TikTok, ha affermato di aver trovato difficile rilevare discrepanze comuni che sono state precedentemente individuate in altri deepfake, come il “glitch” intorno al viso, in particolare quando è stato parzialmente oscurato da una mano in movimento. Ha detto di essere stato in grado di identificare le incongruenze in particolare intorno agli occhi, sebbene fossero minori, è stato molto lucido, era lungo e ad alta risoluzione.
Gli esperti hanno detto che Chris Ume sebbene abbia utilizzato sofisticati effetti visivi di editing, i progressi nell’editing digitale attraverso app per smartphone come Reface, Facetune e persino Snapchat hanno reso più accessibili tecniche come lo scambio di volti e l’alterazione delle immagini e potrebbero sollevare preoccupazioni sulla nuova tecnologia deepfake.
Matt Groh, assistente di ricerca con il gruppo Affective Computing presso il MIT Media Lab, ha detto:
«Ci sono ancora molti vincoli su ciò che questa tecnologia può fare. La nostra immaginazione può rapidamente scatenarsi e presumere che sia davvero buono su tutti i fronti – e forse un giorno può esserlo -, ma quando hai a disposizione un gruppo di video diversi, anziché un singolo video, inizi a vedere dove si trovano alcune di queste imperfezioni».
Chris Ume per fugare i timori di esperti come Hany Farid ha affermato che vorrebbe vedere introdotte normative per consentire un uso responsabile della tecnologia deepfake e che i social media creino etichette per tali contenuti. Ha detto:
«Il software di rilevamento non è abbastanza buono in questo momento. È ovvio perché questi tre video non sono stati rilevati dai modelli».
Chris Ume fa parte di un team di artisti deepfake a Deep Voodoo, uno studio di effetti visivi assemblato da Trey Parker e Matt Stone, i creatori dello spettacolo “South Park”, da quando i suoi video sono diventati virali su TikTok, ha rilasciato una ripartizione degli effetti visivi su come li ha creati, nel tentativo di aiutare a educare le persone su come sono fatti e su quanto possono essere difficili da produrre. Ha detto:
«Non è qualcosa che puoi fare a casa. I video di TikTok erano così convincenti, grazie alla mia esperienza, così come alla capacità di lavorare con qualcuno come Miles Fisher che poteva impersonare Tom Cruise così bene».
TikTok ha aggiornato la sua politica, dopo aver rilasciato una dichiarazione nell’agosto 2020, vieta i contenuti sintetici o manipolati che “fuorviano gli utenti distorcendo la verità degli eventi e causando danni al soggetto del video, ad altre persone o alla società”, tuttavia, non ha intrapreso alcuna azione contro @deeptomcruise o i video che ha pubblicato perché non era contrario alle linee guida della community. La piattaforma dei social media ha rifiutato di commentare.
Hany Farid in conclusione ha detto:
«I video deepfake di Tom Cruise anche se sono divertenti e non sono mai stati concepiti per essere ingannevoli, ci sono legittime preoccupazioni su come questo possa ispirare altri a creare simili contenuti. Pensa alle implicazioni per la sicurezza nazionale, alle implicazioni se creo un video di Jeff Bezos che afferma che i profitti delle azioni Amazon sono scesi del 20%: quanto posso spostare i mercati? Quanti miliardi di dollari prima che qualcuno capisca che è falso?».
