LOGIN
Tutto nasce su Reddit, la piattaforma social/forum nelle cui conversazioni è possibile trovare un po' di tutto, dalle interviste all'ex Presidente degli Stati Uniti Barack Obama a contenuti not safe for work ("non sicuri per il lavoro" la traduzione letteraria in italiano). È qui che un utente ha postato per la prima volta un video realizzato con FakeApp, attirando immediatamente le attenzioni non solo degli altri utenti, ma anche della stampa internazionale.
E non è difficile capire il perché: utilizzando un "semplice" applicativo, il suo PC (con scheda grafica Nvidia) e foto prese dal web quell'utente era stato in grado di realizzare diversi video porno con protagoniste alcune celebrità del mondo del cinema e della musica (Gal Gadot, Maisie Williams e Taylor Swift, tanto per citarne tre). In realtà si tratta di falsi porno, creati da Deepfakes (questo il nickname dell'utente su Reddit) con video scaricati dalla Rete, alcune foto del volto delle star citate e algoritmi di deep learning adeguatamente "istruiti".
Che cos'è FakeApp
I falsi porno di Deepfakes, come già accennato, sono il frutto di FakeApp, applicativo di deep learning e machine learning realizzato dallo stesso utente. Questo software, sfruttando informazioni piuttosto esigue e limitate (come detto, alcune immagini ritraenti i volti delle persone) è in grado di sostituire il volto di qualunque attore o attrice presente in un video con quello presente nelle foto. Tutto quello che un ipotetico utente deve fare è "dare in pasto" filmato e foto all'algoritmo e attendere che questo faccia il suo lavoro.
Utilizzando un normale PC casalingo – non un supercomputer o un computer quantistico, tanto per intendersi – FakeApp è in grado di trasformare un video di qualche decina di secondi in circa 8 o 10 ore di lavoro. I risultati ottenuti da Deepfakes (e da tutti gli altri utenti che, da fine dicembre 2017, lo stanno emulando) sono ottimi, in alcuni casi di gran lunga migliori rispetto a quelli che è possibile ottenere con software professionali utilizzati nel mondo del cinema e della fotografia.
Come funziona FakeApp
Al momento (e questa, forse, è una delle poche buone notizie) il funzionamento di FakeApp è piuttosto complesso e non è alla portata di tutti gli utenti. Nonostante Deepfakes abbia rilasciato una guida dettagliata e stia tentando di semplificare il più possibile il processo di "trasfigurazione", per realizzare i falsi video porno sono necessarie alcune conoscenze di programmazione (e una buona dose di pazienza, visto il tempo necessario).
Anche sul fronte tecnico, Deepfakes ha fornito ben poche informazioni sulla sua creatura. Al momento non si è ancora riusciti a comprendere perfettamente come sia possibile che un computer di media potenza e un "normale" algoritmo di deep learning sia in grado di ottenere risultati così brillanti in un lasso di tempo (relativamente) breve. Probabile che nelle prossime settimane ingegneri del software e sviluppatori riescano a scoprire qualcosa in più e capire come faccia Deepfakes a sovrapporre il volto delle celebrità a quello dei protagonisti dei video porno. Al momento, però, bisogna accontentarsi delle poche informazioni che si hanno e trattare FakeApp alla stregua di una "scatola nera".
FakeApp, quali pericoli si corrono
Come visto, le potenzialità di FakeApp e dei suoi algoritmi di deep learning e machine learning sono elevatissime. Chiunque, con un po' di pazienza, potrebbe sostituire il proprio volto a quello del proprio attore preferito e diventare protagonista di capolavori della cinematografia mondiale. Sinora, però, gli scopi per i quali è stato utilizzato non sono necessariamente da lodare.
Visti i risultati che è possibile ottenere, si potrebbe utilizzare FakeApp per realizzare falsi porno con persone che si conoscono e minacciarle o ricattarle. Pochi, infatti, sarebbero in grado di notare che si tratta di un fotomontaggio, mentre la stragrande maggioranza lo prenderebbe come un filmato reale e "legittimo". FakeApp potrebbe anche essere utilizzato per creare fake news: basterebbe prendere le foto del volto dei politici mondiali, registrare un video casalingo per far dire loro qualunque cosa si voglia.
Insomma, se ulteriormente perfezionato e migliorato (con un utilizzo più user friendly, ad esempio) FakeApp potrebbe rappresentare un rischio non indifferente tanto per la privacy dei cittadini comuni, quanto per la stabilità politica del mondo intero (e, visto che l'intelligenza artificiale può anche riprodurre la voce di chiunque con risultati più che apprezzabili, non si tratta di una esagerazione).
31 gennaio 2018
