Con l’intelligenza artificiale (o IA) è facile falsificare le immagini e i video. I deepfake, come sono conosciuti, stanno diventando sempre più convincenti e spesso difficili da distinguere dalla realtà. Questo mette sempre più in dubbio la certezza di poter credere ai nostri occhi. Continua a leggere per scoprire come funzionano i deepfake, a cosa servono e come riconoscerli. Scopri anche come Avira Free Security può contribuire a migliorare la tua sicurezza informatica.
Cos’è un deepfake?
Il termine deepfake è un neologismo nato dalla fusione delle parole “deep learning” e “fake”. Si riferisce a contenuti multimediali, quali foto, video o audio, creati o manipolati utilizzando l’apprendimento automatico, un tipo di intelligenza artificiale. In questo modo, è possibile creare contenuti multimediali che appaiono ingannevolmente reali, traendo in errore gli utenti di Internet.
Qual è la differenza rispetto a un’immagine di Photoshop o a uno scambio di volti?
Su Internet si trovano molte immagini false o manipolate, sebbene la maggior parte siano innocue. Ad esempio, puoi utilizzare programmi come Photoshop per posizionare la tua immagine in una scena diversa oppure snellire leggermente la tua silhouette. Altre app ti consentono di creare effetti divertenti, come lo scambio di volti, che consiste nel sovrapporre il tuo volto a quello di un’altra persona. Puoi anche invecchiare artificialmente il tuo viso.
Le immagini e i video sono spesso manipolati per divertimento, quindi con finalità del tutto innocue. In questi casi, infatti, è facile capire di trovarsi davanti un falso non corrispondente alla realtà. Tuttavia, nel caso dei deepfake generati dall’intelligenza artificiale, a volte le immagini sono così convincenti che le persone non riescono a riconoscerle come false e quindi credono a ciò che vedono. Ciò può comportare rischi per la sicurezza informatica e danneggiare la reputazione delle persone.
Come funzionano i deepfake?
L’apprendimento automatico consiste nell’alimentare un algoritmo con informazioni quali le immagini, le espressioni del volto o la voce di una persona. Da queste informazioni, l’intelligenza artificiale impara a produrre nuove versioni che assomigliano agli esempi appresi, generando immagini e video che possono essere facilmente scambiati per l’originale.
Tra le altre cose, su YouTube, Google e altre piattaforme circolano video di politici e altri volti famosi in cui vengono fatti discorsi che le persone reali non hanno mai pronunciato. Uno di questi video deepfake ampiamente diffusi mostra presumibilmente Barack Obama che critica il suo successore Donald Trump.
Quale tecnologia viene utilizzata?
La creazione di deepfake richiede un tipo speciale di intelligenza artificiale con i cosiddetti livelli nascosti che convertono i segnali di input in segnali di output. Questo compito viene svolto da vari algoritmi chiamati reti neurali, progettati per apprendere e imitare le informazioni alla stregua del cervello umano. Ciò significa che sono in grado di trasformare immagini autentiche in falsi realistici.
Di solito, i deepfake complessi e ingannevolmente reali sono frutto di due algoritmi. Il primo è addestrato a creare i migliori falsi possibili, mentre il secondo rileva le immagini manipolate. Entrambi procedono in modo iterativo, cioè ripetono più volte le loro azioni, e così facendo imparano continuamente fino a creare un modello di intelligenza artificiale che genera abilmente immagini false in cui i volti vengono scambiati. Spesso un deepfake è così efficace che le persone non riescono a capire che si tratta di un falso o lo capiscono appena.
A cosa possono servire i deepfake?
La maggior parte degli esempi di deepfake è di natura pornografica, con volti di personaggi famosi spesso sovrapposti a quelli di pornostar. Ma anche fuori dal mondo delle celebrità, le donne in particolare cadono vittima dei deepfake pornografici. Gli episodi di revenge porn o di fake porn possono causare danni permanenti alla reputazione della persona coinvolta se includono la pubblicazione di immagini o video falsi e compromettenti. Sono spesso utilizzati anche a scopo di sextortion, un tipo di estorsione che consiste nel ricattare una persona con contenuti espliciti, o per un atto di cyberbullismo contro qualcuno.
Oltre ai contenuti pornografici, i deepfake sono utilizzati per diffondere fake news, manipolando i discorsi di politici o personalità influenti. Ciò implica il rischio che molte persone credano a questa disinformazione diffusa e che il loro comportamento ne venga influenzato. I deepfake possono inoltre essere sfruttati per hijacking dell’account o furto di identità. Con i deepfake, infatti, i criminali informatici possono rubare dati biometrici, come il tuo Face ID, e utilizzare l’intelligenza artificiale per ottenere l’accesso ai tuoi account utente e ai conti bancari.
Suggerimento: se sei vittima di un furto d’identità, Avira Identity Assistant (attualmente disponibile solo in Germania) può aiutarti a ripristinare la tua identità.
I deepfake possono essere pericolosi?
Grazie alla tecnologia in rapida evoluzione, i deepfake stanno diventando sempre più convincenti. Oltre a compiere ricatti o furti di identità, i criminali informatici possono sfruttare i contenuti multimediali falsi anche per mettere a segno altre truffe. Ad esempio, possono creare video personalizzati in cui compare presumibilmente il parente della vittima che finge di essere in pericolo e ha urgente bisogno di denaro. Utilizzando i deepfake, gli hacker possono facilmente sfruttare vittime ingenue e inconsapevoli.
Tuttavia, le minacce informatiche basate su contenuti falsi non si limitano ai singoli individui. Questo perché i deepfake possono diffondersi rapidamente su Internet e, così facendo, possono raggiungere un vastissimo pubblico. I video falsi che mostrano dichiarazioni inventate di personaggi pubblici o politici possono influenzare l’opinione pubblica e persino incoraggiare atti di violenza.
Come faccio a capire se un contenuto è falso?
L’intelligenza artificiale è sempre più perfezionata, tanto che i risultati spesso sembrano ingannevolmente reali. Non è quindi facile riconoscere i deepfake. Ma se osservi abbastanza da vicino, puoi individuare alcuni segni che rivelano una manipolazione:
- Viso: se il viso e le espressioni facciali appaiono innaturali, potrebbe trattarsi di un falso. Le persone normalmente sbattono le palpebre tra le 10 e le 15 volte al minuto. Se la persona nel filmato non sbatte le palpebre o le sbatte in modo insolito, sei in presenza di un deepfake.
- Attaccatura dei capelli: nei contenuti video falsi la linea che separa i capelli dal viso è spesso molto sfumata. Questo vale anche per la separazione tra viso e collo. Se queste transizioni sono notevolmente più sfocate rispetto al resto dell’immagine, è bene diffidare. Lo stesso può dirsi se il colore della pelle cambia tra un fotogramma e l’altro.
- Mani: presta attenzione alle mani. Le persone nelle immagini o nei video generati dall’intelligenza artificiale hanno spesso sei o addirittura sette dita. Lo stesso vale per le dita dei piedi. Se non è risaputo che la persona raffigurata abbia qualche dito in più nelle mani o nei piedi, è molto probabile che si tratti di un falso.
- Voce: la voce in un video o in una clip audio è molto monotona e la pronuncia sembra innaturale? In tal caso, probabilmente si tratta di un deepfake. Se poi senti rumori insoliti, anche questo è segno che il contenuto è stato manipolato.
- Qualità dell’immagine: fai attenzione anche alla qualità dell’immagine. Se la nitidezza dell’immagine varia nelle diverse aree della foto o del video, questo è indice di un falso. Ciò vale anche se l’illuminazione cambia improvvisamente da un fotogramma al successivo. In entrambi i casi, bisogna essere sospettosi.
I deepfake sono illegali?
Di per sé, non è illegale creare deepfake, soprattutto se crei immagini false della tua persona. Se però crei deepfake di qualcun altro, ciò può avere conseguenze legali. Così facendo, potresti violare il diritto di tale persona alla propria immagine o i suoi diritti generali della personalità e il suo copyright. Allo stesso modo, un deepfake può costituire un reato di calunnia e diffamazione.
Le immagini o i video espliciti creati tramite l’intelligenza artificiale possono essere interpretati come violenza sessualizzata basata su immagini, se la persona interessata non ha acconsentito alla creazione dei deepfake. In questo modo vengono infatti violati il suo diritto all’autodeterminazione sessuale e i suoi diritti della personalità. Se sono rappresentate gerarchie di potere legate al genere, la violenza sessualizzata basata su immagini può anche violare il diritto alla non discriminazione. Tutti questi reati sono perseguibili penalmente.
A proposito: la Commissione europea ha presentato un quadro giuridico per regolamentare in modo più rigoroso l’uso dell’intelligenza artificiale, dove in futuro i contenuti multimediali creati con la tecnologia di deepfake saranno etichettati come tali.
Come possono reagire le vittime di una manipolazione di dati?
Se compaiono dei deepfake della tua persona, dovresti prima segnalare l’accaduto alle piattaforme su cui sono stati distribuiti, soprattutto perché gli operatori dei social media sono tenuti a verificare e rimuovere i contenuti illegali. Se conosci la persona che ha distribuito i tuoi contenuti falsi, puoi denunciarla e chiedere il risarcimento dei danni. Tuttavia, anche se non conosci l’autore del reato, dovresti denunciare il caso alla polizia.
Come navigare in modo più sicuro con una soluzione antivirus
I criminali informatici possono utilizzare i deepfake per ottenere l’accesso ai tuoi dispositivi o account utente, ad esempio imitando il tuo Face ID. Gli hacker spesso adottano anche altre tecniche di ingegneria sociale come il phishing o il pharming per accedere agli account delle loro vittime. Con una soluzione antivirus, puoi proteggerti dalle minacce informatiche e rendere più sicure le tue attività online.
Avira Free Security include funzionalità di protezione che difendono da virus e da altro malware in tempo reale, grazie al rilevamento basato sul cloud delle minacce più recenti. Include inoltre uno strumento per la gestione delle password che ti consentirà di generare facilmente password univoche per ognuno dei tuoi account. In questo modo, se un account viene violato tramite un deepfake, i criminali informatici non potranno accedere agli altri account. E per finire, potrai navigare mantenendo l’anonimato grazie alla VPN integrata.
