Era la fine del 2018 e il popolo del Gabon non vedeva il suo presidente, Ali Bongo, in pubblico da mesi. Alcuni iniziarono a sospettare che fosse malato, o addirittura morto, e il governo lo stava coprendo. Per fermare la speculazione, il governo ha annunciato che Bongo aveva avuto un ictus, ma era rimasto in buona salute. Poco dopo, ha pubblicato un video in cui appariva durante una cerimonia che si svolge a Capodanno.
Invece di alleviare le tensioni, tuttavia, il video ha fatto esattamente il contrario. Molte persone sospettarono immediatamente che si trattasse di un falso – un pezzo di media forgiato o alterato con l’aiuto dell’IA. La convinzione alimentava i loro sospetti che il governo nascondesse qualcosa. Una settimana dopo, i militari hanno lanciato un colpo di stato fallito, citando il video come parte della motivazione.
La successiva analisi forense non ha mai trovato nulla di alterato o manipolato nel video. Ma questo non aveva importanza. La semplice idea di fake news era stata sufficiente per accelerare il dipanarsi di una situazione già precaria.
In vista delle elezioni presidenziali degli Stati Uniti del 2020, una tecnologia di fake news sempre più convincente ha suscitato timori su come tali media possano influenzare l’opinione politica. Ma un nuovo rapporto di Deeptrace Labs, una società di sicurezza informatica incentrata sul rilevamento di questo inganno, non ha trovato casi noti in cui i fake news sono state effettivamente utilizzate nelle campagne di disinformazione. Ciò che ha avuto l’effetto più potente è la consapevolezza di poter essere usate in quel modo.
” Le fake news rappresentano un rischio per la politica in termini di falsi messaggi che sembrano essere reali, ma in questo momento la minaccia più tangibile è come l’idea di fake news possa essere invocata per far sembrare falso anche il vero”, afferma Henry Ajder, uno degli autori del rapporto. “L’hype e la copertura piuttosto sensazionale che speculano sull’impatto politico delle fake news hanno messo in ombra i casi reali in cui essi hanno avuto un impatto”.
La documentazione non è più una prova
Attivisti per i diritti umani ed esperti di disinformazione hanno lanciato l’allarme su queste minacce separate ma intrecciate da quando sono apparsi le fake news sulla scena. Negli ultimi due anni, le società tecnologiche e i responsabili politici statunitensi si sono concentrati quasi esclusivamente sul primo problema menzionato da Ajder: la facilità con cui la tecnologia può rendere reali le cose false. Ma è il secondo che preoccupa di più gli esperti. Mentre gli ostacoli alla creazione di fake news potrebbero cadere rapidamente, mettere in discussione la veridicità di qualcosa non richiede alcuna tecnologia.
“Sin dall’inizio, è stata la mia più grande preoccupazione in questo spazio”, afferma Aviv Ovadya, un esperto di disinformazione che ora gestisce un progetto senza scopo di lucro Thoughtful Technology Project.
Minare la fiducia nei media può avere profonde ripercussioni, in particolare in ambienti politici fragili. Sam Gregory, il direttore di Witness, un’organizzazione no profit che aiuta le persone a documentare le violazioni dei diritti umani, offre un esempio. In Brasile, paese che ha una storia in cui i cittadini hanno subìto violenze da parte della polizia, i cittadini e gli attivisti ora temono che qualsiasi video girino di un ufficiale che uccide un civile non sarà più motivo sufficiente per indagare. Questa paura che le prove reali possano essere plausibilmente respinte come false, afferma Gregory, è diventato un tema ricorrente nei seminari che ospita in tutto il mondo.
“È un’evoluzione dell’affermazione che qualcosa è fake” afferma. “Dà un’altra potente arma ai potenti dire “È un falso” su tutto ciò che le persone senza potere stanno cercando di usare per mostrare la corruzione, per mostrare le violazioni dei diritti umani”
Dimostrare che il reale è reale e il falso è falso
La risoluzione di questi problemi richiederà la comprensione di entrambi i tipi di minaccia. “Ad alto livello, vuoi rendere il più semplice possibile dimostrare che una cosa reale è reale e che una cosa falsa è falsa”, afferma Ovadya.
Negli ultimi mesi molti gruppi di ricerca e aziende tecnologiche come Facebook e Google si sono concentrati su strumenti per l’esposizione di falsi, come database per la formazione di algoritmi di rilevamento e filigrane che possono essere integrati in file di foto digitali per rivelare se vengono manomesse. Diverse startup hanno anche lavorato su come rafforzare la fiducia attraverso le applicazioni consumer che verificano foto e video quando vengono scattate, per costituire una base di confronto se le versioni dei contenuti vengono diffuse in un secondo momento. Gregory afferma che i giganti della tecnologia dovrebbero integrare entrambi i tipi di controlli direttamente nelle loro piattaforme per renderli ampiamente disponibili.
Ma le aziende tecnologiche devono anche impiegare esperti di contenuti in carne ed ossa e le organizzazioni dei media devono formare giornalisti e verificatori di fatti sia sul rilevamento che sulla verifica stessa. I rapporti sul campo possono confermare se un video riflette o meno la realtà e aggiungere un importante livello di sfumatura. “I modelli tecnici non possono interpretare il contenuto del video falso in contesti culturali o immaginare come possa essere ulteriormente ricontestualizzato”, afferma Britt Paris, esperta di studi di informazione che ha recentemente pubblicato un rapporto sulle fake news.
Ad esempio, Parigi indica video alterati di Nancy Pelosi e Jim Acosta che sono diventati virali nell’ultimo anno. Entrambi erano i cosiddetti cheapfakes piuttosto che fake news: la loro velocità era stata semplicemente manomessa per fuorviare gli spettatori. “Non ci sarebbe modo di catturare questi falsi con metodi tecnici appositi”, afferma Paris. Invece, i giornalisti dovevano sfatarli, il che significava che le persone dovevano fidarsi dei giornalisti.
Infine, tutti gli esperti concordano sul fatto che il pubblico abbia bisogno di una maggiore alfabetizzazione mediatica. “C’è una differenza tra dimostrare che una cosa reale è reale e far credere al pubblico in generale che la cosa reale è reale”, afferma Ovadya. Dice che le persone devono essere consapevoli che la falsificazione del contenuto e il dubbio sulla veridicità del contenuto sono entrambe tattiche che possono essere utilizzate per seminare intenzionalmente confusione.
Gregory mette in guardia dall’imporre un onere eccessivo per i consumatori di notizie, tuttavia. Ricercatori, piattaforme e giornalisti dovrebbero fare quanto più lavoro possibile per aiutare a chiarire ciò che è reale e ciò che è falso prima che le notizie arrivino al pubblico.
L’obiettivo finale, afferma Ovadya, non è quello di infondere scetticismo generale ma di costruire “infrastrutture sociali, educative, di inoculazione” per neutralizzare l’impatto delle fake news. “Cosa dovremmo cercare di evitare?” Chiede. “È prezioso mettere in discussione le prove. Ma ciò che [gli attori della disinformazione] vogliono davvero non è che tu metta in discussione di più, ma che tu metta in discussione tutto “.E aggiunge: “Questa è l’antitesi di ciò che stiamo cercando.”
Articolo originale: https://www.technologyreview.com/s/614526/the-biggest-threat-of-deepfakes-isnt-the-deepfakes-themselves/
Traduzione di Rosa Berlingieri
