Truffe online in continuo aumento a causa del deepfake, una pratica sempre più diffusa, anche in videochiamata e non solo.
Sono almeno sette anni che il vocabolo partorito sui social (il primo fu un utente di Reddit a coniarlo) sta devastando l’online e i malcapitati utenti, ignari di trovarsi di fronte al terribile deepfake, una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale, usata per combinare e sovrapporre immagini e video esistenti con video o immagini originali.
Con questa tecnologia si possono creare, praticamente da zero, foto convincenti di persone e oggetti, ma del tutto immaginarie. Un fake. Perfino l’audio può essere sottoposto a deepfake, per creare “skin vocali” o “cloni vocali” di personaggi pubblici, con tutto ciò che ne consegue.
Molti deepfake sono pornografici. La società di intelligenza artificiale Deeptrace ha trovato negli ultimi anni 15.000 video deepfake online. Uno sbalorditivo 96% erano pornografici e il 99% di questi mappava i volti delle celebrità femminili fino alle pornostar. Poiché le nuove tecniche consentono a persone non qualificate di realizzare deepfake con una manciata di foto, è probabile che i video falsi si diffondano oltre il mondo delle celebrità per alimentare il porno vendetta.
Deepfake, un fenomeno allargato: una truffa online che è costata 25 milioni
Storico il deepfake riguardante la filiale britannica di un’azienda energetica tedesca che versò circa 200.000 sterline su un conto bancario ungherese dopo essere stato chiamato da un truffatore che imitava la voce dell’amministratore delegato tedesco.
Ma questo è niente, si è andati ben oltre. Il direttore finanziario di una società si confronta da Hong Kong con dei colleghi in collegamento da Londra. Sembra la classica video-call come se ne fanno miliardi al giorno. Il direttore finanziario è tranquillo, guarda anche i suoi colleghi, sembra una normale videoconferenza, non sapeva di essere coinvolto in una truffa da 25 milioni di dollari.
“Tutti i partecipanti alla conferenza erano falsi“, l’amara constatazione del sovrintendente Baron Chan Shun-ching, in uno stralcio di un’intervista all’emittente pubblica RTHK. Ebbene sì, l’utilizzo del deepfake per truffare persone, o in questo caso aziende, aveva colpito ancora. I volti dei truffatori erano stati modificati, un fenomeno in continuo aumento, soprattutto adesso che l’Intelligenza Artificiale è entrata negli smartphone e se ne sta facendo largo uso. Conseguenze? Nefaste.
Anche i software riescono a generare immagini o video fake che sembrano veri. Non si contano più da dove nascono i deepfake. Ora va di moda la creazione di questi super falsi attraverso il Gan, una rete generativa avversaria, che mette due algoritmi di intelligenza artificiale l’uno contro l’altro.
Il primo algoritmo (generatore) viene alimentato con rumore casuale e lo trasforma in un’immagine, aggiunta ad altre immagini (per esempio) di VIP, che vengono immesse in un secondo algoritmo (discriminatore): ripetendo questo processo innumerevoli volte, i due algoritmi migliorano talmente tanto da ingannare anche gli utenti più attenti.
