Ne vous faites pas avoir par les Deepfakes !

Les escrocs sont souvent parmi les premiers à adopter les nouvelles technologies afin de garder une longueur d'avance. L'une de ces technologies émergentes est l'intelligence artificielle (IA), qui est en train de prendre le monde d'assaut.

L'une des applications de l'IA consiste à créer des "deepfakes" et comme tous les types de médias, des voix aux vidéos , peuvent être "deepfakés", cette technologie a le potentiel de causer des dommages et des pertes considérables lorsqu'elle est utilisée à mauvais escient. Lisez la suite pour savoir ce qu'est la technologie des deepfakes et comment éviter les escroqueries liées aux deepfakes.

Qu'est-ce qu'un "deepfake" ?

La manipulation d'images à l'aide d'outils tels que Photoshop est depuis longtemps un outil important dans les tiroirs des escrocs. Les escrocs utilisent couramment l'édition d'images pour créer de fausses identités, de faux documents, de fausses approbations de célébrités, etc. La technologie Deepfake permet aux escrocs d'aller encore plus loin dans la falsification en créant des vidéos de personnes qui disent ou font des choses qu'elles n'ont jamais dites ou faites. Les "deepfakes" peuvent être créés à partir d'images, de vidéos et de sons.

Les deepfakes sont appelés ainsi car ils ont été rendus possibles par une branche de l '"apprentissage profond" appelée Generative Adversarial Networks (GAN). Les GAN sont basés sur la technologie des "réseaux neuronaux", mais alors que les réseaux neuronaux ne peuvent être utilisés que pour percevoir de grandes quantités de données, les GAN ont donné aux réseaux neuronaux la capacité de créer du contenu frais.

Les "deepfakes" se sont propagés grâce à l'esprit "open-source" de la communauté de l'apprentissage automatique. Les avancées de la recherche sur la modélisation générative sont généralement mises gratuitement à la disposition de tous les internautes pour qu'ils puissent les télécharger et les utiliser. En conséquence, le nombre de deepfakes a explosé au fil des ans et les gouvernements s'empressent de formuler des réglementations, craignant que ces faux extrêmement crédibles n'aient un impact négatif sur la société.

Les escroqueries liées aux "deepfakes

Toute technologie susceptible de changer le monde peut être utilisée pour le bien ou pour le mal. Les "deepfakes" ont une myriade d'applications positives, comme le retour à la vie des personnes décédées, l'amélioration des échanges de visages dans l'industrie cinématographique, l'éducation interactive, le marketing immersif et bien d'autres choses encore. Malheureusement, il y a aussi un côté sombre qui comprend un certain nombre d'escroqueries aux "deepfakes":

• L'usurpation d'identité : Les deepfakes rendent l'usurpation d'identité plus facile que jamais. En 2019, un deepfake vocal a été utilisé pour escroquer un PDG de 243 000 dollars. Le PDG d'une entreprise énergétique basée au Royaume-Uni croyait être au téléphone avec le PDG de la société mère allemande de l'entreprise lorsqu'il a suivi les ordres de transférer immédiatement 220 000 € sur le compte bancaire d'un fournisseur hongrois. La voix était en fait celle d'un fraudeur utilisant la technologie vocale de l'IA pour usurper l'identité du directeur général allemand.
  
  Dans un autre cas, un utilisateur inconnu a créé un faux compte TikTok pour l'acteur Robert Pattinson, qui n'a pas de compte sur les médias sociaux. Le compte a gagné plus de 660 000 followers et des millions de likes avant de disparaître mystérieusement.
  
  
• Catfishing : les escrocs adoptent de fausses identités en utilisant des images de personnes ou de célébrités choisies au hasard. L'un des moyens les plus faciles de démasquer un "catfish" était de lui demander d'apparaître sur une vidéo, car ce n'était pas quelque chose que l'on pouvait simuler. Cela a changé avec l'existence des deepfakes, car les escrocs peuvent désormais créer des vidéos convaincantes de la personne dont ils usurpent l'identité et qui contiennent des messages personnalisés.
  
  
• Fausses approbations : Comme nous l'avons révélé dans notre rapport Global State of Scams 2022, les escroqueries à l'investissement sont aujourd'hui les plus répandues sur l'internet. Les cybercriminels ont commencé à utiliser des deepfakes pour promouvoir des projets frauduleux, comme la plateforme "BitVex" qui a été "approuvée" par un deepfake d'Elon Musk. Ils ont fait la publicité de cette escroquerie en utilisant des interviews légitimes modifiées par la technologie du deepfake pour utiliser la voix de Musk dans un script fourni par les escrocs.
  
  
• Deepfake Porn et chantage : Le porno reste un tabou majeur dans la plupart des sociétés et peut conduire à des situations allant de l'embarras à l'exclusion sociale pour les personnes figurant dans des vidéos pornographiques. Il a été rapporté que des hommes rejetés avaient créé des "deepfakes" de femmes pour les faire chanter. Le deepfake porn est également une préoccupation majeure pour les célébrités dont le visage a été utilisé sans leur consentement pour créer des vidéos les montrant en train de se livrer à des actes sexuels.

Comment repérer les deepfakes

Dans les premiers temps des deepfakes, il suffisait d'observer si les yeux clignotaient pour repérer un deepfake. Des yeux qui ne clignotent pas signalaient un deepfake, car la technologie n'était pas suffisamment avancée pour créer des yeux qui clignotent. Au fur et à mesure que la technologie s'améliore, il devient de plus en plus difficile d'identifier un deepfake. Toutefois, il existe encore certains signes que vous pouvez repérer en faisant preuve d'une grande attention :

• Mauvaise synchronisation des lèvres
• Clignement des yeux non naturel
• Mouvements saccadés
• Ombres manquantes et éclairage non naturel
• Cheveux immobiles ou mouvements de cheveux non naturels

D'une manière générale, les "deepfakes" ont tendance à avoir l' effet "uncanny valley", c'est-à-dire que le cerveau sent que quelque chose n'est pas naturel. Pour combattre le feu par le feu, des outils utilisant l'intelligence artificielle sont en cours de développement pour identifier les "deepfakes". La technologie des deepfakes s'améliore rapidement et il est donc impératif de rester vigilant et de repérer les signes avant-coureurs des escroqueries par deepfake.