Não se deixe enganar por Deepfakes!

Os burlões são frequentemente os primeiros a adotar novas tecnologias para se manterem na vanguarda. Uma dessas tecnologias emergentes é a Inteligência Artificial (IA), que está a conquistar o mundo.

Uma das aplicações da IA é a criação de "deepfakes" e, uma vez que todos os tipos de meios de comunicação, desde vozes a vídeos , podem ser "deepfakes", esta tecnologia tem o potencial de causar danos e perdas maciças quando utilizada incorretamente. Continue a ler para saber o que é a tecnologia deepfake e como evitar fraudes deepfake.

O que são deepfakes?

A manipulação de imagens com recurso a ferramentas como o Photoshop é, desde há muito, uma faca importante nas gavetas dos burlões. A edição de imagens é normalmente utilizada pelos burlões para criar identidades falsas, documentos falsos, falsos apoios de celebridades e muito mais. A tecnologia Deepfake permite que os burlões levem a falsificação para o nível seguinte, criando vídeos de pessoas a dizer e a fazer coisas que nunca disseram ou fizeram. Os deepfakes podem ser criados utilizando imagens, vídeos e também áudio.

As "deepfakes" são assim chamadas porque foram possíveis graças a um ramo da "aprendizagem profunda" chamado Generative Adversarial Networks (GANs). As GANs baseiam-se na tecnologia de "redes neuronais", mas enquanto as redes neuronais só podem ser utilizadas para percecionar grandes quantidades de dados, as GANs deram às redes neuronais a capacidade de criar novos conteúdos.

Os deepfakes propagaram-se graças ao espírito de código aberto da comunidade de aprendizagem automática. Os avanços na investigação sobre modelação generativa são geralmente disponibilizados gratuitamente para que qualquer pessoa no mundo possa descarregar e utilizar. Como resultado, o número de deepfakes explodiu ao longo dos anos e os governos estão a esforçar-se por formular regulamentos, receando que as falsificações extremamente credíveis possam ter um impacto negativo na sociedade.

Fraudes de deepfake

Qualquer tecnologia que tenha o potencial de mudar o mundo pode ser usada para o bem ou para o mal. Os deepfakes têm uma miríade de aplicações positivas, como trazer os falecidos "de volta à vida", melhorar a troca de rostos na indústria cinematográfica, educação interactiva, marketing imersivo e muito mais. Infelizmente, há também um lado negro que inclui uma série de diferentes esquemas de deepfake:

• Falsificação de identidade: Os deepfakes tornam a personificação de outras pessoas mais fácil do que nunca. Em 2019, um deepfake de voz foi usado para enganar um CEO em US $ 243.000. O CEO de uma empresa de energia sediada no Reino Unido acreditava que estava ao telefone com o CEO da empresa-mãe alemã da empresa quando seguiu as ordens para transferir imediatamente 220.000 euros para a conta bancária de um fornecedor húngaro. Na realidade, a voz pertencia a um burlão que utilizava tecnologia de IA para falsificar o diretor executivo alemão.
  
  Noutro caso, um utilizador desconhecido criou uma conta TikTok falsa para o ator Robert Pattinson, que não tem qualquer conta nas redes sociais. A conta ganhou mais de 660.000 seguidores e milhões de gostos antes de desaparecer misteriosamente.
  
  
• Catfishing: As burlas de catfishing implicam que os burlões adoptem identidades falsas utilizando imagens de pessoas ou celebridades aleatórias. Uma das formas mais fáceis de apanhar um "catfish" era pedir-lhe para aparecer em vídeo, uma vez que não era algo que pudesse ser falsificado. Isto mudou com a existência dos deepfakes, pois os burlões podem agora criar vídeos convincentes da pessoa que estão a imitar, com mensagens personalizadas.
  
  
• Endossos falsos: Tal como revelámos no nosso relatório Global State of Scams 2022, os esquemas de investimento são agora o esquema mais frequente na Internet. Os cibercriminosos começaram a usar deepfakes para promover esquemas fraudulentos, como a plataforma "BitVex", que foi "endossada" por um deepfake de Elon Musk. Eles anunciaram o esquema usando entrevistas legítimas modificadas com tecnologia deepfake para usar a voz de Musk num guião fornecido pelos burlões.
  
  
• Pornografia deepfake e chantagem: A pornografia continua a ser um tabu importante na maioria das sociedades e pode levar a tudo, desde o embaraço até à exclusão social das pessoas que aparecem em vídeos pornográficos. Há relatos de homens rejeitados que criam deepfakes de mulheres para as chantagear. A pornografia deepfake é também uma grande preocupação para as celebridades cujos rostos foram utilizados sem consentimento para criar vídeos com actos sexuais.

Como detetar deepfakes

Nos primeiros tempos dos deepfakes, detetar um deepfake era tão fácil como observar se os olhos piscavam. Olhos que não piscavam sinalizavam um deepfake, pois a tecnologia não era avançada o suficiente para criar olhos que piscavam. À medida que a tecnologia melhora, torna-se cada vez mais difícil identificar um deepfake. No entanto, ainda existem alguns sinais a que se pode estar atento:

• Má sincronização labial
• Piscar de olhos não natural
• Movimento gaguejante
• Sombras ausentes e iluminação não natural
• Cabelo imóvel ou movimento não natural do cabelo

De um modo geral, os deepfakes tendem a ter o efeito "uncanny valley", em que o cérebro sente que algo não é natural. Para combater o fogo com fogo, estão a ser desenvolvidas ferramentas que utilizam inteligência artificial para identificar deepfakes. A tecnologia deepfake está a melhorar rapidamente e, por isso, é imperativo manter-se alerta e estar atento aos sinais de aviso de fraudes deepfake.