¡No te dejes engañar por Deepfakes!

Los estafadores suelen ser de los primeros en adoptar nuevas tecnologías para mantenerse a la vanguardia. Una de estas tecnologías emergentes es la Inteligencia Artificial (IA), que está arrasando en todo el mundo.

Una de las aplicaciones de la IA es la creación de " deepfakes " (falsificaciones profundas) y, dado que se pueden "deepfakear" todo tipo de medios, desde voces hasta vídeos , esta tecnología tiene el potencial de causar daños y pérdidas masivas cuando se utiliza indebidamente. Siga leyendo para saber qué es la tecnología deepfake y cómo evitar estafas.

¿Qué son los deepfakes?

La manipulación de imágenes con herramientas como Photoshop ha sido durante mucho tiempo un cuchillo importante en el cajón de los estafadores. Los estafadores suelen utilizar la edición de imágenes para crear identidades falsas, documentos falsos, falsos avales de famosos y mucho más. La tecnología Deepfake permite a los estafadores llevar la falsificación al siguiente nivel creando vídeos de personas que dicen y hacen cosas que nunca dijeron ni hicieron. Los deepfakes también pueden crearse con imágenes, vídeos y audio.

Se llaman así porque son posibles gracias a una rama del "aprendizaje profundo" llamada redes generativas adversariales (GAN). Las GAN se basan en la tecnología de las "redes neuronales", pero mientras éstas sólo pueden utilizarse para percibir grandes cantidades de datos, las GAN dieron a las redes neuronales la capacidad de crear contenido fresco.

Los deepfakes se han propagado gracias al espíritu de código abierto de la comunidad de aprendizaje automático. Los avances en la investigación de modelos generativos suelen ponerse a disposición de cualquier persona del mundo de forma gratuita para que los descargue y haga uso de ellos. Como resultado, el número de deepfakes se ha disparado a lo largo de los años y los gobiernos se apresuran a formular regulaciones, temiendo que las falsificaciones extremadamente creíbles puedan tener un impacto negativo en la sociedad.

Estafas con deepfakes

Cualquier tecnología que tenga el potencial de cambiar el mundo puede utilizarse para el bien o para el mal. Los deepfakes tienen infinidad de aplicaciones positivas, como "devolver la vida" a los difuntos, mejorar el intercambio de rostros en la industria cinematográfica, la educación interactiva, el marketing inmersivo y mucho más. Lamentablemente, también existe un lado oscuro que incluye una serie de estafas con deepfakes:

• La suplantación de identidad: Los deepfakes hacen que hacerse pasar por otras personas sea más fácil que nunca. En 2019, se utilizó un deepfake de voz para estafar a un CEO por 243.000 dólares. El CEO de una empresa energética con sede en Reino Unido creyó que estaba hablando por teléfono con el CEO de la matriz alemana de la empresa cuando siguió las órdenes de transferir inmediatamente 220.000 € a la cuenta bancaria de un proveedor húngaro. En realidad, la voz pertenecía a un estafador que utilizaba tecnología de voz por IA para suplantar al consejero delegado alemán.
  
  En otro caso, un usuario desconocido creó una cuenta falsa de TikTok para el actor Robert Pattinson, que no tiene ninguna cuenta en redes sociales. La cuenta ganó más de 660.000 seguidores y millones de "me gusta" antes de desaparecer misteriosamente.
  
  
• Catfishing: Los estafadores adoptan identidades falsas utilizando imágenes de personas o famosos al azar. Una de las formas más sencillas de atrapar a un estafador era pedirle que apareciera en un vídeo, ya que no era algo que pudiera falsificarse. Esto ha cambiado con la existencia de los deepfakes, ya que ahora los estafadores pueden crear vídeos convincentes de la persona a la que suplantan con mensajes personalizados.
  
  
• Apoyos falsos: Como revelamos en nuestro Informe sobre el Estado Global de las Estafas 2022, las estafas de inversión son ahora la estafa más rampante en Internet. Los ciberdelincuentes han empezado a utilizar deepfakes para promocionar esquemas fraudulentos, como la plataforma "BitVex", que fue "respaldada" por un deepfake de Elon Musk. Anunciaban la estafa utilizando entrevistas legítimas modificadas con tecnología deepfake para utilizar la voz de Musk en un guión proporcionado por los estafadores.
  
  
• Deepfake porno y chantaje: El porno sigue siendo un gran tabú en la mayoría de las sociedades y puede llevar desde la vergüenza a la exclusión social de las personas que aparecen en vídeos pornográficos. Se han denunciado casos de hombres rechazados que crean deepfakes de mujeres para chantajearlas. El deepfake porn también es motivo de gran preocupación para los famosos cuyos rostros se han utilizado sin consentimiento para crear vídeos en los que aparecen practicando actos sexuales.

Cómo detectar los deepfakes

En los primeros tiempos de los deepfakes, detectar un deepfake era tan fácil como observar si los ojos parpadeaban. Los ojos que no parpadeaban indicaban que se trataba de un deepfake, ya que la tecnología no estaba lo suficientemente avanzada como para crear ojos parpadeantes. A medida que la tecnología mejora, es más difícil identificar un deepfake. Sin embargo, todavía hay algunas señales que se pueden detectar prestando mucha atención:

• Mala sincronización labial
• Parpadeo antinatural
• Movimiento entrecortado
• Falta de sombras e iluminación poco natural
• Cabello inmóvil o movimiento antinatural

En general, los deepfakes tienden a tener el efecto del "valle misterioso", en el que el cerebro percibe que algo no es natural. Para combatir el fuego con fuego, se están desarrollando herramientas que utilizan la inteligencia artificial para identificar los deepfakes. La tecnología deepfake está mejorando rápidamente, por lo que es imperativo mantenerse alerta y estar atento a las señales de advertencia de estafas deepfake.