Lassen Sie sich nicht von Deepfakes täuschen!

Betrüger gehören oft zu den Ersten, die neue Technologien einsetzen, um der Zeit voraus zu sein. Eine dieser neuen Technologien ist die Künstliche Intelligenz (KI), die die Welt im Sturm erobert.

Eine der Anwendungen von KI ist die Erstellung von "Deepfakes", und da alle Arten von Medien, von Stimmen bis zu Videos , "deepfaked" werden können, hat diese Technologie das Potenzial, bei Missbrauch massive Schäden und Verluste zu verursachen. Lesen Sie weiter, um zu erfahren, was Deepfake-Technologie ist und wie Sie Deepfake-Betrug vermeiden können.

Was sind Deepfakes?

Die Bildmanipulation mit Tools wie Photoshop ist seit langem ein wichtiges Instrument in der Schublade von Betrügern. Die Bildbearbeitung wird von Betrügern häufig verwendet, um gefälschte Identitäten, gefälschte Dokumente, falsche Prominentenempfehlungen und vieles mehr zu erstellen. Die Deepfake-Technologie ermöglicht es Betrügern, die Fälschung auf die nächste Stufe zu heben, indem sie Videos von Personen erstellen, die Dinge sagen oder tun, die sie nie gesagt oder getan haben. Deepfakes können auch mit Bildern, Videos und Audio erstellt werden.

Deepfakes werden so genannt, weil sie durch einen Zweig des "tiefen Lernens" namens Generative Adversarial Networks (GANs) ermöglicht wurden. GANs basieren auf der Technologie der "neuronalen Netze", doch während neuronale Netze nur dazu verwendet werden können, riesige Datenmengen wahrzunehmen, gaben GANs den neuronalen Netzen die Fähigkeit, neue Inhalte zu erstellen.

Deepfakes haben sich dank des Open-Source-Gedankens der Gemeinschaft für maschinelles Lernen verbreitet. Fortschritte in der generativen Modellierungsforschung werden in der Regel kostenlos zur Verfügung gestellt, so dass jeder auf der Welt sie herunterladen und nutzen kann. Infolgedessen ist die Zahl der Deepfakes im Laufe der Jahre explodiert, und die Regierungen bemühen sich um die Formulierung von Vorschriften, da sie befürchten, dass die extrem glaubwürdigen Fälschungen negative Auswirkungen auf die Gesellschaft haben könnten.

Deepfake-Betrug

Jede Technologie, die das Potenzial hat, die Welt zu verändern, kann zum Guten oder zum Bösen eingesetzt werden. Deepfakes haben eine Vielzahl positiver Anwendungen, wie z. B. die "Wiedererweckung" von Verstorbenen, besseres Face-Swapping in der Filmindustrie, interaktive Bildung, immersives Marketing und vieles mehr. Leider gibt es auch eine dunkle Seite, zu der eine Reihe verschiedener Deepfake-Betrügereien gehören:

• Nachahmung: Mit Deepfakes ist es einfacher denn je, sich als eine andere Person auszugeben. Im Jahr 2019 wurde ein Deepfake mit einer Stimme verwendet, um einen CEO um 243.000 Dollar zu betrügen. Der Vorstandsvorsitzende eines im Vereinigten Königreich ansässigen Energieunternehmens glaubte, mit dem Vorstandsvorsitzenden der deutschen Muttergesellschaft des Unternehmens zu telefonieren, als er die Anweisung befolgte, sofort 220.000 Euro auf das Bankkonto eines ungarischen Lieferanten zu überweisen. Die Stimme gehörte in Wirklichkeit einem Betrüger, der die KI-Stimmtechnologie nutzte, um den deutschen Vorstandsvorsitzenden zu fälschen.
  
  In einem anderen Fall erstellte ein unbekannter Nutzer ein gefälschtes TikTok-Konto für den Schauspieler Robert Pattinson, der keine Konten in sozialen Medien hat. Das Konto erhielt mehr als 660.000 Follower und Millionen von Likes, bevor es auf mysteriöse Weise verschwand.
  
  
• Catfishing: Bei Catfishing-Betrügereien nehmen Betrüger falsche Identitäten an, indem sie Bilder von beliebigen Personen oder Prominenten verwenden. Eine der einfacheren Möglichkeiten, einen Catfish zu überführen, bestand darin, ihn zu bitten, auf Video zu erscheinen, da dies nicht gefälscht werden konnte. Dies hat sich mit der Existenz von Deepfakes geändert, da Catfish-Betrüger jetzt überzeugende Videos der Person, für die sie sich ausgeben, mit personalisierten Nachrichten erstellen können.
  
  
• Gefälschte Befürwortungen: Wie wir in unserem Global State of Scams 2022 Report aufgedeckt haben, sind Anlagebetrügereien inzwischen die am weitesten verbreitete Betrugsmasche im Internet. Cyberkriminelle haben begonnen, Deepfakes zu verwenden, um für betrügerische Systeme zu werben, wie z. B. die "BitVex"-Plattform, die von einem Deepfake von Elon Musk "gebilligt" wurde. Sie warben für den Betrug mit legitimen Interviews, die mit Deepfake-Technologie modifiziert wurden, um Musks Stimme in einem von den Betrügern bereitgestellten Skript zu verwenden.
  
  
• Deepfake-Porno und Erpressung: Pornografie ist in den meisten Gesellschaften immer noch ein großes Tabu und kann für Menschen, die in pornografischen Videos zu sehen sind, zu allem Möglichen führen - von Peinlichkeit bis hin zu sozialem Ausschluss. Es gibt Berichte über abgewiesene Männer, die Deepfakes von Frauen erstellen, um sie zu erpressen. Deepfake-Pornos sind auch ein großes Problem für Prominente, deren Gesichter ohne Zustimmung für Videos verwendet wurden, in denen sie bei sexuellen Handlungen zu sehen sind.

Wie man Deepfakes erkennt

In den Anfängen der Deepfakes war es so einfach, ein Deepfake zu erkennen, indem man beobachtete, ob die Augen blinzelten. Nicht blinzelnde Augen wiesen auf einen Deepfake hin, da die Technologie noch nicht weit genug fortgeschritten war, um blinzelnde Augen zu erzeugen. Mit der Verbesserung der Technologie wird es immer schwieriger, einen Deepfake zu erkennen. Es gibt jedoch immer noch einige Anzeichen, auf die Sie achten können, wenn Sie genau hinschauen:

• Schlechte Lippensynchronisation
• Unnatürliches Blinzeln
• Stotternde Bewegungen
• Fehlende Schatten und unnatürliche Beleuchtung
• Unbewegte Haare oder unnatürliche Haarbewegungen

Im Allgemeinen neigen Deepfakes zum "Unheimlichen Tal"-Effekt, bei dem das Gehirn feststellt, dass etwas unnatürlich ist. Um Feuer mit Feuer zu bekämpfen, werden Tools entwickelt, die künstliche Intelligenz einsetzen, um Deepfakes zu erkennen. Die Deepfake-Technologie entwickelt sich rasant weiter. Daher ist es wichtig, wachsam zu sein und auf Warnzeichen für Deepfake-Betrug zu achten.