Was ist ein Deep Fake?

Deep Fakes sind mithilfe künstlicher Intelligenz erstellte, täuschend echte Fälschungen von Video- und Audioaufnahmen. Das Wort "Deep Fake" ist eine Kombination der Wörter "Deep Learning" sowie "Fake". Dabei werden neuronale Netzwerke verwendet, um Gesichter, Stimmen oder ganze Personen in bestehenden Aufnahmen zu ersetzen oder komplett neu zu erschaffen. Deep Fakes stellen eine wachsende Herausforderung für die IT-Sicherheit dar, da sie zur Manipulation und für kriminelle Zwecke missbraucht werden können. Mittlerweile ist das gesamte Internet quasi geflutet mit Deep Fakes von Stars und Politikern.

Wie funktionieren Deep Fakes?

Die Erstellung von Deep Fakes basiert auf maschinellem Lernen, insbesondere auf sogenannten Generative Adversarial Networks (GANs). Dabei werden zwei neuronale Netzwerke gegeneinander trainiert: Ein Generator erstellt Fälschungen, während ein Diskriminator versucht, diese von echten Aufnahmen zu unterscheiden. Durch diesen Wettstreit werden die Fälschungen immer besser. Für überzeugende Ergebnisse werden große Mengen an Trainingsmaterial benötigt, etwa Videoaufnahmen oder Sprachsamples der zu fälschenden Person.

Arten von Deep Fakes

1. Face Swapping:
   Hierbei wird das Gesicht einer Person in einem Video durch ein anderes ersetzt. Dies ermöglicht es, Personen Dinge sagen oder tun zu lassen, die sie nie getan haben.
2. Lip Syncing:
   Bei dieser Technik werden nur die Lippenbewegungen einer Person manipuliert, um sie scheinbar etwas anderes sagen zu lassen. Der Rest des Videos bleibt unverändert.
3. Voice Cloning:
   Hier wird die Stimme einer Person synthetisch nachgebildet. Die geklonte Stimme kann dann beliebige Texte sprechen, die die echte Person nie gesagt hat.

Welche Gefahren gehen von Deep Fakes aus?

Deep Fakes bergen erhebliche Risiken für Individuen, Unternehmen und die Gesellschaft als Ganzes. Sie können für verschiedene kriminelle und manipulative Zwecke missbraucht werden. Allgemein gibt es drei Hauptgefahren: Desinformation, Betrug und Erpressung. Deep Fakes ermöglichen es Kriminellen, ihre Angriffe glaubwürdiger und überzeugender zu gestalten.

Desinformation und Fake News

Eine der größten Bedrohungen durch Deep Fakes ist die Verbreitung von Falschinformationen. Gefälschte Videos von Politikern oder Prominenten, die kontroverse Aussagen machen, können sich rasant in sozialen Medien verbreiten und die öffentliche Meinung beeinflussen. Dies kann zu politischer Instabilität führen und das Vertrauen in Institutionen und Medien untergraben. Häufig sieht man, dass solche Deep Fakes gezielt vor Wahlen oder während Krisen eingesetzt werden, um Verwirrung zu stiften.

Betrug und Social Engineering

Kriminelle nutzen Deep Fakes zunehmend für raffinierte Betrugsmaschen. Ein Beispiel ist der "CEO Fraud", bei dem Betrüger die Stimme eines Vorgesetzten imitieren, um Mitarbeiter zu Überweisungen zu veranlassen. Auch Identitätsdiebstahl wird durch Deep Fakes erleichtert. Cyberkriminelle können gefälschte Video-Identifikationen für Bankgeschäfte oder andere sensible Transaktionen nutzen. Daher ist es wichtig, dass Unternehmen ihre Sicherheitsmaßnahmen und Authentifizierungsprozesse anpassen.

Erpressungsversuche

Stehen dem Angreifer viele Aufnahmen von Gesicht und Körper zur Verfügung, ist es nicht schwer, Videomaterial anzufertigen, das das Opfer bei sexuellen Handlungen zeigt. Mit dieser Art von Video lässt sich das Opfer erpressen. Will man verhindern, dass so ein Video an Freunde und Familie geschickt wird, muss man Geld zahlen.

Wie kann man sich vor Deep Fakes schützen?

Der Schutz vor Deep Fakes erfordert sowohl technische als auch menschliche Maßnahmen. Hier sollte man bei der Sensibilisierung und Aufklärung anfangen. Nutzer müssen lernen, kritisch mit Medieninhalten umzugehen und Quellen zu hinterfragen. Gleichzeitig arbeiten Forscher an technischen Lösungen zur Erkennung von Deep Fakes.

Technische Gegenmaßnahmen

1. KI-basierte Erkennungstools:
   Verschiedene Algorithmen können Anomalien in Videos und Audios erkennen, die auf Deep Fakes hindeuten. Diese Tools werden ständig weiterentwickelt.
2. Digitale Wasserzeichen:
   Authentische Medien können mit unsichtbaren Wasserzeichen versehen werden, um ihre Echtheit zu belegen. Dies erschwert die unbemerkte Manipulation.

Verhaltensbasierte Schutzmaßnahmen

Neben technischen Lösungen ist ein geschärftes Bewusstsein für die Problematik entscheidend. Nutzer sollten verdächtige Inhalte kritisch hinterfragen und mehrere Quellen konsultieren. Bei wichtigen Entscheidungen oder Transaktionen, die auf Medieninhalten basieren, empfiehlt sich eine zusätzliche Verifizierung über andere Kanäle. Unternehmen sollten ihre Mitarbeiter regelmäßig schulen, um das Risiko von Social-Engineering-Angriffen mit Deep Fakes zu minimieren.

Deep Fakes stellen eine ernsthafte Bedrohung für die Informationssicherheit und das Vertrauen in digitale Medien dar. Um dieser Herausforderung zu begegnen, ist ein ganzheitlicher Ansatz nötig, der technische Innovationen, Aufklärung und möglicherweise auch rechtliche Regulierungen umfasst. Nur so kann langfristig ein sicherer und vertrauenswürdiger digitaler Raum gewährleistet werden.

Datensparsamkeit

Mit Aufkommen von Deep Fakes werden Fragen immer lauter, die das Thema Datensparsamkeit angehen. So sollte sich jeder von uns Fragen, ob es nötig ist Videos und Audios von sich ins öffentliche Netz, Facebook, Snapchat oder Instagram hochzuladen. Im Endeffekt ist das Trainingsmaterial für Kriminelle. Bis jetzt ist die Verfügbarkeit einer gewissen recht großen Menge an Daten notwendig, um ein Deep Fake zu erstellen.