Deep Fakes – Die neuste Gefahr der KI-Technologie?

von Julia und Philipp

Die jüngsten Entwicklungen künstlicher Intelligenz erleichtern das Leben in vielen Bereichen. Aber die Technologie hat eine Schattenseite. Digitale Manipulationen von Bild- oder Tonaufnahmen, die Personen etwas sagen oder tun lassen, was sie nie gesagt oder getan haben, können durch künstliche Intelligenz täuschend echt wirken. Doch welche Folgen haben diese Deep Fakes? Wie können wir sie erkennen und uns vor ihnen schützen? 

Stell dir vor, du wachst eines Morgens auf und dein Handy ist voller Nachrichten. Deine Freunde senden dir einen Link zu einem Video. Du öffnest den Link und siehst dich selbst in einer Situation, an die du dich überhaupt nicht erinnern kannst. Du siehst dich auf einer Party tanzen oder ein rechtsradikales Lied singen. Du bist verwirrt. Hast du das wirklich getan? Hast du vielleicht zu viel getrunken und es einfach vergessen? Aber etwas fühlt sich nicht richtig an. Du kannst dich nicht daran erinnern, jemals an diesem Ort gewesen zu sein oder diese Kleidung getragen zu haben. Was ist passiert?

Willkommen in der Welt der Deep Fakes, einer Technologie, die es ermöglicht, täuschend echte Videos von Menschen zu erstellen, die Dinge tun oder sagen, die sie nie getan oder gesagt haben. Dieser Beitrag soll einen Überblick über die Gefahren von Deep Fakes ermöglichen und erklären, wie man sich gegen diese schützen kann. 

Was sind Deep Fakes und wie funktionieren sie?

Deep Fakes sind Scheinbeweise für Ereignisse, die nie wirklich passiert sind. Sie entstehen durch die digitale Manipulation von Audio- oder Videoaufnahmen, bei denen das Gesicht und/oder die Stimme einer Person auf den Körper einer anderen Person abgebildet wird.

Bei allen Deep Fake Verfahren kommt eine KI zum Einsatz, die alle biometrischen Daten erfasst. Beim sogenannten „Face Swapping“ wird das Gesicht einer Person A erfasst und auf das Gesicht einer Person B übertragen. Dabei soll das komplette Aussehen, die Mimik, die Beleuchtung des Gesichts und die Blickrichtung der Person A auf das Gesicht der Person B übertragen werden. Dafür greift die KI auf öffentliche Softwarebibliotheken zu und verwendet ein sogenanntes “Autoencoder-Verfahren” als Modell. Bei einem Autoencoder handelt es sich um ein digitales neuronales Netz, welches aus einem Gesichtsbild die relevanten Daten “lernt”, diese kodiert und extrahiert und aus den kodierten Informationen ein neues Gesichtsbild erzeugt. Ein eher harmloser Vorgang. Oder? Es gibt bereits einfache Apps, die lustige Filter auf Gesichter projizieren können oder das Gesicht der Nutzer*innen auf einen neuen Körper platzieren können. Aber was, wenn ein Bild von ihnen an ihren Arbeitgeber geschickt wird, auf dem sie zu sehen sind, wie sie bei einer rechtsradikalen Demonstration in der Menge tummeln und vermeintlich verfassungswidrige Gesten machen? Jede Person, die ein Bild von ihnen besitzt, könnte mit ein paar Klicks einen einfachen Deep Fake von ihnen anfertigen. Zwar gehören ihnen die persönlichen Bildrechte, aber sie sind dennoch nicht davor geschützt, dass ein Bild heimlich von ihnen gemacht oder ohne ihre Einwilligung über einen Messengerprogramm verschickt wurde. Im Idealfall lässt sich ein solcher Deep Fake schnell entkräften, beispielsweise durch einen Nachweis, dass sie den ganzen Tag krank zu Hause waren oder der Nachbar, mit dem sie gequatscht haben, zur Zeit der Demonstration. Ansonsten sind die meisten Deep Fakes nicht von hoher Qualität, beispielsweise stimmt die Beleuchtung nicht oder die Hautfarbe unterscheidet sich deutlich von einer anderen Körperpartie. Jedoch wird die Qualität von Deep Fakes immer besser.¹

Deep Fake Pornographie

Die Erfolge in der KI-Technik eröffnen neue Möglichkeiten für Cyberkriminelle. Ein besonders aktuelles Verfahren ist das Anfertigen von Deep Fake Pornographie. Besonders junge weibliche Prominente werden oft zum Opfer. Die neuronalen Netze, die von der KI genutzt werden, sind mittlerweile so fortschrittlich, dass sie ein Gesicht echt wirken lassen, während es sich bewegt. Sie errechnen, wie sich das Gesicht beispielsweise bei einer Kopfdrehung bewegt. Es findet nicht nur ein massives Eindringen in die Privatsphäre der Opfer statt, es kommt auch zu massiven Rufschädigungen und potenzieller Diffamierung. Außerdem dürfen die emotionalen und psychischen Schäden nicht unterschätzt werden, wenn jemand pornographische Inhalte von sich selbst entdeckt, die klar darauf abzielen ihnen zu schaden. Weitere Informationen über emotionale und psychische Schäden, gibt es hier im Abschnitt “Panoptic Gaslighting and Existential Trauma”.

Wie kann man sich vor Deep Fakes schützen?

Oftmals werden Deep Fakes entlarvt und erst gar nicht ernst genommen, dennoch kann es zu Schäden kommen. Zwar wurde der Deep Fake enttarnt, dennoch kommt es zu einem öffentlichen Diskurs. Es entstehen Gespräche im Bekanntenkreis und bei öffentlichen Persönlichkeiten müssen Gegenmaßnahmen ergriffen werden. Zum Beispiel gehen sie gerichtlich gegen die Inhalte vor oder geben ein Statement ab. Dennoch kommt es zu illokutionären Schäden. Sie beschreiben die Schäden, die bereits durch das Posting entstehen, die nicht vermeidbar sind.

Um so wichtiger ist es, sich korrekt zu schützen. Ein wichtiger Schritt wäre, sich für gefälschte Inhalte zu sensibilisieren, oftmals hilft es bereits, wenn man sich die Quelle genauer ansieht. Außerdem kann das Video auf seine Echtheit überprüft werden: Sind Bild und Ton asynchron? Stimmt die Beleuchtung des Gesichts? Sind die Bewegungen flüssig? Außerdem sollte man stets seine Datenschutzvereinbarungen auf Social Media Plattformen im Blick behalten und man sollte Messenger-Dienste mit End-to-End-Verschlüsselung verwenden, da diese besonders schwer zu knacken sind. Wenn ihr euch über weitere Gefahren und Gegenmaßnahmen informieren möchtet, könnt ihr euch hier beim “Bundesamt für Sicherheit in der Informationstechnik” ausführlicher informieren.