Bildmanipulation im Netz - Fakt oder Fake?

Deepfakes sind Fälschungen von Bild, Ton und Text. Dabei geht es um Manipulation von Personen und oftmals um den Diebstahl von Identitäten durch Einsatz von Künstlicher Intelligenz (KI). Das bekannteste Phänomen ist Face-Swapping, bei dem die Gesichter zweier Personen getauscht werden. Auf Social Media oft als „Spaß“ zur Unterhaltung genutzt, verfolgen Deepfakes verschiedene Absichten. Naheliegend ist die Verfolgung politischer Ziele, die Diskreditierung von Personen der Öffentlichkeit oder die Vortäuschung einer anderen Identität. So werden im Rahmen der Verbreitung von Fake News, also gezielter Desinformation, Deepfakes zur Manipulation und Mobilisierung von Nutzer*innen Sozialer Netzwerke wie Facebook, Instagram, TikTok und Co. genutzt.

Die im Auftrag des Europäischen Parlaments erstellte Studie „Tackling deepfakes in European policy“ nennt persönliche Erpressung als eines der Hauptmotive zur Erstellung von Deepfakes. Davon sind hauptsächlich Frauen und Mädchen betroffen. Als häufigste Ausprägung gilt die Erpressung durch Deepfakes, in denen das Gesicht des Opfers mit dem einer Darstellerin pornografischer Videos getauscht wird. Der Bericht des Niederländischen Cybersecurity Unternehmens Deeptrace aus dem Jahr 2019 gibt sogar an, dass 96% aller Deepfake-Inhalte der Pornografie zuzuordnen seien.

Ein weiteres Szenario der Nutzung von Deepfakes besteht im Bereich Cyber-Grooming, einer Form sexueller Belästigung Minderjähriger durch Erwachsene, die sich Kindern im Netz auf subtile Art und Weise annähern und dadurch das Vertrauen ihrer Opfer aufbauen. Eine Masche der Täter*innen ist es dabei, sich als eher gleichaltrige Kinder bzw. Jugendliche auszugeben, um die wahre Identität zu verschleiern.

Um sich vor Medienmanipulationen zu schützen, ist es wichtig zu wissen, welche die gängigsten Formen der Fälschung sind. Face-Swapping ist aktuell die am häufigsten genutzte Methode. Gründe dafür sind die technisch einfache Umsetzung und die stetig verbesserte Qualität der Ergebnisse, da mit jedem Upload im Netz, vor allem auf Social Media, die Datenbanken für KIs gefüttert werden. Je öfter eine Person ihr Gesicht hochlädt, desto leichter ist es für eine KI, dieses nachzuahmen, weil der Datensatz immer größer wird.

Eine weitere Methode der Gesichtsfälschung ist das „Face Reenactment“, bei dem unter Verwendung von 3D-Modellen Gesichtszüge einer Person willkürlich - sogar live - manipuliert werden können. Viele Gesichtsfilter auf TikTok und Instagram nutzen diese Technologie.

Auch bei der Fälschung von Stimmen kommen Anwendungen aus dem Bereich der künstlichen Intelligenz, die sogenannten neuronalen Netze zum Tragen. Dabei unterscheidet man zwischen Text-to-Speech (TTS) Verfahren und Voice-Conversion (VC). TTS bedeutet übersetzt Text-zu-Sprache. Eine KI liest also einen geschriebenen Text ein und gibt diesen in der Stimme des Opfers aus. VC, also Stimm-Umwandlung bedeutet hingegen, dass eine Person einen Text einspricht, der in Echtzeit von der KI in die Stimme des Opfers umgewandelt wird. Das funktioniert sogar im „Livemodus“.

So verblüffend echt einige Ergebnisse auf den ersten Blick wirken, gibt es dennoch Indikatoren, die auf Fälschungen hindeuten:

• Achten Sie bei Gesichtsmanipulationen besonders auf unstimmige Belichtung und verwaschene Konturen. Manchmal ist es ein seltsamer Schatten, oder der Übergang zwischen Ohrläppchen und Hintergrund - der ist dann auffällig schwammig.


• Achten sie außerdem genau auf sichtbare Übergänge.


• Gefälschte Stimmen haben oft einen monotonen, metallischen Klang.


• Schenken Sie außerdem der Aussprache besondere Aufmerksamkeit, da KIs zwar die Klangfarbe einer Stimme gut erfassen, aber Probleme mit Akzenten und insbesondere Dialekten haben.


• Lippen-Synchronität ist ein weiteres, relativ leicht zu erkennendes Phänomen, denn einfache KI kann diese nicht abbilden.

Deepfakes sollten, wie jede Form der gezielten Falschinformation, insbesondere bei jungen Menschen thematisiert werden. So kann neben den oben genannten Punkten leicht geprüft werden, ob es ich um eine geprüfte Quelle handelt. Auch kann man zum Beispiel über die Bilderrückwärtssuche gute Hinweise erhalten, ob man eventuell einem Deepfake aufsitzt. Nicht zuletzt sollten wir immer hinterfragen, ob Aussagen und Handlungen zu der jeweiligen Person passen.