Deepfakes enttarnen: Wie KI-generierte Bilder erkannt werden können

Bildrechte: Tom Kotov

Deepfakes sind längst im Mainstream angekommen: Bilder von Papst Franziskus in Daunenjacke oder Donald Trump bei einer Festnahme gingen viral – und entpuppten sich als KI-generiert. Für IT-Entscheider und CTOs stellt sich die Frage: Wie lassen sich solche Fälschungen zuverlässig enttarnen? Der Wettlauf zwischen Bildgenerierung und Detektion wird immer dynamischer. In diesem Artikel beleuchten wir die technischen Grundlagen, aktuelle Erkennungsmethoden und regulatorische Ansätze.

Wie funktionieren KI-generierte Bilder?

Moderne Bildgenerierung basiert auf sogenannten Diffusionsmodellen. Diese lernen, aus reinem Rauschen Schritt für Schritt ein realistisches Bild zu erzeugen. Der Trick: Statt die komplizierte Wahrscheinlichkeitsverteilung echter Bilder direkt zu berechnen, wird ein einfacherer Umweg über den Diffusionsprozess gewählt – ähnlich wie sich Tinte in Wasser gleichmäßig verteilt. Durch Umkehrung dieses Prozesses entstehen aus Zufallszahlen fotorealistische Motive. Die Verbindung mit Sprachmodellen (z.B. bei DALL·E oder Midjourney) erlaubt es, die Bildgenerierung per Textbefehl zu steuern.

Wie erkennt man Deepfakes heute?

Es gibt mehrere Ansätze, KI-generierte Bilder zu identifizieren:

• Visuelle Auffälligkeiten: Unnatürliche Schatten, seltsame Spiegelungen in Brillengläsern, zu glatte oder zu runzlige Haut, unpassende Lippenbewegungen oder fehlerhaftes Blinzeln in Videos.
• Biomedizinische Marker: Algorithmen wie FakeCatcher analysieren farbliche Veränderungen der Haut, um den Blutfluss zu messen. KI-generierte Videos eliminieren diese Signale, da das hinzugefügte Rauschen die räumlichen und zeitlichen Korrelationen zerstört.
• Maschinelles Lernen: Neuronale Faltungsnetzwerke werden mit echten und gefälschten Bildern trainiert. Erklärbare KI (XAI) hilft dabei, die Entscheidungsgrundlagen nachvollziehbar zu machen.

„Für uns spiegeln Bilder meist die Realität wider. Selbst wenn sich hinterher herausstellt, dass ein Bild eine Fälschung war, bleibt immer etwas im Gedächtnis hängen.“ — Philipp Slusallek, Informatiker am DFKI

Warum der Kampf gegen Deepfakes so schwierig ist

Das zentrale Problem: Jeder Detektionsalgorithmus kann wiederum genutzt werden, um die bilderzeugenden KIs zu trainieren – ein endloses Katz-und-Maus-Spiel. Zudem investieren weit mehr Ressourcen in die Bildgenerierung als in die Erkennung. Schätzungen zufolge arbeiten 100-mal so viele Personen an der Synthese wie an der Detektion.

Zukunftsweisende Lösungen: Wasserzeichen und kryptografische Signaturen

Experten fordern daher eine Kennzeichnungspflicht für KI-generierte Inhalte. Mögliche technische Umsetzungen:

• Wasserzeichen: Jedes zehnte Pixel erhält einen geraden Zahlenwert – optisch unsichtbar, aber maschinell auslesbar. Bei quelloffenen Modellen kann dies jedoch entfernt werden.
• Feste Verankerung in Trainingsdaten: Das Wasserzeichen wird bereits beim Training eingeführt und lässt sich nicht mehr abschalten, ohne das Modell neu zu trainieren.
• Kryptografische Signaturen: Echte Aufnahmen erhalten eine digitale Signatur, die bei Veränderung ungültig wird. Diese Technik ist bereits für E-Mails und PDFs etabliert und könnte auf Smartphone-Kameras übertragen werden.

FAQ

Was sind Diffusionsmodelle? Diffusionsmodelle sind KI-Algorithmen, die aus zufälligem Rauschen Schritt für Schritt realistische Bilder erzeugen. Sie lernen, den Diffusionsprozess umzukehren – ähnlich wie man die Ausbreitung von Tinte in Wasser rückwärts berechnet.

Wie zuverlässig sind aktuelle Detektionsmethoden? Menschen erkennen KI-generierte Videos in etwa 70% der Fälle richtig, Algorithmen der Deepfake Detection Challenge lagen bei 65%. Bei Standbildern ist die Erkennungsrate noch geringer. Biomedizinische Ansätze wie FakeCatcher erreichen bis zu 94% Genauigkeit.

Kann man Wasserzeichen in KI-Bildern umgehen? Ja, wenn das Wasserzeichen nur nachträglich aufgebracht wird, kann es entfernt werden. Wird es jedoch fest in den Trainingsdaten verankert, ist eine Entfernung nur durch vollständiges Neutraining des Modells möglich – was hohe Rechenleistung und Datenmengen erfordert.

Welche Rolle spielt die Politik? Ein offener Brief vom März 2023, unterzeichnet von Yoshua Bengio, Steve Wozniak und Elon Musk, forderte eine sechsmonatige Pause beim Training leistungsstarker KI-Modelle. Regulierungsversuche wie eine Kennzeichnungspflicht werden intensiv diskutiert.

Quellen

• Spektrum der Wissenschaft: „Deepfake: Wie lassen sich KI-generierte Bilder enttarnen?“ (2023)
• MIT DetectFakes-Studie (2021)
• Ciftci et al.: „FakeCatcher: Detection of Synthetic Portrait Videos using Biological Signals“ (2020)
• Prashnani et al.: „PhaseForensics: Phase-based Forensic Analysis of Deepfake Videos“ (2022)
• Offener Brief Future of Life Institute (März 2023)

BLOGSbyBRIX - AI-authored