Deepfake-Video erkennen: 4 Schritte vor dem Weiterleiten

TL;DR. Frag nicht zuerst, ob ein Video gefälscht aussieht. Frag, woher es kommt. Im BSI-Cybersicherheitsmonitor 2026 glauben 47 Prozent, KI-Inhalte erkennen zu können, aber nur 19 Prozent haben schon einmal die Quelle geprüft. Such die erste Veröffentlichung, achte auf Auffälligkeiten, mach einen oder zwei Checks und lies das Ergebnis als Wahrscheinlichkeit, nicht als Urteil.

Jemand, dem du vertraust, schickt dir ein Video. Eine Politikerin sagt etwas Ungeheuerliches, ein Fremder erhebt einen Vorwurf, ein „Nachrichtenclip“ trägt ein Logo, das du irgendwie kennst. Du hast den Daumen schon auf „Weiterleiten“. Dieser Beitrag ist für die Sekunde davor.

Er richtet sich an Leute mit Smartphone, nicht an Forensikerinnen mit Spezialsoftware. Die Methode hat vier Schritte und verspricht nicht, was keine Methode verspricht: einen Stempel „echt“. Sie hilft dir zu entscheiden, ob du glaubst, abwartest oder weiterleitest, und sie arbeitet mit denselben Grundgedanken wie Faktencheck-Redaktionen.

Was sich in den letzten Wochen geändert hat

Im Oktober sind drei Dinge passiert, die das Thema aktuell machen.

• Am 7. Oktober hat Google seinen SynthID Detector für alle geöffnet. SynthID ist ein unsichtbares Wasserzeichen, das Google in Bilder, Videos und Audio einbaut, die seine KI erzeugt. Der Detector auf synthid.com prüft inzwischen, ob eine Datei mit KI von Google oder von Partnern gemacht wurde, die Google nennt: OpenAI, NVIDIA und Kakao, Apple soll laut Google bald folgen. Google schreibt, das Angebot sei weltweit verfügbar, und zwar auf Englisch.
• Am 20. Oktober tauchten in den USA zwei gefälschte Videos auf, die einen Senatskandidaten diffamieren sollten. Die Foundation for Defense of Democracies (FDD) hat den Fall am 26. Oktober als russische Operation beschrieben. Wir gehen ihn unten durch.
• Am 21. Oktober berichtete die Faktencheck-Organisation Full Fact, dass Googles Detector fünf offenbar echte Bilder als KI markiert hatte. Google hat am 15. Oktober ein Update ausgespielt, in Full Facts Bericht stehen die fünf Bilder danach auf „Unsure“. Mehr dazu in Schritt 3.

Dazu kommt ein vierter Punkt für alle, die „such nach dem Sora-Wasserzeichen“ gehört haben: OpenAI hat am 24. März 2026 angekündigt, Sora in der App für Privatnutzer und in der API einzustellen.

Alles Folgende gilt für jedes Video, nicht nur für politische: einen „geleakten“ Anruf vom Chef, einen „Auf frischer Tat ertappt“-Clip, einen Promi, der angeblich ein Anlageprodukt lobt, ein Katastrophenvideo.

Das Problem: Wir halten uns für besser, als wir sind

Die Zahlen, die dieser Beitrag zuerst braucht, kommen aus Deutschland. Das BSI und die Polizeiliche Kriminalprävention (ProPK) befragen für den Cybersicherheitsmonitor jährlich über 3.000 Menschen ab 16 Jahren. In der Ausgabe 2026 glauben 47 Prozent, KI-generierte Bilder und Videos erkennen zu können. Aber nur 28 Prozent haben schon einmal nach Unstimmigkeiten gesucht, und nur 19 Prozent haben schon einmal die Quelle überprüft. Etwa ein Drittel (32 Prozent) hat keine von elf gängigen Erkennungsmaßnahmen ergriffen. heise online berichtete am 13. April 2026 über die Ergebnisse und spricht von einer großen Lücke zwischen Selbsteinschätzung und tatsächlichem Wissen.

Dass es nicht nur um Selbstbild geht, zeigt eine zweite deutsche Zahl. Laut einer Bitkom-Umfrage unter 1.126 Personen ab 16 Jahren (darunter 1.031 Internetnutzende, Kalenderwochen 33 bis 37 des Jahres 2026), die am 26. Oktober 2026 veröffentlicht wurde, wurden 9 Prozent der Internetnutzenden in den vergangenen zwölf Monaten mit KI-erzeugten oder -veränderten Fotos, Videos oder Sprachaufnahmen getäuscht. Ein Jahr zuvor waren es 3 Prozent. Nur 19 Prozent der Betroffenen haben Strafanzeige bei der Polizei erstattet, vor einem Jahr waren es 26 Prozent. Bitkoms Rat bei einem ungewöhnlichen Anruf oder einer dringenden Zahlungsaufforderung: über einen zweiten Kanal nachfragen, bevor man handelt.

Tja. Das kennen wir alle: Man glaubt, man merkt das schon. Die Forschung sieht es nüchterner.

Ein Team der University of Florida hat Hunderte echte und gefälschte Bilder und Videos von Gesichtern und sprechenden Menschen erstellt, Teilnehmende haben sie beurteilt. Bei Standbildern lagen die Menschen nicht besser als der Zufall. Bei Videos schnitten sie besser ab: Sie ordneten echte und gefälschte Videos etwa in zwei von drei Fällen richtig ein. Auf demselben Material fiel die Leistung der Erkennungsalgorithmen bei Videos auf das Niveau des Zufalls. Die Forschenden betonen, dass die Studie bestimmte Gesichter und Videos unter kontrollierten Bedingungen testete und sich das Verhältnis zwischen Mensch und Maschine verschieben könne.

Software rettet dich also auch nicht. Der Benchmark Deepfake-Eval-2024 hat Erkennungswerkzeuge an Deepfakes getestet, die 2024 tatsächlich im Netz kursierten. Sein Videosatz besteht aus 1.072 echten und 964 gefälschten Clips. Der beste kommerzielle Videodetektor erreichte eine Genauigkeit von 0,78, und laut der Studie kam keines der getesteten kommerziellen Modelle auf 90 Prozent. Drei frei verfügbare Open-Source-Detektoren kamen auf 0,63, 0,50 und 0,51 beim Maß AUC, wobei 0,50 bedeutet, dass der Detektor Fälschungen nicht besser einordnet als der Zufall.

Zwei Vorbehalte. Die Zahlen stammen aus verschiedenen Tests mit verschiedenem Material, du kannst sie nicht wie eine Rangliste lesen. Und der Benchmark nutzt Inhalte und Detektoren von 2024, er sagt nichts darüber, wie ein Werkzeug bei den neuesten Generatoren abschneidet.

Auch das BSI selbst schreibt auf seiner Deepfake-Seite, automatisierte KI-Erkennung lasse sich oft nicht zuverlässig auf neue Angriffsmethoden übertragen. Und in ihrem Beitrag über Promi-Deepfakes in Fake-Werbung (Stand 23. März 2026) schreibt die Verbraucherzentrale: „Verlassen Sie sich nicht auf die Qualität des Videos.“

Was bleibt, ist die Quelle. Deshalb kombiniert die Methode unten mehrere schwache Signale und stellt das stärkste nach vorn.

Die 4 Schritte auf einen Blick

Schritt 1: Finde heraus, woher es kommt

Dieser Schritt bringt am meisten, und er braucht keine Technik. In demselben Beitrag empfiehlt die Verbraucherzentrale: recherchieren, ob seriöse Medien, Faktenchecks oder Diskussionen in Online-Foren das Video oder die Aussage aufgreifen. Dort finde man oft Hinweise auf einen Fake. Full Fact rät zusätzlich, die Version mit der höchsten Qualität zu suchen, per Stichwortsuche nach dem Originalmaterial zu fahnden und Screenshots per Bildersuche zurückzuverfolgen.

Geh der Reihe nach vor:

1. Frag, wer es zuerst gepostet hat. Nicht, wer es dir geschickt hat, sondern wer es zuerst hochgeladen hat. Schon das Konto verrät etwas: Ist es eine Redaktion, eine bekannte Person, ein offizieller Kanal? Oder ein Profil ohne Geschichte?
2. Sieh dir das Konto an. Wann wurde es angelegt, was hat es sonst gepostet, passt der Name zu einer echten Person, die du anderswo findest?
3. Such mit Stichworten nach der Aussage. Such nicht nach dem Video, sondern nach dem, was es behauptet: Name, Ereignis, Zitat. Zeigt ein Clip etwas Großes, lohnt die Suche nach seriösen Meldungen dazu. Full Fact empfiehlt als Standardprüfung nachzusehen, ob vertrauenswürdige Nachrichtenquellen dasselbe gemeldet haben.
4. Such eine längere oder frühere Fassung. Siehst du nur zwanzig Sekunden aus einer vierzigminütigen Veranstaltung, such nach der ganzen Aufnahme.
5. Frag die Person, die es dir geschickt hat, wo sie es her hat. Dafür steht unten eine Nachricht zum Kopieren.

Am Ende von Schritt 1 gibt es drei Ergebnisse. Entweder der Clip führt zu einer Originalquelle, die du beurteilen kannst. Oder zu einer verlässlichen Meldung, die ihn bestätigt oder widerlegt. Oder zu nichts: keine frühere Fassung, keine genannte Quelle, ein ganz neues Konto. Das dritte Ergebnis beweist keine Fälschung, aber es ist ein Grund, nicht weiterzuleiten.

Diese Nachricht funktioniert im Familienchat, ohne Streit anzufangen:

Danke fürs Schicken. Bevor ich es weitergebe: Weißt du, wo es ursprünglich herkommt?
Hast du den Link zum Original oder die ganze Fassung?
Ich prüfe gerade ein paar Clips, weil gerade so viele Fälschungen unterwegs sind.

Schritt 2: Hinschauen und hinhören, ohne dir zu viel zuzutrauen

Ein Blick lohnt sich, solange du das Gesehene als Hinweis behandelst. Das BSI nennt für Gesichter: „sichtbare Übergänge“ am Gesichtsrand, verwaschene Konturen etwa bei Zähnen und Augen, eingeschränkte Mimik, schwache Darstellung im Profil und unstimmige Beleuchtung. Bei Stimmen: einen „metallischen Sound“, falsche Aussprache, monotone Betonung, fehlerhaften Akzent und bei Echtzeit-Gesprächen eine „hohe Verzögerung“. Für das Üben nennt das BSI eine Anwendung des Fraunhofer AISEC.

Full Fact ergänzt für Videos: Lippenbewegungen prüfen (bei „m“, „b“ und „p“ müssen die Lippen ganz schließen), fehlende typische Gesten oder Mimik, Blickrichtung auf einem Standbild (ein Schielen kann das erklären, es beweist also nichts), Fehler bei Drehungen zur Seite oder wenn die Person das Gesicht teilweise verdeckt. Verlangsame das Video dafür; bei YouTube kannst du das Tempo bis auf 0,25 drosseln. Ohren sind laut Full Fact schwer glaubhaft nachzubilden, also lohnt der Vergleich mit anderen Fotos der Person. Beim Ton: Würde die Person das so formulieren? Klingt es roboterhaft, gibt es unnatürliche Pausen, bleibt das Hintergrundgeräusch beim Sprechen gleich?

Dann kommt der Vorbehalt, den die Quellen selbst machen. Full Fact schreibt, es gebe „few guaranteed ways“, also kaum sichere Wege, KI-Fälschungen zu erkennen. Die Zeichen seien Hinweise, kein Beweis: Eine Fälschung muss sie nicht zeigen, und eine echte Aufnahme kann sie durchaus zeigen. Die Tipps könnten mit der Technik an Verlässlichkeit verlieren. Die Verbraucherzentrale sagt es noch deutlicher: Auffälligkeiten wie unnatürliche Mimik, nicht passende Lippenbewegungen oder eine ungewöhnliche Stimme können auftreten, seien aber kein verlässliches Erkennungsmerkmal.

Deshalb nutzen wir Schritt 2 so: Siehst du einen Hinweis, warte lieber ab. Siehst du nichts, ist das noch kein Grund zu vertrauen.

Schritt 3: Mach einen oder zwei Checks

Jetzt suchst du nach etwas, das man mit bloßem Auge nicht beurteilen kann. Für die meisten Clips lohnen zwei Checks, ein dritter nur manchmal.

Check A: ein Standbild rückwärts suchen. Halte das Video an einer klaren Stelle an, mach einen Screenshot und gib ihn in eine umgekehrte Bildersuche wie Google Bilder ein. Full Fact empfiehlt, Screenshots so zurückzuverfolgen, und Googles Hilfeseite nennt die umgekehrte Bildersuche, zum Beispiel über Google Bilder, als weiteren Weg zu Originalquellen. Du suchst nach früheren Kopien, dem ursprünglichen Kontext oder Faktenchecks zu demselben Material.

Check B: Googles SynthID-Werkzeuge fragen. Laut Googles Hilfeseite lädst du am Computer auf gemini.google.com über „Add files“ ein Video hoch und fragst zum Beispiel: „Is this a real video?“ Du musst mit einem persönlichen oder einem geeigneten Workspace-Konto angemeldet sein. Die Grenzen auf dieser Seite: eine Datei von höchstens 100 MB, ein Video von unter 90 Sekunden, jeweils nur eine Datei und etwa 10 Videochecks pro 24 Stunden (insgesamt bis zu 5 Minuten Video). Die Hilfeseite, die wir gelesen haben, ist auf Englisch, und Googles Ankündigung vom 7. Oktober nennt den SynthID Detector weltweit verfügbar, auf Englisch.

Lies das Ergebnis genau, denn Googles Seite ist da präzise:

• Wird ein Wasserzeichen erkannt, wurde das Video ganz oder teilweise mit Googles KI-Modellen erstellt oder bearbeitet. Bei Videos nennt Gemini die Abschnitte mit Wasserzeichen. Die Seite fügt hinzu, das heiße nicht, dass es in allen Teilen dieses Abschnitts erkannt wurde.
• Wird keines erkannt, wurde das Video laut Seite nicht mit Googles KI erstellt oder bearbeitet, „but it could have been created by other AI systems“, könnte also von anderen KI-Systemen stammen.
• Manchmal ist das Ergebnis unklar. Als Gründe für unklare Ergebnisse nennt Google „Not enough details to watermark“ und „Likely too small an edit“.
• Außerdem steht dort: „there’s still a chance that after many alterations the watermark won’t be detected.“

Beachte: Googles Seiten widersprechen sich beim Umfang. Am 28. Oktober stand auf der Gemini-Hilfeseite, Gemini könne derzeit nur Inhalte erkennen, die mit Googles KI-Werkzeugen erstellt wurden. Googles Ankündigung vom 7. Oktober sagt, der eigenständige SynthID Detector auf synthid.com decke Google und Partner ab, darunter OpenAI, NVIDIA und Kakao. Der Detector erfasst also womöglich mehr als der Gemini-Check. In beiden Fällen bleibt bei „nichts gefunden“ offen, ob ein KI-System ohne SynthID im Spiel war.

Check C: Content Credentials, wenn die Datei welche hat. Content Credentials sind ein Herkunftsnachweis: Sie halten fest, woher eine Datei stammt und wie sie bearbeitet wurde. Googles Seite sagt, Gemini könne eine Zusammenfassung zu Aufbau, Bearbeitungsverlauf und KI-Einsatz zeigen, wenn die Datei sie enthält. Sie sagt auch, Content Credentials verrieten nicht, ob eine Datei sicher KI-erzeugt ist, und Gemini unterstütze keine Credentials, die außerhalb der Datei gespeichert sind. Findest du welche, ist das ein Bonus. Findest du keine, sagt das nichts.

Jetzt der unbequeme Teil: Auch diese Werkzeuge liegen manchmal daneben, und du solltest wissen, wie.

Full Fact hat Googles öffentlichen SynthID Detector mit Bildern getestet, die Politikerinnen und Politiker veröffentlicht hatten, und fünf gefunden, die er als „made or edited with Google AI“ markierte, obwohl die Postenden sagten, die Bilder seien echt und unverändert. Full Fact nennt sie „likely false positives“, wahrscheinlich Fehlalarme, weil sich kleine KI-Änderungen wie Aufhellen nicht ganz ausschließen ließen, sieht aber keine offensichtlichen Anzeichen für eine Manipulation. Wie oft das vorkommt, hat Full Fact nicht gemessen, und es sagt, das Werkzeug habe ihm geholfen, viele KI-Bilder richtig zu erkennen. Google hat am 15. Oktober ein Update ausgespielt; in Full Facts Bericht vom 21. Oktober kommen die fünf Bilder als „Unsure“ zurück. Danach fand Full Fact einen weiteren Fall, ein Bild aus einem Pflegeheim vom September, das auch nach dem Update noch markiert wurde. Google sagte Full Fact, ein Einsatz des Detektors in großem Maßstab ohne vorherigen Verdacht erhöhe die Wahrscheinlichkeit von Fehlalarmen, und empfiehlt, ihn mit anderen Signalen wie klassischem Faktencheck abzugleichen.

Das waren Bilder, keine Videos, und der öffentliche Detector war erst seit dem 7. Oktober online. Die Lehre ist dieselbe, die Full Fact zieht: nützlich, nicht fehlerfrei, nie allein.

Ein Wort zu den vielen „KI-Video-Detektor“-Seiten im Netz: Full Fact rät in seinem Leitfaden von 2023, sich nicht auf KI-Detektoren zu verlassen, weil sie nicht durchgängig funktionieren. Der Deepfake-Eval-Benchmark liefert dazu die Zahl: Kein getesteter kommerzieller Detektor erreichte 90 Prozent Genauigkeit. Nimm einen solchen Wert höchstens als Anstoß. Eine Anzeige von 98 Prozent ist ein Grund, die Quelle genauer anzusehen, kein Befund.

Schritt 4: Als Wahrscheinlichkeit lesen, dann entscheiden

Jetzt hast du drei Arten von Belegen: woher das Video kommt, was du gesehen und gehört hast und was die Werkzeuge sagten. Sie wiegen nicht gleich schwer. Grob nach Gewicht sortiert:

1. Ein auffindbares Original oder ein verlässlicher Faktencheck. Das entscheidet die meisten Fragen, in beide Richtungen.
2. Ein positives Werkzeugergebnis zusammen mit einem Quellenproblem. Ein SynthID-Treffer plus ein Konto, das erst vor einem Monat angelegt wurde, ist ein starkes Indiz.
3. Bild- und Tonhinweise. Sie erhöhen oder senken deinen Verdacht ein wenig.
4. Ein „nichts gefunden“ von einem Werkzeug. Du stehst danach, wo du vorher standest.

Dann triffst du eine von drei Entscheidungen:

„Abwarten“ ist die Entscheidung, die sich lohnt. Was du nicht weiterleitest, kann nicht über dich die Runde machen. Und Warten kostet wenig, verglichen mit dem Ärger, derjenige gewesen zu sein, der eine Fälschung verbreitet hat.

Noch eine Warnung vor einer Abkürzung. Wer unsicher ist, fragt gern einen Chatbot „Ist das echt?“ und nimmt die Antwort. Das ist nicht dasselbe wie eine Datei in einen Wasserzeichen-Check hochzuladen. Ein Chatbot, der nur auf Textbasis antwortet, kann eine falsche Behauptung weitergeben, und die FDD berichtet, dass genau das im US-Fall unten passiert ist.

Drei Fälle, an denen du die Schritte üben kannst

Ein Video aus Hamburg: ohne erkennbare KI, trotzdem gefälscht

Das erste Beispiel ist kein erkennbarer Deepfake. Es zeigt, wie weit Schritt 1 und der Vergleich mit einem Original tragen. Im Februar 2025, kurz vor der Bundestagswahl, kursierte auf X und Telegram ein Video, das angeblich zeigte, wie eine Frau in Hamburg-Mitte Briefwahlunterlagen öffnet und Stimmzettel mit AfD-Stimmen schreddert, teils mit Hunderttausenden Aufrufen. CORRECTIV stufte die Behauptung am 20. Februar 2025 als falsch ein.

So kamen die Prüfer darauf, und das ist Schritt 1 in Reinform: Der Hamburger Landeswahlleiter Oliver Rudolf sagte, es handle sich um einen Fake, die Unterlagen seien „offensichtlich“ keine amtlichen Briefwahlunterlagen, und der Staatsschutz des LKA nahm Ermittlungen auf. CORRECTIV verglich das Video mit der Anleitung des Hamburger Landeswahlamts, die die echten Unterlagen zeigt, und fand Abweichungen: Der rote Wahlbriefumschlag unterscheidet sich in Farbe, Beschriftung und Lasche, der Stimmzettel ist nach innen statt nach außen gefalzt, die Lasche des weißen Stimmzettelumschlags ist abgerundet statt eckig, und die Umschläge sind nur punktuell verklebt, während das Original einen durchgehenden Klebestreifen hat.

CORRECTIV sieht keine Hinweise auf KI oder Deepfakes: Die Fälschung ist ein Nachbau echter Unterlagen mit sichtbaren Abweichungen im Detail. Die Urheber sind laut CORRECTIV unklar. Im Januar hatte die Redaktion mehr als hundert Fake-Nachrichtenseiten der russischen Einflussoperation Storm-1516 aufgedeckt, und mehrere Profile, die Links zu diesen Seiten geteilt hatten, verbreiteten auch dieses Video.

Die Lehre: Manchmal braucht es keinen Detektor, sondern ein Original zum Vergleichen und eine Stelle, die Auskunft gibt.

Ein KI-Fall aus den USA: neues Konto, geliehene Identität

Das zweite Beispiel ist ein echter KI-Fall. Wir haben den Clip nicht selbst durch ein Werkzeug laufen lassen und behaupten nicht, was ein Werkzeug gezeigt hätte. Was folgt, ist der veröffentlichte Stand, und er zeigt, wohin jeder Schritt führt.

Schritt 1, die Quelle. Das Video kam von einem neuen X-Konto. Laut FDD und PolitiFact war es im September angelegt worden. PolitiFact berichtet unter Berufung auf NewsGuard, X habe Rumänien als Land der Anmeldung genannt. Graphika sagte, das Konto gebe sich sehr wahrscheinlich als einen echten Facebook-Nutzer gleichen Namens aus, einen Texaner, der ein Schüler des Kandidaten gewesen war. Die Faktencheck-Redaktion der AFP stellte fest, dass das Konto für Profilbild und frühe Beiträge die Facebook-Seite des echten Lewis kopierte. Als Lead Stories den echten Mann erreichte, sagte er, der Mann in den Videos sei nicht er, und der Kandidat habe ihn nie missbraucht. Jede dieser Tatsachen war eine Quellenfrage, die ein Leser hätte stellen können: ein ganz neues Konto, ein Vorwurf gegen eine namentlich genannte Person, ein von einer echten Person geliehenes Profil und ein echter Mensch, den man fragen konnte.

Schritt 2, hinschauen. NewsGuard beschrieb unnatürliche Augenbewegungen und starre Gesichtsausdrücke. Das sind Hinweise der Art, die auch BSI und Full Fact nennen, kein Beweis.

Schritt 3, Werkzeuge. PolitiFact berichtet, ein nicht genanntes KI-Erkennungswerkzeug habe dem Video eine Wahrscheinlichkeit von 98 Prozent für einen Deepfake gegeben. Leg diese Zahl neben den Benchmark: Selbst ein sehr hoher Wert ist ein Signal unter mehreren, und hier passte er zur Quellenlage.

Schritt 4, die Entscheidung. Schritt 1 und 2 reichten, um den Clip zurückzuhalten: neues Konto, geliehenes Profil, eine echte Person, die widerspricht. Die Anzeige von 98 Prozent passte dazu. PolitiFact bewertete die Behauptung mit Pants on Fire.

Der wichtigste Satz im FDD-Papier ist für alle, die Chatbots zum Prüfen nutzen: „In a new development, AI search tools quickly picked up and repeated the claim.“ Laut FDD stellten Googles Gemini und Microsoft Copilot den Vorwurf als echte Anschuldigung dar und korrigierten sich erst, als Faktenchecks vorlagen. Nach NewsGuard behauptete Googles AI Overview sogar, der Mann habe den Kandidaten beschuldigt, und zitierte dafür Artikel von ABC News und KTAL, in denen der Vorwurf nicht vorkam. „Ich habe einen Chatbot gefragt“ ist also keine Quellenprüfung. Deshalb steht die Quelle an erster Stelle.

Wer das Video gemacht hat, ist eine eigene Frage. Die FDD beschreibt es als russische Operation. Graphika sagte laut dem Bericht von Let’s Data Science, den wir gelesen haben, mit „high confidence“, dass Storm-1516, das die FDD ein russisches Einflussnetzwerk nennt, die Videos erzeugt habe und dass sie „very likely“ Deepfakes seien. Den Graphika-Bericht selbst haben wir nicht gelesen.

Das Gegenstück: ein echtes Video, als Deepfake bezeichnet

Nicht jedes „Das ist ein Deepfake“ stimmt. Das Oregon Journalism Project veröffentlichte am 19. Oktober einen Bericht über ein Video, das eine umgedrehte US-Flagge hinter Nafisa Fai, Commissioner im Washington County, bei einer Veranstaltung am 10. Oktober in Minneapolis zeigte, und nannte es einen „Deepfake“. In seiner Redaktionsnotiz vom 20. Oktober erklärt das Projekt, was dann geschah: Es hatte Fai am 16. Oktober interviewt, und ein Unterstützer ihrer Kampagne gab dem Projekt danach ein anderes Video der Veranstaltung, auf dem die Flagge richtig herum hing. Nach der Veröffentlichung stellten Leserinnen und Leser Fragen zu den widersprüchlichen Bildern. Das Projekt beschaffte neue Aufnahmen, die zeigten, dass die Flagge bei der Veranstaltung tatsächlich umgedreht gewesen war, zog den Bericht zurück und schrieb, man bedauere den Fehler.

Du musst dich für keine Seite entscheiden, um die Lehre zu sehen: Die widersprüchlichen Bilder wurden nach der Veröffentlichung geklärt, und ein Unterstützer von Fais Kampagne hatte dem Projekt nach dem Interview ein anderes Video geliefert, auf dem die Flagge richtig herum hing. Wo ein Video zuerst auftauchte und wer es aufgenommen hat, ist Schritt 1. Behandle „Das ist ein Deepfake“ wie „Das ist echt“: Es ist eine Behauptung, bis du sie zurückverfolgt hast.

Was die einzelnen Checks leisten und was nicht

Was das für dich heißt

Du bist Admin eines Familien- oder Freundeschats. Du hast den größten Einfluss, denn die Gruppe kopiert, was die Gruppe tut. Gleich als Erstes: die Nachricht aus Schritt 1 anpinnen und sagen, dass du sie bei allem benutzt, was dich wütend macht.

Du hast eine Verwandte, die alles weiterleitet. Streite nicht über den Clip. Stell die Quellenfrage freundlich und biete an, gemeinsam hinzuschauen. Probier zuerst: Antworte beim nächsten Mal mit den drei Zeilen aus Schritt 1 statt mit deiner Meinung.

Du führst ein kleines Unternehmen oder eine Markenseite. Ein gefälschtes Video von dir, deinem Produkt oder einer Führungskraft ist ein echtes Risiko, und ein echtes Video von dir kann als Fälschung bezeichnet werden. Die Polizeiliche Kriminalprävention beschreibt als Masche den Videoanruf des angeblichen Chefs, der zu einer dringenden Zahlung drängt, und rät zur SHS-Regel: Stoppen, Hinterfragen, Schützen. Fang damit an: Bewahre die Originaldateien von allem auf, was du veröffentlichst, mit Datum, damit du den ersten Upload belegen kannst, und vereinbare mit allen, die Zahlungen freigeben, einen Rückruf auf eine bekannte Nummer.

Du moderierst eine Gruppe oder eine Nachbarschaftsseite. Lege eine „Abwarten“-Regel fest: Clips zu aktuellen oder dringenden Ereignissen gibt es nur mit Quellenlink. Als Erstes: Schreib die Regel in die Gruppenbeschreibung.

Du unterrichtest. Die vier Schritte eignen sich für eine Unterrichtsübung mit einigen Clips, die du ausgewählt hast. Dein erster Schritt: Nimm das Hamburger Video und ein KI-Video und lass die Klasse beide zurückverfolgen.

Du gehst wählen. Für alles zu Terminen, Orten und dem Ablauf einer Wahl ist ein Video keine Quelle, sondern die Wahlbehörde. Mach zuerst Folgendes: Such dir die Seite deiner Wahlbehörde heraus und speichere sie, damit du im Zweifel keinen Clip brauchst.

Dein echtes Video wird als Fälschung bezeichnet. Starte so: Veröffentliche die Originaldatei mit Quelle und Datum und nenne Ort und Zeit. Streite nicht über Pixel.

Typische Probleme und was hilft

Der Clip ist länger als 90 Sekunden oder größer als 100 MB. Googles Grenzen für den Gemini-Check sind unter 90 Sekunden und 100 MB. Schneide einen Abschnitt heraus, am besten den, auf den es ankommt. Jeder Check an einem Ausschnitt gilt nur für diesen Ausschnitt.

Gemini meldet, kein Wasserzeichen gefunden. Lies das als „nicht mit Googles KI erzeugt“, mehr nicht. Die Seite sagt, es könne von anderen KI-Systemen stammen.

Du hast nur einen Screenshot oder eine Bildschirmaufnahme. Googles Seite rät bei Screenshots, eng um das Bild zuzuschneiden, um die beste Genauigkeit zu bekommen. Eine Aufnahme vom Bildschirm ist eine Kopie der Kopie. Wir haben keinen kontrollierten Test gefunden, wie sich das Teilen über WhatsApp oder TikTok auf die Erkennung auswirkt. Google schreibt, SynthID sei darauf ausgelegt, Zuschneiden, Filter, geänderte Bildraten und verlustbehaftete Kompression zu überstehen, und sagt zugleich, dass nach vielen Veränderungen das Wasserzeichen womöglich nicht mehr erkannt wird. Frag trotzdem nach der Originaldatei.

Ein Detektor sagt 98 Prozent KI, aber die Absenderin ist jemand, dem du vertraust. Geh zurück zu Schritt 1. Ein Wert ist keine Quelle. Frag die Absenderin, woher sie den Clip hat.

Das Konto, das es gepostet hat, wurde gelöscht oder gesperrt. So war es im Texas-Fall. Such den Inhalt in Worten und such nach Faktenchecks, die das Konto nennen, denn sie halten fest, was der Beitrag sagte.

Vielleicht ist nur ein Teil des Videos gefälscht. Gemini nennt die Abschnitte mit Wasserzeichen, wenn es eines findet. Ein echter Clip mit einem kurzen künstlichen Einschub würde bei flüchtigem Hinsehen durchgehen. Prüfe die Stellen, an denen die Behauptung hängt.

Du findest den Clip, aber niemanden, der darüber schreibt. Such die Behauptung in Worten, nicht den Dateinamen. Ein Faktencheck beschreibt, was das Video behauptet, also findest du ihn über den Vorwurf leichter als über das Video.

Es ist nur Ton. Bei Stimmen gelten andere Hinweise. Lies dazu unseren Beitrag über KI-Stimmen und den Enkeltrick 2.0.

Was das nicht leisten kann

• Es kann nicht beweisen, dass ein Clip echt ist. Jedes Werkzeug hier erkennt Zeichen von KI oder deren Fehlen. Keines dieser Werkzeuge liefert ein Urteil über Echtheit: Googles Seite sagt, ein fehlendes Wasserzeichen schließe andere KI nicht aus und Content Credentials verrieten nicht, ob eine Datei sicher KI-erzeugt ist. Full Fact sagt, es gebe kaum sichere Wege.
• Es kann die Bildunterschrift nicht lesen. Ein Werkzeug prüft nur die Datei. Ob das Ereignis wirklich dort und dann stattfand, wie die Unterschrift behauptet, sagt es dir nicht. Die Rückwärtssuche aus Schritt 3 hilft dir, frühere Fassungen und Originalquellen zu finden.
• Es kommt allein nicht hinterher. Der Benchmark beruht auf Fälschungen von 2024 und die Florida-Studie auf kontrolliertem Material. Die neuesten Generatoren könnten schwerer zu erkennen sein, also werden die Quellenfragen wichtiger, nicht unwichtiger.
• Es macht dich nicht schneller als die Fälschung. Im Texas-Fall meldete die New York Times, wiedergegeben von SA Current, mehr als 850.000 Aufrufe in den ersten 24 Stunden, und PolitiFacts Bewertung kam zwei Tage nach dem Posten der Videos. Die Entscheidung „Abwarten“ gibt es wegen dieser Lücke.
• Es ändert nichts an den Rahmenbedingungen. Wenn eine Plattform KI-Inhalte nicht kennzeichnet oder ein Chatbot eine falsche Behauptung wiederholt, musst du dich damit arrangieren. Zu den Forderungen aus der BSI/ProPK-Befragung gehört laut heise eine verpflichtende Kennzeichnung aller mit KI erstellten oder veränderten Inhalte. Die FDD empfiehlt, dass KI-Firmen sicherstellen, dass ein zitierter Artikel das enthält, was die KI-Antwort behauptet, und dass Plattformen wiederholte Verstärker sperren. Das ist deren Aufgabe.

Häufige Fragen

Kann Gemini mir sagen, ob ein Video echt ist? Nicht genau. Googles Seite sagt, Gemini erkenne SynthID-Wasserzeichen, die Inhalte aus Googles KI-Werkzeugen markieren, und könne Content Credentials anzeigen, wenn die Datei welche hat. Das Ergebnis „keines erkannt“ heißt nicht, dass das Video echt ist.

Gibt es einen Weg, ein Video zu prüfen, ohne zu bezahlen? Googles SynthID-Check in Gemini verlangt eine Anmeldung mit einem persönlichen oder einem geeigneten Workspace-Konto, und die Hilfeseite nennt Tageslimits. Einen Preis für den eigenständigen SynthID Detector nennt Googles Ankündigung nicht.

Funktionieren KI-Videodetektoren? Manchmal. Der beste kommerzielle Videodetektor im Deepfake-Eval-2024-Papier kam auf 78 Prozent Genauigkeit, und keines der kommerziellen Modelle erreichte 90 Prozent. Full Fact rät in seinem Leitfaden von 2023, sich nicht auf sie zu verlassen. Auch das BSI schreibt, automatisierte Erkennung sei oft nicht zuverlässig auf neue Angriffsmethoden übertragbar.

Kann ich einem Wasserzeichen trauen, das sagt, das Video sei KI-erzeugt? Sieh es als starkes Indiz, nicht als Beweis. Full Fact fand fünf offenbar echte Bilder, die Googles Detektor markierte, und Google hat das Werkzeug danach aktualisiert. Kombiniere ein Wasserzeichen-Ergebnis mit der Quellenprüfung.

Und Sora-Videos? OpenAI hat am 24. März 2026 gesagt, es stelle Sora in der App für Privatnutzer und in der API ein. Ob ein Logo da ist oder fehlt, sagt nichts darüber, ob die Behauptung stimmt. Du gehst also dieselben vier Schritte durch.

Was, wenn das Video von jemandem kommt, den ich kenne? Frag, woher es stammt. Menschen leiten oft in gutem Glauben weiter. Die Frage ist dieselbe wie bei allen anderen, und ein freundlicher Ton macht sie leicht.

Warum sagen Chatbots manchmal, eine Fälschung sei echt? Die FDD berichtet, dass Gemini und Microsoft Copilot den Texas-Vorwurf als echte Anschuldigung darstellten, bis Faktenchecks vorlagen, und schreibt, KI-Suchwerkzeuge hätten die Behauptung „quickly picked up and repeated“. Deshalb taugt ein Chatbot als Startpunkt der Suche, nie als Urteil.

Wie prüfe ich ein Foto statt eines Videos? Mit denselben Schritten. Auf Englisch gibt es dazu unseren Leitfaden, wie du erkennst, ob ein Bild KI-generiert ist.

Fazit

Du kannst dir nicht versprechen, nie hereinzufallen, und eine gute Methode behauptet das auch nicht. Die vier Schritte verschieben die Entscheidung von „Sieht das gefälscht aus?“ zu „Weiß ich, woher das kommt?“, und das ist eine Frage, die du tatsächlich beantworten kannst. Die Quelle zuerst, das Aussehen als Hinweis, ein oder zwei Checks, das Ergebnis als Wahrscheinlichkeit, und im Zweifel abwarten.

Wenn du diese Gewohnheit auch für KI-Antworten aufbauen willst, nicht nur für Videos, hilft dir Kritisches Denken mit KI (erste 2 Lektionen gratis): Es übt, Behauptungen zu prüfen, Denkfehler zu erkennen und mit KI als Gesprächspartnerin besser zu entscheiden.

Lektion 1 gratis starten →

Probier es vor der nächsten Wahl einmal aus: Nimm den letzten Clip, bei dem du reagiert hast, und mach Schritt 1. Du wirst staunen, wie schnell sich die Quellenfrage beantworten lässt.

Quellen

• heise online: KI-Betrug, Deutsche überschätzen ihre Fähigkeit, Deepfakes zu erkennen, 13. April 2026
• BSI: Deepfakes, Gefahren und Gegenmaßnahmen
• Verbraucherzentrale: Täuschend echt, wie Kriminelle Deepfakes mit Promis für Fake-Werbung nutzen, Stand 23. März 2026
• Polizeiliche Kriminalprävention: Deepfake-Betrug
• CORRECTIV: Kein Schreddern von AfD-Stimmen in Hamburg, Video zeigt gefälschte Briefwahlunterlagen, 20. Februar 2025
• Google: Verify AI-generated images, videos, and audio (Gemini Apps Help)
• Google: SynthID Detector für alle, 7. Oktober 2026
• Full Fact: Google updates AI detector after investigation finds it flagging apparently real images, 21. Oktober 2026
• Full Fact: How to spot deepfake videos and AI audio
• Deepfake-Eval-2024: A Multi-Modal In-the-Wild Benchmark of Deepfakes Circulated in 2024 (arXiv)
• University of Florida: Machines spot deepfake pictures better than humans, but people outperform AI in detecting deepfake videos
• FDD: Russian Operatives Plant Deepfake Targeting U.S. Midterm Elections, 26. Oktober 2026
• PolitiFact: Russian disinformation group targets James Talarico with baseless claim in AI-generated video, 22. Oktober 2026
• SA Current: Covert Russian election interference group targets James Talarico with disinformation campaign, 22. Oktober 2026
• Let’s Data Science: Researchers tie fake Talarico assault video to Russian group Storm-1516, 22. Oktober 2026
• Oregon Journalism Project: Editor’s note, 20. Oktober 2026
• CBS News: OpenAI pulls the plug on its Sora AI video app, 24. März 2026