Deepfakes erkennen: Wenn Sehen kein Beweis mehr ist

Begleitartikel zur ersten Folge von KI Entschleunigt.

Auf meinem Handy brannte das Burj Al Arab. Flammen am ikonischen Segel, Schreie im Hintergrund, Szene für Szene dramatischer, und für einen Moment habe ich geglaubt, was ich da sah. Nicht weil ich leichtgläubig bin, sondern weil mein Kopf aus Bild, Ton und Aufregung in Sekunden eine Wirklichkeit zusammengesetzt hat, die es so nie gab. Deepfakes erkennen ist deshalb auch für aufmerksame Menschen schwer.

Genau darum geht es in der ersten Folge unseres Podcasts KI Entschleunigt. Hier im Blog erzähle ich die Geschichte dahinter: was in Dubai tatsächlich geschah, warum sich sogar eine Redaktion täuschen ließ, was bei uns im Haus passiert ist und welche drei Fragen mir helfen. Das betrifft unseren Führungsalltag direkter, als man denkt.

Hinweis: Dieser Text wurde mit Unterstützung von KI erstellt. Die Meinungen und Geschichten darin stammen selbstverständlich von Martha.

Was in Dubai wirklich passiert war

Es gab tatsächlich einen Vorfall. Wie t-online am 1. März 2026 berichtete, brannte es an der Fassade des Hotels. Das Medienbüro von Dubai sprach von einem kleinen Brand, den die Rettungskräfte unter Kontrolle brachten, verletzt wurde niemand. Ein ernster Moment in einer beunruhigenden Lage, ohne Frage.

Die Videos, die sich danach verbreiteten, zeigten etwas anderes: ein Gebäude in Vollbrand. Faktenprüfer stuften vergleichbare Aufnahmen als KI-generiert oder CGI ein, so etwa bei einem Clip, der am 11. März hochgeladen wurde und als „geleakte Drohnenaufnahmen“ lief (Lead Stories, 13. März 2026). Das Tückische daran ist, dass ein echter Kern die Fälschung glaubwürdig macht. Wer weiß, dass etwas passiert ist, prüft das Drumherum weniger.

Dazu kommt die Situation, in der solche Videos uns erreichen: unterwegs, auf einem kleinen Bildschirm, zwischen zwei Terminen und mit dem Gefühl, gerade etwas Wichtiges mitzubekommen. In diesem Zustand entscheidet zuerst das Gefühl und erst danach der Verstand. Wer den menschlichen Faktor im Umgang mit KI genauer anschauen möchte, findet im Beitrag KI und Psyche mehr dazu.

Auch Redaktionen stolpern

Ich hätte es für einen privaten Ausrutscher gehalten, wenn nicht im Februar etwas passiert wäre, das mich nachdenklich gemacht hat. Das ZDF hat im heute journal vom 15. Februar einen Beitrag über Festnahmen durch die US-Behörde ICE gesendet, in dem ein KI-generierter Clip lief. Der Sender hat sich später entschuldigt und von handwerklichen Fehlern gesprochen.

Das ZDF hat ausgebildete Journalist*innen und Prüfprozesse. Wenn es dort passiert, was bedeutet das für alle, die täglich Entscheidungen auf Basis von Bildern, Videos und Nachrichten treffen, ohne eine Redaktion hinter sich zu haben?

Die Mail, die klang wie ich

Bei uns im Haus ist etwas sehr Ähnliches passiert, nur ohne Flammen. Eine Mitarbeiterin bekam eine Mail, die aussah und klang, als käme sie von mir. Der Ton stimmte, die Formulierungen stimmten, sogar kleine Eigenheiten meines Schreibstils waren da, und die Bitte war schlicht: schnell noch etwas erledigen, es eilt.

Nur stammte die Mail nicht von mir, sondern von Betrüger*innen. Mit KI lassen sich Schreibstile heute täuschend echt nachbauen, und der Trick dahinter ist immer derselbe: Dringlichkeit erzeugen, damit niemand mehr innehält und nachfragt. Unsere Kollegin hat gezögert und mir direkt bei Teams geschrieben, ob die Bitte wirklich von mir kommt. Damit war die Sache schnell aufgeklärt, und es ist nichts passiert.

Stell Dir vor, es wäre kein Text gewesen, sondern ein Anruf in meiner eigenen Stimme. Auch diesen Schritt kann KI heute schon.

Mir hat das alles gezeigt, wie nah das Thema am Alltag liegt. Es braucht keinen Konzern und keine Schlagzeile, ein ganz normales Team mit einer ganz normalen Aufgabenliste reicht, und es fällt erst auf, wenn jemand den Mut hat, kurz innezuhalten.

Deepfakes erkennen mit drei Fragen statt Bauchgefühl

Wer Deepfakes erkennen möchte, kann die Frage „Ist dieses Bild echt?“ immer schwerer beantworten, und das führt oft nur zu mehr Unsicherheit. In meinem Studium der Germanistik habe ich gelernt, wie viel Übung es braucht, einen Text wirklich zu lesen, statt ihn nur zu konsumieren: Wer spricht hier, in welcher Absicht, mit welchem Mittel? Daraus ist eine andere Perspektive geworden, die vom Inhalt weg auf die Quelle schaut:

• Wer hat das veröffentlicht oder geschickt?
• Warum gerade jetzt?
• Wem nützt es, wenn ich es glaube?

Ehrlich gesagt wende ich das nicht bei jedem Meme im internen Chat an. Je größer die Wirkung, wenn sich eine Information als falsch herausstellt, desto genauer schaue ich auf Quelle, Motiv und Zeitpunkt. Wenn Du magst, probiere die drei Fragen bei der nächsten eiligen Nachricht einmal aus, und achte darauf, wie Du Dich dabei fühlst.

Deepfakes erkennen im Team: der zweite Kanal und die Kultur dahinter

Zu den drei Fragen gehört ein zweiter Kanal für alles Ungewöhnliche. Kommt eine eilige Bitte per Mail, rufe ich zurück, kommt sie per Anruf, schreibe ich nach. Das gilt auch in die andere Richtung: Wenn mich jemand am Telefon nach Informationen fragt und ich nicht sicher bin, wer da spricht, darf ich sagen, dass ich die Antwort lieber per Mail schicke, und zwar an die Adresse, die ich selbst kenne und nicht an eine, die mir gerade genannt wurde. Genauso hat unsere Kollegin es gemacht, als sie mir bei Teams geschrieben hat. Das fühlt sich anfangs umständlich an, wird aber schnell zur Gewohnheit.

Mich beschäftigt dabei weniger die Technik als die Kultur, in der so eine Nachricht landet. Eine Mitarbeiterin hinterfragt eine Anfrage von ganz oben nur dann, wenn sie weiß, dass sie das darf und dass niemand sie dafür schief ansieht. Solche Rückfragen sind keine Unhöflichkeit, sondern Teil guter Arbeit. Deepfakes erkennen ist eine Führungsaufgabe und keine IT-Aufgabe, und die Kultur dafür ist für mich eine der am meisten unterschätzten Lücken in Unternehmen. Mitarbeitende müssen wissen, wie solche Angriffe aussehen, und die Unternehmenskultur muss Rückfragen auch dann erlauben, wenn die Anfrage dringend klingt und scheinbar von oben kommt.

Was das Gesetz regelt und was nicht

Deepfakes erkennen nimmt uns das Gesetz allein nicht ab. Seit dem 2. August 2026 müssen Unternehmen, die KI-erzeugte Deepfakes veröffentlichen, diese nach Art. 50 des EU AI Act kennzeichnen. Das ist richtig und wichtig, aber Betrüger*innen halten sich bekanntlich nicht an Kennzeichnungspflichten.

Bei der KI-Kompetenz ist die Lage weicher. Art. 4 verpflichtet Anbieter und Betreiber, sie zu fördern, eine formale Schulungspflicht ist das aber nicht, und der Wortlaut wurde im Juli mit dem Digital Omnibus noch einmal abgeschwächt. Für mich ist das eher ein Grund, es freiwillig und gründlich zu tun. Wer verstehen will, was Sprachmodelle und Deepfakes heute können und wo ihre Möglichkeiten enden, sollte das nicht auf die IT-Abteilung oder die Geschäftsführung beschränken, sondern im ganzen Haus aufbauen.

Wenn Du mit Deinem Team gemeinsam üben möchtest, Deepfakes zu erkennen, an Euren echten Fällen und Euren Kanälen, konzipieren wir dazu gern einen Inhouse-Workshop für Euch. Schreib uns dafür einfach über das Kontaktformular. Eine Frage, die Du Dir und Deinem Team stellen kannst: Gibt es bei Euch einen Ort, an dem eine eilige Anfrage von ganz oben auch hinterfragt werden darf?

Die neuste Folge KI Entschleunigt:

Stand: 08.10.2026. Die Einordnung zum EU AI Act ersetzt keine Rechtsberatung.

Hinweis: Dieser Text wurde mit Unterstützung von KI erstellt. Die Meinungen und Geschichten darin stammen selbstverständlich von Martha.