Das Bild zeigt eine dramatische Szene: das blaue Autobahnschild der A3 in Duisburg, ein gewaltiges Flugzeug, das mitten auf der Fahrbahn steht, dahinter ein hektisches Panorama aus stehenden Autos, Rettungsfahrzeugen und flackerndem Blaulicht. Im Vordergrund ist eine Reporterin mit einem vermeintlichen ARD-Mikrofon zu sehen. Mehr als vier Millionen Menschen haben diese Szenen inzwischen allein auf Instagram gesehen. Doch real ist das Szenario nicht. So etwas ist nie passiert. Es handelt sich um ein KI-Video.
Täglich (außer Samstag)
Duisburg-Newsletter: Jetzt kostenlos anmelden!
Nachrichten, Service, Reportagen: Jeden Tag wissen, was in unserer Stadt los ist.
Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.
Nicht jeder Nutzer scheint die Fake-Nachricht direkt zu erkennen, das zeigen Suchanfragen bei Google. Im Zusammenhang mit Duisburg wurden jüngst häufig die Begriffe „Notlandung“ und „Flugzeug-Notlandung“ gesucht, wie im Trendreport ersichtlich ist. Ein Blick in die Kommentarspalte zeigt zudem, wie unterschiedlich Menschen die Bilder wahrnehmen.
Fragen wie „In welchem Jahr war das?“ oder „Was ist passiert?“ machen deutlich, dass viele Nutzerinnen und Nutzer nicht auf Anhieb erkennen, dass diese Notlandung nie stattgefunden hat. Andere entlarven das KI-generierte Szenario sofort. Sätze wie „Das war der perfekte Landeanflug mit KI“ und „Hab gehört, sogar der Weihnachtsmann stand wochenlang im Stau“ zeigen es deutlich: Die Bildsabotage wird mit Humor genommen.
Generative Reality Drift – wie sich unsere Wahrnehmung schleichend verschiebt
So unterhaltsam viele von KI erzeugte Fotos und Videos auf den ersten Blick wirken, so groß sind zugleich die Risiken. In den Kommentaren unter dem Video finden sich auch verärgerte Nutzer: „Da macht man keine Scherze mit“, „Unmöglich, so einen Blödsinn ins Netz zu stellen“ und „Ich bin dafür, dass KI gekennzeichnet werden muss“.
+++ Lassen Sie sich den Duisburg-Newsletter per E-Mail schicken: hier gratis anmelden +++
Frank Tentler, Berater und Entwickler für Digitalisierungskonzepte und -projekte, warnt in diesem Zusammenhang vor dem „Generative Reality Drift“. Mit diesem Begriff beschreibt er, dass sich das Verständnis von Wirklichkeit schrittweise verschiebt, weil Menschen zunehmend KI-generierten Bildern, Videos und Texten ausgesetzt sind.
Auch interessant
Der gebürtige Duisburger erklärt: „Entscheidend ist nicht die faktische Echtheit, sondern die emotionale Stimmigkeit, ästhetische Qualität oder narrative Kohärenz der Darstellung.“ Die ständige Begegnung mit idealisierten, vereinfachten oder optimierten Darstellungen kann dazu führen, dass sich unser innerer Maßstab dafür verschiebt, „was als normal, wünschenswert oder glaubwürdig gilt“, erklärt er. Die Realität wirke dann im Vergleich oft bruchstückhaft und unzureichend, obwohl sie sich selbst gar nicht verändert haben müsse.
„Abzugrenzen ist Generative Reality Drift von Desinformation oder klassischen Fälschungen. Während diese auf Irreführung zielen und durch Aufklärung prinzipiell korrigierbar sind, unterläuft der Drift das Urteilsgefühl selbst“, erklärt Tentler, der Behörden, Städte, Institutionen und Unternehmen in Europa berät.
Vielen Nutzern sei zwar bewusst, dass bestimmte Inhalte künstlich erzeugt seien, dennoch beeinflussten sie langfristig die Maßstäbe dafür, was als normal, attraktiv oder glaubwürdig gelte. Mit der Zeit rücke die Frage, ob etwas tatsächlich stattgefunden habe, in den Hintergrund. Wichtiger werde, ob eine Darstellung stimmig wirke, häufig auftauche und gut erzählt sei, so der Experte weiter.
KI als Propaganda-Tool
Aber nicht nur unsere Wahrnehmung kann sich durch KI-generierte Inhalte verändern. Auch unsere Meinungsbildung wird stark beeinflusst. Anna Romstadt, Fachbereichsleiterin Digitale Bildung, neue Medien und IT bei der VHS in Duisburg, sieht das hohe Risiko im Kontext der politischen Meinungsmache und Diskriminierung. Sie beschreibt, dass „KI-generierte Bilder oder auch KI-generierte Texte gezielt genutzt werden, um politische Meinungen zu transportieren“.
Soziale Medien spielen dabei eine zentrale Rolle. Besonders auf Plattformen wie Tiktok wirkt dieser Mechanismus stark: Nutzer schauen oft nur wenige Sekunden ein Video und wischen dann weiter. „Es wird geskippt und geskippt, und man hat gar keine Zeit mehr, darüber nachzudenken“, beschreibt Romstadt. Dennoch schleichen sich viele Informationen unbemerkt ins Gedächtnis, ohne dass sie gründlich überprüft oder hinterfragt werden.
Auch interessant
Auch interessant
Im KI-Handbuch der Europäischen Union wird auch die gezielte Verbreitung bewusst falscher oder irreführender Inhalte thematisiert, die darauf abzielt, Menschen zu täuschen (Desinformation). Dabei geht es darum, Emotionen zu mobilisieren und von verlässlichen Fakten bzw. der Wahrheit abzulenken. Die Europäische Kommission hat hierzu bereits verschiedene Initiativen entwickelt, um Desinformation im Internet einzudämmen.
Und am Ende stellt Romstadt klar: „Das Gehirn einschalten.“ Sie betont, dass jeder selbst in der Verantwortung liegt, sich aufklären zu lassen und Bildung zu suchen. Auch bei der VHS Duisburg findet man viele Kurse zum Thema Medienkompetenz und KI.
KI-Bilder: Wie lasse ich mich nicht selbst täuschen?
Absender prüfen: „Ist die Quelle seriös?“, so schlägt es die Bundesregierung vor. Gibt es eine ursprüngliche Veröffentlichung oder nur Reposts ohne Ursprung? Was finden wir noch für Inhalte auf dem Account der Veröffentlichung? Auch ein Blick in die Kommentarspalte kann sich lohnen, sagt Anna Romstadt.
Logik-Kontrolle: Wie sind die Schatten von Objekten dargestellt? Wie sehen die Personen aus? „Überprüfen Sie die Anzahl der Finger, deren Proportionen und Anordnung. Fehler bei der Darstellung von Händen sind ein klassisches Merkmal KI-generierter Bilder“, heißt es laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI). Auch an Schriftzügen, so Romstadt, lasse sich eine KI häufig erkennen.
Realität abgleichen: Passt die Situation zur Realität? Ergibt der Ort Sinn, und wäre die Perspektive so überhaupt möglich (Standpunkt, Blickwinkel)? „Überprüfen Sie, ob das Bild realistische Szenarien darstellt oder auf übertriebene, unwahrscheinliche Ereignisse setzt“, schlägt das BSI vor. Gibt es weitere Fotos/Videos desselben Moments oder andere Perspektiven aus unabhängigen Quellen?
Vegetations- und Wettercheck: Passt die Jahreszeit am Ort (z. B. blühende Bäume, Laub, Schneelage) zum behaupteten Zeitpunkt? „Vergleichen Sie das im Bild dargestellte Wetter mit unabhängigen Wetterdaten der entsprechenden Region und Zeit“, sagt das BSI. Tragen Menschen wetter- und temperaturgerechte Kleidung?
Proportionen verstehen: „Unnatürliche Proportionen (z. B. Körperformen, Extremitäten etc.) oder verzerrte Formen können starke Indikatoren für eine KI-Erzeugung sein“, schreibt das BSI. Wirken Personen im Verhältnis zueinander korrekt (z.B. bekannte Körpergröße), oder erscheinen Köpfe, Hände, Möbel, Mikrofone, Türrahmen etc. unplausibel skaliert?
