Deepfakes und Desinformation: Nicht alles muss gelogen sein

Bilder lassen sich fälschen, Stimmen klonen und echte Aufnahmen in einen falschen Zusammenhang setzen. Doch die wichtigste Frage ist vielleicht nicht, ob etwas echt aussieht, sondern warum wir es glauben wollen.

Du scrollst durch deinen Feed und bleibst an einem Video hängen. Eine bekannte Person sagt darin etwas ziemlich Unglaubliches. Kurz darauf taucht ein Foto auf, das angeblich einen Skandal belegt. Jemand schickt dir noch eine Sprachnachricht dazu und schreibt: „Hast du DAS schon gesehen?“

Was davon ist echt?

Vielleicht alles. Vielleicht wurde aber auch nur die Tonspur verändert, das Foto stammt aus einem anderen Zusammenhang oder die Stimme wurde künstlich erzeugt. Und vielleicht ist Bild oder Video sogar vollkommen echt, nur die Geschichte dazu stimmt nicht.

Genau hier beginnt das eigentliche Problem. Bei Desinformation reicht die Frage „Ist das echt oder gefälscht?“ längst nicht mehr aus.

Denn manchmal wird nicht das Bild manipuliert, sondern unsere Vorstellung davon, was es bedeutet.

Deepfake und Desinformation sind nicht dasselbe

Ein Deepfake ist ein Bild, eine Tonaufnahme oder ein Video, das mit künstlicher Intelligenz erzeugt oder verändert wurde. Eine Person scheint dann zum Beispiel etwas zu sagen, was sie nie gesagt hat. Oder eine künstlich erzeugte Stimme klingt verblüffend ähnlich wie die eines echten Menschen.

Desinformation ist weiter gefasst. Dabei werden falsche oder irreführende Informationen gezielt eingesetzt, um andere Menschen zu täuschen oder zu beeinflussen.

Der Unterschied ist wichtig:

Ein Deepfake kann Teil von Desinformation sein. Desinformation braucht aber keinen Deepfake.

Auch ein echtes Foto mit einer falschen Bildunterschrift kann täuschen. Ein echter Satz kann durch Weglassen des Zusammenhangs plötzlich etwas ganz anderes bedeuten. Und frei erfundene Gerüchte funktionierten bekanntlich schon zu Zeiten, als künstliche Intelligenz noch nicht einmal Science-Fiction-Autoren Kopfschmerzen bereitete.

Was KI verändert: Fälschungen werden schneller und persönlicher

Manipulation ist also nicht neu. Neu ist, wie einfach sie produziert werden kann.

Noch vor einigen Jahren brauchte man für ein überzeugend manipuliertes Video einiges an Können, Software und Zeit. Heute lassen sich Bilder in kurzer Zeit erzeugen, Stimmen nachahmen und Texte an bestimmte Personen oder Zielgruppen anpassen.

Aus einer plumpen Betrugsnachricht kann so eine ziemlich persönliche werden.

Statt „Sehr geehrter Kunde, Ihr Konto wurde gesperrt“ enthält sie plötzlich deinen Namen, kennt deinen Arbeitgeber und bezieht sich vielleicht auf etwas, das tatsächlich auf einer Webseite über dich oder deine Firma steht. Im nächsten Schritt folgt womöglich ein Anruf mit einer vertraut klingenden Stimme.

Dafür braucht es keine geheimnisvolle Super-KI. Öffentlich zugängliche Informationen und leicht verfügbare Werkzeuge können bereits ausreichen.

Das Grundprinzip bleibt trotzdem erstaunlich alt:

Nicht dein Computer soll überzeugt werden. Du sollst überzeugt werden.

KI hilft nur dabei, die Geschichte glaubwürdiger zu machen.

Warum eine Falschmeldung wirken kann, obwohl du sie später durchschaust

Hier wird es psychologisch interessant.

Im Podcast „Kleinstadt Niveau“ benutzt der Kommunikationswissenschaftler Alexander Sängerlaub dafür einen treffenden Ausdruck: „Desemotion“.

Das ist kein etablierter wissenschaftlicher Fachbegriff. Als Denkbild ist er aber ziemlich nützlich.

Denn eine Falschmeldung muss nicht unbedingt erreichen, dass du eine bestimmte Behauptung dauerhaft glaubst. Manchmal genügt es, wenn etwas anderes zurückbleibt: ein wenig mehr Misstrauen, Angst oder Wut. Oder dieses schwer greifbare Gefühl:

„Irgendetwas wird da schon dran sein.“

Stell dir vor, im Netz verbreitet sich eine angebliche Enthüllung über eine Person, ein Unternehmen oder eine Behörde. Später wird die Behauptung widerlegt.

Sachlich wäre die Sache damit erledigt.

Psychologisch nicht unbedingt.

Vielleicht erinnerst du dich einige Wochen später nicht mehr genau an die Richtigstellung. Aber du weißt noch: „Mit denen war doch irgendetwas.“

Dass Falschinformationen auch nach einer Korrektur noch Einfluss auf unser Denken haben können, ist in der psychologischen Forschung gut beschrieben.

Genau deshalb ist „Desemotion“ ein hilfreiches Bild. Desinformation zielt nicht nur auf das, was wir wissen. Sie kann auch beeinflussen, wie wir jemanden oder etwas empfinden.

Das spielt beim Betrug eine Rolle, bei Rufschädigung, Werbung und auch bei gesellschaftlicher oder politischer Einflussnahme. Niemand muss dafür unser Gehirn fernsteuern. Es reicht, vorhandene Gefühle oder Überzeugungen zu verstärken.

Und unser eigenes Denken hilft manchmal unfreiwillig mit. Wenn eine Nachricht perfekt zu dem passt, was wir ohnehin glauben, kann sie uns leichter plausibel erscheinen. Starke Emotionen können außerdem beeinflussen, wie wir Informationen aufnehmen und darauf reagieren.

Eine emotionale Reaktion beweist natürlich nicht, dass eine Nachricht falsch ist.

Aber sie ist ein guter Grund, einen Moment langsamer zu werden.

Ein echtes Bild kann trotzdem eine falsche Geschichte erzählen

Beim Thema Deepfakes schauen wir gern auf technische Fehler: Sind die Hände merkwürdig? Passen Lippen und Stimme zusammen? Stimmt das Licht?

Solche Hinweise können helfen. Sie lösen aber nicht das eigentliche Problem.

Nehmen wir ein vollkommen echtes Foto einer großen Menschenmenge. Kein Pixel wurde verändert. Die Bildunterschrift behauptet jedoch, das Foto zeige eine aktuelle Demonstration in Deutschland.

Tatsächlich entstand es drei Jahre zuvor in einem anderen Land.

Ein technisches Prüfprogramm könnte vollkommen korrekt feststellen:

Das Foto ist echt.

Die Geschichte wäre trotzdem falsch.

„Ist dieses Bild echt?“

ist deshalb nicht immer die wichtigste Frage.

Oft ist diese besser:

„Belegt dieses Bild überhaupt das, was mir dazu erzählt wird?“

Diese Frage funktioniert auch dann noch, wenn künstlich erzeugte Bilder technisch immer schwerer zu erkennen sind.

Gute Skepsis ist besser als grundsätzliches Misstrauen

Nach all dem könnte man auf eine naheliegende Idee kommen:

Dann glaube ich eben gar nichts mehr.

Leider wäre das keine besonders gute Lösung.

Wenn wir grundsätzlich davon ausgehen, dass Bilder, Medien, Behörden, Wissenschaft oder andere Informationsquellen ohnehin nicht vertrauenswürdig sind, verlieren wir auch die Möglichkeit, zwischen gut und schlecht belegten Informationen zu unterscheiden.

Dann gewinnt möglicherweise nicht die bessere Information, sondern die Geschichte, die sich besser anfühlt.

Deshalb brauchen wir nicht mehr Misstrauen.

Wir brauchen bessere Skepsis.

Quellen prüfen, ohne überall Täuschung zu vermuten. Unsicherheit aushalten, ohne sofort eine Erklärung wählen zu müssen. Und auch einmal sagen können:

„Ich weiß es noch nicht.“

Vielleicht besteht moderne Medienkompetenz deshalb gar nicht darin, jede Fälschung zuverlässig zu erkennen.

Vielleicht beginnt sie mit etwas viel Einfacherem:

einem kleinen Abstand zwischen Information und Reaktion.

Gerade dann, wenn etwas perfekt in unser Weltbild passt. Gerade dann, wenn es uns wütend macht. Gerade dann, wenn wir es unbedingt sofort weiterleiten wollen.

Denn manchmal ist die wichtigste Frage nicht:

„Ist das echt?“

Sondern:

„Warum fühlt es sich für mich gerade so überzeugend an?“

Quellen und Weiterlesen

Europäische Kommission: Informationen zu Deepfakes und den Transparenzpflichten des europäischen AI Act
https://digital-strategy.ec.europa.eu/de/faqs/transparency-obligations-under-article-50-ai-act

Bundesregierung: Praktische Hinweise zum Erkennen von Desinformation, zur Quellenprüfung und Bildersuche
https://www.bundesregierung.de/breg-de/service/fragen-und-anworten/desinformation-erkennen-1750146

Kleinstadt Niveau mit Alexander Sängerlaub: Desinformation in Behörden: Warum Vertrauen wichtiger ist als Fakten
https://www.amtshelden.de/warum-vertrauen-wichtiger-ist-als-fakten/