Fake News – Was sagt die Forschung, wie macht’s die Praxis?

Was haben Donald Trump, Russia Today und Klimawandelleugner gemeinsam? Sie verbreiten Fake News.

Was sind Fake News? Nicht gemeint sind Fehlinformationen, bei denen der Sender der Information unbeabsichtigt einen Fehler begangen hat. Trump, Russia Today und die Klimawandelleugner machen etwas anderes. Sie bringen falsche Informationen in Umlauf, um Menschen zu täuschen (engl: disinformation) oder sogar Schaden anzurichten (engl: malinformation) (Quelle).

Fake News gab es schon immer. Bis heute wirkt eine Fälschung aus dem Jahr 313 nach, nämlich die Urkunde der angeblichen Konstantinischen Schenkung, mit der sich der Bischof von Rom als Silvester I. auf den Papststuhl in Rom setzte. Seine Nachfolger befinden sich dort bis heute.

Dennoch gelten Fake News als eine Entwicklung der letzten 10-15 Jahre. Etwa im gleichen Zeitrahmen setzen sich Ökonomen in der spieltheoretischen Forschung mit Information Design auseinander. Dabei erlegt sich ein Sender von Information gewisse Kommunikationsmuster auf, die das Ziel haben, das Verhalten des Empfängers im Sinn des Senders zu beeinflussen. Dazu später mehr. Zuerst will ich praktische Techniken von Fake News vorstellen.

Der amerikanische Historiker Timothy Snyder (ab etwa 48:30) beschreibt die Techniken bereits im Jahr 2014. Er nennt das Vorgehen von Fake News Produzenten wie Russia Today «Strategischen Relativismus». Das Muster ist wie folgt: Man präsentiert fünf Experten zu einem Thema. Jeder präsentiert eine Version, von dem, was passiert sein soll. Dabei darf eine der fünf Versionen durchaus der Wahrheit entsprechen. Die Wirkungen einer solchen Diskussion sind:

• Ein durchschnittlicher Zuschauer hat keine Idee, was tatsächlich passiert ist,
• das wahre Ereignis wird trivialisiert,
• das Vertrauen in Nachrichtenerstattung geht verloren.

Snyder illustriert das anhand der «Berichte» über Flug MH17 von Amsterdam nach Kuala Lumpur am 17. Juli 2014. Bewiesen ist: Die Boeing 777 wurde über der Ostukraine durch eine russische BUK-Rakete abgeschossen. 298 Menschen kamen ums Leben.

Durch die angeblichen Experten wurden folgende Versionen vorgestellt.

• Die Maschine sei dieselbe, die zuvor im Pazifik verschwunden war (das war aber Flug MH370 von Kuala Lumpur nach Beijing),
• die Maschine sei bereits durch die CIA mit Leichen gefüllt worden, als sie gestartet wurde,
• die Maschine sei durch die ukrainische Luftwaffe abgeschossen worden,
• die Maschine sei durch die ukrainische Artillerie getroffen worden.

In der Sprache der ehemaligen Trump-Mediensprecherin Kellyann Conway verschwindet letztlich die Wahrheit hinter einer Wand von «alternativen Fakten».

Die Wirkung, so Snyder, sei die Abschaffung der Wahrheit – in den Ohren der Adressaten gibt es sie nicht mehr.

Eine verwandte Technik besteht darin, bewusst widersprüchliche Aussagen zu produzieren. Donald Trump tätigte die folgenden Aussagen über die Rolle Chinas in der Corona-Pandemie. Am 7. Februar 2020 schrieb er auf Twitter:

• «Just had a long and very good conversation by phone with President Xi of China. He is strong, sharp and powerfully focused on leading the counterattack on the Coronavirus. He feels they are doing very well, even building hospitals in a matter of only days.»

Am 15. April 2020 twitterte er hingegen offenbar angesichts stark steigender Fallzahlen in den USA:

•  «Do you really believe those numbers in this vast country called China. … Does anybody really believe that?»

Die Wirkung von widersprüchlichen Aussagen ist ähnlich wie die alternativer Fakten. Eine Aussage, die als «wahr» bezeichnet werden kann, existiert danach nicht mehr.

Abstrakt kann man die beiden Beispiele recht simpel zusammenfassen. Dem Sender unliebsame Informationen werden verwischt, so dass für den Empfänger Unsicherheit besteht, was man glauben soll. Ironischerweise wirken hier etablierte journalistische Qualitätsstandards verstärkend: «Russland und die Ukraine beschuldigen sich gegenseitig», hiess es wochenlang in den Meldungen um den Flug MH17, denn die Verifikation der ukrainischen Version erfolgte erst später.

Um das Kommunikationsmuster zu vervollständigen: Was wäre kommuniziert worden, wenn es sich beim Flug MH17 tatsächlich um einen ukrainischen Abschuss gehandelt hätte? Alternative Fakten wären von den Russen nicht präsentiert worden. Zusammenziehend sagt die Theorie es genauso vorher: Informationen, die dem Sender unliebsam sind, werden verwischt. Im gegenteiligen Fall wird klar kommuniziert.

Im Studium am WWZ kann man die Theorie dahinter lernen: Im Jahr 2011 veröffentlichten Emir Kamenica und Matthew Gentzkow einen Artikel in der American Economic Review mit dem Titel «Bayesian Persuasion». Sie zeigen in einem spieltheoretischen Modell, dass ein Sender durch Bindung an ein (Des-)Informationsmuster wie oben dargestellt, tatsächlich die Wahrscheinlichkeit maximieren kann, dass der Empfänger mit einem Verhalten in seinem Sinne reagiert. Offen ist nur die Frage, wie weit beim Verwirren gegangen werden kann, ohne dass der Empfänger der Nachrichten die Fake-News-Quelle einfach ignoriert. Kamenica und Gentzkow zeigen, dass man den Empfänger gerade indifferent zwischen der Bereitschaft stellen muss, dem Sender zu folgen oder ihn zu ignorieren.

Das Deprimierende ist: Im Modellkontext ist es vollkommen rational, dem manipulierenden Sender zu folgen, wenn man keine anderen Informationsquellen hat. D.h. im Gleichgewicht des Modells weiss ein Empfänger, dass er manipuliert wird, und folgt den (Falsch-)Informationen trotzdem. Und spieltheoretische Gleichgewichte zeichnen sich dadurch aus, dass jeder die individuell beste Strategie wählt, gegeben die Strategie des Gegenübers. Die Kernbotschaft des Modells ist damit: Empfänger müssen durchaus nicht dumm sein, damit Fake News funktionieren.

Was ist der Ausweg? Wir müssen es in der Praxis schaffen, die Voraussetzungen des Modells zu sprengen. Zunächst ist der Journalismus gefordert. Banale journalistische Floskeln wie: «Die Nachrichten können nicht unabhängig überprüft werden» sind zu wenig. Vielmehr sollten sich journalistische Qualitätsstandards verschieben, indem sie Wahrscheinlichkeiten für unwahre Nachrichten einbeziehen.

Gleiches gilt für die (Selbst-)Regulierung der Social Media Plattformen. Da es Muster für die Verbreitung von Fake News gibt, kann künstliche Intelligenz prinzipiell solche Muster auch erkennen und ihnen Wahrscheinlichkeiten zuordnen, dass es sich um Desinformation handelt. Das hat deshalb einen Effekt, weil die Voraussetzungen in der Praxis anders sind als im theoretischen Modell – erstens gibt es viele Informationsquellen, zweitens gibt es Nachrichtenempfänger mit heterogenem Vorbildungsgrad.

Präemptiv den Informationsraum zu besetzen ist ebenfalls wichtig. Es ist bekannt, dass sich Fake News besonders dann gut verbreiten, wenn der Informationsraum nicht bereits besetzt war. Und schliesslich sind technologische Lösungen zur Verbesserung der Cyber-Security gefragt. Denn viele Fake News werden technisch via Bot-Farmen verbreitet. Jede dieser maschinellen Quellen ist klein und unbedeutend, aber in Summe ist es die Wirkung einer oft sechsstelligen Zahl von Sendern nicht.

Leider ist die Politik langsam, speziell in der Schweiz. Im Februar wurde der Bundesrat vom Nationalrat beauftragt, in einem Bericht eine Auslegeordnung zu liefern, inwieweit die Schweiz durch Fake-News-Kampagnen bedroht wird. Mit anderen Worten, man ist noch in der Berichtsphase. Einmal mehr nimmt man eine Free-Rider-Position ein. Denn die EU befindet sich bereits in der Gesetzgebungsphase.