In den Tagen vor dem Anpfiff des Eröffnungsspiels der Fifa-Weltmeisterschaft 2026 machte ein Video auf der Social-Media-Plattform X die Runde: Der französische Stürmerstar Kylian Mbappé habe – so die Behauptung – seinen Heimatklub Paris Saint-Germain für Spaniens Real Madrid verlassen, um vor „jahrelanger emotionaler und körperlicher Belästigung“ durch den französischen Präsidenten Emmanuel Macron zu fliehen. Begleitet wurde der Post von einem kurzen Artikel auf einer Website, die wie eurosport.fr aussah. Innerhalb von sechs Tagen wurden das Video und der Artikel
auf X 14 Millionen Mal aufgerufen.

Das berichtete News Guard, ein Unternehmen, das Desinformation im Netz entlarvt. Die Vorwürfe waren frei erfunden: Eurosport hat so ein Video nie gepostet, und Martin Mosnier, der Eurosport-Journalist, dem der Artikel zugeschrieben wurde, hat ihn nie verfasst. Es gab weitere Anzeichen für Falschinformationen: Die URL lautete „euro-sport.fr“, nicht „eurosport.fr“. Auch die Stimme im Video klang nicht wie die von Mbappé, schreibt News Guard. Die Inhalte stammen laut dem Gnida Project (einer anonym geführten Gruppe, die russische Einflusskampagnen verfolgt) von Storm-1516, einem russischen Desinformationsnetzwerk, das laut News Guard Macron wegen seiner Unterstützung der Ukraine im Krieg gegen Russland wiederholt ins Visier genommen hat.

„Desinformation“ bezeichnet falsche oder irreführende Information, die mit der Absicht verbreitet wird, Menschen zu täuschen (anders als „Misinformation“, hinter deren Verbreitung keine schlechte Absicht stecken muss). Sie hat eine lange Geschichte: Historiker vermuten, dass schon Octavian, der spätere Kaiser Augustus, nach der Ermordung des römischen Diktators Julius Caesar falsche Informationen über Marcus Antonius verbreitete, um die Alleinherrschaft an sich zu reißen. Doch das Aufkommen sozialer Medien hat die Verbreitung falscher Informationen viel leichter gemacht.

Generative KI macht es nun leichter als je zuvor, falsche Inhalte zu erstellen – während es zugleich immer aufwendiger wird, sie zu erkennen. „Diese Kosten sind oft asymmetrisch. Die Aufdeckung solcher Fälle ist zunehmend schwieriger und zeitaufwendiger geworden“, schreibt uns Morgan Wack, der als Postdoktorand an der Universität Zürich zu Desinformation forscht.

Hinzu kommt, dass die Social-Media-Plattformen, auf denen sich Desinformation verbreitet, die Moderation ihrer Inhalte seit dem Amtsantritt von US-Präsident Donald Trump deutlich zurückgeschraubt haben. Und Organisationen, die Desinformation verbreiten, haben einen inhärenten Vorteil: Ihre Gegner können erst reagieren, wenn die Informationen bereits im Netz sind. Wird eine Desinformationskampagne früh genug erkannt und gekontert, können diese Netzwerke einfach einen neuen Angriff starten. Amil Khan sagt über die Organisationen hinter diesen Kampagnen: „Sie werden es einfach noch einmal versuchen, und noch einmal, und noch einmal.“ 2020 gründete der Ex-Journalist gemeinsam mit Faisal Ansari Valent, das Informationsströme im Netz untersucht. Khan: „Wenn man über keine klare Informationslage verfügt, kann man überhaupt keine Entscheidungen treffen, egal ob es sich um staatliche oder persönliche Entscheidungen handelt.“

„Die eine“ Weise, wie Desinformation verbreitet wird, gibt es laut Wack nicht. Es gibt aber Eigenschaften, die viele Desinformationskampagnen teilen. Schon lange bevor eine Lüge veröffentlicht wird, erstellen die Organisationen hinter den Kampagnen sogenannte „Spreader“-Accounts. Diese sammeln Follower, indem sie über harmlose Themen posten – etwa Fußball, Memes oder das britische Königshaus. Irgendwann verändern sie ihr Verhalten und beginnen, eine Lüge zu verbreiten, die von einem oder mehreren „Seeder“-Accounts gepostet wurde. Die Lüge wird durch eine Reihe von Spreader-Accounts und gefälschten Websites wie euro-sport.fr (die ebenfalls größtenteils wahre Inhalte vertrauenswürdiger Medien neu verpacken) geschleust, was es schwieriger macht, ihren Ursprung nachzuverfolgen. Gleichzeitig führt das viele Reposten dazu, dass die Algorithmen der Social-Media-Plattformen den Inhalt zusätzlich vorantreiben. Immer mehr Menschen sehen die Lüge, und immer mehr von ihnen teilen sie selbst – die Desinformation wird nun nicht mehr nur von den Spreader-Accounts geteilt, sondern von Menschen, die nicht Teil des koordinierten Netzwerks aus Accounts und Websites hinter der Kampagne sind. Richtig gefährlich wird es, wenn echte Nachrichtensender, Politiker oder Stars die Lüge verbreiten, ohne sie zu hinterfragen.

In einem Bericht aus dem Jahr 2024 schreibt Raluca Csernatoni von der Denkfabrik Carnegie Europe: „KI-generierte synthetische Inhalte haben die politische Landschaft der USA durchdrungen, wo sie häufig von prominenten Persönlichkeiten wie dem designierten US-Präsidenten Donald Trump und seinen Verbündeten geteilt werden, die immer wieder von KI erstellte Memes und Deepfakes verbreiten.“ Laut Denkfabriken wie Carnegie Europe, Unternehmen (der Tech-Konzern Microsoft etwa hat ein „Threat Intelligence“-Team), verschiedenen Medien und Forschungsinstituten (etwa dem Media Forensics Hub der Clemson University in South Carolina, USA) waren bereits Politiker von Großbritannien über Frankreich und Rumänien bis hin nach Taiwan und Argentinien von KI-generierten Audio-Clips und Videos betroffen.

Wack und Khan sagen beide, dass Desinformationskampagnen dann besonders gut funktionieren, wenn rund um ein Thema (etwa eine Wahl) oder ein Ereignis (zum Beispiel eine Naturkatastrophe) viel Unsicherheit herrscht. Khan und sein Team versuchen deshalb, Desinformationskampagnen zu erkennen, bevor sie zum Problem werden. Es sei sinnlos, Inhalte aus sozialen Netzwerken löschen zu wollen – stattdessen, so der Valent-Gründer, müssen Organisationen oder Personen rechtzeitig reagieren und die Lüge, die über sie ver­breitet wird, unter Kontrolle bekommen – etwa durch öffentliche Stellungnahmen. „Unternehmen müssen eine Antwort parat haben, die das Problem nicht befeuert, sondern übertrumpft“, so Khan. „Inhalte zu entfernen funktioniert einfach nicht mehr.“

Mittels KI können er und sein Team „koordinierte Netzwerke“ aus Social-Media-Accounts erkennen, also Accounts, die mutmaßlich von einer Organisation oder einer Person gesteuert werden, sagt Khan. Er erklärt: „Stell dir vor, du siehst einen Account aus dem Sudan, der sagt, dass der Premierminister ein Gauner ist und umgebracht werden sollte. Und dann siehst du den­selben Post – dasselbe Bild, dasselbe Wording – auf einem anderen Account. Wenn du diese Accounts verfolgst und sie dieses Verhalten regelmäßig aufweisen, dann ist das ein klares Kennzeichen dafür, dass sie Teil eines Netzwerks sind.“ Andere Kennzeichen seien etwa, wenn Accounts ihre Namen oft ändern und aus der­selben Region stammen.

Generative KI verstärkt das Problem in zweierlei Hinsicht: einerseits verändert sie, wie Inhalte erstellt werden, andererseits die Weise, wie Menschen Nachrichten konsumieren. Mit Chatbots wie Claude ist es einfach, eine Nachricht auf hundert verschiedene Weisen zu formulieren und in Dutzende Sprachen zu übersetzen, was es schwieriger macht, koordinierte Netzwerke zu identifizieren. Vorhandene Bilder lassen sich automatisch verändern – oder es werden gleich neue generiert, wie auch die Bilder in den Seiten dieser Geschichte. Koordinierte Netzwerke können trotzdem identifiziert werden, sagt Khan, indem man analysiert, welche Accounts die gleichen Narrative vorantreiben, und dann untersucht, welche von ihnen Teil des Netzwerks sind. „Wir starten auf dem Hashtag-Level, gehen von dort auf das Post-Level, das Account-Level und von dort zum Netzwerk“, so Khan. Trotzdem können mithilfe generativer KI Inhalte schneller erstellt werden – laut Raluca Csernatoni von der Denkfabrik Carnegie Europe der „Kern des Problems“.

Khan sagt auch, dass Staaten immer häufiger Privatpersonen oder private Organisationen dafür bezahlen, Desinformation zu verbreiten: „Die Akteure sind, mehr als je zuvor, von finanziellen Anreizen getrieben.“ Men­schen können ein Netzwerk aus Spreader-Accounts aufbauen und an verschiedene Kunden verkaufen – ähnlich wie Influencer ihren eigenen Account Marken zur Verfügung stellen.

Andererseits konsumieren immer mehr Menschen Nachrichten oder recherchieren aktuelles Geschehen über Large Language Models (LLMs) wie Chat GPT oder Claude – laut dem Reuters Institute tun das 10 %, im Vergleich zu 7 % im Jahr 2025 –, und diese sind anfällig für Desinformation im Netz. Laut Gordon Crovitz geben LLMs seit dem Start von Chat GPT im Schnitt in rund einem Drittel der Fälle falsche Behauptungen wieder. Der Journalist war Herausgeber des Wall Street Journal und saß unter anderem im Aufsichtsrat von Pro Quest (Anbieter von Netzpublikationen) und Business Insider. 2018 gründete er gemeinsam mit Steven Brill (ebenfalls Journalist, zudem Rechtsanwalt) News Guard. Das Unternehmen bewertet – mit Menschen, nicht Maschinen – die beliebtesten Publikationen verschiedener Weltregionen nach ihrer Vertrauens­würdigkeit, identifiziert und untersucht Desinforma­tionskampagnen und bietet weitere nachrichten­bezogene Leistungen an. Ende Juni hat News Guard eine Version von Claude herausgebracht, die sich für Fragen zu aktuellem Geschehen ausschließlich auf 12.000 ausgewählte Quellen stützt. In den jüngsten Tests des Unternehmens wiederholten die großen Sprachmodelle bei Anfragen normaler Nutzer in rund 15 % der Fälle falsche Behauptungen, bei Anfragen böswilliger Akteure in rund 38 % (siehe Info-Chart). Vor allem bei Fragen zu Russland, China oder dem Iran – laut Khan, Brill und Crovitz die Länder, aus denen die meisten Akteure hinter Desinformationskampagnen stammen – wiederholen die Sprachmodelle besonders häufig falsche Behauptungen.

Vor einigen Jahren waren die Betreiber von Social-­Media-Plattformen größtenteils darum bemüht, Desinformation auf ihren Plattformen einzugrenzen. Seit Donald Trump, der den Plattformen näher ist als seine Vorgänger, an der Macht ist, hat sich aber eine Laissez-faire-Politik breitgemacht. Meta kündigte Anfang 2025 an, die Faktenchecks durch Drittanbieter, die die Plattform in den Jahren zuvor eingerichtet hatte, zurückzuschrauben. Stattdessen will der Konzern – angefangen in den USA, wo das neue System noch ausgerollt wird – auf „Community Notes“ setzen, wie es X bereits tut. „Wir glauben, dass dies ein besserer Weg sein könnte, um unser ursprüngliches Ziel zu erreichen, nämlich den Menschen Informationen darüber zu liefern, was sie sehen – und zwar auf eine Weise, die weniger anfällig für Verzerrungen ist“, schrieb Joel Kaplan, Chief Global Affairs Officer bei Meta, damals in einem Blogbeitrag. (Für Accounts von Teenagern gelten strengere Regeln.) Doch, so Wack: „Im Grunde führen diese ­Veränderungen dazu, dass die Entscheidungsgewalt
von professionellen Faktenprüfern wegverlagert wird – hin zu zwei Instanzen: zum einen zu den Plattformbetreibern selbst, die ihre eigenen wirtschaftlichen und politischen Interessen verfolgen, und zum anderen zur Dynamik der Masse, die dazu neigt, die lautesten und am besten organisierten Akteure zu begünstigen.“

Die KI-Labore hinter den LLMs scheinen sich etwas mehr zu bemühen: Google Deep Mind, der Macher von Googles Chatbot Gemini, und Open AI bauen in KI-generierte Inhalte eine Art digitales Wasserzeichen ein. Viele KI-Labore (und alle großen) versuchen außerdem, ihre Modelle so zu trainieren, dass sie die Generierung falscher Inhalte verweigern. Doch fast alle dieser Maßnahmen, schreibt Wack, „haben sich als unwirksam erwiesen angesichts der hoch motivierten Akteure, die in diesem Bereich agieren“.

Das Thema rund um Desinformation ist natur­gemäß mit viel Unsicherheit behaftet. Forscher, Unternehmer und die Betreiber von KI-Laboren und Social-Media-Plattformen können nur über jene Kampagnen Auskunft geben, die auch erkannt werden. Unternehmen wie Valent oder News Guard haben einen Anreiz, das Problem schlimmer darzustellen, als es ist, weil sie damit Geld verdienen. Die Entwickler der Sprach­modelle und Plattformen wie Instagram oder X hingegen profitieren davon, es kleinzureden. Doch es ist ein Problem, das wahrscheinlich schlimmer werden wird und das schwierige Fragen aufwirft: Wie funktionieren Demokratien, wenn breite Teile der Bevölkerung nicht wissen, was Wahrheit und was Lüge ist?

Laut Wack ist es wichtig, falsche Informationen schnell zu korrigieren (wie es Valent und News Guard versuchen). Bessere Medien- und KI-Kompetenz würde Desinformationskampagnen ebenfalls weniger wirksam machen, ebenso ein einfacherer Zugang zu vertrauenswürdigen Quellen. „Wir werden Desinformation nie eliminieren“, so Wack. „Aber wir können die Vorteile verringern, die sich aus der Verbreitung falscher und irreführender Informationen ergeben.“

Fotos: Forbes Austria mit Artlist