Abseits der Realität – WM als Bühne für Fake-News

FIFA-Chef Gianni Infantino spritzt Fußballstar Lionel Messi leistungssteigernde Mittel (1/1a), Norwegens Erling Haaland erschrickt beim Blick in den Spiegel (2/2a) und Deutschlands Torschütze Deniz Undav ist ein syrischer Flüchtling (3/3a). Diese und zahlreiche weitere Behauptungen sorgten während der Fußball-Weltmeisterschaft in den sozialen Medien für reichlich Aufsehen – doch sie haben eines gemeinsam: Sie sind frei erfunden.

Einschätzung: Großereignisse sind ein Nährboden für Falschbehauptungen. Egal, ob Sport-Events wie die WM (etwa hier beim Super Bowl (4)), Veranstaltungen in der Kunst- und Kulturbranche (beispielsweise bei den Oscars (5)) oder politische Ereignisse wie Wahlen (Armenien-Wahl (6)). So verlässlich wie die seriöse Berichterstattung ist inzwischen auch die Verbreitung von Falschinformationen.

Überprüfung: Faktencheckerinnen und Faktenchecker hatten während der Fußball-WM reichlich Arbeit. Von KI-generierten Inhalten über erfundene Behauptungen bis hin zu vermeintlich „wahren“ Informationen, die aus dem Kontext gerissen wurden: Die Weltmeisterschaft bildete das perfekte Spielfeld für Fake News.

KI-Inhalte fluten das Internet

Der rasante Fortschritt (7) generativer KI-Systeme ermöglicht es, innerhalb weniger Minuten täuschend echte Bilder, Texte und Videos zu erstellen. Oft sind sie kaum noch von authentischen Inhalten zu unterscheiden. Es ist nicht ausgeschlossen, dass wir unseren Augen in Zukunft (8) gar nicht mehr trauen können.

Im Rahmen der Fußballweltmeisterschaft wurden zahlreiche KI-generierte Bilder und Videos geteilt. Ein Beispiel ist etwa ein Bild des israelischen Ministerpräsidenten Benjamin Netanyahu (9) als Argentinien-Fan beim Match gegen Österreich. Das Bild ist jedoch gefälscht – ein Verifizierungstool von OpenAI (10) bestätigt, dass es mit Programmen des Unternehmens hergestellt wurde.

Wer den Bildern glaubt, die online kursieren, könnte meinen, dass vor dem offiziellen „Pride-Match“ (11) zwischen Iran und Ägypten riesige Regenbogen-Flaggen (12) über das Spielfeld gespannt wurden. Oder dass ein südafrikanischer Fahnenträger (13) während der Eröffnungsfeier stürzte, iranische Fußballer auf dem Rasen beteten (14) oder Brasiliens Neymar ein spektakuläres Tor gegen Messi erzielte – obwohl Argentinien und Brasilien (15) in dieser WM gar nicht aufeinandertrafen.

Kursiert ist auch ein KI-Bild, das implizierte, dass ein Fan in Hitler-Optik in den Zuschauerrängen saß. Auch dieses Posting liegt der APA vor, wird aber aus persönlichkeitsrechtlichen Gründen an dieser Stelle nicht verlinkt. All diese Inhalte haben gemein, dass sie mithilfe Künstlicher Intelligenz (KI) erstellt und online verbreitet wurden.

Wie KI erkennen?

Es gibt drei Möglichkeiten (8), wie man KI erkennen kann: mit der „Inneren“ und der „Äußeren“ Logik sowie mit KI-Detektionstools.

Bei der „Inneren“ Logik geht es darum, visuelle Fehler im Bild oder Vidoe selbst zu finden. Solche Ungereimtheiten zeigen sich etwa im Video zum vermeintlichen Neymar-Tor. Hier fehlt beispielsweise in der Handyaufnahme (16) eines Zuschauers der Torwart.

Bei der Äußeren Logik geht es um die Überprüfung des Kontexts. Hätten tatsächlich riesige Regenbogen-Flaggen das Spielfeld beim „Pride-Match“ geschmückt, würden mit hoher Wahrscheinlichkeit unzählige Fotos davon online kursieren – immerhin waren knapp 67.000 Zuschauer (17) im Stadion. Außerdem wären sie in der Fernsehübertragung des Matches wohl zu sehen gewesen.

Detektionstools, wie etwa das Verifizierungstool von OpenAI (10) oder ImageWhisperer (18), sollen KI-Bilder und Videos automatisch erkennen, wie etwa im Fall von Netanjahu als Argentinien-Fan. Eine 100-prozentige Sicherheit können Tools meist jedoch nicht geben, weshalb sich eine Kombination mit klassischer Recherche bzw. den Fragen der Logik empfiehlt.

Erfundene Behauptungen und falscher Kontext

Abseits von KI-generierten Inhalten kursierten zahlreiche Behauptungen, die entweder frei erfunden oder aus dem Zusammenhang gerissen wurden. So wurde der deutsche Torschütze Deniz Undav (3) in Niedersachsen geboren und ist nicht – wie online behauptet – aus Syrien geflüchtet. Die polnische Flagge (19) ist auch nicht auf den Trikots der haitianischen Mannschaft zu sehen, wie das AFP-Faktencheck-Team (19a) zeigte. Immer wieder werden auch Aufnahmen von Fanaufläufen oder Ausschreitungen missinterpretiert und in einen anderen Kontext gesetzt.

Rassistische Narrative

Auch wenn nicht alle diesem Narrativ folgen, können zahlreiche Falschbehauptungen mit rassistischen Untertönen (20) ausgemacht werden. So etwa auch bei der Behauptung (21), deutsche Fans hätten eine Petition gestartet, um afrikanische und muslimische Spieler aus der Nationalmannschaft auszuschließen. Auch dem Undav-Posting kann ein migrationsfeindliches Motiv unterstellt werden.

Memes (22) sind Teil des alltäglichen Umgangs mit digitalen Medien. Sie können aber durchaus auch zentrale Elemente rechtsextremer Ideologien wie Bezüge zum Nationalsozialismus, zu Antisemitismus und Rassismus aufweisen. Auch während der Fußball-WM wurden unzählige Memes gepostet, einige davon folgen einem rassistischen Narrativ.

Eine Fotocollage (23) zeigt etwa eine Gegenüberstellung von zwei Bildern. Über dem ersten steht „Europäische Städte, wenn Japan verliert“, darunter ist das Foto einer sauberen, leeren Innenstadt zu sehen. Das zweite Foto zeigt eine Straße mit umgekippten, brennenden Fahrzeugen und Trümmern – „Europäische Städte, wenn Marokko verliert“, heißt es darüber. Das verwendete Foto der verwüsteten Straße wurde aus dem Kontext gerissen (24), es stammt aus dem Jahr 2022 und zeigt Ausschreitungen in Paris. Das Bild wurde, so im dpa-Faktencheck beschrieben, bereits mehrfach im falschen Kontext verbreitet – immer wieder in islamfeindlichen Beiträgen.

Nahost-Konflikte als zentrales Thema

Geopolitik ist ebenfalls Thema vieler falscher Inhalte. So kursierte etwa ein Video von südkoreanischen Fans (25), die bei der WM palästinensische Flaggen gezeigt haben sollen. Das Video ist zwar echt, wurde allerdings nicht während der Weltmeisterschaft aufgenommen, sondern 2024, als Südkorea und Palästina in der WM-Qualifikation (26) aufeinandertrafen.

Ein weiteres Posting zeigte einen iranischen Fußballer (27), der bei einem WM-Spiel eine rosafarbene Schultasche in die Höhe hält, um an die getöteten Kinder einer bombardierten Mädchenschule im Iran zu erinnern. Das Foto ist KI-generiert, in Anlehnung an reale Ereignisse. Im März brachten iranische Fußballer bei einem Freundschaftsspiel in der Türkei tatsächlich Schultaschen mit aufs Feld.

Im Vorfeld der WM machte außerdem die Falschbehauptung (28) die Runde, Spaniens Youngstar Lamine Yamal hatte bei der Einreise in die USA mit Visa-Problemen zu kämpfen, nachdem er eine Palästina-Flagge gehisst hatte.

Prorussische Propaganda?

Erwähnenswert (29) ist auch ein kürzlich erschienener Artikel über den französischen Starfußballer Kylian Mbappé. Vor zwei Jahren wechselte der 27-Jährige von Paris Saint-Germain zu Real Madrid. In dem Bericht wurde fälschlicherweise behauptet, er habe Frankreich verlassen, weil er vom Präsidenten Emmanuel Macron sexuell belästigt worden sei. Abgesehen davon, dass der Artikel auf keinerlei verifizierten Informationen beruht, wurde er auf einer Fake-Webseite (30) veröffentlicht, die Eurosport imitierte.

Der Bericht trägt alle Merkmale einer prorussischen Desinformationskampagne (31). Bei der sogenannten Doppelgänger-Kampagne (32) werden regelmäßig gefälschte Webseiten als echte Zeitungen angegeben. Eine Regierungsquelle teilte der AFP (33) mit, dass diese Operation „mit an Sicherheit grenzender Wahrscheinlichkeit“ auf die Vorgehensweise der prorussischen Gruppe Storm-1516 zurückzuführen sei. Dabei handelt es sich um einen Komplex (34) aus Influencern und russischen Denkfabriken oder Stiftungen, die online Desinformation über die Ukraine und ihre Unterstützer streuen. Frankreichs Präsident Emmanuel Macron war hier jedenfalls nicht zum ersten Mal Ziel einer russischen Desinformationskampagne, wie etwa dieser APA-Faktencheck (35) zeigt.

Quellen :

(1) Facebook-Posting zu Infantino und Messi: https://go.apa.at/3JrJzNaT (archiviert: https://go.apa.at/nxZ3d1g8)

(1a) AFP-Faktencheck zu Infantino und Messi: https://go.apa.at/pEnjDO7P (archiviert: https://go.apa.at/tU3obMcX)

(2) X-Posting mit Haaland-KI-Video: https://go.apa.at/v2GAfrpS (archiviert: https://go.apa.at/rZO0T271;Video archiviert: https://go.apa.at/d2rLjlnR)

(2a) AFP- Faktencheck zum Haaland Video: https://go.apa.at/s8QDpfZJ (archiviert: https://go.apa.at/HkrnuJ7D)

(3) X-Posting zu Undav-Behauptung: https://go.apa.at/Un9F1A5b (archiviert: https://go.apa.at/2iGgwS5e)

(3a) dpa-Faktencheck zu Undav-Behauptung: https://go.apa.at/kLvYOcun (archiviert: https://go.apa.at/Uh0G4hbm)

(4) X-Posting zum Super-Bowl: https://go.apa.at/T3H3Y6ww (archiviert: https://go.apa.at/cEUsKvb2)

(5) Facebook-Posting zu den Oscars: https://go.apa.at/hKccM61Q (archiviert: https://go.apa.at/U8bPIb4)

(6) APA-Faktencheck zur Armenien-Wahl: https://go.apa.at/KQvQ1XxQ (archiviert: https://go.apa.at/0aZDhvet)

(7) Österreichische Akademie der Wissenschaften über Desinformation: https://go.apa.at/9YI8Bkv0 (archiviert: https://go.apa.at/s9U2jXDm)

(8) APA-Checkbar über das Erkennen von KI: https://go.apa.at/FLZbFTmk (archiviert: https://go.apa.at/PYXhGGsg)

(9) KI-Bild von Netanyahu bei der WM: https://go.apa.at/BMLX8S2I (archiviert: https://go.apa.at/B3nn1mGi)

(10) OpenAI-Verifizierungstool: https://go.apa.at/Wx8HdTal (archiviert: https://go.apa.at/t2xBU6Ng)

(11) „Standard“-Artikel zum „Pride-Match“: https://go.apa.at/7w8KL32N (archiviert: https://go.apa.at/mMTTtWl0)

(12) X-Posting mit KI-Bild von Regenbogen-Fahnen bei „Pride Match“: https://go.apa.at/Zi4ThbF6 (archiviert: https://go.apa.at/7OY9Rwsn)

(13) X-Posting mit KI-Bild des Fahnenträgers: https://go.apa.at/4zTQF8kM (archiviert: https://go.apa.at/NrFTrwTk)

(14) Facebook-Posting mit KI-Bild der betenden Fußballer: https://go.apa.at/lJ2kVoVB (archiviert: https://go.apa.at/3Btsu5eC)

(15) X-Posting mit KI-Video von Neymar: https://go.apa.at/2srMrEFI (archiviert: https://go.apa.at/O2arPPjG;Video archiviert: https://go.apa.at/ZN24yl9p)

(16) AFP-Faktencheck zum Neymar-KI-Video: https://go.apa.at/d6tKQXoN (archiviert: https://go.apa.at/ZU1PQjbz)

(17) „krone.at“-Artikel zum „Pride Match“: https://go.apa.at/a5XCHpt8 (archiviert: https://go.apa.at/p5GOp7nv)

(18) ImageWhisperer: https://go.apa.at/fpbwL2fc (archiviert: https://go.apa.at/ffqj9o5k)

(19) Facebook-Beitrag zu Polen-Trikot: https://go.apa.at/Txf7mxv0 (archiviert: https://go.apa.at/7m9fIo6A)

(19a) AFP-Faktencheck zum Polen-Trikot: https://go.apa.at/YfQQEU66 (archiviert: https://go.apa.at/T4rfdcb6)

(20) „Euronews“-Artikel über rassistische Falschbehauptungen zur WM: https://go.apa.at/Qy8bf40v (archiviert: https://go.apa.at/4Jr2VE3z)

(21) AFP-Faktencheck zu Fake-Petition: https://go.apa.at/0aJnp4Ez (archiviert: https://go.apa.at/qQiArIBw)

(22) Uni München: Themen, Motive und Mainstreaming in rechtsextremen Online-Memes: https://go.apa.at/16ULASTR (archiviert: https://go.apa.at/XyHTXwWF)

(23) X-Posting mit Japan/Marokko-Vergleich: https://go.apa.at/ZqH0ilpE (archiviert: https://go.apa.at/NHA8CRzA)

(24) dpa-Faktencheck über Japan/Marokko-Vergleich: https://go.apa.at/SkHoFj9W (archiviert: https://go.apa.at/0QwMWxE0)

(25) X-Posting mit südkoreanischen Fans: https://go.apa.at/nDfRkvlT (archiviert: https://go.apa.at/AcK0AOgV;Video archiviert: https://go.apa.at/KZyfTu0C)

(26) „The Korean Times“-Artikel zu WM-Qualifikations-Match zwischen Südkorea und Palästina: https://go.apa.at/x1NY6LQK (archiviert: https://go.apa.at/jb7b7zk7)

(27) „ORF“-Artikel über Propaganda bei der WM: https://go.apa.at/UnwDXIiq (archiviert: https://go.apa.at/aXiDiHes)

(28) „yahoo sports“-Artikel zu Falschmeldung über Lamine Yamal: https://go.apa.at/D2K4tJON (archiviert: https://go.apa.at/nYXx410a)

(29) „EDMO“ über Fakes bei der WM: https://go.apa.at/ucIKMiUc (archiviert: https://go.apa.at/PCpJ5eQk)

(30) Archivierter Fake-Artikel über Mbappé und Macron: https://go.apa.at/qm8c3WEl

(31) „De facto“ über Mbappé-Fake-Artikel: https://go.apa.at/GueTLLJ0 (archiviert: https://go.apa.at/kG21ydw8)

(32) Bundeszentrale für politische Bildung über russische Desinformationskampagne: https://go.apa.at/HVtoiGly (archiviert: https://go.apa.at/nyRXxsLO)

(33) AFP-Faktencheck über Mbappé-Fake-Artikel: https://go.apa.at/xudRwMUp (archiviert: https://go.apa.at/TTZoe4vm)

(34) „Tagesschau“-Artikel über „Storm 1516“: https://go.apa.at/8oTN414V (archiviert: https://go.apa.at/PMWq1CuW)

(35) APA-Faktencheck zu Falschbehauptung über Macron: https://go.apa.at/XTsBXquy (archiviert: https://go.apa.at/N0a7vCaa)

Wenn Sie zum Faktencheck-Team Kontakt aufnehmen oder Faktenchecks zu relevanten Themen anregen möchten, schreiben Sie bitte an [email protected]. Die Texte vieler deutschsprachiger Faktencheck-Teams finden Sie auf der Seite des German-Austrian Digital Media Observatory (GADMO) unter: www.gadmo.eu