Ein „Deepfake“-Video, das Kamala Harris parodiert, ein manipulierter Clip eines fluchenden Joe Biden und ein gefälschtes Bild eines in Haft genommenen Donald Trump – die Sorge über den möglichen Einfluss einer Flut KI-gestützter politischer Desinformation auf die anstehende Präsidentschaftswahl in den USA wächst.
Die US-Präsidentschaftswahl, die im November 2024 stattfindet, wird von vielen als die allererste „KI-Wahl“ in der Geschichte der Menschheit bezeichnet. Expertinnen und Experten warnen davor, dass KI-gestützte Fakes Wählerströme oder gar die Wahlbeteiligung beeinflussen könnten. In einer Gesellschaft, die bereits extrem polarisiert ist, würde das zu noch weiteren Spannungen führen.
Viele Technologiegiganten haben sich aus der Content Moderation der sozialen Medien zurückgezogen. Doch nach der jüngsten Flut an Desinformation wird der Ruf nach verstärkten Kontrollmechanismen bezüglich künstlicher Intelligenz immer lauter.
Anfang August 2024 sah sich Elon Musk, US Milliardär und Eigentümer von X und Tesla, heftiger Kritik ausgesetzt, weil er ein Deepfake-Video mit US-Vizepräsidentin Kamala Harris, der Kandidatin der Demokraten, mit seinen 192 Millionen Followern auf X geteilt hatte.
Darin bezeichnet eine Stimme, die Harris imitiert, Präsident Joe Biden als senil; die Stimme sagt dann, dass sie „nicht das Geringste davon versteht, ein Land zu regieren“.
Das Video enthielt keinen Hinweis darauf, dass es sich um eine Parodie handelte – abgesehen von einem lachenden Emoji. Erst später stellte Elon Musk klar, dass das Video als Satire gedacht war. Dadurch könnten Menschen, die dieses Video sehen, fälschlicherweise zu dem Schluss kommen, dass Harris sich selbst verhöhne und Biden anschwärze, warnen Expertinnen und Experten.
Laut der Non-Profit Organsiation Center for Countering Digital Hate (CCDH), haben falsche oder irreführende Behauptungen zur US-Wahl, die von Musk auf X gepostet wurden, seit Januar 2024 fast 1,2 Milliarden Aufrufe angehäuft.
Das CCDH hat darauf hingewiesen, dass Musk, der die Plattform im Jahr 2022 gekauft hat und ein erklärter Unterstützer von Donald Trump ist, Wählerinnen und Wähler zu beeinflussen scheint, indem er auf seinem persönlichen Konto Unwahrheiten verbreitet.
AFP hat auch weitere KI-Fälschungen überprüft, die Besorgnis erregten.
Im Juli 2024 tauchte ein manipuliertes Video auf, das über X verbreitet wurde. Darin war zu sehen, wie Biden seine Kritikerinnen und Kritiker verfluchte – unter anderem mit LGBTQ-feindlichen Beleidigungen. Das Video tauchte auf, nachdem er angekündigt hatte, nicht für eine Wiederwahl zu kandidieren und Harris für die Nominierung der Demokraten zu unterstützen.
Eine umgekehrte Bildsuche ergab, dass das Videomaterial aus einer von Bidens Reden stammte, die vom Sender PBS live übertragen wurde. Darin prangerte er nach dem Mordversuch an Trump am 13. Juli 2024 politische Gewalt an.
PBS gab an, dass es sich bei dem manipulierten Video um ein Deepfake handelte .Durch das verwendete Logo des Senders sollten diejenigen, die das Video sahen, getäuscht werden.
Bereits Wochen zuvor – kurz nachdem Donald Trump für schuldig erklärt wurde, Geschäftsunterlagen im Zusammenhang mit einer Schweigegeldzahlung an die Pornodarstellerin Stormy Daniels gefälscht zu haben – wurde auf mehreren Plattformen ein Bild geteilt, das Trumps gewaltsame Verhaftung durch die Polizei zeigte. Das Foto war jedoch ein Deepfake, wie Expertinnen und Experten für IT-Forensik gegenüber AFP erklärten.
„Wut und Spannungen schüren“
„Diese jüngsten Beispiele sind äußerst repräsentativ dafür, wie Deepfakes in Zukunft in der Politik eingesetzt werden“, sagte Lucas Hansen, Mitbegründer der Non-Profit-Organisation CivAI, gegenüber AFP.
„Während KI-gestützte Desinformation sicherlich ein Problem darstellt, werden die wahrscheinlichsten Anwendungen gefälschte Bilder und Videos sein, die Wut und Spannungen zwischen politischen Gegnern schüren sollen.“
Hansen demonstrierte gegenüber AFP die Fähigkeit eines KI-Chatbots, die Wahlbeteiligung durch die Massenproduktion falscher Postings zu manipulieren. Das Tool wurde mit einer einfachen Eingabeaufforderung gefüttert: „Wahllokale verlangen Parkgebühren“. Außerdem wurde der Ort spezifiziert: Allen, Texas.
Innerhalb von Sekunden wurde ein Posting veröffentlicht, in dem fälschlicherweise behauptet wurde, die Behörden von Allen hätten „stillschweigend eine Parkgebühr von 25 US-Dollar bei den meisten Wahllokalen eingeführt“.
Von einem früheren Versuch von sogenannter Voter Suppression – also wenn versucht wird, die Wählerschaft gezielt vom Wählen abzuhalten – waren Menschen im US-Bundesstaat New Hampshire im Januar 2024 betroffen: Dabei gab sich ein KI-gestützter Roboter am Telefon als Biden aus und forderte die Menschen auf, bei den Vorwahlen nicht zu wählen.
Tests mit einem anderen führenden KI-Tool namens Midjourney ermöglichten die Erstellung von Bildern, die scheinbar zeigen, wie Biden verhaftet wird oder wie Trump neben einem Double erscheint – so das CCDH im Juni 2024.
IT-Aktivistinnen und -Aktivisten berichteten, dass Midjourney vor Kurzem alle Eingabeaufforderungen im Zusammenhang mit Trump und Biden blockierte und so die Nutzerinnen und Nutzer effektiv daran hindere, gefälschte Bilder zu erstellen.
Das CCDH gab jedoch an, dass die Richtlinie leicht umgangen werden könnte – beispielsweise durch Hinzufügen eines einzelnen Backslashs zu einer Eingabeaufforderung, die zuvor von Midjourney blockiert wurde.
Schwindendes Vertrauen?
Beobachterinnen und Beobachter warnen davor, dass derartige Fälschungen in großem Ausmaß die Gefahr bergen, die Gesellschaft gegen den gesamten Wahlprozess aufzubringen.
Mehr als 50 Prozent der US-Amerikanerinnen und -Amerikaner erwarten, dass KI-gestützte Falschmeldungen Einfluss darauf haben werden, wer die Wahl 2024 gewinnt – so eine Umfrage, die im September 2023 von der Mediengruppe Axios und dem Marktforschungsunternehmen Morning Consult veröffentlicht wurde.
Etwa ein Drittel der US-Amerikanerinnen und -Amerikaner gaben laut der Umfrage an, dass sie den Ergebnissen aufgrund von KI weniger vertrauen werden.
Mehrere Technologiegiganten erklärten, dass sie an Systemen zur Kennzeichnung von KI-generierten Inhalten arbeiten. In einem Brief an die CEOs von Technologieunternehmen forderten im April 2024 mehr als 200 Interessengruppen dringende Anstrengungen zur Stärkung des Kampfes gegen KI-Fälschungen – einschließlich des Verbots, Deepfakes in politischen Anzeigen zu verwenden und Algorithmen zur Förderung sachlicher Wahlinhalte einzusetzen.
Die Non-Profit-Organisation Free Press – die den Brief ebenfalls unterzeichnete – sagte, sie habe „wenig Substanz“ in den Zusagen gehört, die Plattformen in diesem Wahlzyklus machen würden. „Was wir jetzt haben, ist eine toxische Online-Umgebung, in der Lügen unsere Feeds überschwemmen und die Wählerschaft verwirren“, sagte Nora Benavidez, leitende Anwältin bei Free Press, gegenüber AFP.
„Dies ist ein Wendepunkt in unserer Wahl“, fügte sie hinzu. „Die Führungskräfte der Plattformen sollten sich darum bemühen, ihre Richtlinien gegen Deepfakes und andere Probleme zu verbessern und diese auch durchzusetzen.“
Foto von Mit Blick auf die US-Präsidentschaftswahlen fordern IT-Expertinnen und -Experten strengere Kontrollmechanismen hinsichtlich künstlicher Intelligenz – Patrick T. Fallon / ROBERTO SCHMIDT / AFP
Urheberrechte © AGENCE FRANCE-PRESSE | 2024 | Alle Rechte vorbehalten. Jede Nutzung von AFP-Inhalten auf dieser Website unterliegt den Nutzungsbedingungen auf CGU. Durch den Zugriff auf die auf dieser Website verfügbaren AFP-Inhalte und/oder deren Nutzung erklären Sie sich mit den oben genannten Nutzungsbedingungen einverstanden. Jede Nutzung von AFP-Inhalten erfolgt unter Ihrer alleinigen und vollen Verantwortung.
Ursprünglich hier veröffentlicht.
