Deepfakes im politischen Diskurs

In Israel stehen Parlamentswahlen an, die von Politikwissenschaftlern als erste Wahl des Landes bezeichnet werden, die maßgeblich von Künstlicher Intelligenz geprägt ist. Ministerpräsident Benjamin Netanjahu veröffentlichte auf der Plattform X einen neunzehn Sekunden langen Wahlkampf-Clip. Das Video zeigt den Präsidentschaftskandidaten Gadi Eisenkot, einen ehemaligen Generalsstabschef, wie er in Zeitlupe über eine Wiese läuft. Er nähert sich einer Person, die seinem Sohn ähnelt, auf dessen T-Shirt die Worte "Israeli Unity" stehen. Doch Eisenkot läuft an ihm vorbei und umarmt stattdessen Mansur Abbas, den Vorsitzenden der arabischen Partei Ra'am. Das Video ist ein KI-generierter Deepfake, der anti-arabische Ressentiments bedienen soll. Es wurde über eine Million Mal abgespielt und rief angesichts des Todes von Eisenkots Sohn im Jahr 2023 große Empörung hervor.

Systematische Erfassung durch Forschung

Das Forschungsprojekt ZebeAI der Open University of Israel dokumentiert systematisch den Einsatz von KI-Inhalten im Wahlkampf. Unter der Leitung von Anat Ben-David sammeln Wissenschaftler seit Ende Juli alle Beiträge von Politikern in sozialen Medien. Bis zum 23. Oktober hatten sie mehr als 52.000 Beiträge auf Facebook, Instagram, X und TikTok erfasst. In über 14 Prozent davon wurde KI eingesetzt, überwiegend in hybrider Form für Bilder, Musik, Untertitel oder Logos, aber auch als vollständige Deepfakes. Dabei beobachteten sie einen hybriden Ansatz, bei dem KI für einzelne Elemente oder ganze Videos genutzt wird. Die Forscher zählten allein bei der Likud-Partei über 2000 KI-unterstützte Beiträge, was etwa einem Viertel des analysierten Materials entspricht. Proportional weisen kleinere Parteien den höchsten Anteil auf, in absoluten Zahlen dominiert jedoch die Likud-Partei, gefolgt von Eisenkots Jaschar und den Demokraten.

Regulatorische Defizite und automatisierte Kommunikation

Im Juli verabschiedete das Zentrale Wahlkomitee Israels eine neue Regelung, die eine Kennzeichnungspflicht für KI-generierte oder manipulierte Inhalte vorsieht. Dennoch existieren kaum weitere Einschränkungen. Wie Anat Ben-David erklärt, gibt es weder ein KI-Gesetz noch ein Gesetz über digitale Dienste, und das Datenschutzgesetz ist veraltet. Dies ermöglicht einen KI-Einsatz, der in Europa unmöglich wäre. Neben der Videomanipulation kommen auch automatisierte Telefonanrufe zum Einsatz. Diese wirken deutlich authentischer als frühere Roboterstimmen. Ein Beispiel ist ein Bot namens "Danielle", der sich als Meinungsforscherin ausgab und Wähler wiederholt nach ihren Präferenzen fragte, ohne Fragen nach dem Auftraggeber zu beantworten. Tehilla Shwartz Altshuler vom Israel Democracy Institute betont, dass keine echten Menschen mehr für solche Anrufe benötigt werden.

Bot-Netzwerke und die Zukunft der Demokratie

Auch die Wähler selbst greifen zunehmend auf KI zurück. Eine Umfrage der Israel Internet Association ergab, dass etwa ein Viertel der Israelis bereit ist, KI-Tools für die Wahlentscheidung zu nutzen. Dies wirft Fragen zur generativen Suchmaschinenoptimierung auf. Zudem decken Forscher Bot-Netzwerke auf, die künstlich die Reichweite von Politikern erhöhen. Das Unternehmen Scooper fand heraus, dass täglich über 1000 neue Accounts auf X erstellt werden, die Netanjahu folgen. Etwa 70 Prozent der Accounts, die seine Inhalte teilen, befinden sich außerhalb Israels und weisen typische Bot-Merkmale auf. Diese werden durch Verhaltensauffälligkeiten wie kürzlich erstellte Profile oder fehlende Bilder identifiziert. Auch die Plattform FakeReporter deckte ein Netzwerk mit über 100 Accounts auf, das mit der Kampagne von Itamar Ben-Gvir in Verbindung gebracht wird. Shwartz Altshuler sieht Israel als Testfall dafür, wie KI Wahlen weltweit verändert, und warnt, dass sich die gesamte Maschinerie der politischen Propaganda grundlegend verändert.