KI-Fälschungen fluten soziale Medien – wie Desinformation gezielt Profit macht
Ditmar Weller
KI-Fälschungen fluten soziale Medien – wie Desinformation gezielt Profit macht
KI-generierte Fälschungen verbreiten sich in sozialen Medien – und schüren Desinformation
Mit gefälschten Inhalten wie Deepfake-Interviews oder sexualisierten Profilen manipulieren fabrizierte Accounts die öffentliche Meinung und nutzen dabei finanzielle Anreize aus. Regierungen und Forscher unternehmen nun Schritte, um die wachsende Bedrohung einzudämmen.
In Deutschland verbreiten rechtsextreme Gruppen KI-erzeugte "Straßenumfragen" im Netz. Ein Video zeigte eine angeblich 18-jährige blonde Frau, die zu Massenabschiebungen aufrief – doch der Clip war komplett erfunden und sollte gezielt Spaltung schüren.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Forscher decken noch beunruhigendere Trends auf: Die Desinformationsexpertin Karolin Schwarz analysierte Videos von KI-generierten Rabbis, die antisemitische Klischees verbreiten und fragwürdige Finanzgeschäfte bewerben. Gleichzeitig dokumentiert die Politikwissenschaftlerin Katharina Nocun, wie Fake-Accounts mit Sexualisierung und vorgetäuschter Verletzlichkeit Nutzer für Profitzwecke ködern.
Auch das Weiße Haus hat sich in den digitalen Kampf eingemischt. Seit der Eskalation mit dem Iran inszeniert es eine "digitale Militärparade" in sozialen Medien. Die Kampagne zielt mit hypermaskulinen Bildern, spielerischen Ästhetiken und sogar rechtsextremen Memes auf junge Männer ab. Popkulturelle Elemente wie Comic-Grafiken werden umgedeutet, um politische Narrative zu verbreiten.
Sogar vertrauenswürdige Marken werden von KI-Tools missbraucht: Ein Animationsstudio, bekannt für feministische und demokratische Erzählungen – ähnlich wie Studio Ghibli –, wurde nachgeahmt, um eine Abschiebungsszene zu zeigen und seine Werte für Propaganda zu verdrehen. Das Ziel bleibt stets dasselbe: Aufmerksamkeit generieren, um sie anschließend zu monetarisieren.
Die EU wird bald Vorschriften durchsetzen, die KI-generierte Inhalte klar kennzeichnen müssen. Ab August sind Plattformen verpflichtet, zwischen echten und synthetischen Medien zu unterscheiden. Die Maßnahme soll die Verbreitung von Fälschungen eindämmen – doch die Herausforderung bleibt: Algorithmen instrumentalisieren weiterhin Ereignisse, ausnutzen Zielgruppen und verzerren die öffentliche Debatte für Profit.
