#Faktenfuchs: Fake-Meldungen über deutsche Politik fluten TikTok

Darum geht’s:

• Der #Faktenfuchs hat hunderte Videos identifiziert, die mit Hilfe von KI produzierte Fake-Nachrichtenvideos über angebliche Maßnahmen der Bundesregierung berichten.
• Die Videos teilen zwei Gemeinsamkeiten: Friedrich Merz kommt darin prominent vor und die angeblich geplanten Regeln beträfen den Alltag vieler Menschen direkt.
• Experten vermuten dahinter eine gezielte Desinformationskampagne oder kommerzielle Interessen.

Friedrich Merz steht am Rednerpult auf dem CDU-Parteitag. Doch man hört den Kanzler nicht sprechen. Stattdessen ist das TikTok-Video unterlegt von einer KI-Stimme, die sagt: "Den Führerschein gibt es ab November 2025 nur noch für Menschen, die arbeiten." Diese Behauptung ist frei erfunden.

Im Video: Hunderte Fake-Videos in diesem Stil fluteten TikTok

Die CDU erklärte im September gegenüber dpa factchecking [externer Link], es gebe keinerlei Planungen in diese Richtung. Aber nicht alle erkennen die Falschnachricht. Ein Nutzer kommentiert: "Ist das Real (sic!)?", eine Nutzerin schreibt: "wie will man Arbeit finden ohne FS (Führerschein, Anm. d. Red.)?".

Diese Führerschein-Behauptung fand sich im September dieses Jahres nach #Faktenfuchs-Recherche in ähnlichen Videos von mindestens acht unterschiedlichen TikTok-Accounts. Eines davon erreichte alleine rund 1,8 Millionen Nutzer. Und die Führerschein-Videos sind nur ein Beispiel aus einer Flut ähnlich inszenierter Falschnachrichten auf TikTok.

Einige von ihnen erreichten Hunderttausende Klicks. Ein Video mit der Behauptung, der Schultag beginne zukünftig erst um 10 Uhr, erhielt sogar fast drei Millionen Abrufe. Andere Videos behaupten, dass eine Reduzierung der Krankheitstage für Arbeitnehmer auf zehn Tage pro Jahr bevorstehe oder eine Kita-Pflicht ab dem 1. Lebensjahr.

Der #Faktenfuchs hat während der Recherche neunzehn Accounts identifiziert, die solche Fake-Nachrichtenvideos in großer Anzahl veröffentlichten. Und er hat mit Experten darüber gesprochen, wer dahinter stecken könnte, warum sich die Videos gerade auf TikTok so gut verbreiten und welchen Regeln und Gesetzen Falschbehauptungen auf TikTok unterliegen.

Das Prinzip "Plattformen mit billigen Inhalten fluten" ist nicht neu

Die Machart der Videos ähnelt sich: Sie enthalten häufig KI-generierte Bilder oder austauschbares, allgemeines Videomaterial. Insgesamt machen sie den Eindruck, mit wenig Aufwand produziert worden zu sein, sagt Politik- und Kommunikationswissenschaftler Marcus Bösch. Der Autor des Newsletters "Understanding TikTok" erklärt im #Faktenfuchs-Interview: "Man spricht hier von cheap fakes". Das sind billige Fakes, die lange Zeit einfacher zu produzieren waren als beispielsweise Deepfakes, die komplett KI-generiert oder manipuliert sind.

Bösch sagt: "Das Fluten von Plattformen mit Inhalt, der sich mit relativ wenig Aufwand erstellen und verbreiten lässt, gibt es, seitdem es Plattformen gibt." Sobald es neue technische Möglichkeiten wie KI-Bildgeneratoren gebe, würden diese auch zum Erstellen billiger Fakes eingesetzt.

Boulevard-Prinzip mit Falschbehauptungen

Die erfundenen Behauptungen aller Videos haben gemeinsam, dass "sie den Alltag von möglichst vielen Menschen betreffen", sagt Julia Smirnova, Senior Researcherin und Desinformationsexpertin beim Center für Monitoring, Analyse und Strategie (CeMAS) im Gespräch mit dem #Faktenfuchs.

Smirnova sagt: "Die Videos lösen - wie Schlagzeilen von Boulevardzeitungen - bei Menschen Überraschung, Schock, Ärger oder Freude aus." Das trieben sie mithilfe von Falschbehauptungen auf die Spitze.

Anspielungen auf echte Debatten: "Klassiker der Desinformationsverbreitung"

In den meisten Videos kommt Friedrich Merz prominent vor. "Als Bundeskanzler ist er allen Menschen in Deutschland bekannt. Es geht darum, den Eindruck zu erwecken, dass diese vermeintlichen Regelungen von der Bundesregierung kommen", erklärt Smirnova.

Durch die Behauptung teilweise absurd erscheinender Verbote oder Regeln würde der Eindruck erweckt, die Bundesregierung würde das Leben in Deutschland schwieriger machen und die Menschen schikanieren. "Diese Videos tragen dazu bei, Vertrauen in die Regierung zu untergraben und sie erzeugen auf Basis falscher Tatsachen das Gefühl, dass die Regierung nicht in ihrem Interesse handelt", so Smirnova.

Die Inhalte vieler Videos spielen dabei auf tatsächlich stattfindende Debatten an. Die Behauptung, Arbeitnehmer hätten zukünftig nur noch zehn Krankheitstage pro Jahr, erinnert etwa an die Debatte um die Lohnfortzahlung ab dem ersten Krankheitstag.

Marcus Bösch sagt: "Das ist ein Klassiker der Desinformationsverbreitung: Man nimmt etwas, was man irgendwie schon mal gehört hat oder was auch ein Pünktchen Wahrheit beinhaltet. Das triggert dieses: Ja stimmt, das habe ich auch in der Tagesschau gesehen".

Wer steckt hinter den Videos?

Aber handelt es sich bei den Videos tatsächlich um gezielte Desinformation? Von Desinformation spricht man, wenn ein Akteur wider besseres Wissen falsche Informationen verbreitet, um die Öffentlichkeit bewusst zu täuschen oder zu verunsichern. Marcus Bösch vermutet: "Da wir hier diverse Accounts haben, die auch alle von der Aufmachung ähnlich sind, kann man schon davon ausgehen, dass es sich um einen koordinierten Vorgang handelt."

Julia Smirnova hält auch ein kommerzielles Interesse der Account-Betreiber für denkbar. TikTok-Accounts mit mindestens 10.000 Followern können am Belohnungsprogramm der Plattform teilnehmen. Das trifft auf viele der vom #Faktenfuchs beobachteten Accounts mit den Fake-Nachrichtenvideos zu. Nur "originale, qualitativ hochwertige Inhalte" kommen allerdings laut TikTok für das Programm infrage. Smirnova sagt dennoch: "Die Monetarisierungsregeln von TikTok befördern Accounts, die um jeden Preis eine hohe Reichweite erzielen." Damit fördere man gleichzeitig auch Akteure mit böswilligen Absichten, die etwa versuchen, mit der Verbreitung solcher Falschinformationen Geld zu verdienen.

Von den neunzehn vom #Faktenfuchs identifizierten Accounts, die solche Fake-Nachrichtenvideos verbreiteten, hatten dreizehn mehr als 10.000 Follower. Ob diese Accounts am Belohnungsprogramm teilnehmen, bleibt unklar. Auf Anfrage äußerte sich TikTok dazu nicht.

"Deckt sich am Ende mit den Interessen russischer Desinformation"

Möglich sei auch eine Mischung von kommerziellen und politischen Interessen, indem sich Account-Betreiber von politischen Akteuren für ihre Reichweite bezahlen lassen, so Marcus Bösch. Auch Smirnova sagt: "Es gibt einen Markt für solche Accounts. Sie sind auch interessant für Desinformationsakteure mit politischem Interesse". So könne es vorkommen, dass sogenannte "Content Farms" Accounts mit mehr als 10.000 Followern hochziehen, die dann von politischen Akteuren gekauft werden. Content Farms produzieren Social Media-Inhalte in großen Mengen, um damit Reichweite und Werbeeinnahmen zu generieren.

Tatsächlich weisen die Fake-Nachrichtenvideos typische Merkmale russischer Propaganda auf, so Julia Smirnova: "Ein Ziel russischer Propaganda in Deutschland ist es, das Vertrauen in die Bundesregierung zu untergraben". Ob die Videos tatsächlich von einem staatlichen russischen Akteur oder von einem privaten Akteur mit kommerziellem Interesse verbreitet werden, ist aus Smirnovas Sicht dabei zweitrangig. Entscheidend sei: "Wenn diese Videos viral gehen und wenn sie eine Reichweite erzielen, deckt sich das am Ende mit den Interessen der russischen Desinformation."

Warum verbreiten sich solche Videos gerade auf TikTok?

Entscheidend dafür, wie stark sich diese Inhalte verbreiten, sei dabei die Struktur der Plattform, so Bösch: "Auf algorithmisch kuratierten Plattformen wie TikTok hat das Ganze nochmal an Dynamik gewonnen". Algorithmisch kuratiert heißt: Algorithmen und nicht Menschen entscheiden darüber, was Nutzer sehen. Welchen Accounts man folgt, ist dabei weniger ausschlaggebend als etwa auf Facebook. Wichtiger ist: Welche einzelnen Videos funktionieren gut?

So haben auch neue Accounts oder Nutzer mit wenigen Followern die Chance, mit ihren Inhalten viele andere User zu erreichen. TikTok belohne sogar Videos von neuen Accounts, um die Besitzer dieser Accounts an die Plattform zu binden, so Bösch. "Dementsprechend ist es aus Desinformationsverbreitungssicht gut, einfach 100 Accounts anzulegen und da überall mal ein paar Videos zu posten. Bei irgendeinem dieser 100 Accounts werden schon ein oder zwei Videos die nötige Reichweite machen", meint Bösch. Dieses Muster sehe man auch bei den Fake-Nachrichtenvideos aus dieser Recherche: "Da sind ein oder zwei Videos dabei, die haben Millionen Views und die anderen haben deutlich weniger. Das ist die algorithmische Logik."

Ein weiterer Grund dafür, dass sich TikTok so gut zur Verbreitung von "Cheap fakes" eigne, sei der "Dauer-Swipe-Modus" der Nutzer, so Bösch. Wenige Nutzer gehen dabei auf Accounts oder öffnen die Captions der Videos, um sie durchzulesen.

Um Fake-Nachrichten besser zu erkennen, rät Bösch daher Nutzern: "Das erste, was man machen sollte, ist, sich einmal den Account anzuschauen, der ein Video gepostet hat." Wenn dieser Account beispielsweise viele Videos von Friedrich Merz in einem ähnlichen Setting postet oder einen Accountnamen mit vielen Zahlen darin hat, sei Skepsis angebracht.

TikTok löscht Accounts nach #Faktenfuchs-Anfrage

Auch ein Blick in die Caption würde bei manchen dieser Videos helfen. Einige der Fake-Nachrichten-Accounts und -Videos, die sich der #Faktenfuchs angeschaut hat, enthalten einen versteckten Hinweis auf Satire. Bösch sagt: "Der Hinweis auf Satire ist ein minimaler Aufwand, um eine Sperrung zu umgehen." Auch Julia Smirnova von CeMAS sagt: "Viele von diesen Accounts behaupten, dass ihre Inhalte Satire seien, aber in Wirklichkeit geht es darum, mit Falschbehauptungen maximale Reichweite zu generieren." Die KI-Verordnung der Europäischen Union nimmt satirische Inhalte von einer Kennzeichnungspflicht KI-generierter Inhalte aus.

• Hier lesen Sie mehr über die Grenze zwischen Satire und Falschinformation.

Auch in den Community-Richtlinien von TikTok gibt es Ausnahmen für Satire [externer Link], etwa im Abschnitt über "Hatespeech". Dort steht auch, die Plattform erlaube keine schädlichen Fehlinformationen.

Auf eine schriftliche Anfrage des #Faktenfuchs äußerte sich TikTok bis zur Veröffentlichung dieses Artikels nicht. Zwei Tage nach der #Faktenfuchs-Anfrage an TikTok waren zwölf der darin genannten Accounts auf der Plattform nicht mehr verfügbar. Andere Accounts mit den gleichen Fake-Nachrichten waren allerdings zum Zeitpunkt der Veröffentlichung weiterhin auf der Plattform aktiv.

Videos mit Falschbehauptungen können strafbar sein

Das deutsche und europäische Recht enthält Regeln, die bestimmte Falschbehauptungen einschränken, erklärt Fay Carathanassis. Sie ist wissenschaftliche Mitarbeiterin am Lehrstuhl für Recht und Sicherheit der Digitalisierung an der Technischen Universität München (TUM) und am bayerischen Forschungsinstitut für Digitale Transformation (bidt). Sie sagt im Gespräch mit dem #Faktenfuchs: "Nach deutschem Recht darf man sich erstmal äußern, wie man will. Das ist gedeckt von der Meinungsfreiheit." Die Grenzen der Meinungsfreiheit können dann erreicht sein, wenn ein anderes schützenswertes Rechtsgut entgegenstehe – beispielsweise das Persönlichkeitsrecht.

Wenn Friedrich Merz in einem öffentlichen TikTok-Video also fälschlicherweise unterstellt wird, er wolle arbeitslosen Menschen den Führerschein wegnehmen, könne das den Straftatbestand der Verleumdung [externer Link] oder der üblen Nachrede erfüllen. "Der Unterschied zwischen den beiden Straftatbeständen liegt darin, ob sich der Äußernde dessen bewusst ist, dass es eine unwahre Tatsachenbehauptung ist oder nicht. Wenn er sich dessen bewusst ist, handelt es sich um Verleumdung", sagt Carathanassis.

Für die Juristin reichen unauffällige Hinweise auf Satire in manchen Video- oder Accountbeschreibungen nicht aus, um diese Straftatbestände zu entkräften: "Der Wortlaut der Videos suggeriert eine seriöse Berichterstattung. Die wenigsten werden die ganze Caption oder Biografie vom Account lesen", so Carathanassis.

Die Anonymität im Netz erschwere jedoch die Strafverfolgung. "Hier wäre es wahrscheinlich zielführender, gegen TikTok vorzugehen", sagt Carathanassis. Während Accountbetreibern empfindliche Geld- oder Freiheitsstrafen drohen würden, könnten Plattformen auf der Grundlage des deutschen Rechts dazu verpflichtet werden, Beiträge zu löschen.

EU verpflichtet Plattformen zur Minderung "systemischer Risiken"

Der Digital Services Act (DSA) der EU verpflichtet Plattformen, dass Nutzer direkt Inhalte melden können. Kommt ein solches Meldeverfahren zu keinem befriedigenden Ergebnis für den Beschwerdesteller, könne dieser immer noch vor Gericht ziehen, so Carathanassis.

Zusätzlich sind sehr große Plattformen wie TikTok nach dem DSA dazu verpflichtet, sogenannte "systemische Risiken" auf ihren Plattformen zu identifizieren und zu mindern. Ein solches systemisches Risiko liege etwa vor, wenn die Funktionsweise einer Plattform dazu beiträgt, dass sich bestimmte Videos verbreiten. Zum Beispiel Videos, "die tatsächliche oder absehbare nachteilige Auswirkungen auf die gesellschaftliche Debatte und auch Wahlprozesse und die öffentliche Sicherheit haben", erklärt Carathanassis. Wie diese Regelung genau umgesetzt werden soll, ist allerdings noch unklar. Der Digital Services Act enthält beispielsweise keine genaue Definition davon [externer Link], was ein systemisches Risiko ist und wann es vorliegt.

Fazit

Der #Faktenfuchs hat Hunderte TikTok-Videos von mehr als einem Dutzend Accounts mit Falschnachrichten über angebliche Maßnahmen der deutschen Bundesregierung gefunden. Die Gemeinsamkeit der Videos: Friedrich Merz kommt darin prominent vor und die in den jeweiligen Videos behaupteten Regeln würden in den Alltag vieler Menschen eingreifen. Experten vermuten dahinter kommerzielle Interessen oder eine politische Desinformationskampagne. Das Prinzip, Plattformen mit günstig produzierten Inhalten zu fluten, ist nicht neu. Der TikTok-Algorithmus eignet sich besonders gut für ein solches Vorgehen.

Quellen:

Interviews/Presseanfragen:

Interview mit Marcus Bösch, Politik- und Kommunikationswissenschaftler und Autor des Newsletters "Understanding TikTok"

Interview mit Fay Carathanassis, wissenschaftliche Mitarbeiterin am Lehrstuhl für Recht und Sicherheit der Digitalisierung an der Technischen Universität München (TUM) und am bayerischen Forschungsinstitut für Digitale Transformation (bidt)

Interview mit Julia Smirnova, Desinformationsexpertin beim "Center for Monitoring, Analyse und Strategie" (CeMAS)

Presseanfrage bei TikTok

Veröffentlichungen

BR24: Allianz-Chef: Lohnzahlung am ersten Krankheitstag streichen

dpa factchecking: Führerschein bleibt Menschen ohne Job erhalten

neuneinhalb: Wie funktioniert der TikTok Algorithmus

NewsGuard: TikTok Content Farms Use AI Voiceovers to Mass-Produce Political Misinformation

Strafgesetzbuch §186 Üble Nachrede

Strafgesetzbuch §187 Verleumdung

TikTok: Belohnungsprogramm für Creator*innen

TikTok: Community-Richtlinien

TikTok: Hassrede oder hasserfülltes Verhalten

Verfassungsblog: KI als neues Wahlkampfinstrument

Verfassungsblog: Wahlen in der wehrhaften Plattform-Demokratie

"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!