Darum geht’s:
- Der #Faktenfuchs hat insgesamt zwanzig Accounts auf TikTok und Youtube gefunden, die massenhaft Videos mit KI-Avataren zu Renten-Themen posteten.
- Aufgrund öffentlich zugänglicher, kostenloser Programme ist das massenhafte Erstellen von Videos mit KI-Avataren leichter geworden.
- Optische Fehler in Deepfakes werden seltener. Experten raten deshalb auch dazu, immer die Quellen zu prüfen.
Ein Mann im Anzug und mit Halbglatze spricht auf Tiktok zu den Nutzern: "Freunde, setzt euch hin und hört genau zu! Denn das, was ich euch heute erzähle, könnte eure gesamte finanzielle Zukunft verändern. Gerade in diesen Stunden bricht bei der deutschen Rentenversicherung ein Skandal aus, der Millionen Rentner in Deutschland in die Verzweiflung stürzt." Das Video sahen auf TikTok fast 140.000 Nutzerinnen und Nutzer.
Keine 2,2 Millionen Rentenbescheide falsch ausgestellt
Aber der Mann mit der Halbglatze ist nicht echt, sondern ein Deepfake. Alles an ihm – vom Aussehen bis zur Stimme – wurde mittels Künstlicher Intelligenz erstellt. Auch, was im weiteren Verlauf des Videos gesagt wird, stimmt nicht. Der KI-Mann behauptet, dass 2,2 Millionen Rentenbescheide falsch ausgestellt worden seien, weil die Rentenkassen Berechnungsfehler gemacht hätten. Die Deutsche Rentenversicherung (DRV) Bund widerspricht dem in einer Antwort auf #Faktenfuchs-Anfrage. Michael Popp, Fachreferent für Alterssicherung beim Sozialverband VdK bestätigt dem #Faktenfuchs auf Anfrage, dass nicht 2,2 Millionen Rentenbescheide falsch ausgestellt wurden. Mit Rentenbescheiden werden Neu-Rentner informiert, etwa über Rentenart, Rentenhöhe oder Rentendauer.
Dieser Deepfake-Avatar behauptet fälschlicherweise, 2,2 Millionen Rentenbescheide seien falsch ausgestellt worden.
Die DRV Bund und Michael Popp vom VdK verweisen darauf, dass schon 2025 die Behauptung kursierte, rund 22 Millionen Rentenbescheide seien falsch berechnet worden. Die "Bild"-Zeitung hatte das behauptet (externer Link, möglicherweise Bezahlinhalt). Hintergrund war laut Spiegel (externer Link, möglicherweise Bezahlinhalt) die Erhöhung des Beitragssatzes zur Pflegeversicherung zum 1. Januar 2025 von 3,4 auf 3,6 Prozent. Bei Bestands-Rentnerinnen und Rentnern wurde die Erhöhung für das erste Halbjahr erst im Juli nachgeholt. Die entsprechende Verordnung sah dafür eine pauschale Berechnung vor: Im Juli wurden einmalig 4,8 Prozent der nun geltenden Juli-Rente als Pflegeversicherungsbeitrag angesetzt. Da die Renten zum 1. Juli zugleich gestiegen waren, fiel der Nachholbetrag auf der Basis der nun höheren Renten geringfügig höher aus als bei einer monatsgenauen Berechnung auf Grundlage der Renten von Januar bis Juni. Die "Bild"-Zeitung wertete diese Abweichung als Berechnungsfehler. Tatsächlich hatte die Rentenversicherung die in der Verordnung vorgesehene Berechnung angewandt (externer Link).
Laut Widerspruchsstatistik der DRV Bund wurden 2025 rund 2 Millionen Rentenbescheide erlassen. In rund 167.000 Fällen davon wurde ein Widerspruchsverfahren durchgeführt, so die DRV Bund in einer Mail an den #Faktenfuchs. In 1.400 Fällen seien tatsächlich Fehler aufgetreten. Zu Widersprüchen gegen Rentenanpassungen liegen der DRV Bund keine Zahlen vor, schreibt ein Sprecher dem #Faktenfuchs auf Anfrage.
Wiederkehrende Deepfake-Avatare auf mehreren Kanälen
Das Video ist eines von hunderten Deepfake-Videos auf YouTube und TikTok, in denen Fake-Influencer vermeintliche Renten-Nachrichten vortragen. Einige der Videos erreichten hunderttausende Nutzer. TikTok und YouTube haben einen großen Teil dieser Videos nach #Faktenfuchs-Anfragen zu dem Phänomen gelöscht. Einige solcher Videos waren aber auch danach noch auf den Plattformen aufzufinden.
Der #Faktenfuchs fand insgesamt neun Kanäle auf YouTube und elf Kanäle auf TikTok, die massenhaft derartige Videos über das Thema Rente posteten. Immer kamen Deepfake-Avatare zum Einsatz. Sie behaupten etwa, die Bundesregierung habe 240 Milliarden Euro aus der Rentenkasse gestohlen oder das Bundesverfassungsgericht habe ein Urteil gefällt, dass die "gesamte Rentenpolitik auf den Kopf stellen" könne. Beides stimmt nicht.
Welche Interessen könnten hinter diesen Videos stecken, wie können Rentner immer besser werdende KI-Avatare zukünftig noch erkennen - und was tun die Plattformen dagegen?
Deepfake-Avatare sind einfach und billig zu erstellen
Maria Pawelec, Deepfake-Forscherin am Internationalen Zentrum für Ethik in den Wissenschaften an der Universität Tübingen, sagt im Interview mit dem #Faktenfuchs, dass Soziale Netzwerke mit komplett KI-generierten Inhalten geflutet werden, sei grundsätzlich nichts Neues. "Sowas ist inzwischen unglaublich einfach zu erstellen. Es gibt sehr viele Tools, die online zugänglich sind, häufig sogar kostenlos." Per Textbefehl könne man definieren, was ein Videogenerator erstellen soll.
Pawelec gibt ein Beispiel: "Erstelle mir ein Video eines älteren, gut angezogenen Herrn im Anzug, der vor einer Bücherwand steht und einen Vortrag hält." So sei es mit wenig Mühe möglich, viele Videos von den scheinbar selben Personen in immer wieder ähnlichen Klamotten und vor ähnlichen Hintergründen zu generieren. "Es gibt Anleitungen dazu, wie man sowas schnell erstellt, wie man die überzeugendsten Avatare auswählt – zum Beispiel auch, wenn man explizit ältere Menschen ansprechen möchte."
Vor ihrer Löschung trugen die Kanäle auf YouTube häufig Namen wie "Renten Nachrichten DE" oder "Deutscher Renten-Insider". Auf TikTok hatten die Namen der Kanäle nichts mit den Inhalten der Renten-Deepfakes zu tun. Zumeist tauchte aber sowohl auf TikTok, als auch auf YouTube, auf einem einzelnen Kanal derselbe KI-Influencer immer wieder auf. Offenbar sollte der Eindruck erweckt werden, hier handele es sich um Experten, die regelmäßig Videos rund um die Rente veröffentlichen.
Eine dieser KI-Influencerinnen sagt etwa in einem Video: "Herzlich Willkommen bei Rentenwissen, Ihrem vertrauenswürdigen Kanal rund um alles, was Sie über Rente, Altersvorsorge und Ihre Rechte als Rentnerin oder Rentner in Deutschland wissen müssen. Schön, dass Sie heute wieder dabei sind."
Hunderte Videos mit Deepfake-Avataren wie diese verbreiten vermeintliche Renten-News. Darunter mischen sich Falschinformationen.
KI wird auch für "Enkeltrick 2.0" missbraucht
Für Pawelec passen die Videos zur Entwicklung, dass es immer mehr betrügerische Deepfakes gibt, die sich teils gezielt an Rentnerinnen und Rentner richten: "Ganz beliebt ist ja der Enkeltrick 2.0, wo mit der KI-generierten Stimme von Enkelinnen, Söhnen oder wem auch immer angerufen und um Geld gebeten wird."
Die Deutsche Rentenversicherung Bund schreibt auf #Faktenfuchs-Anfrage, dass ihnen die Videos bekannt sind. Die Informationen würden oft verkürzt dargestellt und bewusst falsch aufbereitet, um reißerisch zu wirken und Klicks zu generieren, so die DRV Bund: "Auch werden häufig Auswirkungen in finanzieller Hinsicht in den Vordergrund gestellt, die in der Realität nicht zutreffen."
Richard Kuchta, Experte für Desinformation und Plattformen am Institute for Strategic Dialogue (ISD) sagt im #Faktenfuchs-Interview: "Man hat keine Daten, die zeigen würden, dass ältere Altersgruppen anfälliger dafür sind, Deepfake-Videos zu glauben." Man sehe aber, dass ältere Menschen eher von Online-Betrug betroffen sind als jüngere Menschen.
Stecken monetäre Interessen hinter den Videos?
Auch unter den Videos von einem der YouTube-Kanäle, die der #Faktenfuchs im Rahmen dieser Recherche gefunden hat, fanden sich Links zu einer Seite, auf der auf betrügerische Art und Weise Nahrungsergänzungsmittel und Medizinprodukte mit Deepfakes von Prominenten beworben wurden.
Die restlichen neunzehn Accounts auf TikTok und YouTube, die der #Faktenfuchs in dieser Recherche fand, fügten ihren Videos allerdings keine weiterführenden Links an, die zu mutmaßlichen Betrugsmaschen führten. Maria Pawelec vermutet dennoch finanzielle Motive: "Ich glaube, dass viele dieser Inhalte gepostet werden, damit sie auf den Plattformen viral gehen und man das Ganze monetarisieren kann."
Viele Videos, die der #Faktenfuchs gefunden hat, erfüllen jedoch Kriterien, die sie laut TikToks eigenen Regeln (externer Link) eigentlich vom Monetarisierungsprogramm der Plattform ausschließen. So war eine ganze Reihe dieser Videos als "Werbeinhalt" gekennzeichnet, warum, ist unklar. Klar ist aber: Werbung kann auf TikTok laut Plattform-Regeln nicht zusätzlich monetarisiert werden. Auch "falsche oder irreführende Informationen" sind vom Belohnungsprogramm von TikTok ausgeschlossen.
Auf YouTube wiesen manche der Renten-Deepfake-Videos, die der #Faktenfuchs gefunden hat, Merkmale auf, die auf eine Monetarisierung der Kanäle oder einzelner Videos hindeuten - etwa, weil Werbung angezeigt wurde.
Auch politische Desinformation möglich
Richard Kuchta vom ISD hält es für wahrscheinlicher, dass die Videos politischer Desinformation zuzuordnen sind: "Es sieht eher nach einer Art von Online-Propaganda aus, die sich gegen die Regierung richtet", so Kuchta. Die Videos seien seinem Eindruck nach darauf ausgelegt, ein Gefühl der Unzufriedenheit aufzugreifen und weiter zu verstärken. "Es handelt sich eindeutig um jemanden, der die Nachrichten in Deutschland beobachtet und der auch versteht, was wichtige Themen in Deutschland sind".
Dafür, dass mit den Videos eher ein diffuses Gefühl der Unzufriedenheit angesprochen werden soll, könnte sprechen, dass sich insbesondere die TikTok-Nutzung bei über 50-Jährigen in Grenzen hält. Lediglich 2,25 Prozent der über 50-jährigen gaben in der Medienstudie von ARD und ZDF von 2025 an, sie hätten gestern TikTok genutzt. Für YouTube lag dieser Wert höher, bei 11,1 Prozent.
Experten raten: Quelle prüfen, Manipulations-Anfälligkeit reflektieren
In den Kommentaren unter den Videos zeigt sich, dass viele Nutzer Schwierigkeiten damit haben, diese Deepfakes zu erkennen.
Unter dem Video mit den angeblich falsch ausgestellten Rentenbescheiden schreibt ein Nutzer etwa: "Die Rentenkasse war schon immer der Selbstbedienungsladen der Regierung", der Kommentar hatte etwa drei Wochen nach Veröffentlichung 121 Likes. Ein anderer Nutzer schreibt: "Hoffentlich wird mal eine Kassenprüfung durchgeführt", hier drückten 254 Nutzer ihre Zustimmung aus.
Und das, obwohl Maria Pawelec über die Renten-Deepfakes sagt: "Es wird gar nicht versucht, besonders überzeugende Videos mit abwechslungsreichen Hintergründen zu generieren." Quantität werde über Qualität priorisiert. "Die Stimmen sind nicht unbedingt State of the Art, teilweise sind es immer noch die Art von KI-generierten Stimmen, die wir vielleicht vor ein, zwei Jahren standardmäßig erwartet hätten." In den Renten-Deepfakes finden sich etwa häufig unnatürliche Betonungen und Pausen oder seltsame Akzente.
Wie sollen Rentner und andere Nutzer solche KI-Avatare zukünftig noch erkennen, wenn die Qualität dieser Videos noch besser wird? Pawelec sagt: "Durch die rasante technische Entwicklung ist es gar nicht so sinnvoll, zu versuchen, im Medium selbst irgendwas zu erkennen." Hilfreich sei es hingegen, sich den größeren Kontext und den Inhalt der Videos anzuschauen.
"Man kann natürlich ganz klassisch die Quelle prüfen: Ist das eine vertrauenswürdige Quelle oder postet diese Quelle jeden Tag 20 Videos, die alle die gleiche Person vor dem gleichen Hintergrund zeigen?" Ein weiterer Hinweis sei die Profilbeschreibung: Viele der Accounts, die solche Fake-Videos posten, haben keine Profilbeschreibung oder ein Profilbild, das etwas zeigt, was wenig mit dem Inhalt der Posts zu tun hat. Seriöse Nachrichtenkanäle oder Kanäle von Wissens-Influencern würden so nicht vorgehen, sondern hätten zum Beispiel einen Link zu einer Website mit Impressum oder zumindest gewisse Selbstbeschreibungen.
Richard Kuchta vom ISD sagt: "Wir beim ISD haben generell sehr viele Videos, die KI-generiert wurden, auf TikTok gefunden." Allerdings zweifelt er daran, dass alle Interaktionen mit diesen Videos echt sind. Darauf deuteten etwa Muster in den Posts hin, zum Beispiel, wenn ein Video verhältnismäßig viele Likes im Vergleich zu den Aufrufen habe. "Es sind sehr oft Kanäle, die nicht so originelle Inhalte produzieren und es gibt dutzende Accounts, die dann genau die gleichen Inhalte teilen."
Videos nutzen menschliche Schwächen aus
Dass diese Inhalte viel Aufmerksamkeit erzeugen können, liege daran, dass sie sehr reißerisch sind und gezielt menschliche Schwächen ausnutzen, so Pawelec. Insbesondere Inhalte, die negative Emotionen wie Angst, Hass oder Wut hervorrufen, binden unsere Aufmerksamkeit. "Das nennen wir in der Forschung den Negativity Bias (externer Link, möglicherweise Bezahlinhalt), also die Negativitätsverzerrung." Bei Rentnerinnen und Rentnern seien diese negativen Emotionen häufig so etwas wie Angst vor Armut, sozialem Abstieg, körperlichen Gebrechen oder Einsamkeit.
Eine zweite Schwäche, die solche Videos ausnutzen, sei der sogenannte Bestätigungsfehler, "also dass Menschen gerne vor allem das glauben oder als wahr akzeptieren, was ihrem eigenen Weltbild und den bestehenden Überzeugungen entspricht".
Dass man dazu neigt, bei solchen Videos nicht sofort weiterzuwischen, sei nicht nur im Interesse der Verbreiter, sondern auch im Interesse der Plattformen, so Pawelec: "Tatsächlich ist es ja so, dass die Plattformen finanziell profitieren, wenn wir besonders lange auf ihnen verharren, wenn wir viel interagieren, wenn wir viele Daten preisgeben."
Was tun die Plattformen?
TikTok kündigte bereits am 10. Juli 2026 (externer Link) an, dass die Plattform verbesserte Erkennungssysteme für KI-generierten Spam teste.
Die Plattform schreibt dem #Faktenfuchs auf Anfrage, man habe auch die Renten-Deepfakes, die der #Faktenfuchs in der Anfrage mitgeschickt hat, wegen Verstößen gegen die Community-Richtlinien entfernt und werde dies auch weiterhin tun. Warum die laut TikTok-Angaben verbesserten Erkennungssysteme für KI-generierten Spam die Videos nicht schon vorher erkannten, beantwortete TikTok nicht. Auch nach der Antwort von TikTok auf die Anfrage waren noch Accounts online, die solche Renten-Deepfakes posteten.
Auch die YouTube-Richtlinie zu Spam (externer Link) verbietet "fließbandartiges Erstellen großer Mengen ähnlicher Inhalte mit nur minimalen Änderungen mithilfe von automatisierten Tools oder KI." Pawelec sagt: "Das würde ich zum Beispiel genau bei diesen Kanälen sehen. Da ist immer die gleiche KI-generierte Person mit den gleichen Klamotten, der gleichen KI-generierten Stimme, vor dem gleichen Hintergrund. Und dann werden sehr viele ähnliche Inhalte da gepostet."
Ein YouTube-Sprecher schreibt dem #Faktenfuchs auf Anfrage allgemein gehalten: "YouTube hat klare, etablierte Richtlinien gegen irreführende Praktiken. Diese Richtlinien verbieten Spam, Betrug und andere Praktiken, durch die die YouTube-Community getäuscht oder ausgenutzt wird." Die gemeldeten Kanäle habe man wegen Verstößen gegen diese Richtlinien entfernt. Auf konkrete Fragen, zum Beispiel wie weit verbreitet solche KI-Avatare auf der Plattform sind, ging YouTube in der Antwort nicht ein.
Die meisten Renten-Deepfakes, die der #Faktenfuchs auf YouTube gefunden hat, waren als KI-generiert gekennzeichnet. Das KI-Kennzeichen von YouTube-Videos ist ein eingekreistes, graues i, neben dem "KI" steht. Die Kennzeichnung ist deutlich kleiner als der Titel selbst. Eine solche Kennzeichnung fehlte hingegen bei den meisten dieser Videos auf TikTok - und das, obwohl wie Youtube auch TikTok (externer Link) seine Nutzer dazu verpflichtet, KI-generierte Videos als solche zu kennzeichnen. Seit dem 2. August 2026 müssen Deepfakes in der Europäischen Union auch von Gesetz wegen gekennzeichnet werden.
Fazit
Der #Faktenfuchs hat hunderte Deepfakes auf YouTube und TikTok gefunden, die vermeintliche Renteninformationen verbreiteten, darunter Falschinformationen. Auf TikTok hatten einige der Videos mehrere hunderttausend Aufrufe. In den Videos einzelner Kanäle taucht häufig jeweils immer wieder derselbe Deepfake-Avatar auf. Die Videos nutzen zwei menschliche Schwächen aus: Negativen Inhalten Aufmerksamkeit zu schenken und Inhalte eher zu glauben, wenn sie dem eigenen Weltbild entsprechen. Da die Qualität solcher Deepfake-Avatare stetig besser wird, raten Experten dazu, nicht nur auf Fehler im Videos zu achten. Zusätzlich solle man stets die Quellen prüfen.
TikTok und YouTube haben einen Teil der Renten-Deepfakes inzwischen von den Plattformen gelöscht.
Quellen:
Interviews/Presseanfragen
Anfrage bei der Deutschen Rentenversicherung Bund
Anfrage bei Michael Popp, Fachreferent für Alterssicherung beim Sozialverband VdK
Interview mit Richard Kuchta, Senior Analyst am Institute for Strategic Dialogue (ISD)
Interview mit Maria Pawelec, wissenschaftliche Mitarbeiterin am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) Tübingen, Forschungsgruppe Medienethik, Technikphilosophie & KI
Veröffentlichungen
bild.de: 22 Millionen Rentenbescheide falsch!
BR24: Wie KI-generierte Influencerinnen Wahlkampf für die AfD machen
BR24: Wie können sich Senioren vor Deepfakes schützen?
Cybersicherheitsagentur Baden-Württemberg: Deepfakes - Was ist das?
Deutsche Rentenversicherung: Pflegebeiträge korrekt umgesetzt: Renten wurden richtig berechnet
Nature Index: Negativity Bias in Media Exposure
spiegel.de: Deutsche Rentenversicherung dementiert Behauptung von 22 Millionen falschen Bescheiden
TikTok: Belohnungsprogramm für Creator*innen
TikTok: Helping people spot and understand AI generated content on TikTok
TikTok: KI-generierter Inhalt
ZDF heute: Wann Sie KI in Fotos, Videos oder Texten kennzeichnen müssen
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!