Wie Deepfakes ärztliche Glaubwürdigkeit angreifen

Ein bekanntes Ärztegesicht wirbt für ein Nahrungsergänzungsmittel, das es nie empfohlen hat. Das kursiert längst in großer Zahl. Ein Röntgenbild sieht aus wie eine echte Aufnahme und stammt doch von einer KI. Das ist bislang ein Studienergebnis, zeigt aber, wohin die Technik reicht.

Inhaltsverzeichnis

Irgendwann im Jahr 2024 tauchten sie zum ersten Mal in größerer Zahl auf, Anzeigen auf Instagram, Facebook, TikTok und YouTube, in denen Ärzte der Charité angeblich Nahrungsergänzungsmittel empfehlen, vermeintliche Alzheimer-Medikamente anpreisen oder für Blutzuckermessgeräte werben. Die Charité bewirbt und vertreibt keine Medizinprodukte und ihre Ärzte tun das grundsätzlich auch nicht. Eigentlich eine Selbstverständlichkeit. Trotzdem zwang die Entwicklung eine der größten Universitätskliniken Europas dazu, auf ihrer Website einen Warnhinweis prominent zu platzieren, weil Kriminelle systematisch das Gegenteil behaupten.

„Im Jahr 2024 haben wir erstmals ein vermehrtes Aufkommen von Fake-Werbung beobachtet und einen entsprechenden Hinweis auf unserer Website eingestellt. Seitdem stieg die Zahl der beobachteten und gemeldeten Werbebeiträge deutlich an, wobei bei der Erstellung verstärkt KI eingesetzt wird“, sagt Markus Heggen, Leiter des Geschäftsbereichs Medien und Politik und Unternehmenssprecher der Charité. Aktuell beziehen sich die Fälschungen auf etwa ein Dutzend unterschiedlicher Produkte, darunter Nahrungsergänzungsmittel, angebliche Alzheimer- und Krebsmedikamente, Potenzmittel und Blutzuckermessgeräte.

Für niedergelassene Ärzte ist das Muster nicht grundsätzlich neu, nur die Wucht der Nachahmung ist eine andere. Wer öffentlich sichtbar ist, etwa mit Praxiswebsite, Podcast oder einem Interview in der Lokalzeitung, wird potenziell zur Kulisse für ein Produkt, das er nie in der Hand hatte. Die Masche funktioniert, weil sie auf etwas setzt, das schwer zu imitieren und deshalb umso wertvoller ist, nämlich ärztliche Glaubwürdigkeit. Ein unbekanntes Gesicht, das ein Wundermittel anpreist, erzeugt Skepsis. Ein wiedererkennbares Praxislogo oder ein Arztgesicht mit akademischem Kontext lässt ein Angebot dagegen seriös wirken. Das kann besonders auf Menschen zutreffen, die unter chronischen Schmerzen, Übergewicht oder einer anderen belastenden Erkrankung leiden und nach Lösungen suchen.

Ein Geschäftsmodell namens Rufmord

Was hinter den Fake-Anzeigen steckt, ist keine Bastelarbeit einzelner Täter, sondern eine arbeitsteilig organisierte Betrugsindustrie. Nach einer ARD-Recherche beruhen die Strukturen auf einem Netzwerk internationaler Datenhändler, die gezielt bekannte Gesichter aus Medizin und Unterhaltung einsetzen. Per KI werden Stimme und Mimik so nachgebildet, dass die Fälschungen schwer zu erkennen sind. Nach Angaben des RedaktionsNetzwerk Deutschland RND sitzen die Betrüger im Ausland, Steuerung und Vertrieb verteilen sich auf mehrere Länder.

Die beworbenen Mittel versprechen häufig, was keine Arznei der Welt leisten kann. In der Regel stecken dahinter laut RND keine zugelassenen Arzneimittel, sondern Nachahmerprodukte oder teure Nahrungsergänzungsmittel, bei denen weder der Nutzen noch die Sicherheit belegt ist. Sie können Patienten auch gefährden, warnt Bundesärztekammer-Präsident Klaus Reinhardt: Die Präparate seien oft nutzlos und teuer, in manchen Fällen aber gesundheitsschädlich, und das unter dem Anschein ärztlicher Empfehlung.

„Es finden sich derzeit leider immer wieder betrügerische Werbeanzeigen auf Social-Media-Plattformen, die unerlaubt das Logo oder den guten Namen der Charité für ihre Zwecke missbrauchen oder mit bekannten Medizinern oder angeblichen Mitarbeitenden der Charité werben“, beschreibt Heggen, wie professionell die Fälschungen inzwischen wirken.

Die Spur führt bis nach Brasilien

Wie tief das Geschäftsmodell der Betrügermaschinerie reicht, zeigt die Recherche von Eckart von Hirschhausen. Der Arzt und Moderator ist selbst Betroffener. Nach seiner eigenen Schätzung kursieren rund 2.000 gefälschte Versionen seiner Person im Netz, Fernsehausschnitte aus seinen Gesundheitssendungen wurden mit einer KI-gefälschten Stimme unterlegt, um für Scheinmedikamente zu werben. In der ARD-Dokumentation „Hirschhausen und die Deepfake-Mafia“, im Mai 2026 im Rahmen des Themenschwerpunkts „Age of Fake“ ausgestrahlt, folgt er den Spuren der Betrugsindustrie von Deutschland bis nach Brasilien. Neben ihm sind unter anderem der Moderator Ingo Zamperoni und der Ernährungsmediziner Matthias Riedl betroffen, deren Identitäten für dieselben Zwecke missbraucht wurden.

Juristisch gelang Hirschhausen bereits im März 2025 ein Teilerfolg gegen eine Plattform. Das Oberlandesgericht Frankfurt entschied im Eilverfahren, dass ein Hostprovider, hier Meta, nach einem Hinweis auf einen rechtsverletzenden Post auch sinngleiche Inhalte sperren muss, ohne dass es weiterer Hinweise bedarf. Als sinngleich gelten Beiträge, die in Text und Bild identisch sind und bei gleichbleibendem Gesamteindruck lediglich anders gestaltet wurden, etwa durch andere Auflösung, anderen Zuschnitt, Farbfilter oder eine Bildunterschrift. Das Gericht berücksichtigte dabei den inzwischen in Kraft getretenen Digital Services Act. Die Grenze liegt im Wort sinngleich: Hinweise auf andere Fake-Videos, die sich in Bild und Text unterscheiden, lösten keine Prüfpflicht aus. Wie zäh die Umsetzung in der Praxis bleibt, zeigt nach Hirschhausens Angaben eine Analyse, die er bei einem österreichischen Medieninstitut in Auftrag gab. Danach waren nur rund 30 % der mit seinem Gesicht verbreiteten Fakeanzeigen zum Auswertungszeitpunkt gelöscht, 70 % liefen weiter. Jedes entfernte Deepfake werde binnen kurzer Zeit durch mehrere neue ersetzt, kritisiert der prominente Arzt und fordert eine deutlich strengere Plattformhaftung sowie schnellere behördliche Reaktionszeiten.

Nicht nur Einzelmaßnahmen

Die Charité hat früh entschieden, nicht auf Einzelmaßnahmen gegen den Betrug zu setzen. Heggen sagt dazu: „Aus unserer Sicht sind gebündelte Ansätze am vielversprechendsten.“ So geht die Charité rechtlich gegen Social-Media-Plattformen vor, die entsprechende Fake-Anzeigen verbreiten, aber auch gegen die Hosting-Anbieter der betrügerischen Websites. Das geht sogar bis hin zu den Vertriebsplattformen, über die die beworbenen Produkte verkauft werden. „Zugleich informieren wir auf unserer Website und unseren Social-Media-Kanälen über das Problem und warnen vor den Betrugsmaschen“, erklärt Heggen die Strategie.

Intern gibt es eine direkte Meldestelle. Mitarbeiter können Fälle per E-Mail melden. Ein interdisziplinäres Team verschiedener Geschäftsbereiche kümmert sich um Löschung und die Einleitung weiterer rechtlicher Schritte. Ist der Urheber bekannt, wird er um Löschung ersucht und mit strafbewehrter Unterlassungserklärung abgemahnt; häufig kommt eine Strafanzeige dazu.

Auf die Frage, was sich die Charité vom Gesetzgeber wünscht, antwortet Heggen ohne Umschweife. „Der Großteil der Fake-Ads wird über wenige große Social-Media-Plattformen verbreitet. Die Betreiber entscheiden darüber, welche Inhalte verbreitet oder entfernt werden. Wir sehen weniger Bedarf an neuen Gesetzen als vielmehr an einer konsequenteren Durchsetzung der Bestehenden.“ In dieselbe Richtung zielt auch Hirschhausens Forderung aus seiner Dokumentation.

Dass die Durchsetzung hakt, hat auch mit Zuständigkeiten zu tun. Die Verbraucherzentrale NRW fordert laut RND, das sich auf die Apotheken Umschau beruft, eine zentrale Anlaufstelle, bei der sich irreführende Gesundheitswerbung melden lässt. Bisher teilen sich Ärztekammern, Lebensmittelüberwachung, Landesmedienanstalten und Gesundheitsämter die Zuständigkeit. Die Rechtsanwältin Franka Becker hält im Anwaltsblatt das rechtliche Instrumentarium für tragfähig. Die Durchsetzung scheitere jedoch oft an der Anonymität der Täter und an Beweisfragen.

Was in der Sprechstunde ankommt

Für Ärzte ist das, was auf Plattformen passiert, kein virtuelles Problem. Es landet in der Sprechstunde und im Krankenhaus. Patienten, die ein Deepfake-Video gesehen haben, in dem ein bekannter Arzt ein bestimmtes Mittel empfiehlt, kommen mit Überzeugungen, die schwer zu korrigieren sein können, wenn sie emotional verankert sind. Für Ärzte bedeutet das vor allem, solche Missverständnisse im Gespräch aufzuklären.

„Fake-Videos zu Medizinprodukten oder Therapieverfahren können kurzfristig für Verunsicherung sorgen. Nach unseren Erfahrungen bleibt das Vertrauen vieler Patientinnen und Patienten jedoch stabil, wenn klar kommuniziert wird, dass es sich um manipulierte Inhalte handelt. Daher haben wir uns auch entschieden, diese Betrugsmaschen öffentlich zu machen“, sagt Heggen. „Entscheidend ist und bleibt der direkte persönliche Kontakt zwischen Ärztinnen bzw. Ärzten und ihren Patientinnen und Patienten.“

Wer als Arzt routinemäßig nachfragt, woher Patienten ihre Informationen haben, schafft früh Gelegenheit zur Einordnung, bevor sich Fehlinformationen in der therapeutischen Beziehung festsetzen. So wird die Gesprächsführung selbst zur Schutzmaßnahme, und wer fragt, erfährt auch schneller, wenn eine gefälschte Anzeige mit dem Namen der eigenen Praxis oder Klinik kursiert, die der eigenen Kommunikation noch unbekannt ist.

Heggen fasst zusammen, was Patienten konkret tun können. „Im Zweifel empfiehlt es sich, Inhalte lieber einmal mehr kritisch zu hinterfragen, insbesondere bei sehr großen Versprechen oder emotionalen Botschaften. Informationen sollten über offizielle Kanäle überprüft oder direkt mit behandelnden Ärztinnen und Ärzten abgeklärt werden. Typische Warnsignale sind insbesondere emotionaler Kaufdruck und unrealistische Heilversprechen.“

Ist ein Arzt betroffen und will er sich wehren, setzt das voraus, dass er vom Fake überhaupt weiß. Wer keine prominente Medienpräsenz hat, erfährt von einer gefälschten Anzeige oft erst, wenn ein Patient sie zeigt. Wer regelmäßig den eigenen Namen und die eigene Praxis oder Einrichtung googelt und Suchalerts eingerichtet hat, kann eine Fälschung früher entdecken als jemand, der darauf angewiesen ist, dass ein Patient sie meldet. Personalisierte Anzeigen in sozialen Netzwerken erfassen diese Werkzeuge allerdings nicht vollständig.

Auch die Standesvertretung hat das Thema auf dem Schirm. Bundesärztekammer-Präsident Klaus Reinhardt sagte der dpa im Mai, man sehe die zunehmende Verbreitung von Deepfakes im medizinischen Kontext „mit großer Sorge“. Er forderte Aufklärungskampagnen in sozialen Netzwerken. Nach Reinhardts Darstellung ist Ärzten in Deutschland Werbung für Therapien und Präparate untersagt. Skepsis sei deshalb angebracht, wenn vermeintliche Mediziner online für solche Produkte werben. Die Bundesärztekammer informiere Ärzte zudem über mögliche rechtliche Schritte gegen Desinformation.

Wird ein Fake entdeckt, sollten Betroffene die Inhalte samt Metadaten sichern, bevor sie gelöscht werden, rät Becker. Danach folgt die Meldung an die Plattform mit Hinweis auf die konkrete Rechtsverletzung. Der Digital Services Act sieht dafür ein eigenes Meldeverfahren vor, das Becker als praktisch wichtigstes Durchsetzungsinstrument gegen Plattformen beschreibt. Rechtlich ist die Lage für Betroffene nicht schlecht: Das Recht am eigenen Bild gilt nach Beckers Darstellung auch für synthetische Abbilder, und auch die Stimme ist geschützt. Sinnvoll sind außerdem rechtlicher Beistand für Unterlassungsansprüche, eine Information der eigenen Praxis oder Klinik für koordinierte Kommunikation sowie eine Strafanzeige bei der Polizei.

Ein Risiko aus dem Labor

Bislang sind Deepfakes in der Medizin vor allem als Werbebetrug belegt. Dass sich auch Röntgenbilder fälschen lassen, zeigt eine aktuelle Studie. Tatsächliche Betrugsfälle untersucht sie nicht, die Fälschungen entstanden für die Untersuchung. Ein Forschungsteam um Mickael Tordjman von der Icahn School of Medicine at Mount Sinai in New York veröffentlichte in der Fachzeitschrift Radiology eine Untersuchung, für die 17 Radiologen aus zwölf Zentren in sechs Ländern insgesamt 264 Röntgenbilder bewerten sollten. Die Hälfte waren echte Aufnahmen, die andere Hälfte KI-Fälschungen. Die Fälschungen stammten von ChatGPT und, bei Thorax-Aufnahmen, vom Open-Source-Modell RoentGen. Wussten die Teilnehmer nicht, worum es in der Studie ging, und wurden sie nach der Bewertung der Bildqualität gefragt, ob ihnen etwas Ungewöhnliches auffalle, bemerkten nur sieben der 17, also 41 %, spontan, dass KI-Bilder im Datensatz waren. Nach dem Hinweis auf Fälschungen lag die Trefferquote bei den ChatGPT-Bildern im Schnitt bei 75 %, bei den RoentGen-Thoraxbildern bei 70 %. Bei den ChatGPT-Bildern reichte sie je nach Teilnehmer von 58 bis 92 %. Zwischen Berufserfahrung und Trefferquote fand die Studie keinen Zusammenhang, bei 17 Teilnehmern ist das allerdings eine begrenzte Aussage. Radiologen mit muskuloskelettalem Schwerpunkt schnitten dagegen deutlich besser ab als andere Subspezialisten. Auch vier getestete KI-Modelle erkannten die ChatGPT-Fälschungen nicht zuverlässig. Ihre Trefferquote lag je nach Modell zwischen 56 und 85 %, GPT-4o und GPT-5 schnitten dabei deutlich besser ab als Gemini und Llama. Selbst das Modell, mit dem die Bilder entstanden waren, erkannte nicht alle.

Empfohlene Fachartikel zum Thema

Gefahren durch Medikamentenfälschungen

Erschienen in: 2/26 | Heide, Lutz

Sie möchten diesen Artikel kostenlos lesen? Mit Thieme Account anmelden und Lizenz prüfen.

Tordjman beschreibt, woran sich Fälschungen im besten Fall erkennen lassen. Knochenstrukturen wirken oft zu glatt, Wirbelsäulen unnatürlich gerade, Lungen zu symmetrisch, Frakturen ungewöhnlich sauber begrenzt und häufig nur auf eine Knochenseite beschränkt. Verlässlich ist das trotzdem nicht, denn ChatGPT erzeugt auf Aufforderung Aufnahmen, die selbst erfahrene Radiologen nicht sicher von echten unterscheiden konnten.

Dass sich auch echte 3D-Aufnahmen gezielt manipulieren lassen, belegte schon 2019 ein Proof-of-Concept-Experiment. Israelische Forscher zeigten, wie sich Anzeichen von Lungenkrebs in einem 3D-CT-Scan automatisiert einfügen oder entfernen lassen, überzeugend genug, um drei Radiologen sowie eine spezialisierte Krebserkennungs-KI zu täuschen. In einem verdeckten Penetrationstest fingen die Autoren sogar CT-Scans im Netzwerk eines aktiven Krankenhauses ab und manipulierten sie. Tordjman erwartet als nächsten Schritt synthetische 3D-Bilder wie CT und MRT.

Welche Folgen das für die Versorgung hätte, beschreibt Tordjman anhand zweier Risiken: betrügerische Klagen, etwa mit einem fabrizierten Knochenbruch, und Angriffe, bei denen Hacker synthetische Bilder in das Netzwerk einer Klinik einschleusen, um Diagnosen zu manipulieren. Als Schutz dagegen werden digitale Sicherungen empfohlen, etwa unsichtbare Wasserzeichen und kryptografische Signaturen, die bereits bei der Aufnahme an die Person gekoppelt werden, die das Bild anfertigt. Dazu sollten Schulungen durchgeführt und Erkennungswerkzeuge eingeführt werden. Die Autoren haben für Lehrzwecke einen Datensatz mit Deepfake-Bildern und interaktiven Quizfragen veröffentlicht.

Eine Betrugsmasche, die systematisch auf ärztliche Reputation zielt und deren Technik inzwischen auch Bilddaten fälschen kann, lässt sich am wirksamsten auch systematisch bekämpfen. Für Kliniken wie für einzelne Praxen bedeutet das vor allem, wachsam zu bleiben und den eigenen Namen im Netz nicht sich selbst zu überlassen.