foto freepik ki-generiert

Urheber von Gesundheitsspam nutzen KI-Technologien für Social-Media-Kampagnen.

Die Bitdefender Labs beobachten weltweite Kampagnen mit KI-generierten Deepfake-Videos und -Audios auf den Social-Media-Plattformen Facebook, Messenger und Instagram. Unter den angeblichen Fürsprechern für Behandlungsmethoden etwa rund um das Thema Knie und Gelenke befinden sich Prominente wie Dieter Bohlen, der bekannte Arzt Dr. Heinz Lüscher, Christiano Ronaldo, Brad Pitt, Denzel Washington sowie andere regionale Berühmtheiten. Hacker nutzen solche Anzeigen für Finanzbetrug oder um persönliche Daten abzugreifen. Die manipulierten Reden vermeintlich betroffener Prominenter finden über Anzeigen in sozialen Medien oder auf kriminellen Webseiten große Verbreitung. Auswertungen von März bis Mai 2024 ergaben, dass manche der kompromittierten oder gefälschten Profile und Seiten über 350.000 Follower haben. Die Produktion des KI-gerenderten Materials hat große Ausmaße: Die Experten von Bitdefender fanden über 1.000 verschiedene Deepfake-Videos in den Online-Communities zur vermeintlichen Promotion von vierzig Medikamenten.

KI-generierte Deepfakes ermöglichen Betrügern das erfolgreiche Ausspielen regional und individuell zugeschnittener Spam-Mailkampagnen. Den angegriffenen Verbrauchern und Organisationen fällt es immer schwerer, diese zu erkennen, zu blockieren und sich dagegen zu verteidigen. Die Qualität der Videos steigt. KI senkt zudem die Sprachbarriere beim Erstellen von Deepfakes, so dass die Angreifer Video-Fakes in fast zwanzig europäischen Sprachen erzeugen konnten.

Screenshot: Bitdefender

Werbekampagnen entlarven

Viele Anzeigen sind flankiert von Webseiten zur Promotion der beworbenen Gesundheitsprodukte, die zeitlich begrenzt im Sonderangebot verfügbar sein sollen. Dort finden sich dann gefälschte, mit Large Language Models generierte Testberichte und nachgebaute Chat-Prompts mit Experten. Über betrügerische E-Commerce-Checkouts in Webshops greifen die Hacker dann persönliche Informationen, wie Kreditkartennummern ab. Um den finanziellen Erfolg zu steigern, werden Kunden aufgefordert, mehrere Medikamente zu kaufen, da nur so die Therapie anschlage.

Auch für das Erkennen und die richtige Reaktion auf KI-generierte betrügerische Online-Anzeigen helfen Verhaltensregeln für ein achtsames Sich-Bewegen im Internet und Schutzlösungen gegen Spam:

Verbraucher sollten Anzeigen mit Skepsis betrachten, in denen prominente Patienten angebliche persönliche gesundheitliche Geheimnisse verraten, Werbungen schnelle Behandlungserfolge ohne Nebenwirkungen verheißen und sich als Alternativen zur Schulmedizin positionieren. Das Verwenden wissenschaftlicher oder medizinischer Fachbegriffe sollte Misstrauen erzeugen.
Jedes Angebot ist zu hinterfragen. Ein Gang zum Arzt bleibt unerlässlich. Die Suche nach Bewertungen zu Medikamenten kann aufschlussreich sein.
Um die Seriosität von Webseiten zu bewerten, helfen Tools wie WHOIS, die Internetauftritte entlarven, welche erst vor kurzem registriert wurden.
Datensparsamkeit empfiehlt sich wie überall und insbesondere in den sozialen Medien. Der Einsatz von Debit-Karten oder Kreditkarten vor allem für regelmäßige Zahlungen sollte gerade bei auffälligen Angeboten niemals erfolgen.
Ebenso wichtig sind IT-Sicherheitslösungen für mobile Geräte mit Anti-Phishing- und Anti-Betrugsfiltern. Kostenlose Tools wie Bitdefender Scamio warnen vor betrügerischen Inhalten in Messaging-Diensten.

Der gesamte Report mit zahlreichen weiteren Beispielen unter: https://www.bitdefender.com/blog/labs/deep-dive-on-supplement-scams-how-ai-drives-miracle-cures-and-sponsored-health-related-scams-on-social-media

Deep-Fake-Video mit Dieter Bohlen.

Erkennung von Deep Fakes im Bereich Medikamente: Strategien und Lösungen

In der heutigen digitalen Ära sind Deep Fakes eine wachsende Bedrohung, die sich nicht nur auf die politische und soziale Landschaft auswirkt, sondern auch auf kritische Bereiche wie das Gesundheitswesen. Die Fähigkeit, realistische Fälschungen von Bildern, Videos und Audiodateien zu erstellen, hat das Potenzial, in der Medizinbranche Verwirrung zu stiften und gefährliche Desinformation zu verbreiten. Besonders im Kontext von Medikamenten können Deep Fakes ernsthafte Konsequenzen haben, indem sie beispielsweise falsche Informationen über Medikamenteneinnahme, Nebenwirkungen oder sogar gefälschte Medikamentenbewertungen verbreiten.

Um Deep Fakes zu Medikamenten im Internet zu erkennen und zu bekämpfen, sind mehrere Maßnahmen erforderlich, die sowohl präventive als auch detektive Ansätze umfassen. Hier sind einige Strategien, die helfen können, die Verbreitung und den Einfluss von Deep Fakes im Bereich der Medikamente zu minimieren:

Aufklärung und Bewusstseinsbildung:
Die Sensibilisierung der Öffentlichkeit für das Thema Deep Fakes ist entscheidend. Informationskampagnen können dazu beitragen, das Bewusstsein für die Existenz und die potenziellen Gefahren von Deep Fakes zu schärfen. Dies umfasst die Aufklärung darüber, wie Deep Fakes erstellt werden und welche Auswirkungen sie haben können, insbesondere im Zusammenhang mit Medikamenten und Gesundheitsinformationen.
Verifizierungstechnologien:
Die Entwicklung und Anwendung von Technologien zur Erkennung von Deep Fakes ist ein wichtiger Schritt. Diese Technologien nutzen künstliche Intelligenz, um Unstimmigkeiten in Bildern oder Videos zu identifizieren, die auf eine Manipulation hinweisen könnten. Es gibt bereits Fortschritte in diesem Bereich, und es ist wichtig, dass solche Tools weiterentwickelt und zugänglich gemacht werden.
Regulierung und Gesetzgebung:
Die Schaffung von rechtlichen Rahmenbedingungen, die die Erstellung und Verbreitung von Deep Fakes einschränken, kann ebenfalls eine wirksame Maßnahme sein. Gesetze, die klare Definitionen und Strafen für das Erstellen und Verbreiten von Deep Fakes festlegen, können abschreckend wirken und die Verantwortlichkeit erhöhen.
Zusammenarbeit zwischen Plattformen und Behörden:
Soziale Medien und Online-Plattformen spielen eine entscheidende Rolle bei der Verbreitung von Deep Fakes. Eine enge Zusammenarbeit zwischen diesen Plattformen, Gesundheitsbehörden und Regulierungsbehörden kann dazu beitragen, Deep Fakes schnell zu identifizieren und zu entfernen. Dies kann durch gemeinsame Richtlinien und Protokolle für den Umgang mit Deep Fakes erreicht werden.
Förderung von Quellenkritik:
Nutzer sollten ermutigt werden, kritisch mit Online-Informationen umzugehen und die Glaubwürdigkeit von Quellen zu hinterfragen. Dies beinhaltet die Überprüfung von Informationen auf vertrauenswürdigen Websites, die Überprüfung von Autoren und die Suche nach Bestätigungen durch unabhängige Quellen.

Die Bekämpfung von Deep Fakes, insbesondere im sensiblen Bereich der Medikamente, erfordert ein umfassendes Vorgehen, das technologische, regulatorische und bildungsorientierte Ansätze kombiniert. Durch die Implementierung dieser Maßnahmen können wir hoffen, die Integrität von medizinischen Informationen im Internet zu schützen und die Gesundheit und Sicherheit der Öffentlichkeit zu gewährleisten.

Genki Absmeier

218 Artikel zu „Deep Fake“

NEWS | IT-SECURITY | TIPPS

Gefälschte E-Mails, QR-Codes und Deep Fakes erkennen

24. September 2022

Eine weit verbreitete Angriffsmethode von Cyberkriminellen ist die Kompromittierung von (Geschäfts)-E-Mails. Dabei erhalten die Benutzer beispielsweise eine E-Mail, vermeintlich von einem Vorgesetzten, Manager oder einer anderen Autorität, mit der Bitte sensible Daten weiterzuleiten, einen Link anzuklicken oder eine Datei zu öffnen. Zwar stammt die E-Mail mitnichten vom vorgeblichen Absender – aber da sie so wirkt,…