Illustration Absmeier foto freepik

Deepfake-Vorfälle entwickeln sich in einem alarmierenden Tempo: Im ersten Quartal 2025 wurden 179 Vorfälle gemeldet – ein Anstieg um 19 % gegenüber 2024, wie eine Analyse von Surfshark zeigt [1]. Zu den bemerkenswerten Fakes gehören Taylor Swift in kompromittierenden Situationen, Trump, der die Kleidung von Zelenskyy kritisiert, und Elon Musk, der China-freundliche Ansichten vertritt. Allein Prominente wurden in diesem Zeitraum 47 Mal ins Visier genommen, ein Anstieg von 81 % im Vergleich zum gesamten Jahr 2024.

In der Vergangenheit waren auch in Deutschland bekannte Persönlichkeiten Opfer von Deepfake-Vorfällen geworden. Zum Beispiel gefälschte Videos von Friedrich Merz oder Olaf Scholz während der Bundestagswahl. Aber auch Prominente wie der bekannte Arzt, Talkshow-Moderator und Autor Eckart von Hirschhausen oder die Schauspielerin Uschi Glas sind Opfer von Deepfake-Betrügereien geworden. Insgesamt erwirtschaftete der deutsche Deepfake-KI-Markt im Jahr 2024 einen Umsatz von 49,5 Millionen US-Dollar und wird bis 2030 voraussichtlich 433,4 Millionen US-Dollar erreichen.

»Die Deepfake-Technologie entwickelt sich in einem alarmierenden Tempo weiter, und mit ihr wächst die Fähigkeit zu Fehlinformationen und böswilligen Absichten. Das Schadenspotenzial reicht von der Schädigung des persönlichen Rufs bis hin zur Bedrohung der nationalen Sicherheit. Die Menschen müssen vorsichtig sein, da der Verlust des Vertrauens in die Informationen, die wir hören und sehen, erhebliche Auswirkungen auf die Privatsphäre, Institutionen und sogar die Demokratie haben kann«, sagt Monika Sackute, Country Manager DACH bei Surfshark.

Die beliebtesten Arten von Deepfake-Vorfällen

Surfshark kategorisiert Deepfake-Vorfälle in vier Kategorien: Explizite Inhaltserstellung, Betrug, politisch brisante Inhalte und sonstige Inhalte.

Im ersten Quartal 2025:

Die Zahl der Vorfälle mit expliziten Inhalten stieg auf 53 und übertraf damit die 26 aus dem Vorjahr;
Betrug meldete 48 Vorfälle und erreichte damit fast die Gesamtzahl von 56 aus dem Jahr 2024;
Politische Vorfälle erreichten 40 und näherten sich damit der Zahl von 50 aus dem Jahr 2024;
Verschiedene Inhalte stiegen auf 38 Vorfälle und übertrafen damit die Gesamtzahl von 18 aus dem Vorjahr.

Rückblickend auf das Jahr ist das beliebteste Format für Deepfake-Vorfälle das Video mit 260 gemeldeten Fällen. Das zweitbeliebteste Format ist Bild mit 132 gemeldeten Vorfällen. Die letzte Kategorie ist Audio, wo 117 Vorfälle registriert wurden.

Wer sind die Hauptziele?

Politiker wurden 56 Mal angegriffen, womit die Gesamtzahl von 62 im Jahr 2024 fast erreicht wurde. Auch wenn in Deutschland 2025 Wahlen anstehen, war das vergangene Jahr das Wahljahr für viele starke Länder wie die USA, Frankreich und Österreich, und das trug viel zu diesen Zielen bei. Auch in der Öffentlichkeit gab es im ersten Quartal 2025 mehr Angriffe, ein Anstieg von 23 % im Vergleich zu 2024. Am stärksten betroffen waren jedoch Prominente mit einem Anstieg von 81 % im Vergleich zum gesamten Jahr 2024.

Seit 2017 wurden Prominente in 21 % der Vorfälle zur Zielscheibe, das sind insgesamt 84 Fälle. Elon Musk wurde 20 Mal angegriffen, was 24 % der Vorfälle mit Prominenten entspricht. Taylor Swift folgt mit 11 Vorfällen, Tom Hanks mit 3. Kanye West, Emma Watson und Brad Pitt wurden jeweils 2 Mal zur Zielscheibe.

Politiker waren in 36 % aller Deepfake-Vorfälle verwickelt, insgesamt 143 Fälle seit 2017. Diese Aktivität, die oft in Wahlkampfzeiten zunimmt, wird genutzt, um politische Agenda durchzusetzen. Donald Trump ist mit 25 Vorfällen, die 18 % der Deepfakes im Zusammenhang mit Politikern ausmachen, am häufigsten betroffen. Joe Biden folgt mit 20 Vorfällen, hauptsächlich während der Wahlen, bei denen seine Stimme in Robocalls verwendet wurde. Kamala Harris und Volodymyr Zelenskyy hatten mit 6 bzw. 4 Vorfällen zu kämpfen.

Mit 166 Deepfake-Vorfällen war die Öffentlichkeit in 43 % der Fälle das Ziel. Davon entfielen 41 % auf Vorfälle im Zusammenhang mit verschiedenen Arten von Betrug, und 39 % dieser Fälle führten zur Erstellung expliziter Medien, d. h. es wurden keine autorisierten Bilder oder Videos von Personen erstellt.

Wie erkennt man einen Deepfake?

Laut Frau Sackute wird die Erkennung von Deepfakes aufgrund ihrer weiten Verbreitung und ihres erhöhten Realismus immer schwieriger. Die Technologie, mit der Deepfakes erzeugt werden, übersteigt oft die Fähigkeiten der Erkennungsinstrumente. Die große Menge dieser Art von Online-Inhalten erschwert auch die Unterscheidung zwischen echten und unechten Inhalten. Es gibt jedoch einige Dinge, auf die Sie achten können, um ein Deepfake zu erkennen, darunter:

Unnatürliche Bewegungen;
Farbunterschiede;
Inkonsistente Beleuchtung;
Schlechte Lippensynchronität (Audio passt nicht zu den Lippenbewegungen);
Unscharfe oder verzerrte Hintergründe;
Verbreitungskanäle (es kann von einem Bot geteilt werden).

Frau Sackute weist auch darauf hin, dass illegale Deepfakes wie Missbrauch von Intimbildern oder »Rachepornos«, Material über sexuellen Kindesmissbrauch, Hassverbrechen, Betrug, falsche Mitteilungen, terroristische Aktivitäten, Stalking und Belästigung oder Erpressung bei der Polizei angezeigt werden sollten. Darüber hinaus wird dringend empfohlen, Vorsichtsmaßnahmen zu ergreifen, wie zum Beispiel eine geheime Passphrase mit den Angehörigen, insbesondere mit Kindern und älteren Menschen, für den Fall eines falschen Anrufs zu vereinbaren.

[1] Für diese Studie wurden Daten von Resemble.AI und der AI Incident Database verwendet, um einen kombinierten Datensatz mit Deepfake-Vorfällen seit 2017 zu erstellen. Berücksichtigt wurden Vorfälle, bei denen gefälschte Videos, Bilder oder Audios erzeugt wurden und über die in den Medien berichtet wurde. Diese Vorfälle wurden in die Kategorien Betrug, Erzeugung expliziter Inhalte, politisch brisante Inhalte und Sonstiges eingeteilt. Außerdem wurden die Zielgruppen kategorisiert: Politiker, Prominente und die allgemeine Öffentlichkeit. Wir führten Analysen durch, um die Prävalenz der einzelnen Kategorien zu ermitteln und zu untersuchen, welche Art von Vorfällen diese Kategorien abdecken. Das vollständige Forschungsmaterial zu dieser Studie finden Sie hier.

https://docs.google.com/spreadsheets/d/1i17Z4ALbkDdAEtPxpsq5wmHd_93a2kfGyRrW2rlRVgA/edit?gid=1154245724#gid=1154245724

146 Artikel zu „Deepfakes „

News | Trends 2024 | Trends Security | IT-Security

Betrugsversuche mit Deepfakes nehmen in den letzten drei Jahren um 2137 % zu

23. Februar 2025

Weiterentwickelnde KI-basierte Technologien stellen neue Sicherheitsherausforderungen dar. Finanzinstitute sehen sich mit einer deutlichen Zunahme von Deepfake-Betrugsversuchen konfrontiert, die in den letzten drei Jahren um 2137 % zugenommen haben, so die Daten aus dem Signicat-Bericht »The Battle Against AI-Driven Identity Fraud« [1]. Da Deepfakes sich sehr schnell weiterentwickeln, müssen Unternehmen aller Branchen ihre Sicherheitsstrategien überdenken,…