foto freepik

Die neueste Analyse von Surfshark zeigt, dass seit 2021 in 38 Ländern wahlbezogene Deepfake-Vorfälle aufgetreten sind, die die Hälfte der Weltbevölkerung — 3,8 Milliarden Menschen — betreffen [1]. Politisch motivierte Deepfakes haben Wahlen in den größten Volkswirtschaften und Demokratien der Welt infiltriert, darunter die USA, Brasilien, das Vereinigte Königreich, Deutschland und Südkorea.

Unter den Ländern, die seit 2023 Wahlen abgehalten haben, erlebten mehr als ein Drittel — 33 von 87 — wahlbezogene Deepfake-Vorfälle.

»Soziale Medien – allen voran X und Facebook – sind die Hauptkanäle für die Veröffentlichung von wahlbezogenen Deepfakes. Das erklärt, warum diese Fälschungen ein Massenpublikum erreichen und potenziell Wähler beeinflussen können. Der enorme Einfluss zeigt sich auch in den Summen, die für KI-Wahlkampagnen ausgegeben werden: Allein bei den indischen Parlamentswahlen 2024 gaben Parteien schätzungsweise 50 Millionen US-Dollar für KI-generierte Inhalte aus. Der Anstieg von Deepfakes ist so gravierend, dass führende Demokratien wie Dänemark mit neuen Gesetzen gegen diesen gefährlichen Trend vorgehen«, erklärt Miguel Fornes, Cybersicherheitsexperte bei Surfshark.

Betrachtet man den prozentualen Anteil der von Deepfake-Vorfällen bei Wahlen betroffenen Länder nach Regionen, liegt Südamerika mit 40 % an der Spitze, gefolgt von Ozeanien mit 33 %, Europa mit 31 %, Asien mit 21 %, Afrika mit 20 % und Nordamerika mit 13 %.

Wahlbezogene Deepfake-Vorfälle wurden in den zehn bevölkerungsreichsten Ländern der Welt registriert, darunter Indien, USA, Indonesien, Pakistan, Nigeria, Brasilien, Bangladesch und Mexiko. Einige Länder wie China und Russland nutzten Deepfakes zudem, um andere Regionen gezielt zu beeinflussen.

Die Verbreitung von Deepfakes hängt jedoch nicht zwingend mit der Bevölkerungsgröße eines Landes zusammen. Unter den Ländern mit der 21. bis 30. größten Bevölkerung erlebten fünf – das Vereinigte Königreich, Kenia, Myanmar, Kolumbien und Südkorea – Deepfake-Vorfälle während Wahlen. Ecuador, das weltweit auf Platz 72 der bevölkerungsreichsten Länder liegt, war während der Präsidentschaftswahl von einer beispiellosen Welle KI-generierter Desinformation betroffen.

Das einzig verlässliche Mittel zur Erkennung von Deepfakes

Einige Beispiele wahlbezogener Deepfakes gehen weit über das Vorstellbare hinaus. Ein besonders aufsehenerregender Vorfall ereignete sich während der Vorwahl 2024 in New Hampshire, als Wähler automatisierte Anrufe mit einer KI-generierten Stimme von Präsident Joe Biden erhielten [2]. Die Botschaft forderte Demokraten fälschlicherweise auf, nicht zur Vorwahl zu gehen. In Deutschland richtete das russische Netzwerk »Storm-1516« über 100 KI-gesteuerte Websites ein, um Deepfake-Videos und Falschinformationen zu verbreiten und gezielt Politiker anzugreifen [3].

»Die weltweite Zahl der KI-Nutzer wird 2025 voraussichtlich etwa 378 Millionen erreichen – ein Anstieg von 20 % im Vergleich zum Vorjahr [4]. Die Qualität von Deepfakes nimmt rasant zu, was ihre Erkennung nahezu unmöglich macht. Das Einzige, was Betrüger derzeit nicht nachbilden können, sind Augenreflexionen. Wenn man genau hinschaut, erkennt man bei Deepfakes meist asymmetrische oder ungleichmäßige Reflexionen, während echte Fotos oder Videos klare, symmetrische Reflexionen zeigen«, sagt Fornes.

Laut dem Experten von Surfshark ist kritisches Denken das einzige verlässliche Werkzeug gegen Deepfake-Täuschungen:

Fragen Sie sich: Ergibt der Inhalt überhaupt Sinn?
Prüfen Sie die Quelle: Stammt der Inhalt von einer vertrauenswürdigen, verifizierten Plattform oder einem etablierten Nachrichtenmedium?
Achten Sie auf emotionale Manipulation: Deepfakes zielen oft darauf ab, durch Empörung, Angst oder Schock die Logik auszuschalten.
Die meisten Deepfakes basieren auf manipulierten Originalaufnahmen. Eine schnelle Rückwärtsbild- oder Videosuche kann dabei helfen, das Ursprungsmaterial zu finden.

[1] Für diese Studie wurden Länder mit über einer Million Einwohnern berücksichtigt. Medienberichte wurden auf Hinweise zu wahlbezogenen Deepfake-Vorfällen in diesen Ländern überprüft. Die Quellen wurden gesammelt, verifiziert und mit kurzen Beschreibungen versehen. Für jedes Land wurde die letzte Wahl mit gemeldeten Deepfake-Vorfällen analysiert. Zudem wurden die Medienkanäle, über die die Deepfakes verbreitet wurden, in fünf Kategorien eingeteilt: soziale Medien, Messenger-Apps, Online-Werbung, traditionelle Medien und Telefonanrufe. Zusätzlich wurde eine regionale Analyse durchgeführt, um den prozentualen Anteil der betroffenen Länder und Menschen zu ermitteln.

https://surfshark.com/research/chart/election-related-deepfakes

https://surfshark.com/research/chart/deepfake-fraud-losses

[2] https://www.npr.org/2024/12/21/nx-s1-5220301/deepfakes-memes-artificial-intelligence-elections

[3] https://www.euractiv.com/section/politics/news/ai-driven-russian-disinformation-campaign-targets-german-elections/

[4] https://www.edge-ai-vision.com/2025/02/global-ai-adoption-to-surge-20-exceeding-378-million-users-in-2025/

Deepfakes erkennen und sich davor schützen

Was sind Deepfakes?

Deepfakes sind mithilfe tiefer neuronaler Netze erstellte Fälschungen von Audio-, Video- oder Bildinhalten. Sie können Gesichter tauschen (Face Swapping), Mimik steuern (Face Reenactment) oder Stimmen generieren und greifen dabei auf fortgeschrittene Autoencoder- und GAN-Modelle zurück. Die Verfahren ermöglichen täuschend echte Manipulationen mit vergleichsweise geringem Aufwand und hochwertigen Trainingsdaten.

Manuelle Erkennung – Das Auge des Menschen

Unnatürliche Zungenbewegungen: Häufig wirkt die Zunge steif oder fehlt jegliche Bewegung beim Sprechen.
Inkonsistente Lichtreflexe und Schatten: Spiegelungen in Augen und auf der Haut stimmen nicht mit der Szene überein.
Unregelmäßige Blinzelmuster: Deepfakes weisen oft ein unnatürliches Blinzeln oder zu seltenes Blinzeln auf.
Asynchronität von Lippen und Tonspur: Lippenbewegung und gesprochener Text passen nicht exakt zusammen.
Unsaubere Ränder um Gesichtspartien: Weiche oder verschwommene Konturen verraten Manipulationen.

Automatisierte Erkennungsmethoden

KI-gestützte Detektionssysteme setzen auf überwachte Lernverfahren, um typische Artefakte und Inkonsistenzen in gefälschten Medien aufzuspüren. Sie analysieren Bild-, Video- oder Audiodaten auf statistische Abweichungen und Muster, die für Deepfakes charakteristisch sind.

Überwachte Modelle trainieren auf Datensätzen wie »In-the-Wild« (Audio) oder ASVspoof (Audio-Spoofing) und lernen so, echte von falschen Stimmen zu unterscheiden.
Plattformen wie truemedia.org bieten Journalistinnen und Journalisten Werkzeuge zur Echtheitsprüfung von Videomaterial an und kennzeichnen verdächtige Stellen automatisch.

Herkunftsverifikation und Metadatenanalyse

Anstatt nur Falsches zu identifizieren, verifizieren Initiativen wie die Content Authenticity Initiative (Adobe, Twitter, NYT) die Herkunft von Mediendateien. Digitale Signaturen und Metadaten (z. B. Kamerainfos, Zeitstempel) werden kryptografisch gesichert, um Manipulationen schon bei der Erstellung auszuschließen.

Schutzmaßnahmen und Best Practices

Sensibilisierung und Schulung: Regelmäßige Trainings für Mitarbeitende, um Deepfake-Risiken und Erkennungsmerkmale zu vermitteln.
Technische Gegenmaßnahmen: Einsatz aktueller Detektionssoftware und kontinuierliche Updates, um mit der Generatorsoftware Schritt zu halten.
Quellen- und Faktenprüfung: Kritische Überprüfung von Herkunft, Kontext und vertrauenswürdigen Fact-Checking-Portalen wie Correctiv oder Maldita.es.
Implementierung digitaler Signaturen: Sichere Verankerung von Originaldaten in Blockchain oder durch zertifizierte Metadaten, um nachträgliche Änderungen erkennbar zu machen.

Ausblick und weiterführende Informationen

Die Forschung an Deepfake-Erkennung ist ein stetiges Katz-und-Maus-Spiel: Während Generationsmodelle immer raffinierter werden, entwickeln Forscher neue Analyseverfahren. Gesetzgeber arbeiten an Richtlinien zur Offenlegung von KI-generierten Inhalten.

Spezialisierte Deepfake-Detektionstools

Reality Defender

Multimodale Erkennung von Bildern, Videos, Audios und Text
Echtzeit-Analyse ohne Wasserzeichen oder Vorab-Authentifizierung
Intuitive Weboberfläche und skalierbare API
Erklärbare Ergebnisse mit farbcodierten Manipulationswahrscheinlichkeiten und PDF-Berichten
Kontinuierliche Updates durch ein aktives Forschungsteam

Sentinel

Ausgelegt für Demokratien, Verteidigungsbehörden und Großunternehmen
Upload per Web-App oder API mit automatischer Deepfake-Analyse
Bestimmt zuverlässig, ob ein Medium gefälscht ist
Visualisierung erkannter Artefakte zur einfachen Nachvollziehbarkeit

Weitere Tools und Ressourcensammlungen

Eine umfangreiche Übersicht zu Detektionswerkzeugen, Tutorials und Benchmark-Tests finden Sie auf jczeller.com
UsefulAI stellt acht führende Video- und Deepfake-Detektoren in 2025 vor und vergleicht ihre Funktionen
In diesen Sammlungen entdecken Sie auch Lösungen wie Sensity (ehemals Deeptrace), Amber Video oder Deepware Scanner

Tipps zur Auswahl des passenden Tools

Mediendatentyp bestimmen: Video, Audio oder Bild?
Integrationsaufwand prüfen: Gibt es eine API oder Plugins?
Echtzeit- versus Batch-Verarbeitung: Live-Streams oder On-Demand?
Reporting-Funktionen: Audit-Logs und Compliance-Berichte erforderlich?

Nächste Schritte

Testzugänge für vielversprechende Tools anfordern
Proof-of-Concepts mit eigenen Mediendaten durchführen
Detection-Workflows in vorhandene Systeme integrieren
Schulungen für Mitarbeitende zu neuen Erkennungsmethoden etablieren

Genki Absmeier

301 Artikel zu „Deepfake“

News | IT-Security | Tipps

Finanzielle Verluste durch Deepfake-Betrug

13. Juli 2025

Der Bericht von Surfshark zeigt, dass es in der ersten Hälfte des Jahres 2025 fast viermal so viele Deepfake-Vorfälle gab (insgesamt 580) wie im gesamten Jahr 2024 – und dass allein in diesem Zeitraum Verluste von 410 Millionen US-Dollar durch Deepfake-Betrug entstanden sind. Insgesamt belaufen sich die Verluste durch betrügerisch eingesetzte Deepfake-Technologie seit 2019 auf…