Illustration Absmeier foto magnific

Management Summary

Deepfakes entwickeln sich für Behörden zu einem strategischen Vertrauens- und Sicherheitsrisiko: Sie bedrohen sowohl die öffentliche Glaubwürdigkeit staatlicher Kommunikation als auch interne Prozesse durch Identitätsbetrug, Social Engineering und die Umgehung biometrischer Authentifizierung. Nach Einschätzung von Gartner werden bis 2028 rund 40 Prozent der Regierungsorganisationen eigene TrustOps-Funktionen aufbauen, um solchen Bedrohungen zu begegnen. Der zentrale Handlungsauftrag für CIOs lautet, von reaktiver Faktenprüfung zu einer proaktiven Vertrauensarchitektur zu wechseln, die Governance, Kommunikation, Sicherheitsmechanismen und Herkunftsnachweise integriert. Kurzfristig stehen dabei drei Prioritäten im Vordergrund: eine bereichsübergreifende Steuerung etablieren, besonders kritische Verwaltungsprozesse absichern und standardisierte Verfahren zur Verifikation verdächtiger Inhalte entwickeln.

Laut Gartner, Inc., einem Unternehmen für Geschäfts- und Technologieanalysen, werden 40 Prozent der Regierungsorganisationen bis 2028 spezielle TrustOps-Funktionen einrichten, um Deepfake-basierten Identitätsbetrug und Disinformation-as-a-Service (DaaS) zu bekämpfen.

Behörden müssen dringend tragfähige Vertrauensmechanismen etablieren, etwa, indem sie von reaktiver Faktenprüfung zu einer proaktiven Vertrauensarchitektur übergehen, um sich gegen Deepfakes zu schützen. Diese Bedrohungen zeigen sich in öffentlichkeitswirksamen Desinformationskampagnen, zum Beispiel dann, wenn Führungspersönlichkeiten imitiert werden, um irreführende öffentliche Erklärungen zu verbreiten. Zugleich richten sich Deepfake-Angriffe auch gegen interne Systeme. Dabei versuchen Angreifer, automatisierte biometrische Authentifizierungsverfahren wie Stimm- oder Gesichtserkennung zu umgehen oder Mitarbeitende durch Social Engineering zu schädlichen Handlungen zu bewegen. Typischerweise geschieht dies, indem sie gezielt Autorität und Dringlichkeit vortäuschen.

»Deepfakes können das Konzept der digitalen Identität untergraben oder sogar als Waffe einsetzen und damit die Glaubwürdigkeit des Staates selbst angreifen«, sagte Daniel Nieto, Senior Director Analyst bei Gartner. »Wenn Bürgerinnen und Bürger eine echte Ankündigung des Premierministers oder ein sicheres Portal der Steuerbehörde nicht mehr zuverlässig von einer Fälschung unterscheiden können, gerät die Wahrheit ins Wanken.«

Um dem existenziellen Risiko institutioneller Irrelevanz entgegenzuwirken, müssen CIOs von reaktiver Faktenprüfung zu einer proaktiven Vertrauensarchitektur übergehen. Die Auswirkungen von Deepfakes im großen Maßstab, die aus dem Zusammenspiel von sozialen Medien und synthetisch erzeugten Inhalten entstehen, erfordern eine koordinierte, schnelle und unternehmensweite Verteidigung.

»Das Deepfake-Phänomen droht eine digitale Regression auszulösen; es kehrt den Return on Investment der digitalen Transformation um, indem es einen Rückzug zu reibungsintensiven, papierbasierten und persönlichen Interaktionen erzwingt«, sagte Nieto.

Behörden auf Desinformation vorbereiten

Staatliche Organisationen sollten Deepfakes nicht ausschließlich als IT-Problem betrachten. Es handelt sich um eine funktionsübergreifende Krise, die eine Steuerung auf Führungsebene sowie eine langfristige, kontinuierliche Aufklärung von Mitarbeitenden und Öffentlichkeit erfordert; in traditionellen Organisationsstrukturen gibt es dafür keine einzelne verantwortliche Stelle. Außerdem dürfen sie sich nicht auf reaktive Löschmaßnahmen verlassen. Sobald ein Deepfake viral gegangen ist, lässt er sich nicht mehr zurückholen. Organisationen müssen den Informationsraum zuerst mit der Wahrheit füllen.

Schließlich sollten sie sich nicht zu stark auf die Aufmerksamkeit der Bürgerinnen und Bürger verlassen. Zwar ist Aufklärung notwendig, doch die Verantwortung für die Verifikation muss vom Endnutzer auf die institutionelle Architektur verlagert werden — durch kryptografisch abgesicherte Herkunftsnachweise.

Um diese Ziele zu erreichen, sollten staatliche Organisationen kurzfristig folgende Prioritäten setzen:

Einen Trust Council etablieren:
Eine übergreifende Steuerungsfunktion in Abstimmung mit zentralen Stakeholdern (IT, Recht, Kommunikation, HR) schaffen. Diese Einheit muss Fragen der digitalen Identität steuern und interne wie externe Desinformationsaktivitäten managen.
Geschäftsprozesse absichern:
Hochriskante administrative Abläufe, etwa finanzielle Auszahlungen, identifizieren und prüfen. Sicherheitsmaßnahmen einführen, die mehrere Freigaben und Authentifizierung auf Anwendungsebene erfordern, um Single-Point-of-Failure-Schwachstellen zu beseitigen, die durch stimmgeklonte Führungskräfte ausgenutzt werden könnten. Anschließend formale Daten- und Sicherheits-Governance-Strategien und -Programme einführen, die zunächst auf diese Hochrisiko-Workflows fokussieren und danach bei Bedarf auf weitere Bereiche ausgeweitet werden.
Verfahren zur Deepfake-Verifikation entwickeln:
Standardarbeitsanweisungen (SOPs) entwerfen, die mithilfe klarer Schritt-für-Schritt-Anleitungen Technologien einsetzen, um verdächtige digitale Interaktionen zu prüfen und Inhalte aufzudecken, die möglicherweise synthetisch durch KI erzeugt wurden.

»Langfristig können staatliche Organisationen die Einführung von Lösungen wie dem C2PA-Protokoll in Betracht ziehen«, sagte Nieto. »Sie sollten die Absicherung ausgehender Inhalte verbindlich machen, indem sie das C2PA-Protokoll übernehmen und manipulationssichere kryptografische Metadaten in sämtliche offiziellen digitalen Medien einbetten. Außerdem können sie die Nutzung von Herkunftsnachweisen aktiv gegenüber Bürgerinnen, Bürgern und anderen Stakeholdern kommunizieren, um Vertrauen zu stärken.«

Gartner-Kunden finden weitere Informationen in Strategies for Government CIOs to Defend Digital Trust Against Deepfakes. Zusätzliche Informationen zu KI im öffentlichen Sektor bietet das kostenfreie Gartner-Webinar Government AI at the Tipping Point: Moving Rapidly from Pilots to Essential Mission Delivery.

449 Artikel zu „Deepfake“

Trends 2026 | News | Trends Security | IT-Security | Kommunikation | Tipps

Ausmaß von Deepfakes nimmt dramatisch zu

18. Mai 2026

Skandale um Deepfakes nehmen zu und das Ausmaß der Auswirkungen auf die Opfer und die Lücken im Strafrecht werden erst langsam klar. Fälle wie die sexualisierten Deepfakes um Collien Fernandes1 und jüngst auch Giorgia Meloni² zeigen, wie akut die Gefahrenlage ist – in letzterem Fall auch in politischer Hinsicht. Doch wie hat sich die Anzahl an…

Jetzt 25 % Ticketrabatt für »manage it« Leser

Management Summary

449 Artikel zu „Deepfake“