Management Summary

Öffentliche Verwaltung steht zwischen Effizienzgewinn und Datenhoheit: Generative KI kann Dokumentenanalysen, Wissenszugriffe und Entscheidungsprozesse massiv beschleunigen – doch Behörden müssen gleichzeitig höchste Anforderungen an Datenschutz, Vertraulichkeit und staatliche Souveränität erfüllen.
Cloud‑basierte KI‑Dienste kollidieren mit Souveränitätsanforderungen: Werden sensible Verwaltungs‑ oder Gesundheitsdaten in globale KI‑Plattformen eingespeist, verlieren Institutionen Kontrolle über Speicherort, Zugriff und regulatorische Konformität – ein zentrales Risiko für den öffentlichen Sektor.
Confidential AI schützt Daten auch während der Verarbeitung: Durch hardwareisolierte Ausführungsumgebungen (Confidential Computing) bleiben Daten selbst während der KI‑Inferenz verschlüsselt und für Administratoren oder Cloud‑Provider unzugänglich – ein entscheidender Sicherheitsgewinn.
Sichere KI‑Architekturen ermöglichen flexible Modellwahl: Lösungen wie GenAI‑Firewalls kombinieren interne Wissensbestände, RAG‑Verfahren und automatische Pseudonymisierung, sodass externe KI‑Modelle genutzt werden können, ohne dass sensible Inhalte die geschützte Umgebung verlassen.
Souveräne KI wird zum Fundament moderner Verwaltung: Confidential AI schafft die Basis für effiziente Prozesse, sichere Cloud‑Nutzung und geringere Abhängigkeit von einzelnen Anbietern – und stärkt damit Vertrauen, Compliance und digitale Handlungsfähigkeit staatlicher Institutionen.

Künstliche Intelligenz verspricht der öffentlichen Verwaltung mehr Effizienz, schnellere Auswertungen und besseren Zugang zu komplexen Wissensbeständen. Doch je sensibler die verarbeiteten Daten sind, desto drängender wird die Frage, wie sich Datenschutz, Sicherheit und digitale Souveränität beim Einsatz moderner KI-Systeme gewährleisten lassen. Confidential AI zeigt, wie Behörden die Potenziale generativer KI nutzen können, ohne die Kontrolle über kritische Informationen aus der Hand zu geben.

Künstliche Intelligenz entwickelt sich zunehmend zu einem zentralen Werkzeug moderner Organisationen – auch im öffentlichen Sektor. Generative KI-Systeme und Large Language Models (LLMs) eröffnen neue Möglichkeiten, große Mengen an Dokumenten zu analysieren, komplexe Sachverhalte aufzubereiten oder Verwaltungsprozesse effizienter zu gestalten. Gerade Behörden und öffentliche Einrichtungen arbeiten täglich mit umfangreichen Wissensbeständen, von Gesetzestexten über Akten bis hin zu statistischen Daten. KI kann dabei helfen, diese Informationen schneller zugänglich zu machen und Mitarbeitende in ihrer Arbeit zu unterstützen.

Gleichzeitig steigen die Erwartungen an eine moderne, digitale Verwaltung. Bürgerinnen und Bürger erwarten schnelle Auskünfte, transparente Verfahren und effizientere Prozesse. KI kann hier einen wichtigen Beitrag leisten – etwa bei der strukturierten Auswertung großer Dokumentenmengen oder bei der Unterstützung von Fachpersonal in komplexen Entscheidungsprozessen.

Doch gerade dort, wo große Datenbestände verarbeitet werden, entstehen auch neue Herausforderungen. Denn öffentliche Institutionen tragen eine besondere Verantwortung für den Schutz sensibler Informationen. Verwaltungsdaten, Gesundheitsdaten oder sicherheitsrelevante Informationen unterliegen strengen regulatorischen Anforderungen und dürfen nicht unkontrolliert in externe Systeme gelangen.

Digitale Souveränität als Voraussetzung für KI-Einsatz

Der Einsatz generativer KI in der Verwaltung steht deshalb häufig in einem Spannungsfeld: Auf der einen Seite stehen enorme Effizienzpotenziale, auf der anderen Seite der Anspruch, staatliche Datenhoheit und digitale Souveränität zu wahren.

Viele heute verfügbare KI-Dienste werden über globale Cloudplattformen bereitgestellt. Werden sensible Informationen in solche Systeme eingespeist, besteht die Gefahr, dass Daten außerhalb des eigenen Einflussbereichs verarbeitet werden. Für Behörden und öffentliche Einrichtungen ist dies problematisch – sowohl aus datenschutzrechtlicher Perspektive als auch im Hinblick auf staatliche Souveränität.

Hinzu kommen neue sicherheitstechnische Risiken. Moderne KI-Systeme können selbst Ziel neuartiger Angriffe werden, etwa durch manipulierte Eingaben oder sogenannte Prompt-Injection-Techniken. Diese können dazu führen, dass Systeme entgegen ihren vorgesehenen Schutzmechanismen vertrauliche Informationen preisgeben oder unerwartete Ergebnisse erzeugen.

Für den öffentlichen Sektor stellt sich daher eine zentrale Frage: Durch welche GenAI-Security-Lösungen lassen sich die Vorteile moderner KI-Technologien nutzen, ohne die Kontrolle über sensible Daten zu verlieren?

Confidential AI: Daten auch während der Verarbeitung schützen

Eine vielversprechende technologische Antwort auf diese Herausforderung bietet der Ansatz der Confidential AI. Ziel dieses Konzepts ist es, KI-Systeme so zu betreiben, dass Daten während ihres gesamten Lebenszyklus geschützt bleiben – nicht nur bei der Speicherung oder Übertragung, sondern auch während der Verarbeitung selbst.

Die Grundlage bildet dabei das Prinzip des Confidential Computing. Dabei werden Anwendungen in vertrauenswürdigen Ausführungsumgebungen betrieben, die hardwareseitig isoliert sind. Innerhalb dieser geschützten Enklaven bleiben Daten verschlüsselt und können selbst von privilegierten Systemkomponenten – etwa Administratoren oder Cloud-Anbietern – nicht eingesehen werden.

Dieser Ansatz schließt eine wichtige Sicherheitslücke klassischer IT-Architekturen. Während Daten im Ruhezustand und während der Übertragung üblicherweise verschlüsselt sind, liegen sie während der Verarbeitung in vielen Systemen im Klartext vor – etwa während der AI Inferences. Confidential Computing sorgt dafür, dass auch dieser Verarbeitungsschritt geschützt bleibt und ermöglicht öffentlichen Einrichtungen somit auch einen wesentlich breiteren Handlungsspielraum bei der Wahl des Cloud-Anbieters. Das BSI nennt in seinem Leitfaden für den Einsatz von Cloud-Lösungen im VS-Kontext der Bundesverwaltung sogar explizit Confidential Computing als wirksame Maßnahme, um VS-Daten während ihrer Verarbeitung vor dem Zugriff und der Manipulation durch den Cloud Provider hinreichend zu schützen [1].

Für Behörden bedeutet dies: Mithilfe von Confidential Computing und im speziellen auch Confidential AI erweitern sie ihre Flexibilität bei der Wahl des Cloud-Anbieters erheblich und können sogar von frei verfügbaren KI-Systemen profitieren, ohne dass sensible Informationen die geschützte Umgebung verlassen oder für unbefugte Parteien sichtbar werden.

Architektur souveräner Plattformen

Auf Basis des Confidential Computing entstehen neue Architekturen für den sicheren Einsatz von KI – wie etwa die GenAI-Firewall Garnet des deutschen Startups enclaive. Im Rahmen dieser Confidential-AI-Lösung werden interne Datenbestände zunächst in einer geschützten Infrastruktur verarbeitet und strukturiert. Dokumente werden beispielsweise vektorisiert und mit Metadaten angereichert, sodass KI-Systeme sie effizient durchsuchen können.

Mitarbeitende interagieren anschließend über eine gesicherte Benutzeroberfläche mit dem System und prompten in natürlicher Sprache. Das KI-System analysiert zunächst die vorhandenen internen Datenbestände und erstellt daraus eine Antwort. Bei diesem Verfahren, das als Retrieval-Augmented Generation bezeichnet wird, generiert die KI ihre Antworten auf Basis vorhandener Informationen.

Soll eine Anfrage zusätzlich durch externe KI-Modelle ergänzt oder validiert werden, können sensible Inhalte zuvor automatisch identifiziert und pseudonymisiert werden. Externe Modelle erhalten damit lediglich abstrahierte Informationen, während die eigentlichen Daten innerhalb der geschützten Umgebung verbleiben. Die finale Antwort wird anschließend wieder mit den internen Informationen zusammengeführt und den Nutzerinnen und Nutzern bereitgestellt.

Diese Architektur ermöglicht es Organisationen, moderne und frei verfügbare KI-Modelle flexibel zu nutzen und gleichzeitig die Kontrolle über ihre Daten zu behalten.

Souveräne KI als Baustein moderner Verwaltung

Der Einsatz von Confidential Computing eröffnet dem öffentlichen Sektor neue Chancen. Behörden können Cloud- und KI-Technologien nutzen, um große Wissensbestände zu erschließen, komplexe Analysen zu beschleunigen und Mitarbeitende in ihrem Arbeitsalltag zu unterstützen – ohne dabei Kompromisse bei Datenschutz und Informationssicherheit eingehen zu müssen.

Darüber hinaus trägt dieser Ansatz auch zur digitalen Souveränität bei. Wenn sensible Daten innerhalb kontrollierter Infrastrukturen verarbeitet werden und Organisationen flexibel zwischen verschiedenen Cloud-Service-Providern und KI-Modellen wählen können, sinkt die Abhängigkeit von einzelnen Anbietern oder Plattformen.

Gerade für staatliche Institutionen ist diese Unabhängigkeit ein zentraler Faktor. Eine souveräne KI-Infrastruktur ermöglicht es, Innovation voranzutreiben und gleichzeitig die Kontrolle über kritische Daten und Systeme zu behalten.

Confidential AI ist der entscheidende Baustein einer zukunftsfähigen digitalen Verwaltung, die die Potenziale moderner Technologien nutzt und zugleich das Vertrauen von Bürgerinnen und Bürgern in den verantwortungsvollen Umgang mit Daten stärkt.

Norbert Müller ist Chief Strategy Officer bei enclaive und für die strategische Geschäftsentwicklung verantwortlich. Zuvor war er Vice President von secunet Cloud Solutions und CEO von SysEleven. Als Experte für souveräne Cloud-Projekte, insbesondere im Public Sector, engagiert er sich zudem im Vorstand des Bitkom-AK Cloud-Politik & Gaia-X.

[1] https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/Geheimschutz/Leitfaden_Cloud-Loesungen_Bundesverwaltung.pdf?__blob=publicationFile&v=4

Illustration: © Stuardesa77 | Dreamstime.com

138 Artikel zu „Confidential AI“

News | Künstliche Intelligenz | Strategien

Strategien und Taktiken zu Confidential AI

4. August 2024

Künstliche Intelligenz wird häufig als latente Gefahr für die Datensouveränität von Unternehmen beschrieben. Wer sich dieser Gefahr nicht aussetzen will, muss Strategien und Taktiken für den sicheren und zugleich produktiven Umgang mit KI entwickeln. VNC erklärt die wichtigsten Parameter von Confidential AI. Künstliche Intelligenz und Confidential Computing stehen in einem scheinbar unauflösbaren Spannungsverhältnis: Einerseits stellt…