foto freepik

Die Geschwindigkeit, mit der sich GenAI heute entwickelt, birgt großes Potenzial für Unternehmen – aber auch Risiken. Wer Sicherheitslücken, Datenschutzverstöße und Schatten-IT vermeiden will, braucht einen ganzheitlichen Ansatz. Drei zentrale Maßnahmen helfen Unternehmen damit sie GenAI sicher und zukunftsfähig integrieren können.

Die rasante Entwicklung von Generative AI (GenAI) verändert Branchen und Geschäftsprozesse tiefgreifend. Das Innovationspotenzial ist enorm – doch die schnelle Entwicklung birgt auch Risiken. Sicherheits- und Datenschutzverletzungen oder Compliance-Verstöße können schnell entstehen, wenn die Technologie unkontrolliert eingesetzt wird. Um das volle Potenzial sicher, verantwortungsvoll und ethisch auszuschöpfen, brauchen Unternehmen einen ganzheitlichen Ansatz, der Governance, Technologie und adaptive Sicherheitslösungen vereint. Hier sind drei Schritte, wie das gelingt:

Governance: Klare Regeln und Verantwortung

Ein verantwortungsvoller Einsatz von GenAI beginnt mit klaren Strukturen und Zuständigkeiten. Unternehmen sollten hierfür ein bereichsübergreifendes Team zusammenstellen, das Sicherheits-, Rechts-, Compliance- und IT-Perspektiven verbindet. Dieses Team sollte die Verantwortung für den Einsatz von GenAI-Lösungen im Unternehmen sowie die Einhaltung globaler Richtlinien – wie etwa der EU AI Act oder die OECD Leitlinien – tragen.

Ebenso wichtig ist ein klar definiertes ethisches Leitbild. Entscheidungen, die mithilfe von künstlicher Intelligenz (KI) getroffen werden, müssen nachvollziehbar sein und stets überprüft werden. Das ist wichtig, um zum Beispiel algorithmischen Bias zu erkennen – insbesondere in Bereichen wie Recruiting, Finanzen oder im Gesundheitswesen. Zudem sollten Unternehmen regelmäßig prüfen, wie sich der eigene KI-Einsatz auf die Organisation, die Wirtschaft und Gesellschaft auswirkt.

Entscheidend ist zudem, dass auch Mitarbeitende kontinuierlich und auf allen Ebenen im Umgang mit KI geschult werden. So müssen Entwickler verstehen, wie sie KI-Systeme sicher und fair gestalten, während Anwender lernen müssen, kritisch mit Ergebnissen umzugehen.

Technologiekontrollen: Modelle, Daten und Systeme gezielt absichern

Um GenAI-Systeme wirksam zu schützen, müssen Unternehmen von Anfang an geeignete Sicherheitsmaßnahmen implementieren. Sie sollten alle Interaktionen mit KI sowie ihre Ergebnisse genau protokollieren, um verdächtiges Verhalten schnell zu erkennen und im Ernstfall gezielt eingreifen zu können. Lösungen wie Identity Threat Detection and Response (ITDR) helfen dabei, Angriffsversuche in Echtzeit aufzudecken. Gleichzeitig gilt es, Zugriffe auf Modelle und Trainingsdaten konsequent zu beschränken. Durch regelmäßige Audits, den Einsatz von Hashing-Verfahren und klar geregelte Zugriffsrechte behalten Unternehmen Kontrolle über die Integrität ihrer Daten.

Auch sogenannte Schatten-IT, also unautorisierte KI-Anwendungen im Unternehmen, erfordert aktives Handeln. Mit gezielten Endpoint- und Browserkontrollen sowie automatischer Tool-Erkennung können IT-Teams solche Anwendungen aufspüren und zentral kontrollieren, bevor Risiken entstehen.

Datenzugang und Datenkontrolle stärken

GenAI ist nur so sicher wie die Daten, mit denen sie arbeitet. Unternehmen sollten den Zugang daher konsequent absichern. Hierfür eignen sich beispielsweise zeitlich begrenzte Zugriffsrechte (Just-in-time) nach dem Least-Privilege Prinzip, Privileged Access Management (PAM) Lösungen zur Kontrolle besonders sensibler Berechtigungen und Multi-Faktor-Authentifizierung – sowohl für menschliche als auch maschinelle Identitäten. Trainingsdaten müssen besonders geschützt werden: Vertrauliche oder persönliche Informationen sollten entfernt oder pseudonymisiert werden. Mit einer einheitlichen Klassifizierung lassen sich Zugriffsrechte besser steuern. Verschlüsselung schützt die Daten zusätzlich beim Speichern oder Übertragen vor unbefugtem Zugriff.

Zudem sollten Unternehmen auch die Ein- und Ausgabedaten von GenAI-Systemen kontrollieren. Mithilfe von Echtzeitüberwachung lassen sich kritische oder regelwidrige Inhalte frühzeitig erkennen – zum Beispiel im Hinblick auf Datenschutz oder ethische Vorgaben. Gleichzeitig müssen auch die von der KI erzeugten Inhalte verschlüsselt, kategorisiert und nachvollziehbar dokumentiert werden.

Fazit

GenAI bietet heute enormes Potenzial – aber Unternehmen müssen sicherstellen, dass sie die Technologie kontrolliert und verantwortungsvoll einsetzen. Mit einem ganzheitlichen Sicherheitsansatz, der Governance, technische Kontrollen und Datenmanagement zusammenführt, lassen sich Risiken deutlich minimieren. So schaffen Unternehmen die nötige Vertrauensbasis, um ihren Umgang mit GenAI sicher, regelkonform und ethisch zu gestalten.

Andreas Müller, Vice President Enterprise Sales Central and Eastern Europe bei Delinea

3068 Artikel zu „KI Vertrauen sicher“

News | IT-Security | Services

Anforderungen an Cybersicherheit wachsen stark

22. Mai 2025

Zunehmend ausgeklügelte Cyberangriffe und eine wachsende Zahl von Sicherheitslücken in Kombination mit einer komplexen Vorschriftenwelt: CRA, NIS2, RED … erfordert Expertise und kompetente Beratung. Neue, immer komplexere Vorschriften, zunehmend ausgeklügelte Cyberangriffe und eine wachsende Zahl von Sicherheitslücken – das Thema Cybersicherheit setzt Unternehmen zunehmend unter Druck. Fachleute von TÜV Rheinland geben nun in Experteninterviews…