Illustration Absmeier foto freepik

Das Jahr 2025 rückt näher, und künstliche Intelligenz (KI) sorgt immer noch für erhebliche Veränderungen in der Cybersicherheitslandschaft. KI kommt zunehmend in den unterschiedlichsten Branchen zum Einsatz. Unternehmen sollten sich darauf vorbereiten, dass ihre Daten, Systeme und Benutzer steigenden Risiken ausgesetzt sind. Risiken, die sie potenziell nicht vollständig verstehen. Die inzwischen weit verbreitete Nutzung von generativer KI führt dauerhaft zu komplexen Schwachstellen. Grund genug für Führungskräfte ihre defensiven und offensiven Sicherheitsstrategien kritisch zu überdenken.

Drei Prognosen, worauf Unternehmen sich im Jahr 2025 voraussichtlich einstellen müssen:

»Kollege KI« – Eine Sichtweise, die Unternehmen sich zu eigen machen sollten

KI-Anwendungen sind heutzutage tief in die geschäftlichen Abläufe eingebettet. Genau diese Integration macht sie für Cyberkriminelle zu besonders lukrativen Zielen. Im Jahr 2025 wird es Hackern nicht nur gelingen, in KI-basierte Anwendungen einzudringen. Es wird ihnen auch gelingen, KI so zu manipulieren, dass Angreifer Geschäftsprozesse stören oder immense finanzielle Verluste verursachen können. Firmen sollten dazu übergehen, KI-Anwendungen wie eine Person zu betrachten. Ganz ähnlich wie wir es vor nicht allzu langer Zeit bei Bots getan haben. Für Unternehmen ist es angesichts dessen unerlässlich, ausgeklügelte Überwachungs- und Reaktionssysteme (monitoring, response systems) sowie Sicherheitsprotokolle zu implementieren, die speziell auf KI zugeschnitten sind. Darüber hinaus sollten proaktive Mitarbeiterschulungen und der Austausch von Informationen der Bedrohungsaufklärung (Threat Intelligence) wichtige Bestandteile jeder robusten Sicherheitsstrategie sein.

Generative KI erhöht das Risiko für nicht-menschliche Identitäten (NHI)

Durch die Nutzung generativer KI erhöht sich die Zahl von NHIs in einem Unternehmen rapide. 2025 wird sich dieser Trend verstärken. Eine unkontrollierte Ausbreitung dieser nicht-menschlichen Identitäten eröffnet Angreifern neue Möglichkeiten und macht das Identitätsmanagement noch komplexer als es ohnehin schon ist. Das gilt in verschärftem Maß für Unternehmen, die sehr schnell dazu übergegangen sind, Lösungen auf Basis von generativer KI einzusetzen.

Mit der allgemeinen Hysterie rund um KI (und der generell eher unkontrollierten Verbreitung von generativer KI) wird sich das Gefahrenpotenzial nicht-menschlicher Identitäten im Jahr 2025 erhöhen. KI wird mehr und mehr Arbeitsprozesse automatisieren und NHIs in der Folge spezielle Verfahren für das Identity Management benötigen. Sicherheitsteams sollten die IAM-Protokolle auf NHIs ausweiten und sich dabei von den Prinzipien der minimalen Rechtevergabe leiten lassen, regelmäßige Audits durchführen und autonome Agents in Echtzeit überwachen. Verzichtet man auf diese Vorsichtsmaßnahmen, werden NHIs schnell zum bevorzugten Angriffsziel innerhalb eines Unternehmens.

Der Einsatz von künstlicher Intelligenz wird die Prämien für Cyberversicherungen in die Höhe treiben

Die derzeitigen Bedenken, was die Sicherheit von KI und anderen Transformationsbestrebungen anbelangt, treiben die Prämien für Cyberversicherungen in die Höhe. Die Versicherer beobachten KI-Entwicklungen sehr genau, denn das Schadenspotenzial KI-basierter Vorfälle, einschließlich von Sicherheitsverletzungen, Betrug oder Systemausfällen, erfordert zwangsläufig eine Neubewertung der Risiken. In dem Maße, in dem Firmen dazu übergehen, KI mehr und mehr in organisatorische Prozesse zu implementieren, kalkulieren Versicherer das Risiko und die potenziellen Auswirkungen KI-basierter Vorfälle neu. Firmen, die KI-Governance und eine entsprechende Sorgfalt bei der Cybersicherheit vermissen lassen, respektive nicht nachweisen können, müssen mit höheren Prämien rechnen. Dieser Druck wird Unternehmen veranlassen, ihr Risikomanagement zu optimieren und mehr in Präventivmaßnahmen zu investieren, um die steigenden Prämien zu kontrollieren. Dies wird eine neue Ära im Bereich Risikomanagement für künstliche Intelligenz einläuten: Unternehmen werden

KI-Schwachstellen genauso ernst nehmen wie traditionelle Bedrohungen. Es geht dabei auch um einen Verständniswandel. Prämienerhöhungen sind nicht nur finanzielle Unannehmlichkeiten – sie sind Indikatoren für eine Risikolandschaft, die sich in Echtzeit verändert.

KI wird erneut eine wesentliche Rolle innerhalb der Cybersicherheit, als gleichzeitig transformativer und herausfordernder Faktor spielen. Daher sollten Unternehmen KI-Anwendungen so absichern, als ob es sich um Personen handeln würde. Außer NHIs zu schützen, sollte man sich ebenfalls auf steigende Prämien bei Cyberversicherungen einstellen. Firmen, die KI-Risiken vorrausschauend managen, werden eher in der Lage sein, das Potenzial von KI zu nutzen, ohne den Risiken zum Opfer zu fallen. Es gilt eine Cybersecurity-Awareness-Kultur aufzubauen und tragfähige Schulungsprogramme einzuziehen. Beides wird für den unternehmerischen Erfolg unerlässlich sein. Cyberbedrohungen werden sich kontinuierlich weiterentwickeln. Deshalb sollte man Daten und Systeme umfassend schützen und gleichzeitig die branchenübergreifende Zusammenarbeit fördern. Letztlich wird beides eine entscheidende Rolle beim Aufbau einer grundlegenden Resilienz im Bereich Sicherheit spielen.

Mark Logan, CEO von One Identity

Mark Logan, Chief Executive Officer von One Identity, stieß im Juni 2022 zum Unternehmen. In seine Position verantwortet Logan die grundlegende Wachstumsstrategie, das Go-to-Market sowie das P&L für One Identity. Mark Logan ist eine erfahrende Führungskraft, insbesondere was die erfolgreiche Wachstumsentwicklung von Softwareunternehmen anbelangt. Logan ist seit fast zwei Jahrzehnten auf der Führungsebene von Unternehmen wie Emptoris (jetzt Teil von IBM), Attunity und zuletzt LogRhythm tätig.

1521 Artikel zu „Sicherheit KI Prognose“

Trends 2024 | News | Trends Security | IT-Security | Künstliche Intelligenz

Cybersicherheit in Zeiten von KI: Trends und Prognosen für das Jahr 2024

9. Januar 2024

Für die »Story of the Year« haben Sicherheitsexperten die Auswirkungen von künstlicher Intelligenz (KI) auf die Cybersicherheitslandschaft analysiert [1]. Im Fokus steht ihr Einsatz durch Cyberkriminelle, aber auch wie man sie im Bereich Cybersicherheit einsetzen kann. Die Analyse ist Teil des Kaspersky Security Bulletin, einer jährlichen Reihe von Vorhersagen und analytischen Reports im Bereich der…