»Cyberkriminelle geben in Sachen KI den Takt vor«

Illustration Absmeier foto freepik ki

Durch den Einsatz von künstlicher Intelligenz durchbrechen Hacker Verteidigungsmaßnahmen von Unternehmen schneller als je zuvor. Noch haben IT-Sicherheitsteams die Oberhand, aber das Blatt könnte sich schnell wenden, warnt Theus Hossmann. Im Interview mit manage it klärt er über die aktuelle Situation von Agentic AI im Cybersecurity-Kontext auf und erläutert, welche fundamentale Rolle KI-Agenten spielen.

 

Wie genau verändert Agentic AI die Cybersicherheit?

Alles dreht sich mittlerweile um Geschwindigkeit. Vor zehn Jahren ging es in Sachen Cybersicherheit vor allem darum, den neuesten Zero-Day-Exploit zu entdecken und so einen ausgefeilten Angriff im richtigen Moment starten zu können. Heute geht es Hackern eher darum, schnell die Sicherheitsbarrieren zu durchbrechen, Daten abzugreifen und wieder zu verschwinden – bestenfalls bevor überhaupt jemand merkt, dass sie da waren. Das geschieht teils wahllos, vergleichbar mit einem Raubüberfall, bei dem die Kriminellen einfach in einen Laden rennen und im Zweifel einstecken, was nicht niet- und nagelfest ist. Ob etwas Wertvolles dabei war und ob man es zu Geld machen kann, wird erst später geprüft. Agentic AI hilft Verteidigern nun in Form autonomer Cybersecurity-Systeme, um praktisch in Echtzeit auf Anomalien zu reagieren und Gegenmaßnahmen nicht nur einzuleiten, sondern direkt auszuführen. Herkömmliche KI-Tools können zwar Muster erkennen und Verteidiger warnen, tatsächlich eigenständig auf Vorfälle und sich verändernde Situationen reagieren konnte KI bis dato allerdings nicht. Cyberkriminelle beobachten diesen Wandel sehr genau.

 

Viele betrachten Agentic AI nur aus der Sicht der Verteidiger. Welche neuen Möglichkeiten ergeben sich für Hacker?

Ein interessanter Aspekt, denn in Wahrheit geben die Kriminellen den Takt in Sachen Agentic AI vor. Sie betrachten die neue Technologie genau wie wir Verteidiger als ein mächtiges Automatisierungswerkzeug, mit dem sie viel schneller agieren können. KI-Agenten können ihnen dabei helfen, laterale Bewegungen, also die Ausweitung des Angriffs auf weitere Systeme innerhalb eines kompromittierten Netzwerks, das Sammeln von Zugangsdaten oder die Datenexfiltration erheblich schneller durchzuführen. All das sind Aufgaben, die früher sehr zeitintensiv und aufwendig waren. Cyberkriminelle trainieren KI-Agenten beispielsweise, um Pentesting-Werkzeuge wie Metasploit automatisiert zu bedienen und so Schwachstellen in Systemen aufzuspüren. Das ist keine Zukunftsvision, sondern passiert in genau diesem Moment. Die beste Verteidigung dagegen ist, die gleichen KI-Technologien wie Hacker zu nutzen und sie möglichst schnell für die Verteidigung zu trainieren.

 

Wo spielt Agentic AI auf Seite der Verteidigung seine Stärken aus?

Bei Ontinue setzen wir Agentic AI ein, um Untersuchungen von Sicherheitsvorfällen zu beschleunigen. Unser Analyseagent prüft Hinweise und entscheidet, was als nächstes untersucht werden soll. Er kann zudem Ergebnisse neu bewerten, um tiefer zu graben und weiteren Kontext zu erfassen. All das kann die KI leisten, bevor ein Mensch überhaupt eingreift. Dieses Vorgehen ermöglicht es menschlichen Cybersecurity-Analysten, sich ausschließlich auf die relevantesten Vorfälle zu konzentrieren. Auf diese Weise verkürzt sich aber nicht nur die durchschnittliche Untersuchungszeit deutlich, auch die Konsistenz der Vorfallbearbeitung steigt. Zwar wird KI mittel- bis langfristig menschliche Intuition nicht ersetzen können, aber Agentic AI kann bereits heute einen Großteil der Detailarbeit übernehmen und den menschlichen Kolleginnen und Kollegen gut zuarbeiten.

 

Bei welcher Art von Cyberattacken ist Geschwindigkeit entscheidend?

Ransomware ist das perfekte Beispiel für Bedarf an hoher Reaktionszeit. Hacker wollen sich bei einem solchen Smash-and-Grab-Angriff Zugang zu Systemen verschaffen, eindringen, sich schnell ausbreiten und die Verschlüsselung der Unternehmensdaten durchführen, bevor die Verteidiger reagieren können. Auch beim Hacking von Mail-Accounts geht es um Geschwindigkeit: Angreifer übernehmen ein Postfach und nutzen dann Automatisierung in Verbindung mit generativer KI, um überzeugende Phishing-Mails an alle Kontakte zu senden. Je schneller diese Angriffe durchgeführt werden, desto wirkungsstärker sind sie. Natürlich gibt es nach wie vor die sogenannten Low-and-Slow-Akteure. Bei denen handelt es sich allerdings meist um staatliche Akteure, die versuchen, sich lang und unbemerkt in einem Netzwerk zu bewegen und Unternehmen auszuspionieren. Aber Smash-and-Grab-Angriffe verursachen aktuell einen Großteil des Schadens, weshalb Verteidiger Agentic AI dringend benötigen, um ebenso schnell reagieren zu können.

 

Merken Angreifer überhaupt, wenn sie auf Agentic AI treffen? Verändert das ihr Vorgehen?

Das kommt natürlich ein wenig darauf an, wie Agentic AI eingesetzt wird. Wer keine speziellen Cybersecurity-Sensoren auf Endpunkten einsetzt, die sicherheitsrelevante Telemetriedaten wie Trafficanalysen, Registry-Zugriffe oder DNS-Anfragen sammeln und sie an Systeme weiterleiten, die einen KI-Agenten implizieren würde, fliegt unter dem Radar. Für einen Angreifer sieht das dann ganz einfach wie jede andere Cybersecurity-Anwendung aus. Unterm Strich spielt es aber keine Rolle, ob sie es wissen oder nicht. In einem solchen Wettlauf gegen die Zeit zählt nur, schneller zu sein als der Gegner – unabhängig von dessen Werkzeugen.

 

Kann Agentic AI auch in der Prävention eine Rolle spielen oder sind KI-Agenten nur für die Untersuchung von Security Incidents hilfreich?

In Sachen Präventionsmaßnahmen stehen wir noch ganz am Anfang. Keine Frage, das Feld ist hochinteressant, aber die größten Benefits von Agentic AI liegen, Stand heute, in der Untersuchung von Sicherheitsvorfällen. Indem wir den Reaktionsprozess durch frühzeitige Erkenntnisse und einfach zugänglichen, reichhaltigen Kontext beschleunigen, helfen wir Nutzern unseres MXDR-Services, stets einen Schritt voraus zu sein.

 

Letzte Frage: Wenn Angreifer generative KI bereits mit Social-Engineering-Taktiken kombinieren – werden wir künftig mehr hybride KI-basierte Attacken sehen?

Absolut. Angreifer nutzen generative KI bereits, um Phishing-Mails glaubwürdiger und personalisierter zu gestalten. Man stelle sich nun vor, sie kombinieren diese Kapazitäten mit Agentic AI, um den eigentlichen Einbruch in die Mail-Postfächer zu automatisieren. Die Frage ist daher nicht ob, sondern wann hybride Attacken Schule machen werden. Darum müssen wir als Verteidiger ebenso schnell handeln und genau deshalb werden auch hier Tools wie autonome KI-basierte Cybersecurity-Analysten unverzichtbar.

 

Theus Hossmann Ontinue

Theus Hossmann ist Chief Technology Officer bei Ontinue und verantwortet sowohl die technologische als auch die KI-Strategie des Unternehmens. In dieser Funktion leitet er das Engineering- und KI-Team. Sein besonderes Augenmerk gilt der praxisnahen Anwendung fortschrittlicher Technologien. Vor seinem Einstieg bei Ontinue war Theus Mitgründer von Sqooba, einem Unternehmen für Data, Analytics und Künstliche Intelligenz. Dort baute er ein Team auf, das maßgeblich die heutige KI-Kompetenz von Ontinue mitprägt. Theus promovierte an der ETH Zürich und forschte anschließend dort sowie an der University of Cambridge.

 

3720 Artikel zu „KI IT-Sicherheit“

Neues Reputationsranking: Deutsche IT-Sicherheitsfirmen wenig sichtbar – ausländische Anbieter dominieren

Schwache Management-Sichtbarkeit gefährdet Reputation: IT-Security-Unternehmen nutzen ihr Management kaum als Stimme im öffentlichen Diskurs. Nachhaltigkeit bleibt Randthema: Trotz wachsender Bedeutung für Vertrauen und Resilienz spielt sie bei Security-Unternehmen und Systemintegratoren bisher nur eine Nebenrolle. Arbeitgeberattraktivität unterbewertet: Fachkräftemangel trifft auf geringe öffentliche Wahrnehmung als Arbeitgebermarke.   Deutsche Anbieter von IT-Sicherheitslösungen fallen im internationalen Vergleich zurück. Das…

Künstliche Intelligenz in der IT-Sicherheit: Wie Partner mit KI-gestützter Security Neu- und Zusatzgeschäft generieren können

Künstliche Intelligenz spielt sowohl bei Cyberangriffen als auch bei der Cyberabwehr eine immer größere Rolle. Wer sich jetzt richtig aufstellt und marktführende KI-basierende Security-Lösungen ins Portfolio aufnimmt, sichert sich für die kommenden Jahre nachhaltiges Wachstum.   Künstliche Intelligenz ist die wichtigste Zukunftstechnologie, sagen drei Viertel der Unternehmen, die vom Branchenverband Bitkom über ihre Einstellung zu…

Trends in der IT-Sicherheit, Wissensvermittlung und Networking – Rückblick auf die it-sa 2023

Die it-sa Expo&Congress war vom 10. bis 12. Oktober 2023 das »Home of IT Security« für 19.449 Fachbesucher aus 55 Ländern und 795 Aussteller aus 30 Ländern. Ein neuer Aus­stellerrekord und 30 Prozent mehr Fachbesucher als im Vorjahr bescherten den drei Hallen 6, 7 und 7A im Messezentrum Nürnberg viel Betrieb. In rund 370 Forenbeiträgen und dem begleitenden Congress@it-sa drehte sich alles um aktuelle Trends in der IT-Sicherheit sowie Wissens­vermittlung und Networking.

Digitale Identitäten: IT-Sicherheitslage, KI und NFC prägen 2024

Die weltweite IT-Sicherheitslage und künstliche Intelligenz à la ChatGPT haben in den letzten zwölf Monaten die Schlagzeilen bestimmt. Wenig deutet aktuell darauf hin, dass sich dies im nächsten Jahr ändert. Auf digitale Identitäten und Dienstleistungen hat dies ebenfalls Auswirkungen. Philipp Angermann, Director Financial Services DACH bei IDnow, wirft einen Blick auf fünf Herausforderungen und Chancen,…

KI birgt neue Herausforderungen & Chancen für die IT-Sicherheit

Schulungen helfen IT-Security-Teams KI zu nutzen, um KI-gestützt Cyberangriffe zu bekämpfen und gleichzeitig die gesamte Belegschaft für die Gefahren zu sensibilisieren.   Künstliche Intelligenz (KI) verändert die Art, in der wir arbeiten. Das gilt auch für den Bereich IT-Sicherheit – und zwar auf Seiten der Angreifer sowie auf Seiten der Sicherheitsverantwortlichen in Unternehmen. Die Nutzung…

Data Science für die IT-Sicherheit: KI-Human-Teams können Cyberangreifer stoppen

Trotz der erstaunlichen Fortschritte bei der Leistung der künstlichen Intelligenz in den letzten Jahren ist keine KI perfekt. Tatsächlich wird die Unvollkommenheit einer KI in der Regel durch die Messung der Genauigkeit des Modells an einem Testdatensatz deutlich gemacht. Perfekte Ergebnisse werden weder erwartet noch sind sie üblich.   Christopher Thissen, Data Scientist bei Vectra…

Wettlauf zwischen Angreifern und Verteidigern – KI und IT-Sicherheit

Die vom Bundesministerium für Bildung und Forschung (BMBF) initiierte Plattform Lernende Systeme (PLS) hat das Ziel, künstliche Intelligenz und maschinelles Lernen im Sinne der Gesellschaft zu gestalten. Im aktuellen Whitepaper »Künstliche Intelligenz und IT-Sicherheit« analysiert die Arbeitsgruppe »IT-Sicherheit, Privacy, Recht und Ethik« der PLS eines der Spannungsfelder der KI. Beigetragen haben dazu auch Experten des…

Führungskräfte sehen mangelnde Datenstrategie als Gefahr für den KI-Erfolg

  Eine neue Studie mit fast 1.900 CIOs, CISOs und weiteren IT-Führungskräften zeigt den wachsenden Anspruch, sensible Daten zu schützen und gleichzeitig Wachstum zu fördern.   OpenText hat einen neuen globalen Report mit dem Titel »The Challenges to Ensuring Information Is Secure, Compliant and Ready for AI« veröffentlicht [1]. Die Umfrage zeigt, dass deutsche und…

Zero Trust wird 15 und ist im Zeitalter von KI aktueller denn je

  Künstliche Intelligenz hat nicht nur das Potenzial, Produktivität und Effizienz zu steigern – sie revolutioniert auch die Cybersicherheit. Dabei ändert KI jedoch nichts am Zero-Trust-Paradigma – vielmehr stärkt sie es. Auch KI operiert innerhalb der grundsätzlichen Regeln der IT-Sicherheit, und auch KI-gestützte Angriffe funktionieren nur dann, wenn es eine offene Tür gibt. Diese vier…

Whitepaper: Generative KI für Daten jenseits von Text und Bild

Neues Fraunhofer-Whitepaper zum Einsatz von KI in komplexen Datenwelten: Praxisnahe Einblicke und Anwendungsbeispiele [1].   Von Matrizen über Zeitreihen bis hin zur Verarbeitung multimodaler Daten in der Robotik: Im neuen Whitepaper »Jenseits von Text und Bild – Generative KI für vielfältige Datenwelten« geben Institute der Fraunhofer-Allianz Big Data und künstliche Intelligenz einen Überblick über neue…

Whitepaper erklärt rechtliche Fallstricke beim Einsatz von KI

Whitepaper beleuchtet zentrale juristische Fragestellungen rund um KI im deutschen und europäischen Recht. Trend Micro, ein Anbieter von Cybersicherheitslösungen, veröffentlichte sein neues Whitepaper »KI in der IT: Ein juristisches Minenfeld« [1]. Dieses behandelt die wichtigsten rechtlichen Anforderungen und juristischen Fragestellungen zum Einsatz von künstlicher Intelligenz in Unternehmen. Künstliche Intelligenz (KI) verändert die IT-Landschaft rasant: Sie…

Bachelorarbeit und KI – Chancen und Risiken bei der akademischen Abschlussarbeit

Die künstliche Intelligenz ist in unserem Leben allgegenwärtig. Auch in den Hochschulen und Universitäten hat sie längst Einzug gehalten. Referate, Seminararbeiten und Abschlussarbeiten erstellen die Studierenden ganz oder teilweise mithilfe von Apps wie ChatGPT, Go Thesis oder DeepL Write. Vor allem wenn der Zeitdruck groß wird, wie am Ende des Studiums, wird gern KI eingesetzt.…

Zwei Drittel der Deutschen rechnen mit mehr Cyberattacken durch KI

Digitale Souveränität ist ein entscheidender Erfolgsfaktor für Unternehmen in Deutschland. Das belegt auch die aktuelle, repräsentative Studie »Cybersicherheit in Zahlen« von G DATA, brand eins und Statista: Drei Viertel der IT- und IT-Sicherheitsverantwortlichen bevorzugen mittlerweile einen deutschen Security-Anbieter – ein Zuwachs von über zwanzig Prozent innerhalb nur eines Jahres. Ein weiteres Ergebnis des umfangreichen Magazins…

Digitale Mitarbeitererfahrung: KI und DEX

Es gibt eine wachsende Diskrepanz zwischen der angenommenen digitalen Reife von Unternehmen und den realen technischen Herausforderungen, die Büroangestellte und IT-Fachkräfte betreffen. Nur 21 % der Büroangestellten geben an, dass KI ihre Produktivität deutlich steigert. Digitalen Mitarbeitererfahrung: Technische Störungen verursachen in Unternehmen jährlich Produktivitätsverluste in Millionenhöhe.   In den nächsten drei Jahren planen 92 %…

Effizienter zur Nachhaltigkeitsberichterstattung – mit KI als Unterstützung

Die ESG-Berichtspflicht ist da. Für einige Unternehmen eine Chance, sich mit Nachhaltigkeit zu profilieren. Für andere ein bürokratischer Albtraum. Eines aber gilt für alle: Der Nachhaltigkeitsbericht muss erstellt werden. Und das ist nicht nur ein bisschen Tabellenfüllen und ein paar gute Taten beschreiben. Es geht um strukturierte, prüffähige, standardisierte Angaben entlang von bis zu 1300…

KI-Echtzeit-Lagebild stärkt Schutz kritischer Infrastrukturen

Integration heterogener Datenströme in rollenbasiertes Dashboard überwacht sensible IT-Umgebungen kontinuierlich. KI-gestützte Prognosen und Handlungsempfehlungen. Fachlich übertragbar auf andere essenzielle Versorgungssysteme. Telekom-Lösung in Kooperation mit dem Universitätsklinikum Bonn.   Cyberattacken, Systemausfälle oder unentdeckte Schwachstellen – in hochvernetzten Organisationen wie gerade im Gesundheitswesen können solche Störungen dramatische Folgen haben. Entscheidend ist, jederzeit den Überblick zu behalten, in…

Zwischen Goldrausch und Götterdämmerung – Eine realistische Einordnung des KI-Booms

Ein Kommentar von Sebastian von Bomhard, Vorstand der SpaceNet AG   Die aktuelle Diskussion über eine KI-Blase, wie sie auch das Handelsblatt beschreibt, wird gerade von vielen Medien aufgegriffen. Auch wir sehen viele Opportunisten, die auf den Hype aufspringen und mit dem Buzzword KI das schnelle Geld machen wollen. Das funktioniert auch für einige, erinnert…

Studie zur Netzwerkmodernisierung als Schlüssel zur KI-Transformation

NTT DATA und Cisco haben einen gemeinsamen neuen IDC InfoBrief vorgestellt – Wired for Intelligence: A CIO Guide to Enterprise Networking for AI [1]. Die Studie zeigt, wie Unternehmen ihre Netzwerkinfrastrukturen modernisieren müssen, um ihre KI-Transformation zu beschleunigen.   Mit der zunehmenden Integration von KI in Anwendungen – von der Fertigungsbranche über das Gesundheitswesen bis…

Nur 44 Prozent der Unternehmen können einen sicheren KI-Betrieb garantieren

Während die Mehrheit der Unternehmen (93 Prozent) selbstbewusst davon ausgeht, dass ihre KI-Systeme vor Eingriffen und Manipulationen geschützt sind, besteht diese Sicherheit tatsächlich lediglich bei 44 Prozent.   Delinea, Anbieter von Lösungen für Identitätssicherheit und zentrale Autorisierung, stellt die Ergebnisse seiner aktuellen Studie zum Thema künstliche Intelligenz (KI) in Verbindung mit Identitätssicherheit vor. An der…

Insider-Bedrohungen und KI-blinde Flecken befeuern Dateisicherheitsrisiken

Einheitliche, mehrschichtige Plattformen zur resilienten Verteidigung werden immer wichtiger.   Eine neue Studie zeigt, dass Unternehmen zunehmend mit Sicherheitsrisiken durch Insider-Aktivitäten, veralteten Tools und die wachsende Komplexität von KI konfrontiert sind [1]. Die von OPSWAT in Auftrag gegebene Studie, die vom unabhängigen Ponemon Institute durchgeführt wurde, ergab, dass 61 Prozent der Unternehmen in den letzten…