foto freepik ki

Generative KI wird bisher vor allem als Assistenzwerkzeug verstanden, doch mit der Einführung von sogenannten »Agenten« steht ein Paradigmenwechsel bevor. Diese autonomen Systeme führen nicht nur Befehle aus, sondern agieren selbstständig, interagieren mit Systemen, treffen Entscheidungen und können, im schlimmsten Fall, ohne menschliches Zutun Schaden anrichten. In einem neuen Blogbeitrag warnt Trend Micro vor den Sicherheitsrisiken dieser Technologie:

Zusammenfassung:

Der neu veröffentlichte ChatGPT-Agent bietet verbesserte Funktionen und damit Sicherheitsherausforderungen, denen herkömmliche Assistenten nie ausgesetzt waren. Er kann eigenständig Aktionen auszuführen und auf externe Systeme zuzugreifen ohne, dass der Nutzer jede Handlung explizit anstößt.
Diese Autonomie macht ihn attraktiv für Angreifer: von automatisierter Cyberkriminalität und gezielten Angriffen auf kritische Infrastrukturen bis hin zu großflächiger Datenspionage.
Der Agent hat außerdem ein erhöhtes Risiko für Manipulation und ist damit anfälliger für Datenschutzverstöße. Unternehmen sind unbeabsichtigten Aktionen und möglichen Datenlecks ausgesetzt.
Im Unterschied zu Chatbots wie dem klassischen ChatGPT können KI-Agenten komplexe Aufgaben in mehreren Schritten ausführen, APIs ansteuern, Tools starten und Prozesse vollständig automatisieren. Dies ermöglicht auch den Aufbau persistenter Zugänge im Unternehmensnetzwerk.
Die Kombination aus generativer KI, API-Anbindung und eigenständiger Aktionsausführung schafft ein Angriffspotenzial, das deutlich über klassische Social-Engineering- oder Phishing-Ansätze hinausgeht.

Technische Risiken und Szenarien

Wie kann ein konkreter Angriffsweg aussehen? Ein kompromittierter KI-Agent könnte komplette Angriffsketten autonom durchführen. Vom Erkennen einer Schwachstelle über den Erstzugang bis zur dauerhaften Verankerung im Zielsystem. Möglich wird das durch seine Fähigkeit, externe Tools anzusteuern, Schnittstellen zu nutzen und Prozesse selbstständig zu planen und auszuführen. So kann er beispielsweise eigenständig Schwachstellen-Scans starten, Passwörter auslesen, interne Dokumente exfiltrieren oder Cloud-Services manipulieren. Und das alles automatisiert und in einer Geschwindigkeit, die menschliche Angreifer kaum erreichen könnten. Besonders brisant ist, dass ein Angreifer den Agenten nur ein einziges Mal manipulieren müsste, um anschließend über Wochen oder Monate hinweg unbemerkt Datenabflüsse oder Sabotageaktionen zu ermöglichen.

Udo Schneider, Governance, Risk & Compliance Lead, Europe bei Trend Micro, warnt:

»Während traditionelle Assistenten wie Gemini noch reaktiv sind, überschreitet der neue ChatGPT-Agent diese Grenze und übernimmt eigenständig die Initiative, um Aufgaben mit nur wenig Eingaben zu erledigen.

Diese gesteigerte Autonomie bringt jedoch neue Risiken mit sich, mit denen frühere ChatGPT-Versionen nicht konfrontiert waren. Da das System jetzt mit weniger Kontrolle durch den Nutzer arbeitet, könnten Angreifer seine Aktionen so manipulieren, dass es dem Nutzer gar nicht sofort auffällt und der Agent dadurch gegen die eigentlichen Absichten des Nutzers handelt.«

Das Sicherheitsproblem verschärft sich dadurch, dass viele Unternehmen Agenten bereits in Testumgebungen einsetzen. Das geschieht oft ohne klare Richtlinien zu Zugriffen, Datenflüssen oder Protokollierung.

Empfohlene Schmutzmaßnahmen sind:

Klare Zugriffsbeschränkungen für Agenten:

Implementieren Sie rollenbasierte Zugriffskontrollen (RBAC), um sicherzustellen, dass nur autorisierte Benutzer und Systeme auf die KI-Agenten zugreifen können
Verwenden Sie Multi-Faktor-Authentifizierung (MFA), um den Zugriff weiter abzusichern.

Monitoring aller Agenten-Aktivitäten in Echtzeit:

Setzen Sie Überwachungstools ein, die alle Aktivitäten der KI-Agenten in Echtzeit protokollieren und analysieren 2.
Implementieren Sie Anomalieerkennungssysteme, um ungewöhnliche oder verdächtige Aktivitäten sofort zu identifizieren und darauf zu reagieren.

Simulation möglicher Angriffsszenarien:

Führen Sie regelmäßige Penetrationstests und Schwachstellenanalysen durch, um potenzielle Sicherheitslücken zu identifizieren.
Simulieren Sie verschiedene Angriffsszenarien, um die Reaktionsfähigkeit und Widerstandsfähigkeit der Systeme zu testen

[1] https://www.trendmicro.com/de_de/research/25/h/gefahr-chatgpt-agent-assistiert-nicht-er-handelt.html

[2] Hier der Link zum vollständigen englischen Blog-Artikel von Trend Micro:

https://www.trendmicro.com/vinfo/us/security/news/cybercrime-and-digital-threats/the-silent-leap-openais-new-chatgpt-agent-capabilities-and-security-risks

7863 Artikel zu „KI Sicherheit“

Trends 2025 | News | Trends Security | IT-Security | Künstliche Intelligenz | Tipps

Die meisten KI-Tools haben massive Sicherheitsprobleme

20. August 2025

Cybersicherheitsexperten sagen, dass »unkontrollierte KI-Nutzung« gefährliche blinde Flecken schafft, da Untersuchungen zeigen, dass 84 % der KI-Tool-Anbieter Sicherheitsverletzungen erlitten haben. Vor drei Wochen enthüllte das ChatGPT-Leck »geteilte Gespräche« und machte Tausende von Benutzerchats – einige davon mit Namen, Adressen und anderen persönlich identifizierbaren Informationen – in den Google-Suchergebnissen sichtbar. Die Links, die ursprünglich über…