foto maganific

Warum die nächste Stufe der Sicherheitsautomatisierung am Gedächtnis scheitert.

Adaptiert von einem Artikel von Nash Borges, Vice President of Engineering and Data Science, Sophos.

Die nächste Stufe der Sicherheitsautomatisierung scheitert aktuell an einem überraschend simplen Hindernis: Erinnerung. Wie sich das anfühlt, zeigt ein Film.

In Christopher Nolans Memento aus dem Jahr 2000 leidet der Protagonist Leonard Shelby an anterograder Amnesie. Er kann denken, analysieren und handeln, aber nichts davon gelangt ins Langzeitgedächtnis. Eine Stunde später ist alles verschwunden. Er kompensiert das mit Haftnotizen, Polaroids und Tätowierungen.

KI-Agenten im SOC haben dieselbe Diagnose.

Ein Analyst, der jeden Tag von vorn beginnt

Man stelle sich Leonard als SOC-Analysten vor. Er kann den aktuellen Alert triagieren, das SIEM abfragen, dem Playbook folgen. In diesem Moment ist er kompetent.

Doch er erinnert sich nicht daran, dass er exakt dieses Muster gestern schon untersucht hat. Er weiß nicht mehr, dass diese IP letzte Woche als harmlos eingestuft wurde. Er kann sich nicht daran erinnern, dass sich ein bestimmter Nutzer regelmäßig aus verschiedenen Städten einloggt, weil er an unterschiedlichen Standorten arbeitet.

Jede Schicht beginnt wieder bei null.

Genau so verhalten sich viele KI-Agenten im SOC heute. Mit einem entscheidenden Unterschied: Ihnen fehlen Haftnotizen, Polaroids und Körpertattoos.

Analyse ist da – Erfahrung und Erinnerung fehlen

Die aktuelle Generation von KI-Tools für Security Operations kann viel. Sie beantwortet Fragen, fasst Incidents zusammen und automatisiert Abfragen. Aber sie kann den eigentlichen Job nicht wirklich erledigen.

Der Grund dafür liegt nicht in der Analysefähigkeit. Was in der Neurowissenschaft als episodisches, semantisches und prozedurales Gedächtnis beschrieben wird, fehlt KI-Agenten heute noch fast vollständig. Der Unterschied liegt in dem, was erfahrene Analysten in eine Situation mitbringen – und was der »vergesslichen« KI fehlt: Der Senior-Analyst erinnert sich daran, dass er dieses Angriffsmuster vor drei Monaten gesehen hat und dass es ein Pentest war. Er weiß, welche Nutzergruppen legitim ungewöhnliches Verhalten zeigen.

Er bringt Kontext mit – aus Monaten und Jahren operativer Erfahrung.

KI-Systemen fehlt dieses Fundament. Jeder Alert wird isoliert verarbeitet. Erkenntnisse gehen verloren, bevor sie Wirkung entfalten können.

RAG ist Suchen, nicht Erinnern

Was also tun, wenn Wissen fehlt? Die erste Antwort der Branche auf dieses Problem war Retrieval-Augmented Generation, kurz RAG. Der Agent bekommt Zugriff auf eine Datenbank vergangener Incidents und sucht darin. Das sind die digitalen Äquivalenten zu Leonards Haftnotizen.

Doch RAG hat ein fundamentales Problem: Es findet, ohne zu verstehen.

Ein Agent kann nur dann auf vergangene Vorfälle zugreifen, wenn er genau weiß, wonach er suchen muss. Er erkennt nicht automatisch, dass der aktuelle Alarm dem von vor drei Monaten ähnelt – es sei denn, jemand hat ihm entsprechende Suchbegriffe eingegeben. Es gibt keine kontextbewusste Erinnerung, keine Mustererkennung über die Zeit, keine dynamische Anpassung.

Anders gesagt: Das System durchsucht im Dunkeln einen Aktenschrank.

Was echtes Gedächtnis bedeuten würde

Wenn Suchen nicht reicht, stellt sich die Frage: Was bedeutet Erinnern?

Ein SOC-Agent bräuchte mindestens vier Formen von Gedächtnis: die Geschichte vergangener Incidents, stabile Fakten über die eigene Umgebung, Erfahrungswissen darüber, was in konkreten Situationen funktioniert und schließlich dynamische Einschätzungen mit Vertrauensgrad.

Eine Detection-Regel, die über Monate immer wieder Alerts auslöst, ohne je einen echten Angriff zu bestätigen, sollte ein Agent irgendwann selbst als Fehlalarm einordnen.

Lösungsansätze mit offenen Fragen

Die Forschung arbeitet längst an Lösungen, von denen jedoch noch keine frei ist von Risiken.

Der erste Ansatz kommt vom MemGPT-Team, das inzwischen unter dem Namen Letta firmiert: sogenanntes Sleep-Time Compute. Die Idee ist so simpel wie einleuchtend: Agenten sollen ihre Leerlaufzeit nutzen, um Erinnerungen zu konsolidieren und Wissen vorab zu strukturieren, ähnlich wie das menschliche Gehirn im Schlaf Erlebnisse verarbeitet. Das Risiko dabei: Ein Agent könnte aus wiederkehrenden False Positives lernen, dass ein bestimmtes Muster harmlos ist – bis es das plötzlich nicht mehr ist.

Der zweite Ansatz, bekannt als A-MEM, folgt dem Zettelkasten-Prinzip: Neue Erinnerungen werden nicht einfach abgelegt, sondern aktiv mit bestehenden verknüpft. Das Gedächtnis entwickelt sich dynamisch weiter. Die offene Frage ist, wer diese Verknüpfungen kuratiert und wie ein solches System auditierbar bleibt, wenn sich Wissen ständig neu organisiert.

Der dritte Ansatz setzt auf bi-temporale Graphen. Jede Information erhält dabei zwei Zeitstempel: wann etwas in der realen Welt passiert ist und wann das System davon erfahren hat. Für forensische Analysen ist das Gold wert. Aber die Komplexität wächst schnell, und irgendjemand muss diese doppelten Zeitleisten pflegen.

Lernen im SOC – aber bitte compliant

Dazu kommt das strukturelle Dilemma. Gerade MDR-Anbieter würden davon profitieren, wenn ihre Systeme aus kollektiver Erfahrung lernen könnten. Erkennt ein Agent, dass Angriffsmuster X schon bei drei verschiedenen Kunden aufgetaucht ist, könnte er daraus eine neue Abwehrstrategie ableiten. In der Realität darf dieses Wissen allerdings nicht zwischen Kunden fließen. Compliance setzt hier enge Grenzen.

Lösungsansätze wie kollektives Gedächtnis mit sauber getrennten privaten und gemeinsamen Wissensebenen und Herkunftsnachweisen klingen vielversprechend – sind aber noch weitgehend Theorie.

Workflows sind keine Agenten

All diese Ansätze zeigen, wie komplex echtes Gedächtnis ist. Und sie erklären, warum wir heute noch nicht dort sind, wo viele es erwarten.

Die ehrliche Bestandsaufnahme: Die meisten produktiven Systeme heute sind keine Agenten. Sie sind Workflows. Sie helfen beim Arbeiten. Sie sind zuverlässig, skalierbar, wertvoll. Das bedeutet Alert-Enrichment, automatisierte Triage repetitiver Meldungen und schnellere Kontextzusammenstellung für Analysten. Aber ein Workflow erledigt nicht die Arbeit. Er unterstützt die Person, die sie erledigt.

Ein echter Agent würde Incidents eigenständig abschließen, aus Fehlern lernen, sein Bild der Umgebung kontinuierlich verfeinern.

Er würde sich erinnern.

Die Schlüsselfrage

Wer die nächste Generation der Sicherheitsautomatisierung bauen will, kommt am Amnesie-Problem nicht vorbei. Bessere Modelle allein reichen nicht. Mehr Daten auch nicht.

Die entscheidende Frage ist einfach – und gleichzeitig die schwierigste:

Was darf ein SOC-Agent nicht vergessen?

Sophos engagiert sich in der Entwicklung KI-gestützter Sicherheitslösungen, die nicht nur schnell reagieren, sondern dauerhaft dazulernen. Mehr dazu unter sophos.com.

7593 Artikel zu „KI Security“

News | IT-Security | Künstliche Intelligenz | Ausgabe 3-4-2026 | Security Spezial 3-4-2026

Data Security Posture Management: Datensicherheit mit KI – Sensible Informationen automatisch finden und schützen

7. Mai 2026

Moderne DSPM-Lösungen verschaffen Unternehmen Transparenz über ihre sensiblen Daten und die Risiken, denen sie ausgesetzt sind. Eine Schlüsselrolle spielt dabei KI: Sie ermöglicht es, große und verteilte Datenbestände weitgehend automatisiert zu klassifizieren.