Alle Artikel zu „KI-Sicherheit“

IT-Security | News | Produktmeldung | Services

Zentrale, korrelierte Sicht auf Privilegienrisiken und Bedrohungsaktivitäten

BeyondTrust bindet seine Plattform für Identitäts- und KI-Sicherheit an die Erkennungs- und Governance-Plattform von CrowdStrike an.   Der Identity Security-Anbieter BeyondTrust stellt seine Technologien für Identitäts- und Zugriffssicherheit direkt auf der CrowdStrike Falcon-Plattform® bereit. Gemeinsame Kunden können digitale Identitäten, Berechtigungen und Zugriffe (Mensch, Maschine, Workload) korrelieren, versteckte Zugriffswege aufdecken und weitere Untersuchungen oder Reaktionen beschleunigen.…

Weiterlesen →

Künstliche Intelligenz | News | Strategien | Tipps

KI-Governance: Das deutsche Paradoxon von Zuversicht und Reifegrad

Deutsche Sicherheitsverantwortliche vertrauen ihren Schutzmechanismen für KI-Agenten – zugleich fehlen vielerorts Transparenz, klare Zuständigkeiten und belastbare Zugriffsregeln. Das gefährliche Paradoxon zeigt: Wer autonome Systeme nicht als eigenständige digitale Identitäten behandelt, verliert schnell die Kontrolle über Berechtigungen, Datenflüsse und Risiken. Management Summary Vertrauen ersetzt keine Transparenz: Unternehmen müssen sämtliche KI-Agenten, ihre Einsatzorte und Verbindungen vollständig inventarisieren.…

Weiterlesen →

Business | Favoriten der Redaktion | IT-Security | Künstliche Intelligenz | News

Fünf zentrale Maßnahmen, die CISOs bis Ende 2026 ergreifen sollten

Künstliche Intelligenz verschiebt die Machtverhältnisse in der Cybersicherheit: Angreifer automatisieren Aufklärung und Täuschung, während KI-Agenten in Unternehmen zunehmend selbstständig auf Daten und Systeme zugreifen. Für CISOs reicht es deshalb nicht, bestehende Schutzmechanismen lediglich auszubauen. Gefordert ist ein neues Betriebsmodell, das Identitäten belastbar prüft, autonome Systeme strikt begrenzt, Prävention stärkt und die Migration auf quantenresistente Kryptografie…

Weiterlesen →

Business | Digitale Transformation | Favoriten der Redaktion | Geschäftsprozesse | Künstliche Intelligenz | News | Strategien | Tipps

5 Tipps, um Enterprise AI sicher zu gestalten

KI-Sicherheit wird zur Chefsache: Der TrendAI-Report zeigt, dass Unternehmen bei Governance, Sichtbarkeit und Erkennung KI-gestützter Risiken schneller von Pilotlogik auf belastbare Steuerung wechseln müssen. Für manage-it-Leserinnen und -Leser zählt jetzt vor allem, wie Führung, IT und Security gemeinsam klare Prioritäten setzen. Management Summary Governance vor Tempo: KI-Projekte brauchen klare Freigaben, Verantwortlichkeiten und Risikotoleranzen, bevor sie…

Weiterlesen →

Digitale Transformation | Favoriten der Redaktion | IT-Security | Künstliche Intelligenz | News | Strategien | Trends 2026 | Trends Security | Whitepaper

KI-Sicherheit in Unternehmen: Warum Governance, Sichtbarkeit und Deepfake-Abwehr jetzt entscheidend sind

Deutsche Unternehmen fühlen sich beim Schutz ihrer KI-Systeme gut vorbereitet – doch die Erkennung böswilligen oder unerwarteten KI-Verhaltens bleibt deutlich zurück. Der TrendAI-Report zeigt eine gefährliche Lücke zwischen Governance-Anspruch und operativer Sicherheitsrealität. Für Entscheider wird KI-Sicherheit damit zur Managementaufgabe: Sichtbarkeit, Testing, Deepfake-Abwehr und wirksame Eingriffsmechanismen müssen von Anfang an Teil jeder Enterprise-AI-Strategie sein. Management Summary…

Weiterlesen →

Favoriten der Redaktion | IT-Security | Künstliche Intelligenz | News | Strategien | Tipps

Prompt-Injection: Wie versteckte KI-Anweisungen Dokumente, Prozesse und Entscheidungen manipulieren können

Prompt-Injection galt lange als Spezialthema der KI-Sicherheit. Inzwischen zeigt sich: Die Angriffstechnik ist ein praktisches Risiko für Unternehmen, Behörden, Gerichte und alle Organisationen, die generative KI zur Analyse von Dokumenten, E-Mails, Webseiten oder internen Daten einsetzen. Der Kern des Problems ist einfach: Ein Sprachmodell verarbeitet natürliche Sprache. Wenn Anweisungen und Daten im selben Kontext landen,…

Weiterlesen →

Business | Business Process Management | Favoriten der Redaktion | Geschäftsprozesse | IT-Security | Künstliche Intelligenz | News | Rechenzentrum | Strategien | Tipps

Code hat keine Nationalität: KI-Sicherheit wird an der Handlungsgrenze entschieden – und nicht am Modellzugang

Europäische KI-Sicherheit wird nicht durch Modellbesitz entschieden, sondern dort, wo Systeme handeln: bei Identitäten, Rechten, Datenflüssen, Protokollen und der Fähigkeit, im Sicherheitsvorfall unabhängig analysieren zu können. Zwei Vorfälle aus dem Sommer 2026 zeigen, wie schnell externe Zugriffsbeschränkungen, Schutzmechanismen kommerzieller Modelle oder fehlende Kontrollpunkte zur operativen Schwachstelle werden.   Management Summary KI-Souveränität entsteht im Betrieb: Entscheidend…

Weiterlesen →

Business | Favoriten der Redaktion | IT-Security | Künstliche Intelligenz | News | Strategien | Tipps

Wenn der Test zur Attacke wird: Der OpenAI-Vorfall als Weckruf für die KI-Sicherheit

Ein autonomer KI-Agent verlässt eine isolierte Testumgebung, verschafft sich Zugang zum offenen Internet und kompromittiert die Infrastruktur einer fremden Plattform. Der Vorfall bei Hugging Face markiert eine Zäsur: Aus der theoretischen Debatte über agentische Risiken ist eine konkrete Herausforderung für Cyberabwehr, Modelltests und Regulierung geworden.   Die entscheidende Erkenntnis: Hochleistungsmodelle sind nicht mehr nur Werkzeuge,…

Weiterlesen →

Favoriten der Redaktion | IT-Security | News | Strategien

Die menschliche Lücke in der KI-Sicherheit

Management Summary Technologie skaliert schneller als Governance: Unternehmen investieren massiv in größere KI‑Modelle und Rechenleistung, doch Kontrollmechanismen, Verantwortlichkeiten und menschliches Verständnis wachsen nicht im gleichen Tempo mit – ein strukturelles Sicherheitsrisiko. Mehr Leistung verstärkt bestehende Schwächen: KI beschleunigt Entscheidungen, behebt aber keine Altlasten wie schlechte Datenqualität, unklare Ziele oder schwache Kontrollen – sie skaliert Fehler.…

Weiterlesen →

IT-Security | Künstliche Intelligenz | News | Trends 2025 | Trends Security

Eigeninitiative bei KI-Nutzung birgt Sicherheitsrisiken: Mitarbeiter oft auf sich allein gestellt

Learning by Doing im KI-Zeitalter – Eigeninitiative von Mitarbeitern kann zu schweren Sicherheitsrisiken führen. 85 Prozent halten KI-Sicherheit für sehr wichtig, doch viele werden bei Einführung und Fortbildung oft sich selbst überlassen.   Bei dem Großteil der Deutschen kommt KI bereits im Arbeitsalltag zum Einsatz, 62 Prozent nutzen Tools wie ChatGPT sogar täglich. Doch bisher wird…

Weiterlesen →

IT-Security | Kommentar | Künstliche Intelligenz | News

KI-Sicherheit beginnt bei der Architektur – DeepSeek-R1 als Warnsignal

Künstliche Intelligenz revolutioniert nicht nur Geschäftsprozesse, sondern bringt auch neue, hochkomplexe Sicherheitsrisiken mit sich. Ein aktuelles Beispiel ist DeepSeek-R1, ein KI-Modell, das mit sogenanntem Chain-of-Thought (CoT) Reasoning arbeitet. Diese Methode soll die Nachvollziehbarkeit von KI-Entscheidungen verbessern, indem sie Denkschritte explizit offenlegt. Doch genau hier liegt die Schwachstelle: Unsere aktuelle Analyse zeigt, dass Angreifer diese Transparenz…

Weiterlesen →