Künstliche Intelligenz

KI-Vorfälle rund um Anthropic und OpenAI: Warum die Regeln des EU AI Act genau zur richtigen Zeit kommen

Mit dem zweiten August werden Teile der verbleibenden Elemente des EU AI Act, der ersten KI-Regulierung der EU, anwendbar und sollen für mehr Disziplin und Sicherheit sorgen. Die Reglementierungen kommen wohl zur richtigen Zeit, wie die jüngsten Vorfälle bei den beiden US-Entwickler OpenAI und Anthropic zeigen. KI reißt Sicherheitslücken und kann Daten kompromittieren. Was bedeuten die…

»Eine europäische KI allein macht nicht digital souverän«

Wenn Cloud und KI in Europa gehostet werden, ist das Unternehmen dann digital souverän? Leider nein, denn souverän agieren kann nur derjenige, der vollständige Kontrolle über Prozesse, Technologie und Ergebnisse ausübt. Fehlen Überprüfbarkeit, Nachvollziehbarkeit und echte Entscheidungsfreiheit, bleiben Abhängigkeiten bestehen, gerade beim Einsatz von KI.   »Souverän« bedeutet im engeren Wortsinn, selbstbestimmt handeln und entscheiden…

KI unter Kennzeichnungspflicht: Warum Transparenz ab August 2026 zur CIO-Aufgabe wird

Mit dem EU AI Act wird aus freiwilliger Transparenz eine verbindliche Pflicht: Wer KI-generierte Texte, Bilder, Audios oder Videos nutzt und veröffentlicht, muss künftig sichtbar und technisch nachvollziehbar machen, wo künstliche Intelligenz im Spiel ist. Für CIOs entsteht damit ein neues Handlungsfeld zwischen Compliance, Reputationsschutz und digitaler Vertrauensbildung.   Executive Summary für CIOs Kennzeichnungspflicht für…

Zukunftssichere Verschlüsselung mit Quantum-resistentem Confidential Computing

Management Summary Post-Quantum-Sicherheit wird zur strategischen Pflichtaufgabe: enclaive adressiert mit krypto-agilem Confidential Computing die wachsende Gefahr durch Quantencomputer und »Harvest now, decrypt later«-Szenarien. Verschlüsselung muss auch während der Verarbeitung greifen: Confidential Computing schließt die Lücke bei Data in Use und schützt Anwendungen, Datenbanken und KI-Workloads selbst dann, wenn sie in Cloud-Infrastrukturen betrieben werden. Krypto-Agilität entscheidet…

Von selektiven Checks zur umfassenden Analyse: Deutsche Telekom nutzt KI für Cybersecurity

Management Summary KI wird zum Skalierungshebel für Cybersecurity: Die Deutsche Telekom zeigt, wie sich etablierte Sicherheitsanalysen mit GPT-5.5 Cyber von punktuellen Prüfungen auf deutlich größere IT-Umgebungen ausweiten lassen. Bestehende Security-Verfahren bleiben maßgeblich: KI ersetzt weder Red Teams noch klassische Prüfprozesse, sondern erweitert deren Reichweite und entlastet Fachkräfte bei wiederkehrenden Analyseaufgaben. Zwei praxisnahe Einsatzfelder stehen im…

Die europäische KI-Verifizierung: Deterministisch. Quittiert. Bereit.

Management Summary Transparenzpflichten werden 2026 scharf geschaltet: Ab 2. August 2026 müssen Anbieter und Nutzer von Allzweck‑KI nach Artikel 50 EU‑KI‑Gesetz nachweisbare, prüfbare Belege für KI‑Ergebnisse liefern – reine Zusicherungen reichen nicht mehr. Verifizierung wird zum europäischen Wettbewerbsfaktor: Die EU‑Industrie ist auf belastbare Fakten angewiesen; eine deterministische Verifizierungsschicht wird zum Fundament für sichere Lieferketten, Compliance und vertrauenswürdige KI‑Nutzung.…

Laufzeitautorisierung für KI-Agenten: Warum Zugriffskontrolle innerhalb der Sitzung wichtiger wird

KI-Agenten verändern die Sicherheitsarchitektur in Unternehmen. Sie greifen autonom auf Datenbanken, Cloud-Konsolen, Kubernetes-Cluster oder SSH-Hosts zu und führen dort Aktionen mit hoher Geschwindigkeit aus. Klassische Identitäts- und Zugangskontrollen reichen dafür nur bedingt aus: Sie prüfen häufig, ob ein Zugriff erlaubt ist, aber nicht granular genug, was während der Sitzung tatsächlich geschieht. Laufzeitautorisierung setzt genau an…

Bis 2029 werden die meisten Datenschutzvorfälle auf KI-generierte Schlussfolgerungen zurückzuführen sein

KI-bedingte Datenschutzrisiken erfordern von CISOs, den Fokus über den klassischen Schutz personenbezogener Daten hinaus auf die Governance KI-generierter Schlussfolgerungen auszuweiten.   Management Summary KI verändert das Risikoprofil des Datenschutzes grundlegend: Datenschutzvorfälle entstehen künftig nicht nur durch die Offenlegung personenbezogener Daten, sondern zunehmend durch Schlussfolgerungen, die KI-Systeme aus vorhandenen, aggregierten oder anonymisierten Daten ableiten. Für Unternehmen…

Der Kontrollverlust bei den KI-Agenten

Der CISO Insight Report von Okta warnt mit deutlichen Zahlen vor einem Kontrollverlust bei der Sicherheit von KI-Agenten. Okta, der Identitätsanbieter, hat seinen Global CISO Insights 2026 Report veröffentlicht, der eine kritische Governance-Lücke beim Einsatz von KI-Agenten aufdeckt [1]. Befragt wurden 306 CISOs weltweit, darunter auch aus Deutschland. Unternehmen treiben die Adaption von KI-Agenten derzeit…

Souverän und KI-fähig – wie der öffentliche Sektor seine Daten nutzbar macht, ohne die Kontrolle zu verlieren

  Mit dem Digital Austria Act 2.0 hat die Regierung im Sommer 2025 einen strategischen Rahmen geschaffen, der den Einsatz von KI in der Verwaltung in den Mittelpunkt rückt und die digitale Souveränität Österreichs stärken soll [1]. Kritische digitale Dienste sollen so künftig stärker auf europäischen Technologien und offenen Standards basieren, ergänzt um eine nationale…

Leistungsschub mit KI – Quantencomputing-basierte Methoden machen das Training großer KI-Modelle effizient

  KI hat in vielen Arbeits- und Lebensbereichen bereits Einzug gehalten. Das Training moderner KI-Modelle erfordert jedoch enorme Rechenressourcen, verbunden mit hohem Energieverbrauch und erheblichen CO₂-Emissionen. Daher muss dieser Bedarf durch intelligente Methoden deutlich gedrosselt werden. Das QC-Train Projektteam aus der infoteam Software AG, dem Fraunhofer-Institut für Integrierte Schaltungen IIS, der OptWare GmbH sowie den…

Die Tage vieler CEOs sind gezählt

Die Rolle des CEO wird sich bis 2031 grundlegend verändern. Und zwar in einem Ausmaß, das sich viele Führungskräfte heute noch gar nicht ausmalen können. Den entscheidenden Impuls dafür gibt – wie könnte es anders sein – künstliche Intelligenz. Oder besser gesagt: Agentic AI.   CEOs steht eine elementare Revolution bevor. Die hängt zwar mit…

Echtzeit-KI in der Fertigung: Warum Inferenz näher an die Produktionslinie rücken muss

Die Fabrik der nächsten Generation entscheidet nicht mehr erst nachträglich, sondern während der Prozess läuft. Damit wird KI-Inferenz von einer analytischen Zusatzfunktion zu einem operativen Bestandteil der Produktionsarchitektur – und die Frage, wo sie ausgeführt wird, kann über Taktzeit, Qualität und Ausfallsicherheit entscheiden.   Management Summary KI-Inferenz rückt in der Fertigung von der nachgelagerten Analyse…

Selbstverifizierende KI-Agenten verändern die elektronische Entwurfsautomatisierung

Management Summary Neue Automatisierungsstufe: Selbstverifizierende KI-Agenten können vollständige EDA-Abläufe planen, ausführen und über spezialisierte Simulations- und Verifikationswerkzeuge kontrollieren. Produktivitätspotenzial: Besonders bei Bibliothekscharakterisierung, Layoutanalyse und digitaler Verifikation sind kürzere Durchlaufzeiten, weniger manuelle Routinen und gezieltere Iterationen möglich. Qualität durch Rückkopplung: Der geschlossene Regelkreis aus Planen, Ausführen, Prüfen und Korrigieren erhöht die Nachvollziehbarkeit gegenüber rein generativen KI-Ansätzen.…

Wenn der Test zur Attacke wird: Der OpenAI-Vorfall als Weckruf für die KI-Sicherheit

Ein autonomer KI-Agent verlässt eine isolierte Testumgebung, verschafft sich Zugang zum offenen Internet und kompromittiert die Infrastruktur einer fremden Plattform. Der Vorfall bei Hugging Face markiert eine Zäsur: Aus der theoretischen Debatte über agentische Risiken ist eine konkrete Herausforderung für Cyberabwehr, Modelltests und Regulierung geworden.   Die entscheidende Erkenntnis: Hochleistungsmodelle sind nicht mehr nur Werkzeuge,…

RAG oder KI-Finetuning: Welcher Ansatz lohnt sich wirklich?

Der Einsatz von KI ist für die meisten Unternehmen mittlerweile obligatorisch. Viel mehr beschäftigt sie nun die Frage, wie sie das Modell mit spezifischem Wissen ausstatten sollen: via Retrieval-Augmented Generation (RAG) oder per KI-Finetuning. Ein bewährter Anbieter von KI-gestützten Digital Experiences und Infrastruktursoftware, hat dafür ein einfaches Entscheidungsframework entwickelt [1].   RAG oder KI-Finetuning? Unternehmen,…

Cyberresilienz im Zeitalter von KI: Wie sicher ist das IoT wirklich?

Die Bedrohungslage im Bereich der Cybersicherheit verändert sich rasant. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnt aktuell, dass künstliche Intelligenz die Geschwindigkeit, Skalierung und Automatisierung von Cyberangriffen erheblich erhöht und Unternehmen ihre Sicherheitsstrategien entsprechend anpassen müssen [1]. Vor diesem Hintergrund gewinnt der Cyber Resilience Act (CRA) der Europäischen Union zusätzlich an Bedeutung und…

»AI Kill Switch Act«: KI braucht Kontrolle

In den Nachrichten: Die Abgeordneten Ted Lieu und Nathaniel Moran haben in den USA den parteiübergreifenden »AI Kill Switch Act« eingebracht. Er würde betroffene KI-Entwickler verpflichten, Kontrollmechanismen vorzuhalten, mit denen sich die Inferenzleistung drosseln, Nutzer oder Funktionen einschränken, Dienste aussetzen oder Systeme abschalten lassen. Das US-Heimatschutzministerium könnte nach einem erfassten Vorfall den Einsatz dieser Kontrollmechanismen…

KI-gestütztes Frühwarnsystem im Tennenloher Forst erkennt Waldbrände frühzeitig: Projekt SmartForestFire

© Fraunhofer IIS / Paul Pulkert Sensoren erfassen Umweltparameter im Tennenloher Forst.   Management Summary – SmartForestFire  KI‑gestützte Frühwarnplattform: SmartForestFire kombiniert kamerabasierte Bildanalyse, Sensorik und die LPWAN‑Funktechnologie mioty®, um Rauchentwicklungen in Waldgebieten frühzeitig und zuverlässig zu erkennen. Reduktion von Fehlalarmen: Mehrstufige KI‑Modelle verknüpfen Bild-, Geo- und Sensordaten und unterscheiden Rauch präzise von Störfaktoren wie Nebel…

Die neue Bürokratie: KI-Komplexität erhöht den Arbeitsaufwand und drückt auf die Motivation der IT-Teams

Während sich politische Entscheidungsträger und Wirtschaftsvertreter in Deutschland weiterhin darauf konzentrieren, Effizienz zu steigern und Bürokratie abzubauen, deutet eine neue Studie von Freshworks darauf hin, dass viele Unternehmen stattdessen eine neue Ebene interner Bürokratie durch zunehmend komplexe KI-Umgebungen schaffen.   Die Ergebnisse des Freshworks Global Cost of Complexity Report – einer Studie unter 12.021 IT-Entscheidungsträgern…