foto freepik

Ein sicherer Übersteuerungsmechanismus in KI-Systemen, die nationale kritische Infrastrukturen unterstützen, ist unerlässlich, um die letztendliche Kontrolle durch den Menschen sicherzustellen.

Gartner, Inc., ein Unternehmen für Geschäfts- und Technologieanalysen, prognostiziert, dass bis 2028 eine fehlkonfigurierte KI in cyber-physischen Systemen (CPS) die kritische Infrastruktur eines G20-Landes zum Erliegen bringen wird.

Gartner definiert cyber-physische Systeme (CPS) als technische Systeme, die Sensorik, Rechenleistung, Steuerung, Vernetzung und Analyse miteinander verzahnen, um mit der physischen Welt zu interagieren. Der Begriff CPS dient dabei als Oberkategorie und umfasst unter anderem Betriebstechnologie (OT), industrielle Steuerungssysteme (ICS), industrielle Automatisierungs- und Steuerungssysteme (IACS), das industrielle Internet der Dinge (IIoT), Robotik, Drohnen sowie Anwendungen im Kontext von Industrie 4.0.

»Der nächste große Infrastrukturausfall wird womöglich nicht durch Hackerangriffe oder Naturkatastrophen ausgelöst, sondern durch einen Ingenieur, der in besten Absichten handelt, ein fehlerhaftes Update-Skript oder eine falsch gesetzte Dezimalstelle«, sagt Wam Voster, VP Analyst bei Gartner. »Ein sicherer ›Kill Switch‹ oder ein klar definierter Override-Modus, auf den ausschließlich autorisierte Fachkräfte zugreifen können, ist daher entscheidend, um die nationale Infrastruktur vor unbeabsichtigten Ausfällen zu schützen, die durch eine fehlerhafte Konfiguration von KI-Systemen entstehen.«

Eine fehlkonfigurierte KI kann eigenständig essenzielle Dienste abschalten, Sensordaten falsch interpretieren oder riskante Aktionen auslösen. Die Folgen reichen von physischen Schäden bis hin zu großflächigen Versorgungsunterbrechungen. Damit entsteht nicht nur ein erhebliches Risiko für die öffentliche Sicherheit, sondern auch für die wirtschaftliche Stabilität. Insbesondere dann, wenn die Kontrolle über zentrale Systeme wie Stromnetze oder Produktionsanlagen beeinträchtigt wird.

Moderne Stromnetze etwa sind heute auf KI angewiesen, um Erzeugung und Verbrauch in Echtzeit auszubalancieren. Ein falsch konfiguriertes Prognosemodell könnte einen regulären Nachfrageschub fälschlicherweise als Instabilität deuten und dadurch unnötige Netztrennungen oder Lastabwürfe auslösen, die ganze Regionen oder im Extremfall sogar ein gesamtes Land betreffen.

»Moderne KI-Modelle sind so komplex, dass sie oft wie ›Black Boxes‹ wirken«, sagt Voster. »Selbst Entwickler können nicht immer vorhersagen, wie kleine Konfigurationsänderungen das emergente Verhalten des Modells beeinflussen werden. Je undurchsichtiger diese Systeme werden, desto größer ist das Risiko durch Fehlkonfigurationen. Daher ist es umso wichtiger, dass Menschen eingreifen können, wenn es nötig ist.«

Um Risiken zu minimieren, empfiehlt Gartner, dass Chief Information Security Officers (CISOs) Folgendes tun sollten:

Sichere Übersteuerungsmodi implementieren: Für alle CPS, die kritische Infrastruktur unterstützen, sollte ein sicherer »Kill-Switch« oder andere Übersteuerungsmechanismen eingebaut werden, auf die nur autorisierte Bediener zugreifen können, damit Menschen auch bei vollständiger Autonomie die letztendliche Kontrolle behalten.
Digitale Zwillinge: Entwickeln Sie einen vollumfänglichen digitalen Zwilling der Systeme, die die kritische Infrastruktur unterstützen, um Updates und Konfigurationsänderungen realistisch zu testen, bevor sie implementiert werden.
Echtzeitüberwachung: Veranlassen Sie eine Echtzeitüberwachung mit Rücksetzmechanismen für Änderungen an KI in CPS und sorgen Sie gleichzeitig für die Einrichtung nationaler KI-Incident-Response-Teams.

Nur für Gartner-Kunden:

https://www.gartner.com/account/signin?method=initialize&TARGET=https%3A%2F%2Fwww.gartner.com%2Fdocument%2F7282930

Nach Registrierung:

https://www.gartner.com/en/publications/modern-infrastructure-for-tomorrow-business-demands

6173 Artikel zu „KI Problem“

News | Trends 2025 | Trends Security | Trends Services | Infrastruktur | IT-Security | Künstliche Intelligenz

42 % der Unternehmen verlieren Umsatz durch IT-Probleme – große Hoffnung auf KI

16. November 2025

Wie stark wirken sich Probleme mit der IT sich Effizienz, Motivation und Umsatz aus? Bei 42 % der weltweit 4.200 befragten Unternehmen hat ineffiziente IT bereits zu Umsatzverlusten geführt. IT-Probleme kosten Beschäftigte jeweils 1,3 Arbeitstage pro Monat. 48 % glauben, dass KI diese Probleme künftig verringern sowie Arbeitsabläufe verbessern wird. Eine aktuelle Untersuchung von…