Illustration Absmeier foto magnific

In den Nachrichten: Die Abgeordneten Ted Lieu und Nathaniel Moran haben in den USA den parteiübergreifenden »AI Kill Switch Act« eingebracht. Er würde betroffene KI-Entwickler verpflichten, Kontrollmechanismen vorzuhalten, mit denen sich die Inferenzleistung drosseln, Nutzer oder Funktionen einschränken, Dienste aussetzen oder Systeme abschalten lassen. Das US-Heimatschutzministerium könnte nach einem erfassten Vorfall den Einsatz dieser Kontrollmechanismen anordnen; bei Nichteinhaltung drohen Strafen von bis zu 20 Millionen US-Dollar pro Tag.

Ich unterstütze die Idee. Systeme, die in Cyber-, Finanz-, Verkehrs- oder anderen kritischen Umgebungen mit Maschinengeschwindigkeit agieren können, benötigen verlässliche Notfallkontrollen. Ob das Gesetz einen präzisen Sicherheitsmechanismus schafft, wird von den Details abhängen: Welche Systeme fallen darunter, welche Belege rechtfertigen ein Eingreifen, wer trifft die Entscheidung und wie erhalten betroffene Unternehmen eine angemessene Überprüfung?

Der Entwurf erfasst Entwickler mit mindestens 500 Millionen US-Dollar relevantem Jahresumsatz sowie KI-Systeme, deren Trainingsrechenleistung mehr als 100 Millionen US-Dollar kosten würde. Das Heimatschutzministerium könnte eine Anordnung auch während eines laufenden Rechtsbehelfs durchsetzen. Entwickler müssten außerdem Modellgewichte und Telemetriedaten sichern und betroffene Betreiber und Nutzer informieren, sofern dies praktikabel ist.

Ein Notausschalter hat für jedes Unternehmen, das auf Frontier-Modellen aufbaut, eine Folgewirkung zweiter Ordnung. Ausfälle beim Anbieter, geschäftliche Streitigkeiten, Exportkontrollen, Sicherheitsmängel und Produktentscheidungen machen die Verfügbarkeit von Modellen bereits heute unsicher. Staatliches Eingreifen schafft einen weiteren Ausfallmodus – und jeder Produktionsprozess, der an ein einziges proprietäres Modell gebunden ist, übernimmt dieses Risiko.

Der Gesetzentwurf erkennt dies ausdrücklich an. Sein abgestuftes Reaktionskonzept weist das Heimatschutzministerium an, die Umstellung eines modellabhängigen Betriebs auf ein Ersatzsystem oder eine frühere Modellversion zu erwägen. Geschäftskontinuität ist nun Teil der KI-Politik.

Echte Portabilität liegt in der Betriebsebene: Prompts, Daten, Tools, Geschäftslogik, Evaluierungen, Berechtigungen und Workflow-Status. Alternative Modelle verhalten sich unterschiedlich; deshalb muss eine Ausweichlösung getestet werden, bevor das primäre Modell nicht mehr verfügbar ist. Ein modellunabhängiger Technologie-Stack gibt der Organisation eine eingeübte Möglichkeit, den Betrieb fortzusetzen, wenn jemand anderes den Schalter kontrolliert.

Das ist vermutlich nicht eingeplant, aber ein eigenes Team für KI-Kontinuität und -Resilienz ist keine Option mehr, auf die man verzichten kann.

Shelly Palmer

KI-Notausschalter für die EU

Europa braucht die Funktion eines KI-Notausschalters – aber wahrscheinlich kein separates Gesetz nach US-Vorbild.

Der EU AI Act verlangt von Anbietern besonders leistungsfähiger Basismodelle mit systemischem Risiko bereits Risikobewertungen, Schutzmaßnahmen, Meldungen schwerwiegender Vorfälle und Cybersicherheit. Das Europäische KI-Büro kann Modelle evaluieren, Informationen anfordern, Korrekturmaßnahmen verlangen und Sanktionen verhängen [1].

Was jedoch noch klarer geregelt werden sollte, ist eine abgestufte Notfallbefugnis:

Rechenleistung oder bestimmte Fähigkeiten begrenzen
riskante Schnittstellen, Nutzergruppen oder Anwendungen sperren
ein Modell vorübergehend aussetzen
nur als letztes Mittel vollständig abschalten

Eine solche Befugnis sollte an überprüfbare Gefahrenkriterien, unabhängige technische Expertise, zeitliche Befristung, gerichtlichen Rechtsschutz und eine Pflicht zur Wiederherstellung beziehungsweise sicheren Migration gekoppelt sein. Sonst könnte ein zentraler „Kill Switch“ selbst zum Sicherheits-, Macht- und Ausfallrisiko werden.

Für kritische Branchen existiert zudem bereits ein breiter Resilienzrahmen: NIS2 verlangt Risikomanagement, Vorfallmeldungen und Geschäftskontinuität in 18 kritischen Sektoren. Die Europäische Kommission verbindet den AI Act, NIS2, den Cyber Resilience Act und weitere Regelwerke inzwischen ausdrücklich zu einem gemeinsamen Ansatz für KI- und Cybersicherheit [2].

Fazit: Europa sollte keinen einzelnen roten Knopf schaffen, sondern ein rechtssicheres, abgestuftes Notfallregime im bestehenden AI-Act-Rahmen – ergänzt durch technische Vorgaben für sichere Abschaltung, Anbieterwechsel, Datenportabilität und getestete Ersatzmodelle.

Albert Absmeier & KI

[1] https://digital-strategy.ec.europa.eu/en/factpages/general-purpose-ai-obligations-under-ai-act

[2] https://digital-strategy.ec.europa.eu/en/policies/nis2-directive

5339 Artikel zu „KI Risiko“

News | Business | Favoriten der Redaktion | Geschäftsprozesse | IT-Security | Künstliche Intelligenz | Strategien | Tipps

Agentische KI: Produktivität mit hohem Risiko

17. Juli 2026

Management Summary Agentische KI eröffnet Unternehmen erhebliche Produktivitätspotenziale, erweitert aber zugleich die Angriffsfläche, da KI-Agenten selbstständig auf Systeme, Daten und Anwendungen zugreifen können. Schatten-KI entsteht, wenn Mitarbeitende private oder nicht freigegebene Tools nutzen; dadurch können vertrauliche Informationen unkontrolliert an externe Dienste gelangen. Besonders kritisch sind Erweiterungen, Skills und Plugins, die manipuliert sein können und mit…