Illustration Absmeier foto ki designer

Zwischen digitaler Assistenz und autonomem Handeln liegen kontrollierte Zugriffsrechte, Identitätsprüfung und menschliche Freigaben.

KI darf beraten – doch sobald sie selbstständig handelt, sinkt die Akzeptanz deutlich. Die Consumer Survey 2026 von Ping Identity zeigt, wie eng Verbraucher die Befugnisse digitaler Agenten begrenzen wollen [1]. Für Unternehmen wird damit nicht nur die Leistungsfähigkeit der Systeme, sondern vor allem ihre nachweisbare Kontrolle zum Wettbewerbsfaktor.

Management Summary

Autonomie schafft eine Vertrauenslücke: 56 Prozent akzeptieren KI für Unterstützung oder Empfehlungen, aber nur 5 Prozent für Handlungen nach Zustimmung und 3 Prozent für Routinetätigkeiten ohne finale Freigabe. [1]
Identität wird zur Steuerungsebene: Unternehmen müssen eindeutig festlegen, welcher Agent für wen handelt, auf welche Daten er zugreifen darf und welche Aktionen zulässig sind.
Transparenz ist Geschäftsvoraussetzung: 56 Prozent wollen wissen, wann KI eingesetzt wird; jeweils 20 Prozent würden bei vermuteter Verschleierung eine Website verlassen oder die Marke künftig meiden. [1]
Sicherheit beginnt mit begrenzten Rechten: Minimalrechte, getrennte Lese- und Schreibzugriffe sowie zusätzliche Freigaben für kritische Aktionen reduzieren die Angriffsfläche agentischer Systeme. [3]
Governance muss messbar werden: Risikobewertung, Protokollierung, Tests und klar geregelte menschliche Aufsicht gehören in den laufenden Betrieb – nicht erst in die Reaktion auf Vorfälle. [2]

Ping-Identity-Umfrage: KI-Vertrauen kippt, sobald aus Unterstützung Handeln wird

Globale Studie zeigt einen deutlichen Rückgang des Verbrauchervertrauens, sobald KI von Unterstützung und Empfehlungen zum eigenständigen Handeln übergeht.

Ping Identity, Anbieter für die Absicherung digitaler Identitäten der größten Unternehmen der Welt, hat seine Consumer Survey 2026 veröffentlicht [1]. Sie zeigt eine klare Grenze, wie viel Autonomie Verbraucher der KI zugestehen wollen: Nur 5 Prozent der Verbraucher fühlen sich wohl damit, dass KI mit ihrer Zustimmung handelt, und lediglich 3 Prozent damit, dass sie Routinetransaktionen ohne finale Freigabe ausführt.

Die Ergebnisse, basierend auf einer Befragung von 11.000 Verbrauchern in 12 Ländern, offenbaren eine Vertrauensherausforderung, während KI vom Beantworten von Fragen zum Handeln im Auftrag der Verbraucher übergeht. Dieser Wandel verlangt von den Verbrauchern, Organisationen und ihren KI-Agenten einen weitergehenden Zugriff auf persönliche Daten und digitale Konten anzuvertrauen, obwohl das Vertrauen in den Umgang mit diesen Informationen niedrig bleibt. Nur 12 Prozent der Verbraucher weltweit vertrauen Organisationen uneingeschränkt, ihre Identitätsdaten zu verwalten, nach 17 Prozent im Jahr 2025. Besonders zurückhaltend sind Verbraucher dabei, KI Zugriff auf ihr Geld und ihre E-Mails zu geben, wobei die Bedenken über bloße Fehler hinausgehen und Fragen von Befugnis, Vertretung und Verantwortlichkeit betreffen.

»Verbraucher sind offen dafür, dass KI mehr übernimmt, aber sie wollen mitbestimmen, wie weit sie gehen darf«, sagte Darryl Jones, Vice President of Consumer Segment Strategy bei Ping Identity. »Je mehr Verantwortung wir der KI übertragen, desto wichtiger wird es, klar zu sein: Was darf sie tun, worauf darf sie zugreifen und wer behält die Kontrolle?«

Zentrale globale Ergebnisse

Verbraucher begrüßen KI-Unterstützung, setzen autonomem Handeln aber Grenzen

Unterstützung statt Autonomie: 56 Prozent der Verbraucher fühlen sich wohl damit, KI für risikoarme Unterstützung (27 Prozent) oder Empfehlungen (29 Prozent) zu nutzen, aber nur 5 Prozent sind damit einverstanden, dass KI mit Zustimmung handelt, und lediglich 3 Prozent mit Routinehandlungen oder -transaktionen ohne finale Freigabe.
Finanz- und Zugriffsgrenzen: 42 Prozent würden einem KI-Agenten erlauben, höchstens 100 US-Dollar auszugeben, und 22 Prozent würden gar keine Finanztransaktionen zulassen.
Bedenken bei Vertretung und Kontrolle: 71 Prozent befürchten, dass KI-Agenten, die in ihrem Namen handeln, ihre Persönlichkeit oder Werte falsch wiedergeben könnten, während 47 Prozent die ständige Kontrolle der Arbeit eines KI-Agenten für ein größeres Problem halten als einen Fehler des Agenten selbst.

Verbraucher wollen Transparenz, nicht nur Leistung

Forderung nach Offenlegung: 56 Prozent der Befragten sagen, dass es ihnen wichtiger ist zu wissen, wann immer KI im Einsatz ist, als einfach das schnellstmögliche Ergebnis zu erhalten.
Folgen nicht offengelegter KI: 20 Prozent der Verbraucher würden eine Website sofort verlassen, wenn sie nicht offengelegte KI vermuten, und 20 Prozent würden die Marke künftig ganz meiden.

KI-Autonomie und Vertrauenserwartungen unterscheiden sich je nach Land

Die Bereitschaft zur Delegation variiert stark: Verbraucher in Indien (70 Prozent) und Indonesien (61 Prozent) sind deutlich offener dafür, KI eigenständig Entscheidungen treffen zu lassen, als Verbraucher in Schweden (21 Prozent), den Niederlanden (19 Prozent) und Australien (18 Prozent).
Unterschiedliche Prioritäten: Während 68 Prozent der Verbraucher in Australien, 63 Prozent in den USA und 57 Prozent in Großbritannien wissen wollen, wann immer KI im Einsatz ist, hebt sich Indonesien ab: Dort stellen 62 Prozent der Verbraucher Geschwindigkeit und Genauigkeit über die Offenlegung.

Während KI von der Unterstützung zum Handeln übergeht, ist eine sichere und gesteuerte KI entscheidend, um Verbrauchervertrauen aufzubauen. Klare Berechtigungen, Transparenz und Nachvollziehbarkeit können Verbrauchern die Gewissheit geben, dass KI innerhalb definierter Grenzen handelt und die Kontrolle beim Menschen bleibt.

[1] Methodik: Diese randomisierte Double-Opt-in-Umfrage wurde im Auftrag von Ping Identity vom Marktforschungsunternehmen Talker Research durchgeführt, dessen Teammitglieder der Market Research Society (MRS) und der European Society for Opinion and Marketing Research (ESOMAR) angehören. Talker Research befragte 11.000 Verbraucher in den USA (2.000), Großbritannien (2.000), Frankreich (1.000), Deutschland (1.000), Australien (1.000), Singapur (1.000), Indien (500), Indonesien (500), den Niederlanden (500), Schweden (500), Spanien (500) und Italien (500). Die Jahresvergleiche basieren auf der Consumer Survey 2025 von Ping Identity. https://www.pingidentity.com/en/lp/2025-consumer-survey.html

https://www.pingidentity.com/en/lp/4423-2026-consumer-survey-ai-trust.html

Illustration Absmeier infografik ki designer

Infografik: Acht Handlungsfelder für den sicheren und vertrauenswürdigen Einsatz von KI-Agenten.

Tipps für Unternehmen

Autonomie staffeln: Beginnen Sie mit lesenden und empfehlenden Funktionen. Schreibende, finanzielle oder extern sichtbare Aktionen erhalten eigene Freigabestufen.
Minimalrechte durchsetzen: Jeder Agent bekommt nur die Werkzeuge, Daten und Konten, die für seinen klar definierten Auftrag erforderlich sind. [3]
Kritische Aktionen absichern: Zahlungen, Vertragsänderungen, Datenexporte und Kontooperationen sollten eine unabhängige Prüfung oder ausdrückliche menschliche Freigabe erfordern. [3]
Identitäten trennen: Verwenden Sie eindeutige Maschinenidentitäten statt geteilter Nutzerkonten und beschränken Sie Berechtigungen nach Aufgabe, Zeitraum und Betrag.
KI-Einsatz offenlegen: Informieren Sie verständlich, wann Kunden mit einem KI-System interagieren und wann Inhalte automatisiert erzeugt oder verändert wurden. Beachten Sie dabei die einschlägigen Transparenzpflichten des EU AI Act. [4]
Entscheidungen protokollieren: Halten Sie Eingaben, Werkzeugaufrufe, Freigaben, Ergebnisse und Abbrüche revisionsfähig fest; sensible Daten sind dabei zu minimieren.
Grenzfälle testen: Simulieren Sie Prompt Injection, manipulierte Dokumente, fehlerhafte Tool-Antworten, Rechteausweitung und Endlosschleifen vor dem Produktivbetrieb. [3]
Vertrauen messen: Erfassen Sie nicht nur Geschwindigkeit und Automatisierungsgrad, sondern auch Abbruchquoten, Freigabeverweigerungen, Beschwerden und widerrufene Einwilligungen.

FAQ: Vertrauen und Sicherheit bei KI-Agenten

Wo ziehen Verbraucher die Grenze zwischen Unterstützung und Autonomie?
In der Ping-Identity-Umfrage akzeptieren 56 Prozent KI für risikoarme Unterstützung oder Empfehlungen. Nur 5 Prozent fühlen sich mit Handlungen nach ihrer Zustimmung wohl; 3 Prozent akzeptieren Routinetätigkeiten oder Transaktionen ohne finale Freigabe. [1]
Bedeutet die geringe Zustimmung, dass Unternehmen auf KI-Agenten verzichten sollten?
Nein. Die Ergebnisse sprechen für einen risikobasierten Ausbau: zunächst assistierende Funktionen, anschließend eng begrenzte Aktionen mit transparenter Zustimmung, klaren Rechten und widerrufbarer Freigabe. Die Umfrage misst Einstellungen, nicht die tatsächliche Nutzung oder den geschäftlichen Erfolg einzelner Anwendungen. [1]
Welche Aufgaben eignen sich für den Einstieg?
Geeignet sind klar abgegrenzte, reversible und risikoarme Tätigkeiten, etwa Recherche, Sortierung, Entwürfe oder Empfehlungen. Aktionen mit finanziellen, rechtlichen oder extern sichtbaren Folgen benötigen strengere Prüf- und Freigabemechanismen.
Warum spielt digitale Identität bei agentischer KI eine zentrale Rolle?
Ein handelnder Agent benötigt eine eindeutig zuordenbare Identität, einen Auftraggeber und begrenzte Befugnisse. Nur so lässt sich nachvollziehen, wer oder was eine Aktion ausgelöst hat, in wessen Namen sie erfolgte und ob sie zulässig war.
Welche Rechte sollte ein KI-Agent erhalten?
Nur die minimal erforderlichen Rechte. OWASP empfiehlt eine auf einzelne Werkzeuge und Ressourcen zugeschnittene Berechtigung, die Trennung von Lese- und Schreibzugriffen sowie eine ausdrückliche Autorisierung sensibler Operationen. [3]
Wann ist menschliche Freigabe besonders wichtig?
Vor irreversiblen, finanziellen, administrativen oder öffentlich sichtbaren Aktionen – beispielsweise Zahlungen, Vertragsabschlüssen, Kontoänderungen, Datenlöschungen oder Nachrichten an externe Empfänger. [3]
Reicht ein Hinweis wie »Diese Anwendung nutzt KI« aus?
Nicht immer. Nutzer sollten vor der relevanten Interaktion verständlich erkennen können, dass sie mit einem KI-System kommunizieren und welche Handlungsmöglichkeiten es besitzt. Für bestimmte Systeme und Inhalte gelten zudem Transparenzpflichten nach Artikel 50 des EU AI Act. [4]
Wie lässt sich das Risiko von Prompt Injection begrenzen?
Externe Inhalte sind als nicht vertrauenswürdig zu behandeln. Zusätzlich helfen isolierte Werkzeuge, Minimalrechte, Eingabe- und Ausgabevalidierung, unabhängige Prüfungen kritischer Aktionen sowie Tests mit manipulierten Webseiten, E-Mails und Dokumenten. [3]
Welche Kennzahlen zeigen, ob Governance funktioniert?
Neben Fehlerquoten sind verweigerte oder abgebrochene Aktionen, manuelle Übersteuerungen, unzulässige Werkzeugaufrufe, Rechteverstöße, Sicherheitsvorfälle, Beschwerdequoten und die Zeit bis zur Rücknahme einer Aktion relevant. Das NIST AI RMF strukturiert das Risikomanagement entlang der Funktionen Govern, Map, Measure und Manage. [2]
Wie aussagekräftig ist die Ping-Identity-Studie?
Mit 11.000 Befragten in zwölf Ländern bietet sie eine breite internationale Momentaufnahme. Zu berücksichtigen sind jedoch die unterschiedlichen nationalen Stichprobengrößen, die im Report beschriebene Auftragsforschung sowie der Umstand, dass Selbstauskünfte Absichten und Einstellungen erfassen, nicht zwingend reales Verhalten. [1]

Quellen

[1] Ping Identity: »2026 Consumer Survey – Trust AI to Act? Where Consumers Draw the Line«, 2026. URL: https://www.pingidentity.com/en/lp/4423-2026-consumer-survey-ai-trust.html

[2] National Institute of Standards and Technology: »AI Risk Management Framework« und »Generative Artificial Intelligence Profile«. URL: https://www.nist.gov/itl/ai-risk-management-framework

[3] OWASP Cheat Sheet Series: »AI Agent Security Cheat Sheet«. URL: https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html

[4] Europäische Kommission: »Guidelines on transparency obligations for providers and deployers of AI systems«, 20. Juli 2026. URL: https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems

Erfahren Sie mehr über Pings Identity-for-AI-Ansatz zur Absicherung und Steuerung von KI-Agenten: https://www.pingidentity.com/en/solution/agentic-ai-identity.html

Management Summary, FAQ und Bilder wurden mit Hilfe von KI erstellt

4982 Artikel zu „KI Vertrauen “

Geschäftsprozesse | IT-Security | Künstliche Intelligenz | News | Strategien | Whitepaper

Vertrauensarchitekturen für KI-Agenten: Identität, Berechtigungen und kontrollierbarer Einsatz

22. September 2026

Autonome KI-Systeme benötigen überprüfbare Identitäten, klare Zugriffsgrenzen und Mechanismen zur schnellen Entziehung von Berechtigungen. KI-Agenten entwickeln sich vom Assistenzsystem zum eigenständig handelnden digitalen Akteur. Damit steigen die Anforderungen an Identität, Berechtigungen, Governance und schnelle Reaktionsfähigkeit. Unternehmen benötigen deshalb Vertrauensarchitekturen, die autonome Systeme eindeutig zuordnen, kontrollieren und bei Bedarf sofort begrenzen können. Management Summary KI-Agenten…