Audits und Bewertungen von KI-Systemen erzeugen hohen GenAI-Nutzen

Illustration Absmeier foto freepik ki

Governance-Praktiken erhöhen die Chancen, mehr geschäftlichen Mehrwert aus generativer KI zu erzielen.

 

Laut einer aktuellen Umfrage von Gartner, einem Unternehmen für Geschäfts- und Technologieanalysen, haben Organisationen, die regelmäßig Audits und Bewertungen der Leistungsfähigkeit und Compliance ihrer KI-Systeme durchführen, mehr als dreimal so hohe Chancen, einen hohen Nutzen aus GenAI zu erzielen wie Organisationen, die dies nicht tun.

Die Umfrage wurde von Mai bis Juni 2025 unter 360 Befragten aus Unternehmen mit mindestens 250 Vollzeitbeschäftigten in Nordamerika, Europa und dem asiatisch-pazifischen Raum durchgeführt – branchenübergreifend, mit Ausnahme der IT-Softwarebranche.

»KI-Governance ist tatsächlich ein Beispiel dafür, dass sich verantwortungsvolles Handeln auszahlt – aber der Effekt hängt von den jeweiligen Governance-Praktiken ab. Manche helfen lediglich dabei, Risiken zu verringern und rechtliche Anforderungen zu erfüllen, während andere zusätzlich den Mehrwert von GenAI-Initiativen steigern«, sagt Kjell Carlsson, VP Analyst bei Gartner.

Unternehmen, die Bewertungen durchführen, gezielte Leitlinien bereitstellen, KI-spezifische Nutzungsrichtlinien entwickeln, Governance-Funktionen implementieren und die Einführung von GenAI sicher ausweiten, erzielen mit mehrfach höherer Wahrscheinlichkeit den höchsten geschäftlichen Nutzen aus GenAI.

 

Gartner empfiehlt Unternehmen sich auf fünf Governance-Praktiken zu konzentrieren:

  • Regelmäßige Bewertungen von KI-Systemen durchführen:
    Führungskräfte sollten Bewertungs- und Überwachungsprozesse implementieren und KI-Governance-Plattformen einsetzen, um Bewertungen, Audits und Korrekturmaßnahmen zu vereinfachen.
  • Individuelle Leitlinien und Schulungen für KI-Nutzer bereitstellen:
    Führungskräfte müssen gezielte Schulungen anbieten, um den Erfolg von GenAI-Initiativen zu steigern. Organisationen, die an Rollen und Personas angepasste Leitlinien bereitstellen, berichten doppelt so häufig von einem höheren Nutzen. Unternehmen, die Ethik-Schulungen zu GenAI anbieten, haben eine 1,7-fach höhere Wahrscheinlichkeit auf mehr Mehrwert.
  • KI-spezifische Nutzungsrichtlinien implementieren:
    Führungskräfte sollten KI-Richtlinien einführen, die sowohl eine verantwortungsvolle Nutzung fördern als auch die wichtigsten Risikobereiche minimieren.
  • In Governance-Funktionen und -Produkte investieren:
    Führungskräfte müssen sich für zusätzliche Investitionen in Governance-Fähigkeiten für ihre KI-Tools und -Systeme einsetzen. Organisationen, die in Drittanbieter-Governance-Produkte investieren, berichten 1,9-mal häufiger von einem höheren Nutzen.
  • GenAI-Einführungen sicher ausweiten:
    Die Beschränkung von GenAI auf risikofreie und vertrauenswürdige Nutzer ist eine übliche und notwendige Praxis. Organisationen, die GenAI darüber hinaus ausrollen können, berichten 3,3-mal häufiger vom höchsten geschäftlichen Nutzen durch GenAI.

What Generative AI Means for Business | Gartner

 

Governance-Praktiken erhöhen die Chancen, mehr geschäftlichen Mehrwert aus generativer KI zu erzielen. Wieso ist das so?

 

Gute Governance erhöht die Wahrscheinlichkeit, mit generativer KI echten geschäftlichen Mehrwert zu erzielen, weil sie Risiken reduziert, Einsatz beschleunigt, Vertrauen schafft und die richtigen Ressourcen zielgerichtet bündelt.

  1. Strategische Ausrichtung und Priorisierung
  • Governance verknüpft KI-Projekte mit Unternehmenszielen, verhindert »Insellösungen« und sorgt dafür, dass nur Use‑Cases mit klarem Business Case skaliert werden.
  • Klare Prioritäten reduzieren verschwendete Ressourcen und ermöglichen konzentriertes Investment in die profitabelsten Fälle.
  1. Rollen, Verantwortlichkeiten und Entscheidungswege
  • Definierte Rollen (zum Beispiel AI‑Board, Chief AI Officer) sorgen für schnelle, koordinierte Entscheidungen und verhindern Reibungsverluste zwischen Fachbereichen, IT und Compliance.
  • Verantwortlichkeiten entlang des KI‑Lebenszyklus (Entwurf, Training, Testing, Betrieb, Monitoring) ermöglichen kontrollierte Rollouts und laufende Optimierung.
  1. Datenqualität, Datenzugang und Infrastruktur
  • Governance etabliert Daten‑Standards, Zugriffsregeln und Catalogs; bessere Datenführung verbessert Trainingsqualität und damit Modellleistung und Zuverlässigkeit.
  • Durch klare Data‑Ownership und Schnittstellen werden Entwicklungszyklen kürzer und Wiederverwendung von Assets wahrscheinlicher.
  1. Risiko‑ und Compliance‑Management
  • Governance identifiziert und steuert rechtliche, ethische und operationelle Risiken (Bias, Datenschutz, Urheberrecht, Robustheit). Das senkt Reputations‑ und Haftungsrisiken und macht kommerzielle Nutzung überhaupt erst tragfähig.
  • Integration von KI‑Kontrollen in bestehende IKS/CMS erhöht Akzeptanz bei Führung und Aufsichtsinstanzen und erleichtert regulatorische Prüfungen.
  1. Messbarkeit, Monitoring und Lernschleifen
  • Governance definiert KPIs (Geschäftsmetriken, Qualitätsmetriken, Sicherheitsmetriken) und Betriebsprozesse für A/B‑Tests, Performance‑Monitoring und Retraining. So wird aus Experimenten reproduzierbarer, skalierbarer Mehrwert.
  • Kontinuierliches Monitoring ermöglicht frühzeitiges Eingreifen bei Drift und garantiert, dass wirtschaftliche Ziele eingehalten werden.
  1. Vertrauen, Adoption und Skalierung
  • Transparente Policies, Schulungen und dokumentierte Prozesse erhöhen Nutzervertrauen; höhere Akzeptanz bei Mitarbeitenden führt zu breiterer Nutzung und größerem Hebeleffekt.
  • Governance sorgt dafür, dass erfolgreiche Prototypen sicher und standardisiert in Produktivprozesse überführt werden, wodurch Skaleneffekte realisiert werden.

 

Fazit und konkrete Handlungsansätze

  • Kurzfristig: Definieren Sie Verantwortlichkeiten, priorisieren Sie Use‑Cases mit klarer ROI‑Logik und stellen Data‑Zugänge sicher.
  • Mittelfristig: Implementieren Sie Monitoring‑KPIs, Compliance‑Checks und Schulungsprogramme.
  • Langfristig: Integrieren Sie KI‑Governance in bestehende Governance‑Routinen (IKS, Data Governance) und etablieren Sie eine iterative Anpassung an technologische Entwicklungen.

Albert Absmeier & KI

 

Quellen:
KPMG Deutschland zur KI‑Governance;
https://kpmg.com/de/de/home/themen/2025/04/ki-governance-das-sind-die-erfolgsfaktoren.html
Heise-Bericht zu praktischer Umsetzung und Anforderungen:
https://www.heise.de/news/KI-Governance-Wie-Unternehmen-generative-KI-verantwortungsvoll-einsetzen-10314254.html
Wissenschaftliche Methode zur Transformation bestehender Governance‑Mechanismen:
https://link.springer.com/article/10.1365/s35764-024-00531-4

 

1661 Artikel zu „KI Governance“

Dynamische Datensperren – Wie KI und Blockchain Governance neu definieren

https://www.pexels.com/de-de/foto/abstrakt-technologie-forschung-digital-17485707/ Die klassische Welt der Datenhaltung kennt zentrale Datenbanken, Sperr- oder Negativlisten und manuelle Prozesse für Widerruf oder Löschung. Doch im Zeitalter von künstlicher Intelligenz und Blockchain- bzw. Distributed-Ledger-Technologien verändert sich das Fundament von Speicherung, Nutzung und Kontrolle personenbezogener Daten grundlegend. Statt rein zentral gesteuerter Sperrmechanismen entstehen Architekturen aus dezentraler, kryptografisch gestützter Zugriffskontrolle, ergänzt durch…

KI-Agenten im Kommen, aber Governance-Lücken gefährden Vertrauen der Verbraucher

Vier von fünf Verbrauchern wünschen sich eine klare Governance für KI-Interaktionen, aber weniger als ein Drittel der Unternehmen verfügt über umfassende Richtlinien. Genesys, ein Anbieter von KI-gestützter Orchestrierung von Kundenerlebnissen, veröffentlicht die Ergebnisse seiner aktuellen Umfrage: Diese decken eine kritische Diskrepanz auf, zwischen der Art und Weise, wie Unternehmen künstliche Intelligenz (KI) regeln, und den…

KI-Einsatz: Nachholbedarf bei Governance-Strukturen

Studie zeigt wachsende Akzeptanz der Technologie sowie neue Erwartungen an junge Talente.   Der flächendeckende Einsatz von künstlicher Intelligenz (KI) schreitet in Deutschland voran. Dabei gibt es große Lücken in Governance-Strukturen sowie einen Wandel für Berufseinsteigende. Das zeigt eine aktuelle Umfrage des HR-Plattformanbieters HiBob unter 2.000 Befragten, darunter 1.100 Fachkräfte [1]. Besonders auffällig: Während alle…

Solide Data Governance für KI-Projekte – Schlechte Daten verhageln auch die beste KI

Der Erfolg einer KI-Nutzung steht und fällt mit der Qualität ihrer Ergebnisse: Ist nur ein kleiner Teil der Antworten potenziell fehlerbehaftet, müssen Mitarbeitende viel Zeit in die Prüfung und Nachbearbeitung der Ergebnisse investieren – der Nutzen sinkt rapide. Eine Problematik, die mit Agentic AI nun noch eine weitere Dimension gewinnt. Schließlich generieren KI-Agenten nicht nur Informationen, sondern führen auf dieser Basis auch autonome Aktionen aus. Damit das Risiko von Fehlern sinkt und Vertrauen in die Technologie entstehen kann, braucht es mehr als »nur« eine hohe Datenqualität. Eine durchdachte Data Governance ist zum entscheidenden Erfolgsfaktor moderner KI-Szenarien geworden.

KI-Agenten: Es fehlt an Datenqualität, Governance und Qualifikation

Die aktuelle BARC-Studie »Preparing and Delivering Data for AI: Adoption Trends, Requirements, and Best Practices« zeigt: Unternehmen setzen zunehmend auf KI – fast ein Drittel nutzt bereits KI-Agenten produktiv [1]. Doch fehlende Strukturen in der Governance, unzureichender Fokus auf Datenqualität und mangelnde KI-Kompetenzen gefährden den langfristigen Erfolg.   Die Befragten stammen aus aller Welt, mit…

Governance: KI-Agenten brauchen menschliche Aufsicht

Agentic AI bietet Unternehmen große Vorteile, muss aber von menschlichen Instanzen überwacht werden, um regulatorische Vorgaben und ethische Standards zu erfüllen.  Unternehmen müssen einen robusten Governance-Rahmen für agentische KI etablieren. Agentic AI verspricht Unternehmen erhebliche Effizienzgewinne. Sie zerlegt komplexe Aufgaben in kleinere, überschaubare Teilaufgaben, die sich einfacher lösen lassen. KI-Agenten, die bestimmte Rollen wahrnehmen oder…

Erste Schritte für ein Daten- und KI-Governance-Programm

Vertrauenswürdige KI-Ergebnisse benötigen eine Grundlage aus präzisen, transparenten und regelkonformen Daten, die im gesamten Unternehmen zuverlässig und sicher zur Verfügung stehen. Dies kann nur mit ganzheitlichen, skalierbaren und KI-gestützten Data-Governance-Lösungen erreicht werden, die es Unternehmen ermöglichen, Rollen, Verantwortlichkeiten und Prozesse für ein transparentes und sicheres Daten-Monitoring im gesamten Betrieb zu definieren. In einem Data-Governance-Framework können…

KI-Verantwortungskrise: Führungskräfte fordern eindeutige KI-Governance

Das rasante Wachstum von KI überfordert die Governance. Führungskräfte ringen um eine Balance zwischen Innovation, Verantwortung und Ethik. Das schafft rote Linien für die zukünftige Nutzung von KI.   Laut einer aktuellen Studie von NTT DATA, einem Anbieter von digitalen Business- und Technologie-Services, droht eine Verantwortungslücke die durch KI möglich gewordenen Fortschritte zu untergraben. Mehr…

ePaper (PDF)

Melden Sie sich für unseren »manage it Exklusiv« Newsletter an und Sie erhalten als Dankeschön das ePaper Vertikal 5-6-2021 | Banking | Finance | Governance als Gratis-Download.

Einfach Ihre Email-Adresse in das Feld eintragen, absenden und den Link in der Mail, die wir Ihnen schicken bestätigen. Sofort bekommen Sie den Link zum Download.

 

 
 
 

Die Übertragung Ihrer Daten erfolgt SSL-verschlüsselt. Sie können sich jederzeit wieder aus der Empfängerliste abmelden.

Wirtschaft rechnet mit Kontrollverlust über KI-Governance

Die Wirtschaft muss mehr Verantwortung bei Trendtechnologien wie KI übernehmen. Andernfalls übernehmen staatliche Behörden in den nächsten fünf Jahren die Regulierung, so die jüngste Studie von Pegasystems [1]. In der von iResearch geleiteten Untersuchung wurden 1.350 C-Level Executives in zwölf Ländern nach ihrer Einschätzung zu der Entwicklung von Technologietrends wie KI, Hyperautomation, Extended Reality (XR),…

Souveräne KI – wer profitiert und warum?

  Die Diskussion um künstliche Intelligenz konzentriert sich zunehmend auf Kontrolle und Compliance. Besonders in Europa spielt das Konzept der souveränen KI eine zentrale Rolle: Unternehmen und Behörden sollen leistungsstarke Modelle einsetzen können, ohne ihre Datenhoheit oder die Einhaltung regulatorischer Vorgaben zu gefährden.   Die globale Digitalökonomie erlebt derzeit eine Phase tiefgreifender Neuorientierung. Handelsstreitigkeiten oder…

Die Bedeutung von KI-Weiterbildung für den Unternehmenserfolg

Obwohl KI in vielen Branchen bereits Realität ist, fehlt es oft an Wissen und Struktur, um sie effektiv zu nutzen. Unternehmen, die in die Weiterbildung ihrer Mitarbeitenden investieren, können langfristig von den Vorteilen der KI profitieren und ihre Wettbewerbsfähigkeit steigern. Viele Unternehmen schöpfen aber das Potenzial von künstlicher Intelligenz noch lange nicht aus, weiß Bastian…

Zollchaos: KI-gestützte Planungstools verhelfen zu variablen Lieferketten

KI-gestützte Planungstools können hohe Zölle zwar nicht verhindern, aber ihre negativen Auswirkungen minimieren. Zölle rauf, Zölle runter, Zölle verschoben, dann die Einigung auf 15 Prozent, aber nur wenn Deutschland genügend in den USA investiert [1]. Der nicht enden wollende Zickzackkurs der US-Regierung erhöht nicht nur die Kosten, er droht auch etablierte Lieferketten abreißen zu lassen…

Halloween das ganze Jahr: Stoppt den KI-Agenten-Horror

Wenn sie von der Leine gelassen werden, können sie Angst und Schrecken verbreiten und der Horror bricht los. Freilaufende KI-Agenten sind praktisch ein nie enden wollendes Halloween.   Das Marketing schreibt KI-Agenten gerne magische Kräfte zu: Sie handeln völlig autonom und regeln alles selbst. Die Realität sieht jedoch etwas anders aus. Wer KI-Agenten nicht an…

KI als Fluch und Segen für die Cybersecurity-Landschaft

Wer profitiert eigentlich mehr von den Möglichkeiten der künstlichen Intelligenz – die Security-Verantwortlichen oder die Kriminellen? Was wiegt schwerer: das Risiko, Opfer von KI-getriebenen Angriffen zu werden – oder die Gefahr, sich zu sehr auf KI-Schutzsysteme zu verlassen? Ein aktuelles Stimmungsbild.   KI ist in der Cybersecurity zugleich Hoffnungsträger und Risikoquelle. Laut einer TÜV-Studie vermuten…

Wie Unternehmen KI-Agenten verantwortungs­voll einsetzen – Zwischen Hype und Realität

Für den erfolgreichen Einsatz von KI-Agenten in Unternehmen ist die Akzeptanz in der Belegschaft entscheidend. Zudem müssen klare Leitplanken für den Umgang mit KI gesetzt werden. Besonders großes Potenzial wird in Bereichen gesehen, in denen Daten im Mittelpunkt stehen und repetitive Prozesse dominieren, wie im Finanzwesen und IT-Support.

Bias in der KI erkennen und reduzieren: IDnow bringt Forschungserkenntnisse in die Praxis

Im Rahmen des EU-geförderten Projekts MAMMOth zeigt IDnow, wie sich Verzerrungen in KI-Systemen erkennen und reduzieren lassen – ein wichtiger Schritt hin zu vertrauenswürdiger digitaler Identitätsprüfung.   Das EU-geförderte Projekt MAMMOth (Multi-Attribute, Multimodal Bias Mitigation in AI Systems) hat nach drei Jahren intensiver Arbeit zentrale Ergebnisse zur Verringerung von Verzerrungen in KI-Systemen veröffentlicht [1]. Gefördert…

Warum Unternehmen bei der Prozessdigitalisierung umdenken müssen – KI trifft Realität

Die Euphorie um künstliche Intelligenz ist ungebrochen – doch zwischen Buzzword und Business Value klafft häufig eine Lücke. Viele Unternehmen investieren in KI, doch nur wenige schöpfen deren Potenzial voll aus. Der Grund liegt nicht in der Technologie selbst, sondern im strategischen Umgang mit ihr. Wer KI als Add-on begreift, wird enttäuscht. Wer sie hingegen zum integralen Bestandteil seiner Prozesse macht, wird profitieren. Zeit für einen Paradigmenwechsel in der Prozessdigitalisierung.