Illustration Absmeier foto freepik

Eine aktuelle Studie des Branchenverbands Bitkom zeigt, dass viele Nutzer dem Einsatz von KI weiterhin skeptisch gegenüberstehen [1]. Zugleich verbindet sich mit der Technologie das Risiko sogenannter Halluzinationen und fehlerhafter Ergebnisse.

Quelle: aaplord

Der Ansatz »Human in the Loop« minimiert diese Vorbehalte und Risiken weitgehend durch Kontrolle der Ergebnisse und Training von KI-Modellen, wie Thomas Uber, Geschäftsführer der applord GmbH, erläutert.

Laut der Bitkom-Studie setzt inzwischen jedes dritte Unternehmen in Deutschland KI ein. Das sind fast doppelt so viele wie noch vor einem Jahr. Dieser Trend wird anhalten, denn fast jedes zweite Unternehmen (47 %) plant oder diskutiert den Einsatz von KI. Als weiteres Ergebnis der Studie bevorzugen 93 Prozent der befragten Unternehmen einen KI-Anbieter aus Deutschland, um so die eigene digitale Souveränität über Modelle und Daten zu gewährleisten. Allerdings nennen auch 38 Prozent der Teilnehmenden die »mangelnde Nachvollziehbarkeit der Ergebnisse« als zentrale Hürde von KI. Es klafft also eine deutliche Lücke zwischen dem Potenzial von KI und dessen vollständiger Umsetzung im Unternehmensalltag. Nötig ist ein Ansatz, der von der risikobehafteten Blackbox weg- und zu einem kontrollierbaren, skalierfähigen Business-Asset hinführt.

»Human in the Loop« – mit Netz und doppeltem Boden

»Human in the Loop« ist ein solcher Ansatz. Dabei werden Menschen systematisch eingebunden, um die Ergebnisse der KI-Modelle zu prüfen und gegebenenfalls zu korrigieren. Im Rahmen der KI-gestützten Dokumentenverarbeitung (Intelligent Document Processing, IDP) beginnt dies bereits beim Trainieren der Modelle: Mitarbeitende klassifizieren die Dokumente und extrahieren relevante Daten. Diese Informationen dienen als Grundlage für das Training der KI. Je nach Dokumententyp sind erfahrungsgemäß bei etwa fünf bis 20 Prozent der KI-Ergebnisse zunächst manuelle Korrekturen erforderlich – mit sinkender Tendenz. Denn durch menschliches Feedback steigt die Lernkurve von KI-Modellen fortlaufend, sodass sich ihre Ergebnisse bei der Erkennung von Dokumenten und der Extraktion von Inhalten stetig verbessern. Werden neue Dokumententypen hinzugefügt, sollte menschliche Expertise ebenfalls in das Training einbezogen werden. Mithilfe der so gewonnenen und gespeicherten Informationen kann die KI ab einem definierten Qualitätsniveau selbstständig neue Modelle entwickeln. Deren Ergebnisse werden durch den Menschen so lange überprüft, bis eine stabile, verlässliche Klassifizierung und Extraktion gewährleistet ist. Erst dann erfolgt eine automatisierte Übertragung der Informationen ins Zielsystem ohne menschlichen Eingriff.

Unabhängig vom erreichten Automatisierungsgrad sollten Menschen KI-Ergebnisse immer dann prüfen, wenn diese mit weitreichenden Folgen verbunden sind. Im Finanzwesen etwa empfiehlt sich bei ungewöhnlich hohen Rechnungsbeträgen oder Buchungsposten, die die KI erkannt hat, eine Prüfung durch den Menschen.

Insgesamt ermöglicht der »Human-in-the-Loop«-Ansatz, Ergebnisse von KI nachzuvollziehen und zu interpretieren, fundierte Entscheidungen zu treffen sowie Verzerrungen zu identifizieren und somit Risiken systematisch zu minimieren. Insofern steigert »Human in the Loop« auch die Akzeptanz von KI-Modellen, da Mitarbeitende deren Ergebnisse überprüfen können und so Vertrauen in das System entwickeln. Auf diese Weise adressiert das Konzept direkt die in der Bitkom-Umfrage identifizierte Herausforderung der mangelnden Transparenz.

Fazit

KI ist keine Plug-and-Play-Technologie. Vielmehr erfordert sie kontinuierliche Überwachung, Anpassung und Optimierung. Derart betrieben, ergänzt sie den Menschen in idealer Weise, ohne ihn zu ersetzen. Vielmehr potenziert sie die Fähigkeiten der Mitarbeitenden, befreit sie von lästigen Routinearbeiten und steigert somit die menschliche Produktivität.

Der »Human-in-the-Loop«-Ansatz verbindet die Stärken leistungsfähiger Algorithmen mit dem Urteilsvermögen und Fachwissen von Menschen. So versetzt er Unternehmen auch in die Lage, transparent arbeitende, zuverlässige KI-Modelle selbstständig zu generieren und kontinuierlich weiterzuentwickeln.

[1] https://www.bitkom.org/Presse/Presseinformation/Durchbruch-Kuenstliche-Intelligenz

1176 Artikel zu „Human KI“

News | IT-Security | Künstliche Intelligenz | Whitepaper

KI braucht Menschen: Human in the Loop

8. Februar 2026

Künstliche Intelligenz hält Einzug in immer mehr Unternehmensprozesse. Doch viele KI-Initiativen bleiben hinter den Erwartungen zurück – nicht wegen der Technologie, sondern wegen fehlender Akzeptanz und Kontrolle. Genau hier setzt unser neues Whitepaper »Human in the Loop« an. Es zeigt, warum menschliche Einflussmöglichkeiten zum entscheidenden Erfolgsfaktor für KI-gestützte Systeme werden – und wie Unternehmen…