foto freepik ki

Fehlende Priorisierung von Tests und mangelnde Integration generativer KI-Tools sorgen für Bedenken, vor allem wegen des zunehmenden Drucks durch KI-Agenten.
Über die Hälfte der Software-Profis ist überzeugt, dass Gen-AI-Tools ihre Produktivität deutlich steigern. Dennoch geben 23 Prozent an, dass ihre Entwicklungsumgebung (IDE) keine integrierten Gen AI-Tools enthält.
Fast zwei Drittel der Nutzer, die 2025 generative KI nutzen, haben bereits Erfahrungen mit Bias, Halluzinationen oder anderen Problemen gemacht.

Applause, Anbieter von digitalen Qualitäts- und Crowdsourced-Tests, hat die Ergebnisse seiner dritten Studie »State of Digital Quality in AI« veröffentlicht [1]. Mehr als 4.400 unabhängige Softwareentwickler, QA-Fachkräfte und Verbraucher haben Fragen zu gängigen Anwendungsfällen, Tools und Herausforderungen rund um KI sowie Nutzererfahrungen und -präferenzen beantwortet. Die Ergebnisse zeigen: Viele Organisationen integrieren nicht die wirksamsten QA-Maßnahmen in ihren Softwareentwicklungsprozess (SDLC) – mit teils erheblichen Einbußen bei Qualität und Return on Investment (ROI).

Deutliche Produktivitätssteigerungen durch KI

Über die Hälfte der befragten Software-Profis denkt, dass generative KI-Tools ihre Produktivität deutlich steigert – je nach Einschätzung zwischen 25 Prozent und 74 Prozent. Gleichzeitig geben 23 Prozent an, dass ihre integrierte Entwicklungsumgebung (IDE) keine eingebetteten Gen-AI-Funktionen enthält. Weitere 16 Prozent sind sich nicht sicher, ob solche Tools in ihrer IDE integriert sind, und 5 Prozent nutzen überhaupt keine IDE. Unabhängig davon zählen GitHub Copilot (37 Prozent) und OpenAI Codex (34 Prozent) weiterhin zu den bevorzugten KI-gestützten Coding-Tools.

Die Ergebnisse zeigen, dass trotz weitreichender Investitionen in KI nur ein Drittel der Unternehmen strenge Testverfahren wie Red Teaming einsetzt, um Risiken zu minimieren. Über 70 Prozent der befragten Entwickler und QA-Fachkräfte gaben an, dass ihr Unternehmen derzeit KI-Anwendungen und -Funktionen entwickelt – 55 Prozent nannten Chatbots und Kundenservice-Tools als die am häufigsten umgesetzten KI-Lösungen.

KI-Tests brauchen den menschlichen Faktor

Mit dem Aufkommen von agentischer KI – also Systemen, die Entscheidungen eigenständig treffen und ohne menschliche Aufsicht handeln – wird konsequentes Testen entlang des gesamten Softwareentwicklungsprozesses (SDLC) wichtiger denn je. Menschliches Eingreifen bleibt der effektivste Weg, um Ungenauigkeiten, Bias, toxische Inhalte und andere potenzielle Risiken zu minimieren.

Die Umfrage zeigt: Die wichtigsten QA-Aktivitäten im Bereich KI, bei denen Menschen aktiv eingebunden sind, umfassen die Bewertung von Prompts und Antworten (61 Prozent), UX-Tests (57 Prozent) sowie Tests zur Barrierefreiheit (54 Prozent). Auch beim Training branchenspezifischer oder spezialisierter Modelle sind Menschen unverzichtbar – 41 Prozent der Entwickler und QA-Fachkräfte verlassen sich dabei auf Fachexpert. Trotzdem nutzen nur 33 Prozent expertengeführtes Red-Teaming – eine adversariale Testmethode, die als Best Practice gilt, um KI-Risiken gezielt zu reduzieren.

Probleme auf Verbraucherseite bestehen weiterhin

Obwohl Unternehmen stark in KI investieren, um Kundenerlebnisse zu verbessern und Betriebskosten zu senken, gelangen weiterhin fehlerhafte Ergebnisse bis zu den Nutzern. Fast zwei Drittel der Verbraucher, die 2025 Gen-AI-Tools nutzen, gaben an, bereits Probleme erlebt zu haben – darunter voreingenommene Antworten (35 Prozent), Halluzinationen (32 Prozent) und beleidigende Inhalte (17 Prozent). Nur 35 Prozent berichteten, in den letzten drei Monaten keinerlei Probleme mit Gen AI gehabt zu haben.

Gleichzeitig wird die Erwartungshaltung höher: 78 Prozent der Befragten halten multimodale Funktionalität (die Fähigkeit der KI, Texte, Bilder, Sprache und andere Medien zu interpretieren) bei Gen-AI-Tools für wichtig – ein deutlicher Anstieg gegenüber 62 Prozent im Vorjahr. Die Studie zeigt auch: Nutzer sind nicht loyal – 30 Prozent haben bereits einen Anbieter gegen einen anderen getauscht, 34 Prozent bevorzugen je nach Aufgabe unterschiedliche Gen-AI-Dienste.

»Die Ergebnisse unserer jährlichen KI-Umfrage unterstreichen, wie wichtig es ist, die Messlatte für das Testen und den Rollout neuer generativer KI-Modelle und -Anwendungen deutlich höher zu legen«, sagt Chris Sheehan, EVP of High Tech & AI bei Applause. »Agentische KI entwickelt sich mit einer Geschwindigkeit und in einem Ausmaß, das wir uns kaum hätten vorstellen können – entsprechend steigen aber auch die Risiken. Unsere globalen Kunden sind hier bereits einen Schritt voraus, indem sie umfassende KI-Testmaßnahmen frühzeitig in den Entwicklungsprozess integrieren – von der Nutzung vielfältiger, hochwertiger Datensätze für das Modelltraining bis hin zum Einsatz bewährter Testmethoden wie Red Teaming.«

Sheehan weiter: »Auch wenn jeder Anwendungsfall für generative KI einen individuellen Qualitätsansatz erfordert, lässt sich menschliche Intelligenz an vielen Stellen des Entwicklungsprozesses einsetzen – sei es bei den Trainingsdaten, der Bewertung der Modelle oder beim umfassenden Testen unter realen Bedingungen. Da KI immer stärker in alle Lebensbereiche vordringt, müssen wir sicherstellen, dass diese Lösungen außergewöhnliche Nutzererlebnisse bieten – und gleichzeitig die Risiken minimieren, die dieser Technologie innewohnen.«

[1] Die KI-Umfrage ist Teil der State of Digital Quality-Contentreihe von Applause. Der jährlich erscheinende State of Digital Quality Report basiert auf über 15 Jahren Erfahrung von Applause in der Zusammenarbeit mit globalen Unternehmen und Technologieführern – darunter zahlreiche KI-Innovatoren.

Der Bericht kombiniert eine detaillierte Analyse von Daten der Testplattform mit Umfrageergebnissen sowie Interviews mit Kunden und internen Experten. Ziel ist es, Organisationen, die in KI und andere Technologien investieren, praxisnahe Empfehlungen zu geben, wie sie daraus den größtmöglichen Nutzen ziehen können.

https://www.applause.com/state-of-digital-quality-2024/

2127 Artikel zu „KI Produktivität“

Trends 2025 | News | Business | Digitalisierung | Trends Services | Favoriten der Redaktion | Künstliche Intelligenz | Services

Holistische Transformation durch KI: Arbeit, Produktivität, das ganze Leben

30. Dezember 2024

Künstliche Intelligenz wird sich 2025 von einem hilfreichen Werkzeug zu einem integralen Bestandteil des täglichen Lebens und der Arbeit mausern. Neue Technologien werden die Grenzen zwischen der digitalen und der physischen Welt verschwimmen lassen und innovative Möglichkeiten bieten, sich zu vernetzen, Dinge zu erschaffen oder besser zusammen zu arbeiten. Mobile Geräte und Wearables werden sich…