KI-Kollegen brauchen klare Grenzen

Illustration Absmeier foto freepik

Würden Sie in Ihrem Unternehmen jemanden einstellen, ohne eine rechte Ahnung zu haben, was die Person eigentlich machen soll, ob sie vertrauenswürdig ist und wozu sie überhaupt fähig ist? Nein, ich auch nicht. Und doch hört man von immer mehr Unternehmen, dass sie unbedingt generative KI einkaufen möchten. Die Technologie sei die Zukunft und man dürfe den Anschluss nicht verpassen, heißt es dann gelegentlich aus dem Management. Ganz unrecht haben die Stimmen natürlich nicht: KI birgt gewaltiges Potenzial – und zwar für alle Branchen, Behörden sowie Firmen. Allein der Wille, diesen neuen Mitarbeitenden einzustellen, bringt aber noch nicht den von jedem Unternehmen angestrebten »Return on Investment«: KI ist eben kein Selbstläufer.

Was fehlt ist ein konkreter Plan

Untersuchungen zum Themenkomplex künstliche Intelligenz wie eine aktuelle Bitkom-Studie zeigen zwar, dass Unternehmen durchaus eine grobe Vorstellung haben, wo generative KI ihre Stärken ausspielt [1]. Ihr zufolge traut eine überragende Mehrheit der befragten Firmen KI großes oder sehr großes Potenzial für Textanalyse und Textverständnis zu und würde generative KI auch einzusetzen, um Berichte, Übersetzungen oder sonstige Texte zu erstellen. Was ihnen jedoch vielerorts schlicht und ergreifend fehlt, ist ein konkreter Plan. Unternehmen müssen sich im Klaren darüber sein, welches Problem die KI tatsächlich lösen und welche Prozesse sie verbessern soll – und zwar bevor sie deren Einführung planen. Andernfalls droht die künstliche Intelligenz ein teures und sinnfreies Vergnügen zu werden, das zwar keinen Mehrwert generiert, dafür aber Verwirrung stiftet.

Datenhoheit behalten

Über den konkreten Verwendungszweck hinaus gibt es weiteren Klärungsbedarf, bevor generative KI Einzug ins Unternehmen halten kann. Zunächst einmal ist der Begriff generative KI nicht mit ChatGPT gleichzusetzen. Ja, dieser »conversational Bot« ist durch den Hype rund um das ihm zugrundeliegende Large Language Model GPT (Generative Pretrained Transformer) in aller Munde. Es gibt aber auch Alternativen, einige davon sogar als Open-Source-Variante. Allerdings müssen sich die Stakeholder unbedingt mit dem Thema Datenschutz auseinandersetzen. Gerade Unternehmen, die sensible Daten vorhalten und verarbeiten, sollten ihre Tools nach DSGVO-Konformität auswählen. Nur so vermeiden sie, sich irgendwann mit Bußgeldern konfrontiert zu sehen. Am besten sie wählen KI-Helfer, die sie on-premises, also innerhalb der eigenen IT-Infrastruktur einsetzen können. Aber auch einfach die Hoheit über die eigenen Daten sicherzustellen, zu behalten und nicht KI-Cloud-Service-Anbietern zu vertrauen, ist ein wichtiger Baustein im Gesamtkonzept.

KI in Verbindung mit einer Enterprise-Search-Lösung

Da generative KI in Sachen Textverständnis und Texterstellung glänzt, liegen hier auch die nützlichsten Use Cases für Unternehmen. Entsprechende Tools können aus dem Datenschatz eines Unternehmens gezielt Informationen aus unterschiedlichsten Dateiquellen etwa für Frage/Antwort-Anwendungen bereitstellen. Sie können sogar lange Texte auf das Wesentliche herunterbrechen und zusammenfassen. Das ihnen innewohnende Textverständnis macht sie zudem zur perfekten Grundlage für weitere Anwendungen, etwa als digitaler Assistent im First-Level-Kundensupport.

Um diese Aufgaben auch durchführen zu können, müssen Unternehmen die künstliche Intelligenz gegebenenfalls auch entsprechend trainieren und ihr Zugriff auf sämtliche Unternehmensdaten gewähren. Ein heikles Thema, insbesondere im Hinblick auf die Zugangsrechte: Wer nicht aufpasst, macht vertrauliche Informationen so möglicherweise Unbefugten zugänglich. Um nicht in diese Falle zu tappen, sollten Unternehmen daher die KI in Verbindung mit einer Enterprise-Search-Lösung einsetzen, die eine rechte- und rollenbasierte Zugriffskontrolle unterstützt. Der große Vorteil ist, dass die Enterprise Search bereits der rechteprüfende Informations-Integrations-Layer ist, um darauf eine KI aufzusetzen – als ideale, moderne Ergänzung. Die KI gibt dann nur solche Antworten aus dem Unternehmenswissen, die der Fragesteller auch sehen darf. So können dem neuen, digitalen Kollegen klare Grenzen gesetzt werden, ohne dessen Kompetenzen und Fähigkeiten zu untergraben. Somit ist klar: Wer künstliche Intelligenz in einen vertrauenswürdigen Rahmen einbettet, kann guten Gewissens von ihr profitieren.»

Franz Kögl ist Vorstand bei IntraFind in München, einem Spezialisten für Enterprise Search und KI (Quelle: IntraFind)

 

[1] https://ap-verlag.de/den-anschluss-nicht-verpassen-riesige-entwicklungsspruenge-bei-kuenstlicher-intelligenz/84691/

 

 

 

 

 

 

 


 

Den Anschluss nicht verpassen: Riesige Entwicklungssprünge bei künstlicher Intelligenz

Illustration Absmeier foto freepik

Anteil der Unternehmen, die KI einsetzen, steigt binnen eines Jahres von 9 auf 15 Prozent. Zwei Drittel sehen KI als wichtigste Zukunftstechnologie. Große Mehrheit lässt ChatGPT und generative KI aber noch links liegen.

 

Künstliche Intelligenz erlebt in der deutschen Wirtschaft einen spürbaren Schub. Inzwischen nutzen 15 Prozent der Unternehmen KI, vor einem Jahr waren es erst 9 Prozent. Deutlich zurückgegangen ist gleichzeitig der Anteil derer, für die der KI-Einsatz im eigenen Unternehmen kein Thema darstellt: von 64 auf 52 Prozent. Gut zwei Drittel (68 Prozent) halten KI für die wichtigste Zukunftstechnologie. Dem stehen 29 Prozent gegenüber, die in KI einen Hype sehen, der massiv überschätzt werde. Für das eigene Unternehmen sieht die große Mehrheit von 68 Prozent KI als Chance, ein Fünftel (20 Prozent) jedoch als Risiko. Und jedes Neunte (11 Prozent) denkt, dass KI keinen Einfluss auf das eigene Unternehmen haben wird.

Das sind Ergebnisse einer Studie im Auftrag des Digitalverbands Bitkom, für die 605 Unternehmen ab 20 Beschäftigten aus allen Branchen in Deutschland repräsentativ befragt wurden. »Zwar setzt nur jedes fünfte Unternehmen, das KI als wichtigste Zukunftstechnologie sieht, selbst auch KI ein. Aber die deutsche Wirtschaft drückt beim Thema künstliche Intelligenz seit diesem Jahr stärker aufs Tempo. An der Diskrepanz zwischen Wissen und Handeln müssen wir dauerhaft arbeiten«, sagt Bitkom-Präsident Ralf Wintergerst. »Damit Deutschland bei KI Fahrt aufnehmen kann, müssen die Unternehmen ihre Anstrengungen und auch Investitionen weiter verstärken. Zugleich ist aber auch die Politik gefordert dafür zu sorgen, dass es nicht bei Absichtserklärungen und Strategien zur KI-Förderung bleibt, sondern die Nutzung und Entwicklung von KI in Deutschland deutlich erleichtert wird. Insbesondere die Nutzung wenig sensibler Daten muss erleichtert werden.«

Unternehmen trauen KI bei Sprache mehr zu – und nutzen ChatGPT & Co. nicht

Unternehmen trauen verglichen mit dem Vorjahr KI vor allem rund um Text und Sprache mehr zu. So sprechen 84 Prozent KI sehr großes oder eher großes Potenzial für Textanalyse und Textverständnis im eigenen Unternehmen zu, vor einem Jahr waren es erst 74 Prozent. Spracherkennung hat für 74 Prozent großes Potenzial (2022: 66 Prozent), für generative KI zur Erstellung von Texten, Bildern oder Musik sagen das 70 Prozent. Die Einstellung zu dieser neuen Form der KI wurde erstmals abgefragt. Auch den anderen Arten von KI spricht die Mehrheit der Unternehmen großes Potenzial zu, etwa für Gesichtserkennung (68 Prozent, 2022: 61 Prozent), Prognosen (67 Prozent, 2022: 71 Prozent), Mustererkennung (67 Prozent, 2022: 66 Prozent) und Bilderkennung (60 Prozent, 2022: 57 Prozent). »ChatGPT war für viele Menschen ein Eye Opener und hat auch in den Unternehmen intensive Diskussionen ausgelöst. Damit bekommt das Thema künstliche Intelligenz die breite Aufmerksamkeit, die es verdient«, so Wintergerst.

Wer abwartet, muss sich später mehr anstrengen

Die Einsicht in die Bedeutung von generativer KI schlägt sich aber noch nicht vollständig in ihrer Nutzung in den Unternehmen nieder. Aktuell setzen nur 2 Prozent generative KI zentral im Unternehmen ein, weitere 13 Prozent planen dies. Rund ein Viertel (23 Prozent) hat zwar noch keine Pläne zur Verwendung generativer KI, kann sich dies aber grundsätzlich vorstellen. Ebenso viele (23 Prozent) können sich dies aber nicht vorstellen. Und mehr als jedes dritte Unternehmen (37 Prozent) hat sich damit noch gar nicht beschäftigt. »Generative KI bietet in den verschiedensten Bereichen spannende Einsatzmöglichkeiten, zugleich ist die Technologie bereits heute breit verfügbar und zu geringen Kosten einfach auszuprobieren«, so Wintergerst. »Wirklich kein Unternehmen sollte die Diskussion über den Einsatz von generativer KI auf die lange Bank schieben. Wer heute abwartet, muss sich demnächst umso mehr anstrengen, die anderen einzuholen.«

Regelloser KI-Einsatz

Auch wenn ein Unternehmen keine Strategie zum Einsatz generativer KI hat, kann es durchaus sein, dass die Technologie ungesteuert und eigeninitiativ von Beschäftigten eingesetzt wird. Zwar geht die Hälfte der Unternehmen (51 Prozent) fest davon aus, dass dies bei ihnen nicht der Fall ist und es niemanden gibt, der generative KI für die eigene Arbeit verwendet. Weitere 23 Prozent wissen es zwar nicht genau, nehmen aber an, dass niemand aus ihrer Belegschaft ChatGPT & Co. beruflich verwendet. In 1 Prozent der Unternehmen ist diese Praxis dagegen weit verbreitet, 7 Prozent wissen von Einzelfällen und 9 Prozent sind sich nicht sicher, gehen aber davon aus, dass einzelne Beschäftigte generative KI beruflich einsetzen. Regeln gibt es dazu bislang so gut wie nicht. Nur jedes hundertste Unternehmen (1 Prozent) hat Regeln für den Einsatz von generativer KI durch einzelne Beschäftigte festgelegt, 16 Prozent planen dies für die Zukunft und 28 Prozent wollen darauf auch künftig verzichten. Rund die Hälfte (48 Prozent) hat sich mit dem Thema noch überhaupt nicht beschäftigt.

Das Potenzial generativer KI wird unterschätzt

Das größte Potenzial generativer KI wird in der Unterstützung bei Berichten, Übersetzungen oder sonstigen Texten gesehen (82 Prozent). Mit deutlichem Abstand dahinter folgen Aufgaben in Marketing und Kommunikation (59 Prozent), etwa bei der Bilderstellung, in der IT-Abteilung (58 Prozent), etwa für Code-Generierung, und bei Forschung und Entwicklung (50 Prozent), etwa zur Auswertung von Daten. Dahinter reihen sich ein der Einsatz in der Produktion (44 Prozent), zum Beispiel als Assistenzsystem bei der Maschinensteuerung, im Kundenkontakt (39 Prozent), etwa für die Bearbeitung von Anfragen, in der Personalabteilung (26 Prozent), etwa zur Kommunikation mit Bewerbern, bei der Unterstützung des internen Wissensmanagements (23 Prozent), etwa als Chatbot mit Zugriff auf Unternehmensinformationen und im Management (19 Prozent), etwa in der Strategieentwicklung. Schlusslicht ist die Rechts- oder Steuerabteilung (12 Prozent), etwa für die Vertragsgestaltung. »Generative KI kann schon heute viel mehr, als die meisten Unternehmen ihr zutrauen«, kommentiert Wintergerst die Einschätzung. »Es ist überraschend, dass insbesondere das Potenzial im Kontakt mit Kundinnen und Kunden, beim unternehmensinternen Wissensmanagement oder auch bei Vertragserstellung und -prüfung noch kaum gesehen wird. Hier gibt es bereits praxistaugliche Anwendungen.«

Gespaltene Ansichten

Wie gespalten die deutsche Wirtschaft beim Thema generative KI ist, zeigen weitere Ergebnisse der Befragung. So sagen 42 Prozent aller Unternehmen, dass diejenigen, die generative KI einsetzen, einen Wettbewerbsvorteil haben. 19 Prozent rechnen sogar damit, dass generative KI ihr Geschäftsmodell verändern wird. Zugleich meinen aber 51 Prozent, dass generative KI zwar spektakulär aussehe, in den Unternehmen aber nur wenig Nutzen bringe. Auch hinsichtlich der Auswirkungen generativer KI auf die Beschäftigung gibt es sehr unterschiedliche Annahmen. 30 Prozent rechnen damit, dass durch den Einsatz von generativer KI Personal entlassen wird. Umgekehrt meinen mit 29 Prozent ähnlich viele, dass generative KI dabei hilft, den Fachkräftemangel zu bewältigen und ebenfalls 29 Prozent erwarten, dass generative KI die eigenen Beschäftigten produktiver macht.

Zahlreiche Hemmnisse

Fragt man die Unternehmen, die sich aktiv mit dem Einsatz generativer KI beschäftigen, was den Einsatz generativer KI im Unternehmen hemmt, dann spielt Regulierung eine entscheidende Rolle. Größtes Hemmnis sind Anforderungen an den Datenschutz (85 Prozent), aber auch die Sorge vor künftigen rechtlichen Einschränkungen (81 Prozent) sowie Verunsicherung durch rechtliche Unklarheiten (76 Prozent) werden häufig genannt. Daneben spielen zwei unternehmensinterne Gründe für viele Unternehmen eine wichtige Rolle: fehlendes technisches Know-how (84 Prozent) und fehlende personelle Ressourcen (78 Prozent). Ebenfalls häufig genannt werden ein Mangel an Daten (69 Prozent) oder an Zeit (68 Prozent). Dagegen ist fehlende Akzeptanz der Beschäftigten nur in jedem zweiten Unternehmen (50 Prozent) ein Hemmnis, noch seltener spielen die Sorge, dass Daten in falsche Hände geraten (43 Prozent), fehlende Use cases oder allgemein fehlendes Vertrauen (je 42 Prozent) sowie die Kosten (40 Prozent) eine Rolle. 34 Prozent der Unternehmen geben an, dass sie sich auf andere Zukunftstechnologien fokussieren. »Beim KI-Einsatz geht es den Unternehmen nicht um Subventionen, sie brauchen Planungssicherheit und stabile Rahmenbedingungen, etwa mit Blick auf den Datenschutz«, so Wintergerst.

Ein Drittel glaubt, bei KI den Anschluss verpasst zu haben – ein Viertel investiert

Fragt man die Unternehmen, wo sie sich selbst beim Einsatz von KI allgemein – also auch jenseits generativer KI – im Vergleich zu ihren Wettbewerbern sehen, sagen nur 2 Prozent »an der Spitze« und 13 Prozent »unter den Vorreitern«. Zugleich verorten sich 43 Prozent unter den Nachzüglern und 38 Prozent glauben sogar, dass sie den Anschluss verpasst haben. Wintergerst: »Bei KI erleben wir gerade riesige Entwicklungssprünge. Auch wer in der Vergangenheit gezögert hat, sollte den KI-Einsatz jetzt zumindest prüfen.« Im laufenden Jahr will jedes vierte Unternehmen (25 Prozent) in KI investieren, 2022 oder früher haben bereits 41 Prozent investiert. Im kommenden Jahr oder danach planen aber sogar drei Viertel aller Unternehmen (74 Prozent) Investitionen in Künstliche Intelligenz.

Wer KI nutzt bewertet Vorteile und Risiken der Technologie anders

Unternehmen, die KI bereits einsetzen, sehen die größten Vorteile darin, dass KI allgemein die Wettbewerbsfähigkeit stärkt (71 Prozent), in der Gesamtwirtschaft wird dies nur von 44 Prozent genannt. 52 Prozent der Unternehmen mit KI-Einsatz heben die Vermeidung menschlicher Fehler hervor (33 Prozent Gesamtwirtschaft) und 51 Prozent sehen, dass Prozesse beschleunigt werden (39 Prozent Gesamtwirtschaft). Weniger deutlich auseinander sind die Einschätzungen wenn es um schnellere und präzisere Problemanalysen geht (49 Prozent KI-Nutzer, 48 Prozent Gesamtwirtschaft) oder bei Expertenwissen durch KI, das sonst nicht im Unternehmen vorhanden wäre (41 Prozent KI-Nutzer, 38 Prozent Gesamtwirtschaft). Deutlich unterschiedlich werden die konkreten Auswirkungen auf das Geschäftsmodell bewertet. 37 Prozent der KI-Nutzer sagen, dass durch KI die Verbesserung von Produkten und Dienstleistungen möglich wird, gegenüber 24 Prozent aller Unternehmen. Und rund jedes vierte Unternehmen, das KI einsetzt (24 Prozent), sieht dank Künstlicher Intelligenz völlig neue Produkte und Dienstleistungen entstehen – in der Gesamtwirtschaft sind es nur 16 Prozent.

Bei der Frage nach dem größten Risiko von KI gibt es keinen Unterschied zwischen KI-Nutzern und die Gesamtwirtschaft. Beide nennen Verstöße gegen Datenschutzvorgaben am häufigsten (80 Prozent KI-Nutzer, 70 Prozent Gesamtwirtschaft). Bei den weiteren Risiken gibt es aber deutliche Unterschiede. So stehen für KI-Nutzer Fehler bei der Programmierung (70 Prozent, Gesamtwirtschaft 57 Prozent) und Haftungsverpflichtungen bei Schäden (69 Prozent, Gesamtwirtschaft 47 Prozent) weit oben. In der Gesamtwirtschaft machen die Unternehmen sich nach Datenschutzverstößen am meisten Sorgen über neue IT-Sicherheitsrisiken (69 Prozent, KI-Nutzer 58 Prozent) und Anwendungsfehler bei der KI-Nutzung (67 Prozent, KI-Nutzer 34 Prozent) . »Es kann sich lohnen, bei KI den Vorreitern zu folgen und von ihren Erfahrungen zu profitieren. Wir sollten deshalb den Austausch der Unternehmen untereinander stark fördern«, so Wintergerst.

Unternehmen wünschen sich praxistaugliche Regulierung

Von der Politik wünschen sich die Unternehmen Regulierung – aber mit Augenmaß. So sind fast drei Viertel (73 Prozent) der Meinung, dass klare KI-Regeln europäischen Unternehmen einen Wettbewerbsvorteil verschaffen können. Zugleich sind rund zwei Drittel (68 Prozent) zurückhaltend beim KI-Einsatz, weil sie Sorge haben, gegen Vorschriften zu verstoßen. Und rund die Hälfte aller Unternehmen (48 Prozent) beklagt, dass übertriebene Regulierung der Grund dafür ist, dass Produkte wie ChatGPT nicht in der EU entwickelt werden. »Die Unternehmen wollen kein Wild West bei KI, sondern eine einfache, verständliche und vor allem praxistaugliche Regulierung«, so Wintergerst. »Auf EU-Ebene wird derzeit am AI Act gearbeitet. Aus dem AI Act darf kein Technologie-Killer werden, der zu ähnlich massiven Rechtsunsicherheiten und einem Flickenteppich unterschiedlicher Auslegungen führt, wie dies bei der Datenschutz-Grundverordnung der Fall ist.« Auf Bundesebene sei außerdem wichtig, dass der angekündigte KI-Aktionsplan aus dem Bundesforschungsministerium mit den übrigen Regierungsvorhaben eng verzahnt wird. Wintergerst: »Eine entscheidende Bedeutung kommt der neuen Datenstrategie der Bundesregierung zu. Die Datenstrategie muss den dringend notwendigen Paradigmenwechsel beim Umgang mit Daten einleiten, damit wir das Potenzial von Daten für die Lösung gesellschaftlicher Herausforderungen, aber auch für den Einsatz neuer Technologien wie Künstlicher Intelligenz wirklich nutzen können.«