foto freepik ki

Diesen Herausforderungen muss sich die öffentliche Verwaltung beim GenAI-Einsatz stellen.

In generativer KI steckt ein enormes Potenzial, die öffentliche Verwaltung effizienter und bürgerfreundlicher zu machen. Allerdings ist GenAI kein Produkt von der Stange und die Einführung mit Herausforderungen verbunden. Dell Technologies nennt die wichtigsten davon und zeigt Wege auf, wie Behörden sie bewältigen können.

Generative KI kann in der öffentlichen Verwaltung in ganz unterschiedlichen Bereichen zum Einsatz kommen – etwa als fachkundiger Chatbot auf der Website oder als smarter Assistent beim Ausfüllen von Formularen. Sie kann beim Verfassen von Bescheiden und Antworten auf Anfragen unterstützen oder als internes Recherche-Tool dienen, das Daten aus unterschiedlichen Quellen zusammenträgt und übersichtlich aufbereitet. Doch so vielseitig die Technologie auch ist, so bringt sie auch Herausforderungen mit sich, mit denen sich Behörden auseinandersetzen müssen. Dazu zählen vor allem:

Datenschutz:
Damit KI-Modelle nicht nur allgemeine, sondern auch fachliche Fragen beantworten können, benötigen sie behördenspezifisches Wissen. Dieses können sie sich im Rahmen eines Fine-Tunings mit Daten aus internen Quellen antrainieren. Dabei müssen Behörden allerdings darauf achten, alle Datenschutzvorgaben einzuhalten. Sollen beispielsweise echte Falldaten für das Training herangezogen werden, ist für diese Verarbeitung eine Rechtsgrundlage notwendig, etwa die Einwilligung der Betroffenen. Fehlt diese, müssen die Daten anonymisiert oder pseudonymisiert werden. Zudem kann es sinnvoll sein, die Modelle nicht nur mit eigenen Daten zu trainieren, sondern auch mit denen anderer Verwaltungen. In solchen Fällen hilft Federated Learning: Dabei werden die Modelle auf mehreren Systemen mit lokalen Datensätzen angelernt, ohne die Datensätze auszutauschen. Lediglich die aktualisierten Modellparameter werden regelmäßig übertragen, sodass ein Modell entsteht, das über das gesamte Wissen aus allen Datensätzen verfügt.
Digitale Souveränität:
Die Nutzung generativer KI darf nicht zu Abhängigkeiten führen, vor allem nicht von außereuropäischen Anbietern und Infrastrukturen. Einen Ausweg bieten Open-Source-Modelle und Modelle von europäischen Anbietern, die auf IT-Systemen im eigenen Rechenzentrum, bei einem Colocation-Anbieter oder bei einem vertrauenswürdigen Dienstleister betrieben werden. Auf diese Weise behalten Behörden die volle Kontrolle sowohl über die Modelle als auch ihre Daten, da diese die eigene IT-Umgebung nie verlassen, was es auch erleichtert, Datenschutzvorgaben einzuhalten.
Transparenz:
Entscheidungen, die mit GenAI-Unterstützung gefällt werden, müssen nachvollziehbar und erklärbar sein. Das ist häufig nicht einfach, da insbesondere die großen Sprachmodelle extrem komplex sind. Dadurch ist nicht immer klar, wie sie zu ihren Ergebnissen kommen und ob diese tatsächlich korrekt oder vollständig sind. Open-Source-Modelle und die Modelle von europäischen Anbietern bieten üblicherweise mehr Transparenz, etwa hinsichtlich der Daten und Regeln, mit denen sie trainiert wurden. Unabhängig davon ist es möglich, KI-Systeme so zu gestalten, dass sie nur die generativen Fähigkeiten eines Modells und statt dem antrainierten Allgemeinwissen ausschließlich behördenspezifisches Wissen nutzen. Zugriff auf die verschiedenen internen Wissensquellen erhält das Modell via Retrieval Augmented Generation (RAG). Liefern KI-Systeme dann noch Quellen zu ihren Antworten mit, können Mitarbeiter diese bei Bedarf verifizieren.
Ethik:
Grundsätzlich könnte generative KI viele Entscheidungen bereits völlig eigenständig fällen, doch meist ist das gar nicht erwünscht. Zum einen gibt es oft Ermessensspielräume, die nur menschliche Mitarbeiter verantwortungsvoll nutzen können, und zum anderen widersprechen automatisierte Entscheidungen über Menschen ethischen Standards. Zudem bleibt offen, wer für falsche, unfaire oder diskriminierende Entscheidungen eines vollautomatisierten KI-Systems die Verantwortung trägt – dessen Betreiber, Entwickler oder die Referate, die die Daten bereitgestellt haben? Letztlich dienen GenAI-Anwendungen daher nur der Entscheidungsunterstützung: Die finale Entscheidung trifft weiterhin der Mensch, und das dank von GenAI recherchierten und aufbereiteten Daten deutlich schneller und besser informiert als bisher.
Akzeptanz:
Neue Technologien und Lösungen rufen oft Ablehnung hervor, weil sich gewohnte Abläufe und Aufgaben verändern. Im Falle von GenAI kommen zudem oft Sorgen um den Arbeitsplatz hinzu, da die vielseitige Technologie zahlreiche Tätigkeiten übernehmen kann, für die bislang Menschen benötigt wurden. Zwar sind diese Sorgen unbegründet, da die meisten Behörden längst vom Fachkräftemangel betroffen sind und sich dieser in den nächsten Jahren noch verschärfen wird. Dennoch sind Behörden gefordert, viel zu kommunizieren, um Ängste in der Belegschaft ab- und Vertrauen aufzubauen. Beziehen sie Mitarbeiter frühzeitig in ihre KI-Pläne ein und erklären den Nutzen der neuen Anwendungen, werden diese viel besser angenommen. Darüber hinaus sind auch Schulungen notwendig, in denen die Mitarbeiter den Einsatz der Anwendungen und den Umgang mit den KI-Ergebnissen erlernen. Andernfalls nutzen sie diese im Arbeitsalltag entweder gar nicht oder falsch – und das enorme Potenzial von GenAI wird nicht ausgeschöpft.
Know-how und Kosten:
Die Entwicklung und der Betrieb von GenAI-Anwendungen erfordern viele Fachkräfte, darunter Data Scientists, Entwickler und IT-Spezialisten. Diese sind im Markt äußerst begehrt, sodass sich die meisten Behörden schwertun dürften, die Experten in ausreichender Zahl zu finden. Deshalb sind sie in der Regel auf externe Unterstützung angewiesen, etwa von kommunalen IT-Dienstleistern oder den IT-Dienstleistern der Länder. Diese können beispielsweise die Entwicklung und das Hosting übernehmen, während sich die Behörden um die Pflege und Aufbereitung der Daten kümmern. Oft ist auch die Zusammenarbeit mit anderen Behörden empfehlenswert, um Kräfte zu bündeln und Kosten zu teilen. Denn GenAI ist mit erheblichen Investitionen verbunden – nicht nur in Personal, sondern auch in IT-Infrastrukturen, da die Modelle leistungsfähige und oft mit speziellen Komponenten ausgestattete Systeme erfordern.

»Fast 150.000 Fachkräfte fehlen den deutschen Kommunal- und Steuerverwaltungen schon heute [1]. Generative KI kann ihnen helfen, diesen Mangel abzufedern«, erläutert Roland Kunz, Principal Systems Engineer for Emerging Technologies in EMEA bei Dell Technologies. »Allerdings sollten Behörden das Thema nicht überhastet angehen, sondern sich zunächst mit den damit verbundenen Herausforderungen beschäftigen, um den Erfolg der so wichtigen Initiativen und Projekte nicht zu gefährden.«

[1] https://www.dbb.de/fileadmin/user_upload/globale_elemente/pdfs/2023/231107_dbb_Personalbedarfe_oeD.pdf

1139 Artikel zu „KI öffentliche Verwaltung“

News | Digitalisierung | Künstliche Intelligenz | Produktmeldung

Generative KI aus Deutschland treibt die Digitalisierung der öffentlichen Verwaltung

5. September 2023

Materna und Aleph Alpha schließen strategische Partnerschaft für die öffentliche Verwaltung. Das Heidelberger Startup Aleph Alpha entwickelt sich zum führenden europäischen Unternehmen bei der Erforschung und Entwicklung von generativer KI-Technologie. Mit Aleph Alpha hat Materna eine strategische Partnerschaft speziell für den öffentlichen Sektor geschlossen, um die Mehrwerte großer Sprachmodelle zügig in der Verwaltung voranzutreiben.…