foto freepik ki

Neues Whitepaper zum Einsatz von KI-Agenten und Large Language Models im Gesundheitswesen.

KI-Agenten können proaktive Entscheidungen treffen und in Echtzeit auf komplexe Situationen reagieren. Dank hohem Effizienz- und Qualitätssteigerungspotenzial in der Patientenversorgung erwarten Fachleute einen rasch wachsenden Einsatz der KI-Systeme im Gesundheitswesen. In einem neuen Whitepaper über Healthcare Agents diskutieren Expertinnen und Experten des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, der adesso SE und der Siemens Healthineers AG die vielversprechenden Einsatzmöglichkeiten von KI-Agenten und Large Language Models (LLM) in der Medizin [1].

Von effizienteren Verwaltungsprozessen bis hin zu mehr Präzision und Zuverlässigkeit in der Diagnostik – schon heute durchdringt künstliche Intelligenz (KI) das Gesundheitswesen in vielen Bereichen. Im Zuge aktueller Herausforderungen des Sektors wie dem demografischen Wandel und dem akuten Fachkräftemangel ist der Einsatz von KI-Agenten besonders vielversprechend. Als Lösungen, die proaktive Entscheidungen in komplexen Situationen fällen, können sie zu einer maßgeblichen Verbesserung in der Effizienz und Qualität der Patientenversorgung beitragen.

Mit dem neuen Whitepaper »Healthcare Agents im Einsatz: Die nächste Generation der medizinischen KI-Assistenz« bieten Expertinnen und Experten des Fraunhofer IAIS, der adesso SE und der Siemens Healthineers AG eine fundierte Wissensgrundlage für den erfolgreichen Einsatz der KI-Technologien im Gesundheitswesen. Unter anderem zeigen sie die Unterschiede zwischen KI-Agenten und großen KI-Sprachmodellen auf (engl.: »Large Language Models« oder »LLMs«), stellen praxisnahe Anwendungsbeispiele vor und diskutieren den Umgang mit potenziellen Risiken. Das Whitepaper ist ab sofort kostenfrei zum Download verfügbar [1].

KI-Agenten für medizinische Diagnosen, Therapieoptionen und Forschungsstrategien

»Angesichts der steigenden Anforderungen im Gesundheitswesen können KI-Agenten immer wichtigere Aufgaben übernehmen. Dabei handelt es sich um intelligente Systeme, die über die Funktionen von LLMs hinausgehen, indem sie nicht nur Texte und Bilder verarbeiten, sondern auch komplexere Ziele in Unterschritte zerlegen und selbstständig erledigen können«, erläutert Dario Antweiler, Teamleiter Healthcare Analytics am Fraunhofer IAIS. »Der Vorteil liegt zum Beispiel in der gesteigerten Effizienz und Flexibilität. So können KI-Agenten medizinische Diagnosen, Therapieoptionen oder Forschungsstrategien iterativ entwickeln und optimieren, anstatt lediglich statische Empfehlungen auszugeben. Anders als LLMs besitzen KI-Agenten zudem ein Langzeitgedächtnis und können zum Beispiel patientenspezifische Daten langfristig erfassen und personalisierte Empfehlungen geben. Darüber hinaus verfügen sie über Werkzeuge, um auf externes Wissen zuzugreifen.«

Einsatzbeispiel: Arztbriefe erstellen

Ein Beispiel dafür, wie KI-Agenten externe Werkzeuge nutzen können, bietet die Erstellung von Arztbriefen. »Jährlich werden in Deutschland rund 150 Millionen Arztbriefe geschrieben, sie sind auch bekannt als Entlassbriefe. Bereits heute bieten wir Ärztinnen und Ärzten sowie medizinischem Personal einen LLM-gestützten Arztbrief-Generator an, mit dem die Fachleute schnell und präzise Arztbriefe erstellen, die den höchsten Qualitätsstandards entsprechen«, erläutert Dario Antweiler. »Im Whitepaper zeigen wir jetzt auf, wie KI-Agenten künftig in der Lage sein werden, Arztbriefe entlang der gesamten Prozesskette zu erstellen – von der Informationsanalyse des Patientenaufenthalts über die Datenextrahierung aus externen Quellen bis hin zur Nutzung eines Codierungswerkzeugs, um passende ICD- und OPS-Codes zu generieren, die der Strukturierung und einheitlichen Benennung medizinischer Diagnose und Behandlungen dienen. Schließlich ist der KI-Agent dann auch in der Lage, den finalen Arztbrief zu exportieren und den Patienten sowie den nachbehandelnden Ärztinnen und Ärzten zur Verfügung zu stellen.«

Unterscheidung zwischen Large Language Models und KI-Agenten

Weitere Einsatzbeispiele für KI-Agenten liegen in der Entscheidungsunterstützung in der Diagnose und Therapie, aber auch im Medikationsmanagement. »Es gibt auch Fälle, in welchen sich der Einsatz von Large Language Models anstelle von KI-Agenten lohnt. Im Whitepaper erläutern wir die Eigenschaften und Eignungen der jeweiligen Systeme für unterschiedliche Gebiete«, erklärt Co-Autorin Sina Mackay, Data Scientist am Fraunhofer IAIS. »LLMs sind beispielsweise besonders gut für Aufgaben geeignet, die eine Verarbeitung und Generierung von Text basierend auf bestehendem Wissen erfordern. Sie stoßen jedoch an ihre Grenzen, wenn es darum geht, Echtzeit-Entscheidungen zu treffen oder auf dynamische Ereignisse in komplexen Umgebungen zu reagieren – in diesen Fällen bietet sich der Einsatz von KI-Agenten aufgrund ihrer dynamischeren, umfassenderen Fähigkeiten an.«

Maßnahmen für IT- und Cybersicherheit

Bei der Nutzung von künstlicher Intelligenz und auch KI-Agenten im Gesundheitssektor spielen personenbezogene, hochsensible Daten eine besondere Rolle. Deshalb ist es entscheidend, für die IT- und Cybersicherheit höchste Standards und Prioritäten einzuräumen. Das Whitepaper weist auf Sicherheitsmaßnahmen hin, zu denen der Aufbau einer resilienten IT-Infrastruktur, gezielte Angriffserkennung sowie ausgereifte Rechte-Rollen und Sicherheitskonzepte gehören. Auch Personal- und Patientenbildung zur fachgerechten Nutzung von KI-Agenten und die Sensibilisierung für Datenschutz und IT-Sicherheit sind essenziell für ein verlässliches Sicherheitskonzept und Vertrauenswürdigkeit.

[1] https://www.iais.fraunhofer.de/de/publikationen/studien/2025/download-whitepaper-healthcare-agents.html

2469 Artikel zu „KI Gesundheit“

News | Healthcare IT | IT-Security | Ausgabe 5-6-2024 | Vertikal 5-6-2024 | Healthcare

Cybersicherheit im Gesundheitswesen – Die Zukunft gehört der KI

28. Juni 2024

Die Cybersicherheit im Gesundheitswesen steht vor großen Herausforderungen. Zur stetig fortschreitenden Digitalisierung gesellt sich nun auch die Einführung der Elektronischen Patientenakte hinzu und bedingt dadurch eine signifikante Vergrößerung der Angriffsfläche für Cyberkriminelle. Besonders Ransomware-Angriffe und DDoS-Attacken, die auf sensible Patientendaten und kritische Infrastrukturen abzielen, sind in den letzten Jahren stark angestiegen.