KI-Update Deep-Dive: Einsatz von KI im Gesundheitswesen
In Künstlicher Intelligenz steckt viel Potenzial, die medizinische Forschung voranzutreiben. Doch der Einsatz von KI ist umstritten.
Bereits im Frühjahr gaben Microsoft und Epic Systems bekannt, dass sie das KI-Sprachmodell GPT-4 von OpenAI im Gesundheitswesen einsetzen wollen. Damit sollen Mitarbeiter des Gesundheitswesens dabei unterstützt werden, Antworten für Patienten zu verfassen, Krankenakten analysieren und mögliche Entwicklungen erkennen. Für das Training solcher Systeme sind große Datenmengen aus dem Gesundheitswesen notwendig.
Auch in Deutschland sollen verschiedene Gesetzesvorhaben dafür den Weg ebnen. In dieser Woche hat der Bundestag das Digitalgesetz zur Beschleunigung der Digitalisierung des Gesundheitswesens und das Gesundheitsdatennutzungsgesetz beschlossen. Bundesgesundheitsminister Karl Lauterbach sagte bei der Debatte im Bundestag, dass Gesundheitsdaten aus der elektronische Patientenakte oder medizinischen Registern für das Trainieren von künstlicher Intelligenz ausgewertet werden sollen. Ich habe diese Woche mit meiner Kollegin Marie-Claire Koch gesprochen. Sie hat im heise online Newsroom ein Auge auf alles, was mit der Digitalisierung des Gesundheitswesens zu tun hat.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Ein Team des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme (IAIS) arbeitet derzeit gemeinsam mit Medizinerinnen und Medizinern an einem KI-basierten „Arztbriefgenerator“. Bis Ende 2024 soll ein Prototyp an der Uniklinik Essen erprobt werden. Dabei soll die KI alle vorliegenden Dokumente und strukturierten Daten zum jeweiligen Krankenhausaufenthalt auswerten und daraus einen Entlassungsbrief erstellen, der zusätzlich auch leicht verständliche Erklärungen für die Patienten beinhaltet. „Das gehört zu dem von Ärzten gefürchteten Dokumentationsaufwand“, erklärt Koch. „40 Prozent der Arbeitszeit von Ärzten fließen in die Dokumentation. Da würde die Hilfe von KI viel Zeit einsparen.“ Lauterbach verspricht daher, mit KI-Systemen die Ärztebürokratie zu erleichtern.
Das Problem von KI – gerade im Gesundheitswesen – ist allerdings zum einen die Gefahr von Halluzinationen und der Bias, der durch einseitige Trainingsdaten entsteht: Viele KIs seien mit Daten einer bestimmten Population trainiert worden, wodurch bestimmte andere Populationen benachteiligt werden, das haben wir beispielsweise bei Frauen und Männern, dass es einfach bei Männern bessere Ergebnisse gibt, weil dort mehr Daten vorhanden sind, das kritisieren Forscher. Und zum Beispiel bei der Hautkrebserkennung ist es so, dass wir überwiegend Daten von hellhäutigen Menschen haben und dann werden so Dermatologie-Apps eben bei dunkelhäutigen Menschen weniger gut Auffälligkeiten erkennen. Repräsentativere Daten, zum Beispiel aus elektronischen Patientenakten (ePA), könnten dazu beitragen, dass Forschungsergebnisse inklusiver sind.
In Deutschland soll die ePA nun 2025 für alle gesetzlich Versicherten kommen – es sei denn, man widerspricht. „Es gibt viele Bereiche, in denen brauchen wir Daten, damit die Gesundheitsversorgung verbessert und Krankheiten bekämpft werden können“, betont die heise-Redakteurin. KI könne bei der Auswertung solch riesiger Datenmengen helfen. „Aber am Ende sollten immer die Forschenden die letzte Entscheidung haben und die Ergebnisse kuratieren, denn nur sie können entscheiden, ob die Ergebnisse der KI tatsächlich eine Kausalität abbilden oder nur eine Korrelation.“
(igr)
