In diesem Kapitel werden zentrale Möglichkeiten für Deutschland aufgezeigt, KI-Kapazitäten im Gesundheitswesen voranzubringen. Deutschland hat sinnvolle Maßnahmen zur Förderung von KI im Gesundheitswesen eingeleitet, darunter gesetzgeberische Maßnahmen zur Förderung der Integration digitaler Gesundheitstechnologien und zur aktiven Förderung von KI-Anwendungen in der Medizin. Trotz des öffentlichen Optimismus hinsichtlich des Potenzials von KI, die Erfahrungen der Patient:innen zu verbessern und die Arbeitsbelastung des Gesundheitspersonals zu verringern, steht Deutschland aufgrund fragmentierter Gesundheitsdaten und unpraktikabler Datenschutz- und Sicherheitsmaßnahmen vor Herausforderungen bei der Einführung von KI im Gesundheitswesen. Deutschland hat den Weg in Richtung des Einsatzes von KI im Gesundheitswesen eingeschlagen und sollte weiter an der Entwicklung einer umfassenden Strategie für Gesundheitsdaten-Governance und Interoperabilität mit Rechtsvorschriften arbeiten, die Innovationen ermöglichen und gleichzeitig angemessenen Schutz bieten. Diese Strategie ist entscheidend für den Aufbau eines nationalen Rahmens für Gesundheitsinformationen, der den zeitnahen Zugang zu hochwertigen Daten fördert. Dies wird durch die Zusammenarbeit aller wichtigen Interessenträger:innen ermöglicht, um einen Nutzen für Deutschland und allen im Land lebenden Menschen zu erzielen.
OECD-Bericht zu Künstlicher Intelligenz in Deutschland
10. Spotlight: KI und Gesundheitswesen
Abstract
KI hat das Potenzial, Leben zu retten, dem Gesundheitspersonal zu ermöglichen, sich stärker der eigentlichen Pflegetätigkeit zu widmen, und die öffentliche Gesundheit und Sicherheit zu verbessern (OECD, 2024[1]). Diese Vorteile können jedoch aufgrund einer fragmentierten Politik-, Daten- und Technologiebasis bislang nur in begrenztem Umfang erreicht werden. Das gilt für Deutschland genauso wie für viele andere Länder.
Die deutsche KI-Strategie 2018 spiegelt den Handlungsbedarf bei KI im Gesundheitswesen wider, da sie Möglichkeiten zur Verbesserung der Gesundheitsergebnisse, Unterstützung der Pflege und Innovationsförderung aufzeigt. Dies wurde in der Fortschreibung 2020 der KI-Strategie erneut zum Ausdruck gebracht.
Deutschland ergreift Maßnahmen, um eine stärkere Politik-, Daten- und Technikbasis für KI aufzubauen, die die KI-Strategie 2018/2020 widerspiegelt. Für die Entwicklung und das Trainieren von KI‑Anwendungen ist der Zugriff (Politik) auf große, hochwertige und detaillierte Datensätze (Daten) erforderlich, während gleichzeitig die Sicherheit dieser Daten (Technologie) gewährleistet werden muss. Die Kunst der Entwicklung von KI-Lösungen erfordert einen effektiven Umgang mit von Millionen von persönlichen Gesundheitsakten, die Informationen über Bevölkerungsgruppen und Organisationen hinweg konsolidieren.
Kasten 10.1. KI und Gesundheitswesen: Ergebnisse und Empfehlungen
Ergebnisse
Eine breite Unterstützung für Gesetze im Zusammenhang mit Gesundheitsdaten und digitalen Tools (GDNG, Digi-G, anstehendes Gesetz zur Umstrukturierung der Gematik) wird die Grundlagen für KI im Gesundheitswesen in Deutschland stärken.
Eine vorsichtige Auslegung der Datenschutzvorschriften behindert die Innovationsfähigkeit im KI-Bereich.
Es herrscht schlechte Interoperabilität aufgrund des Mangels an Rechenschaftspflicht, Vertrauen und Anreizen.
Die Öffentlichkeit und die Erbringer:innen von Gesundheitsleistungen glauben, dass KI die Gesundheitsergebnisse und -systeme verbessern wird, wenngleich es altersbedingte Unterschiede gibt.
Empfehlungen
Weitere Überarbeitung der Rechtsvorschriften und der politischen Strategie.
Entwicklung von Leitlinien für den Zugang zu Gesundheitsdaten für die Sekundärnutzung, welche die Entwicklung von KI unterstützen, die Bürger:innen schützen und die Datenschutzrechte respektieren.
Festlegung einer Strategie und eines Rahmens für die Governance und Interoperabilität von Gesundheitsdaten mit Rechenschaftspflicht, einer Roadmap, Messungen, finanziellen Hebeln und Aufsicht.
Einbeziehung der Öffentlichkeit und der Erbringer:innen von Gesundheitsleistungen in die Entwicklung von KI-Lösungen, die Konzeption von Kontrollen und Aufsichtsmechanismen, um für Vertrauen zu sorgen.
Deutschlands Weg zu einem Gesundheitswesen für das digitale Zeitalter
Deutschland treibt sein digitales Gesundheitsökosystem voran und konzentriert sich dabei auf eine patientenorientierte Versorgung und die wirksame Nutzung von KI für Verbesserungen im Klinik-, Verwaltungs- und Forschungsbereich. Die Strategie der Bundesregierung umfasst umfangreiche Finanzmittel für verschiedene gesundheitsbezogene KI-Projekte und Gesetze zur Verbesserung der Datenverfügbarkeit und -nutzung. Diese Anstrengungen zielen darauf ab, die Gesundheitsergebnisse, die Effizienz des Systems und die Innovationen zu verbessern, indem der europäische Raum für Gesundheitsdaten im Hinblick auf eine bessere grenzüberschreitende Datenzusammenarbeit harmonisiert wird.
Deutschland, ein OECD-Land mit überdurchschnittlichen Gesundheitsausgaben (OECD, 2022[2]), hat bei der Digitalisierung im Gesundheitswesen erhebliche Fortschritte gemacht. Fast ein Viertel (23 %) aller Einwohner nutzte auf dem Höhepunkt der COVID-19-Pandemie Telekonsultation, weit unter dem Durchschnitt von 39 % in den 27 Mitgliedstaaten der EU (OECD/EU, 2022[3]). Deutschland räumt ein, dass es bei seinen Bemühungen um einen digitalen Wandel hinterherhinkt. Im OECD-Bericht über die Empfehlung zur Gesundheitsdaten-Governance von 2022 belegte Deutschland unter den 23 befragten OECD-Ländern den 18. Platz bei Datensatz-Governance und unter diesen Ländern den letzten (23.) Platz bei Datenverknüpfung (OECD, 2016[4]). Wie auf einer Konferenz im Juni 2023 berichtet, ist Deutschland seit dem ersten Januar 2024 das 18. Land in Europa, das landesweit das E-Rezept eingeführt hat. Deutschland beginnt später als viele andere vergleichbare europäische Länder mit den Vorbereitungen für den europäischen Raum für Gesundheitsdaten (EHDS) zur Vereinfachung der grenzüberschreitenden Datenzusammenarbeit und zur Verbesserung der Übertragbarkeit persönlicher Gesundheitsakten.
Deutschland hat in diesen Bereichen proaktive Maßnahmen ergriffen. Auf der Basis eines breit angelegten Prozesses der Konsultation von Interessenträger:innen (500 Akteur:innen) hat das Bundesgesundheitsministerium 2023 eine Digitalisierungsstrategie für das Gesundheitswesen entwickelt (BMG, 2023[5]). Die Strategie zielt darauf ab, ein menschenzentriertes und lernendes digitales Gesundheitsökosystem zum Wohle der Patient:innen zu fördern (Gerlach et al., 2021[6]).
Deutschland ist ein internationaler Vorreiter bei der strukturierten Bewertung und der Erstattung der Kosten patientenorientierter digitaler Gesundheitsanwendungen (DiGA). Das Verfahren zur Bewertung der Erstattungsfähigkeit ist entwicklungsoffen, auch im Hinblick auf KI-basierte Anwendungen. Das Bundesministerium für Bildung und Forschung fördert Forschung und Innovation in diesem Bereich über eine Reihe von Finanzierungsmöglichkeiten:
Medizininformatik-Initiative;
digitale Hubs in den Bereichen Forschung und Gesundheit;
Nationale Forschungsdateninfrastruktur (NFDI);
Finanzierungslinie Computational Life Sciences;
Finanzierungslinie Modellierungsnetz für schwere Infektionskrankheiten;
Finanzierungslinie Datenanalyse und Datenteilen in der Krebsforschung.
Neben dem Ausbau der Digitalisierung zur verbesserten gemeinsamen Datennutzung und individuellen Befähigung verfolgt die Bundesregierung parallel das Ziel der Förderung des Einsatzes von KI. Zu diesem Zweck hat die Bundesregierung 2018 eine Strategie für den Einsatz von KI entwickelt, um „den exzellenten Forschungsstandort Deutschland zu sichern, die Wettbewerbsfähigkeit der deutschen Wirtschaft auszubauen und die vielfältigen Anwendungsmöglichkeiten von KI in allen Bereichen der Gesellschaft [...] [zu] fördern“ (Die Bundesregierung, 2018[7]).
KI in einem digitalisierten Gesundheitssystem – verantwortungsvoll entwickelt und eingesetzt – schafft die Voraussetzungen für eine Verbesserung der klinischen Versorgung, der Effizienz des Gesundheitssystems, des Schutzes vor Notfällen im Bereich der öffentlichen Gesundheit, der medizinischen Forschung und aufkeimender Innovationen. KI im Gesundheitswesen kann auf Biomedizin (Präzisionsmedizin, Arzneimittelforschung, Suche nach den geeigneten Personen für klinische Studien, Vorhersage und Prävention), Verwaltung (Terminplanung, Abrechnung, Codierung, Verwaltung von Arbeitsabläufen und Zahlungen) und klinische Praxis (klinische Prüfungen, diagnostische bildgebende Interpretation für Radiologie, ferngesteuerte Roboterchirurgie, Entwicklung personalisierter Behandlungspläne) angewendet werden (Oliveira Hashiguchi, Slawomirski and Oderkirk, 2021[8]). Deutschland verfolgt aktiv mehrere Projekte zur Steigerung der KI-Nutzung in der Medizin, auch in der Radiologie, um die Strahlenbelastung zu verringern (Nensa, Demircioglu and Rischpler, 2019[9]) , und unterstützt der Entwicklung und Einführung von Gesundheitsanwendungen (Lantzsch et al., 2022[10]). Zwischen 2020 und 2025 förderte und fördert das Bundesgesundheitsministerium insgesamt 38 Projekte. Diese Projekte unterstreichen das breite Spektrum möglicher Anwendungen von KI im Gesundheitswesen und zeigen, wie innovative Technologien zur Weiterentwicklung von Forschung und Patientenversorgung eingesetzt werden können.
Um die bessere Nutzung von Gesundheitsdaten in Deutschland, auch bei KI-Anwendungen, zu beschleunigen, plant die Bundesregierung gesetzgeberische Maßnahmen zur Verbesserung des Gesundheitsdaten-Ökosystems:
Das Gesundheitsdatennutzungsgesetz (GDNG) soll die gemeinsame Nutzung von Gesundheitsdaten fördern, indem die Grundlage für eine bessere Verfügbarkeit von Gesundheitsdaten geschaffen und der Weg für den europäischen Raum für Gesundheitsdaten (EHDS) geebnet wird.
Ein weiteres wichtiges Gesetz wird das Registergesetz sein, für das der erste offizielle Entwurf im ersten Halbjahr 2024 erwartet wird. Ziel ist es, die medizinischen Register zu stärken und zu regulieren sowie durch die Einrichtung eines Zentrums für medizinische Register die Transparenz zu erhöhen. Das Zentrum würde ein Registerverzeichnis führen, das einen Überblick über die Stamm- und Prozessdaten dieser Register bietet. Ziel des Gesetzes ist es, Behandlungsüberprüfungen, Forschung und Pflege zu fördern, indem die Nutzbarkeit und Zugänglichkeit von Daten für Forschung und Pflege verbessert und medizinische Register zur Entwicklung von Qualität und Nutzen unterstützt werden.
Nach ihrer Umsetzung werden diese Maßnahmen gemeinsam dazu beitragen, die Zugänglichkeit und Vernetzbarkeit von Daten in Deutschland (und europaweit über den EHDS) zu verbessern. Dies wird zum Teil mit dem Forschungsdatenzentrum Gesundheit erreicht. Die bessere Nutzung von Gesundheitsdaten wird dazu beitragen, die Gesundheitsergebnisse für den Einzelnen zu verbessern, Erkenntnisse auf der Ebene des Gesundheitssystems für die Gesundheit und Sicherheit der Bevölkerung zu ermöglichen, die Bereitschaft für Notfälle im Bereich der öffentlichen Gesundheit zu fördern sowie Forschung und Innovation im Hinblick auf langfristige systemische Verbesserungen voranzutreiben.
Das übergeordnete Ziel besteht darin, den Patient:innen die höchste Versorgungsqualität zu bieten, einschließlich neuer, innovativer Anwendungen der Medizintechnik. Um dieses Ziel zu erreichen, ist bestmögliches Wissen aus der medizinischen Forschung erforderlich, die in der modernen Medizin den Einsatz von KI umfasst.
Perspektive der Öffentlichkeit und der Erbringer:innen von Gesundheitsleistungen
In Deutschland ist die Einstellung zum Potenzial von KI im Gesundheitswesen optimistisch. Viele erkennen ihre Vorteile bei der Diagnose und Erkennung von Krankheiten, wenn sie unter menschlicher Aufsicht erfolgt. Trotz mancher Befürchtungen liegt die Betonung auf der Notwendigkeit inklusiver digitaler Kompetenz, um eine Spaltung zu verhindern. Mitarbeiter:innen im Gesundheitswesen betrachten KI als Ergänzungsinstrument und nicht als Ersatz und setzen sich für ihre Anwendung bei administrativen Aufgaben ein, um die Effizienz und die Erfahrungen der Patient:innen zu verbessern. Gleichzeitig betonen sie einen vorsichtigen Ansatz bei der KI-Einführung, der auf Vertrauen und Wertschätzung gründet.
In mehreren aktuellen Umfragen wurden die Meinungen der Europäer:innen, einschließlich der in Deutschland lebenden Menschen, zur KI erhoben (siehe Kapitel 6). In diesem Zusammenhang ist der Optimismus der in Deutschland lebenden Menschen für den Einsatz von KI im Gesundheitswesen größer als bei anderen KI-Anwendungen, da 80 % der Befragten glauben, dass es gute oder ausgewogene Möglichkeiten für den Einsatz von KI zur Krankheitserkennung gibt (bidt, 2023[11]). 85 % glauben, dass KI Vorteile bei der Diagnose bringen würde, wobei eine große Mehrheit eine:n menschliche:n Vermittler:in zwischen der KI und dem:der Patient:in bevorzugt. Diese Vorteile wurden als die nutzbringendsten Chancen von KI angesehen. Der Bericht (bidt, 2023[11]) enthält eine Warnung: „Im Ländervergleich liegt bei der Bevölkerung in Deutschland eine relativ große digitale Kluft vor.“ Menschen mit eingeschränkter digitaler Kompetenz verfügen über geringe digitale Fähigkeiten und sind daher dem Risiko ausgesetzt, abgehängt zu werden. Damit Deutschland international mit der Digitalisierung Schritt halten kann und aus wirtschaftlicher und sozialer Sicht nicht ins Hintertreffen gerät, müssen die Rückstände in den identifizierten Problembereichen schnellstmöglich aufgeholt und bestehende Kompetenzunterschiede in der Bevölkerung minimiert werden.
Eine zweite Umfrage zeigte eine ähnlich positive Einstellung zur KI in der Öffentlichkeit: 81 % sehen KI als Chance, 70 % sind der Ansicht, dass Ärzt:innen durch KI unterstützt werden sollten, und 87 % erkennen die Notwendigkeit einer Regulierung an. Es ist auch wichtig zu beachten, dass 23 % Angst vor KI haben, obwohl in der Umfrage nicht näher darauf eingegangen wurde (Wintergerst, 2023[12]).
Zum breiteren Thema der Digitalisierung haben einige Gruppen die Forderungen nach Privatsphäre und Sicherheit in der Öffentlichkeit vielleicht überbetont. In der Praxis haben sich die Patient:innen wiederholt positiv zur digitalen Infrastruktur geäußert (Schmitt, Haarmann and Shaikh, 2022[13]) (Heidel and Hagist, 2020[14]). Die gleiche Einstellung, nämlich der Akzeptanz gegenüber der Digitalisierung, findet sich auch bei Leistungserbringer:innen.
Gespräche mit Mitarbeiter:innen im Gesundheitswesen zeigten deren Pragmatismus, dass es unwahrscheinlich ist, dass ihre Jobs durch Fortschritte im Bereich der KI ersetzt werden. Dennoch herrscht die Ansicht vor, dass digitale Tools, die über ein breiteres Netzwerk von Gesundheitsorganisationen miteinander verbunden sind, nur langsam eingeführt werden. Zu den Gründen für die langsame Einführung gehören (a) mangelndes Vertrauen aufgrund früher Fehler bei der Implementierung digitaler Tools; (b) Bedenken über einen Verlust der Autonomie in der Rolle als Erbringer:innen von Gesundheitsleistungen aufgrund digitaler Tools und (c) Ärzt:innen, die keinen Wert darin sehen, ihre Zeit zu investieren, um bessere Ergebnisse für Leistungserbringer:innen und ihre Patient:innen zu erzielen.
Diesbezüglich wurde in Interviews angemerkt, dass wichtige Bereiche für die Implementierung von KI Funktionen umfassen würden, die den Arbeitsaufwand für Erbringer:innen von Gesundheitsleistungen reduzieren und die Patientenerfahrung verbessern (z. B. Terminvereinbarung, klinische Dokumentation und Rechnungsstellung), um die Einführung von KI im klinischen Umfeld zu verbessern. Diese hätten auch den Vorteil, dass sie weniger risikobehaftete KI-Anwendungen darstellen, da die klinischen Ergebnisse nicht direkt beeinflusst werden. Dies würde eine Verlagerung des Schwerpunkts von den führenden Entscheidungsträger:innen, Geldgeber:innen und Innovator:innen erfordern, deren offenkundiger Schwerpunkt auf fortschrittlicher klinischer Betreuung einschließlich Diagnostik, Robotik oder Genomik liegt.
Hindernisse für die Einführung von KI im deutschen Gesundheitswesen
Deutschlands Ansatz zur Integration von KI in das Gesundheitswesen steht vor Herausforderungen, darunter die vorsichtige Auslegung von Datenschutzgesetzen und fragmentierte Gesundheitsdatensysteme. Während Initiativen wie das Gesundheitsdatennutzungsgesetz darauf abzielen, die Datenverfügbarkeit zu verbessern, erschweren praktische Probleme wie Datensilos und unterschiedliche Ländergesetze die gemeinsame Nutzung von Daten und die Entwicklung von KI. Um KI vollständig einsetzen zu können, muss Deutschland den Datenschutz gegen die Notwendigkeit abwägen, Gesundheitsdaten zur Verbesserung der Pflege und zur Verbesserung der Dateninteroperabilität und des öffentlichen Vertrauens in KI-Lösungen zu nutzen.
Am Beginn der Entwicklung in Richtung des Einsatzes von KI im Gesundheitswesen steht Deutschland vor mehreren Hindernissen in Bezug auf die Nutzung des Potenzials von Gesundheitsdaten und KI. Die oben genannten Gesetze (GDNG, Registergesetz) werden zwar helfen, doch sind weitere Anstrengungen erforderlich, um seit Langem bestehende Hindernisse zu ermitteln und zu beseitigen, die die Entwicklung und Nutzung von KI im Gesundheitswesen verhindern. Insbesondere wird der Fortschritt der KI im Gesundheitsbereich durch Faktoren behindert, die eine Herausforderung für die Fähigkeit zur Skalierung von Innovationen in Gesundheitseinrichtungen darstellen. Die Skalierung der KI ist abhängig von (1) einem gesicherten Datenzugriff, (2) der Dateninteroperabilität, (3) dem Vertrauen der betroffenen Akteur:innen – insbesondere der Leistungserbringer:innen und der Öffentlichkeit – und (4) ausreichender Personal- und Rechenkapazität, um KI-Lösungen zu entwickeln, bereitzustellen, zu betreiben und aufrechtzuerhalten.
Vorsichtige Auslegung der Datenschutzvorschriften
Die Rechtsvorschriften zum Datenschutz und zur Datensicherheit sollen den Schutz der Patientendaten gewährleisten. Grundlage dieser Rechtsvorschriften sind die Vorschriften der Europäischen Union (EU) wie die Datenschutz-Grundverordnung (DSGVO) und das in der deutschen Verfassung verankerte Grundrecht auf informationelle Selbstbestimmung. Deutschland hat Bundesgesetze zum Datenschutz ausgearbeitet und aktualisiert diese gerade. Darüber hinaus haben die 16 Bundesländer länderspezifische Gesetze zu Gesundheitsdaten erarbeitet (Schmitt, 2023[15]). Im Allgemeinen enthalten diese Rechtsvorschriften Leitlinien für den Zugang zu und die Nutzung von Gesundheitsdaten, einschließlich der erforderlichen Kontrollen und Verpflichtungen seitens der Inhaber:innen, Vermittler:innen und Nutzer:innen von Daten.
Das aktuelle Gleichgewicht zwischen der Ermöglichung der positiven Ziele der Gesundheitsdatenforschung und der Vermeidung der damit verbundenen Datenschutzrisiken ist Berichten zufolge in Richtung Risikovermeidung verschoben. Dies erschwert die Erreichung der Ziele der Gesundheitsdatenforschung und anderer sekundärer Datennutzungen extrem. Dies ist wichtig, weil „allgemein anerkannt wird, dass es eine ethische Verpflichtung gibt, Gesundheitsdaten zur Verbesserung der Pflege zu nutzen“ (McLennan et al., 2022[16]). Die aktuellen Auslegungen der Datenschutzvorschriften schaffen zudem einen problematischen Konflikt mit Deutschlands Führungsambitionen im Bereich der KI (McLennan et al., 2022[16]).
Dies führt dazu, dass gesundheitsbezogene Datensätze in Deutschland oft in isolierten Strukturen, sogenannten Datensilos, verbleiben und somit für eine Sekundärnutzung nicht zur Verfügung stehen. Daher kann der Zugang zu umfassenden Gesundheitsdaten schwieriger sein als in anderen Ländern. Diese Herausforderung steht im Zusammenhang mit vorsichtigen Auslegungen der Datenschutz- und Sicherheitsbestimmungen (anekdotisch mit historisch begründeten Bedenken über Datenmissbrauch, der Schaden anrichtet, verbunden), einer Vielzahl an Vorschriften und Entscheidungsträger:innen in Bezug auf Datenschutz und Zugriff in den Bundesländern und einem Mangel an kohärenten technischen Standards. Während Gesetze wie das GDNG und das Digi-G – zusammen mit den Aktivitäten zur Beteiligung am EHDS – auf gute Fortschritte hindeuten, ist es wichtig, sich mit den Menschen auszutauschen, damit ihre Handlungen die mit den Gesetzen und dem EHDS beabsichtigten Ergebnisse hervorbringen.
Vorschriften sind im Gesundheitswesen sind besonders wichtig, weil es bei der Gesundheitsversorgung um hochsensible Daten geht, deren missbräuchliche Verwendung schwerwiegende negative Folgen haben kann. Beispielsweise können Datenschutzverletzungen, die durch die Weitergabe von Daten verursacht werden, unter anderem emotionalen Schaden und finanzielle Auswirkungen nach sich ziehen. Umgekehrt kann die Nichtweitergabe von Daten eine schlechte Qualität der Gesundheitsversorgung, sich überschneidende Gesundheitsdienstleistungen und systemische Ungleichheiten im Bereich der Gesundheit zur Folge haben. Bei Entscheidungen über Datenzugriff und -nutzung sollten beide Perspektiven berücksichtigt werden, um Schäden zu minimieren und die Gesundheitsergebnisse zu optimieren. Dies ist besonders wichtig im Bereich der KI, da ein zeitnaher Zugang zu hochwertigen repräsentativen Daten für ihre Wirksamkeit unerlässlich ist (Kasten 10.2).
Zwar enthalten die Rechtsvorschriften Bestimmungen, die die Zugänglichkeit von Daten in Szenarien für das Gemeinwohl ermöglichen. Doch es ist nicht definiert, was eine gemeinwohlorientierte Nutzung darstellt, auch nicht in Leitlinien. Die Ungewissheit darüber, was das Gemeinwohl ausmacht, führt häufig zu vorsichtigen Entscheidungen. Dies hat zur Folge, dass Anfragen entweder abgelehnt werden oder ihnen mit einem hohen Grad an Datenaggregation entsprochen wird, wodurch die Daten für Sekundärnutzung und KI-Anwendungen unbrauchbar werden.
Kasten 10.2. KI-Diagnostik und die Bedeutung von Trainingsdaten
In der Welt der KI-Diagnostik stellen die Unmöglichkeit der Skalierung sowie Ungenauigkeiten über verschiedene Bevölkerungsgruppen hinweg aufgrund des fehlenden Zugriffs auf umfassende Datensätze häufige Nachteile dar. Darüber hinaus erfordert das Training von KI-Anwendungen umfangreiche Patientendatensätze. Doch die Verwendung solcher Daten kann unbeabsichtigt zu Verzerrungen führen, wodurch die Ergebnisse auf bestimmte Bevölkerungsuntergruppen weniger übertragbar werden. Dies führt zu Bedenken hinsichtlich ihrer Angemessenheit. Ein Beispiel: Bei Frauen mit Brustkrebs war die Wahrscheinlichkeit, dass schwarze Frauen auf Hochrisiko-Keimbahnmutationen getestet wurden, im Vergleich zu weißen Frauen geringer, obwohl sie ein ähnliches Risiko für solche Mutationen tragen. Daher schätzt ein KI-Algorithmus, der von genetischen Testergebnissen abhängt, das Brustkrebsrisiko bei schwarzen Patientinnen mit größerer Wahrscheinlichkeit falsch ein als bei weißen Patientinnen (Parikh, Teeple and Navathe, 2019[17]).
Ein weiteres häufig genanntes Beispiel, um das Problem zu verdeutlichen, ist das KI-System „Watson for Oncology“, bei dem es mangels Trainingsdaten zu einer Abnahme der Genauigkeit kam (O’Leary, 2022[18]).
Ein von Google DeepMind produziertes KI-Tool zeigte vielversprechende Ergebnisse bei der frühzeitigen Vorhersage einer akuten Nierenverletzung. Das KI-System wurde mit Daten von 703.782 erwachsenen Patient:innen des Kriegsveteranenministeriums der USA trainiert. Das Datenmaterial enthielt jedoch mehrheitlich männliche Patient:innen (94 %), was andere Forscher:innen an der Repräsentativität und damit der Generalisierbarkeit und Genauigkeit der Vorhersagen in Bezug auf andere Populationen zweifeln lässt. Cao u. a. (2022[19]) bewerteten die Leistung des Modells unter Verwendung der weiblichen Veteranenpopulation und stellten fest, dass das Modell bei Frauen schlechtere Leistung zeigte als bei Männern (Cao et al., 2022[19]). Diese Ergebnisse zeigen, dass es zwingend erforderlich ist, die KI-Systeme mit hochwertigen, interoperablen und vielfältigen Daten zu trainieren, um genaue und sensible Modelle zu erstellen, die auf verschiedene Populationspanels angewendet werden können. Dadurch wird eine zuverlässige Risikostratifizierung für die Menschen beschleunigt.
Der zeitnahe Zugang zu hochwertigen Daten ist der Katalysator für die Entwicklung und Skalierung genauer KI-Systeme und -Modelle. Bemerkenswert ist, dass das BMBF interdisziplinäre Projekte fördert, die neue Ansätze für die Datenanalyse und den Datenaustausch in der Krebsforschung entwickeln. Dazu gehört auch die Entwicklung von Trainingsdatensätzen, die der breiteren Forschungsgemeinschaft zur Verfügung gestellt werden sollen.
Quelle: Parikh, R., S. Teeple and A. Navathe (2019[17]) , “Addressing bias in artificial intelligence in health care”, https://doi.org/10.1001/jama.2019.18058; O’Leary, L. (2022[18]), “How IBM’s Watson went from the future of health care to sold off for parts”, https://slate.com/technology/2022/01/ibm-watson-health-failure-artificial-intelligence.html (zugegriffen am 7 November 2023); Cao, J. et al. (2022[19]), “Generalizability of an acute kidney injury prediction model across health systems”, https://doi.org/10.1038/s42256-022-00563-8.
Wenn dieses Hindernis nicht beseitigt wird, könnte es als unethisch angesehen werden, erhebliche Beträge öffentlicher Mittel in die KI-Entwicklung zu investieren und gleichzeitig den Datenzugriff durch strenge Datenschutzmaßnahmen zu beschränken, da dies eine ineffiziente Nutzung öffentlicher Ressourcen darstellt. Die KI-Revolution im Gesundheitswesen kann ihr volles Potenzial nur dann entfalten, wenn in einem transparenten Prozess die Werte, die nationalen Strategien zur Daten-Governance zugrunde liegen, und ihre Auswirkungen auf die KI-Entwicklung sowie die Prioritäten entsprechend festgelegt werden (Bak et al., 2022[20]).
Fragmentierte Dateninteroperabilität ohne schützende und leitende Vorgaben für Fortschritt
Unterschiede in der Datenerhebung und den Datenstandards zwischen den Akteur:innen und über die Bundesländer hinweg erschweren die Entwicklung von KI-Lösungen und deren Integration in das deutsche Gesundheitssystem. Aus Sicht der Forscher:innen führen fragmentierte Entscheidungsstrukturen zu Verwaltungslasten, die die Effektivität und Produktivität der Ressourcen durch erhöhten Zeitaufwand für die Datenerfassung, die Bewertung der Datenqualität und das Datenmanagement zur Normalisierung der Daten für die Verwendung in KI-Systemen verringern.
Ohne klare Rechenschaftspflicht sowie schützende und leitende Vorgaben entwickeln einzelne Gesundheitsorganisationen (oder Bundesländer) ihre eigenen Standards, um die Umsetzung ihrer Projekte zu erreichen, ohne den Beitrag des Projekts zum breiteren Gesundheitsökosystem zu berücksichtigen. Diese mangelnde Interoperabilität kann in mehrfacher Hinsicht zu Ineffizienz und Schäden führen. Patient:innen und Leistungserbringer:innen können Schwierigkeiten haben, die Informationen zu erhalten, die sie benötigen, um Menschen, die von mehreren Gesundheitseinrichtungen versorgt werden, eine qualitativ hochwertige Versorgung zu bieten. Dies hat zur Folge, dass zu viele Tests durchgeführt werden, Patient:innen mit versäumten Diagnosen durch das Raster fallen oder geschädigt werden, wenn potenzielle Arzneimittelwechselwirkungen übersehen werden. Forscher:innen und Innovator:innen müssen Zeit investieren, um Daten zu erfassen und zu bereinigen, damit sie für ihre Zwecke nützlich sind. Fachkräfte im öffentlichen Gesundheitswesen sind nicht in der Lage, schnell und präzise auf Notfälle im Bereich der öffentlichen Gesundheit zu reagieren. Die Gesundheitsministerien der Länder und des Bundes sind gefordert, zeitnahe evidenzbasierte Entscheidungen zu treffen und die Wirksamkeit der Gesundheitspolitik zu überwachen.
Die Messung der organisationsübergreifenden Interoperabilität – sowohl aus der Perspektive des Datenaustauschs als auch der politischen Umgebung – kann Aufschluss darüber geben, wo Gesamtprozesse zu lange dauern oder zu viel kosten. Ohne einen auf Interoperabilität gerichteten Politik-, Daten- und Technikansatz kann der Prozess des Datenzugriffs weit über den notwendigen Zeitrahmen und die angemessenen Kosten hinausgehen. Diese mangelnde Interoperabilität von Politik und Daten behinderte Innovationen, da auch andere mit ähnlichen Herausforderungen konfrontiert waren (Kasten 10.3).
In Deutschland werden Fortschritte erzielt. Das BMBF fördert mit der Medizininformatik-Initiative den interoperablen Datenaustausch für die medizinische Forschung. Ziel ist es, eine gemeinsame Dateninfrastruktur für alle Universitätskliniken aufzubauen.
Kasten 10.3. Inkrementelle Politik- und Datenentwicklung kann zu Mehrkosten und erhöhtem Zeitaufwand führen
Gesundheitsinnovationen sind ein wesentlicher Wirtschaftsfaktor. Fragmentierte politische Maßnahmen, die ohne Rücksicht auf die allgemeinen Ziele der Gesundheitssysteme konzipiert werden, können Innovationen verhindern oder beeinträchtigen.
Im Jahr 2018 stellte die kanadische Provinz Ontario fest, dass die Innovation trotz ihres weltweit führenden Rufs und ihrer umfangreichen Gesundheitsdatenbestände ins Stocken geraten war. Innovator:innen beklagten, dass ihnen der Zugang zu Gesundheitsdaten von Patient:innen verwehrt war, obwohl sie die ausdrückliche Zustimmung der Patient:innen erhalten hatten, die von ihrer Innovation profitieren wollten. Eine Taskforce untersuchte das Problem und fand heraus, dass der Gesamtprozess zur Gewährung des Datenzugriffs komplex, ineffizient und für die Förderung von Innovationen und besseren persönlichen Gesundheitsergebnissen unwirksam war.
Über viele Jahre hinweg haben organisatorische, personelle und Prioritätsänderungen zu einem ‚Prozessungetüm’ für die Gewährung des Zugangs zu Gesundheitsdaten für Innovation geführt. Ein Team bildete den Prozess ab, einschließlich der zu befolgenden Verfahren (z. B. Datenschutz-Folgenabschätzungen und -Risikobewertungen), der Stellen, an denen Übergaben zwischen Organisationen stattfanden, und der geschätzten Dauer jedes Schritts.
Die Analyse ergab, dass sich der Prozess auf zehn verschiedene Genehmigungen in mehr als fünfzig Verfahrensschritten bei drei verschiedenen juristischen Personen ausgeweitet hatte. Insgesamt bedurfte es über die Organisationen hinweg vierzig verschiedener Übergaben, damit der Datenzugriffsprozess von Anfang bis Ende funktionierte. Bei Betrachtung der durchschnittlichen Zeit für jeden Schritt wurde festgestellt, dass ein:e Innovator:in mindestens 18 Monate benötigen und es sie oder ihn 50.000 CDN kosten würde, um Zugang zu einem Datenbestand zu erhalten.
Der Gesamtprozess hatte sich in einzelnen Teilen entwickelt, wobei jede Organisation sicherstellte, dass ihre lokalen Risiken angemessen und vollständig gemindert wurden. Diese Organisationen hatten zwar die Absicht, potenzielle Schäden durch Datenschutz- und Sicherheitsrisiken zu mindern, sie führten aber zu tatsächlichen Schäden, wenn Patient:innen aufgrund mangelnder Kohärenz über den gesamten Prozess hinweg keinen Nutzen aus Innovationen ziehen konnten. Der Gesamtprozess hatte sich in einer Weise entwickelt, die für jede einzelne Organisation sinnvoll war, aber das übergeordnete Ziel, nämlich Verbesserung der Gesundheitsergebnisse, verfehlte.
Das Team gestaltete den Prozess so um, dass Datenschutz- und Sicherheitsrisiken immer noch gemindert werden, minimierte jedoch organisationsübergreifende Übergaben und nutzte bewusst kollektive Stärken und Kontrollen. Mit dem neu gestalteten Prozess dauerte es weniger als drei Monate, bis der Zugang gewährt wurde. Der neue Prozess bot dasselbe Maß an Datenschutz- und Sicherheitskontrolle und brachte gleichzeitig Innovationen und den Nutzen für die Patient:innen voran.
Die Umsetzung von KI wird komplexer sein und eine größere Anzahl von Organisationen einbeziehen, von denen jede ihren eigenen Ansatz zum Zugang und Datenschutz haben wird. Bei der Konzeption von KI-Lösungen, die mehrere Organisationen einbeziehen, ist es wichtig, zusammenzuarbeiten, um sich weiterhin auf das Erreichen gemeinsamer Ziele zu konzentrieren und gleichzeitig lokale Risiken zu mindern.
Mangelnde Einbeziehung der Öffentlichkeit und der Leistungserbringer:innen bei der Entwicklung von KI-Lösungen
Bei vielen Menschen verfestigt sich der Eindruck, dass Regierungen als verantwortliche Datenmanagerin nicht vertrauenswürdig sind. Dies behindert den Fortschritt von KI-Projekten für die Gesundheit. Die Wiederherstellung des Vertrauens und die Zusammenarbeit im Hinblick auf das gemeinsame Ziel der Bereitstellung einer qualitativ hochwertigen Gesundheitsversorgung erfordern Transparenz und Engagement in jeder Phase des Entwurfs, der Entwicklung, der Umsetzung und der Nachhaltigkeit der KI‑Lösung. Dies ist auch notwendig, um die inhärente Angst zu überwinden, die 23 % der Bevölkerung gegenüber KI empfinden.
Wenn das Vertrauen der Öffentlichkeit in die Nutzung von KI-Lösungen außer Acht gelassen wird, besteht das Risiko, dass viele Menschen in Deutschland sich gegen eine Nutzung ihrer Daten für legitime öffentliche Zwecke, wie die Verbesserung der Patientensicherheit oder die Vorbereitung auf zukünftige Notfälle im Bereich der öffentlichen Gesundheit, entscheiden. Ohne Daten, die repräsentativ für die Bevölkerung sind, verbreiten KI-Lösungen voreingenommene Sichtweisen, sind möglicherweise unwirksam und könnten im Extremfall Schaden anrichten.
Darüber hinaus kann die Nichtbeachtung der Perspektive der Erbringer:innen von Gesundheitsleistungen auch zu nachteiligen Ergebnissen führen. Die Leistungserbringer:innen sind für viele das „Gesicht“ des Gesundheitssystems und die Personen, denen die Patient:innen vertrauen, um ihnen in Zeiten der Not zu helfen. Die Leistungserbringer:innen können sich der Verwendung neuer Instrumente widersetzen, weil sie nicht in ihre Konzipierung einbezogen waren und dadurch die Sorge haben, dass das neue Instrument zu zusätzlichem Verwaltungsaufwand führt, ihr fachliches Urteilsvermögen infrage stellt oder sie ihre Autonomie verlieren lässt, während sie weiterhin für die Bereitstellung einer hochwertigen Gesundheitsversorgung verantwortlich sind.
Die Verordnung der Europäischen Union zu Künstlicher Intelligenz („KI-Verordnung der EU“) (EU, 2024[21]) legt gemeinsame Leitlinien für die Entwicklung, Implementierung und Wartung von KI-Lösungen fest. Die Grundsätze dieses Gesetzes werden von den EU-Mitgliedstaaten operationalisiert und für KI im Gesundheitsbereich kontextualisiert.
Kasten 10.4. KI hilft zu verhindern, dass Patienten durch die Maschen des Systems fallen
Im Gesundheitswesen werden täglich große Datenmengen generiert und in lokalen elektronischen Gesundheitsdatensätzen gespeichert. Diese wichtigen Informationen, die für die Verbesserung der Gesundheitsergebnisse unerlässlich sind, liegen in den verschiedenen Systemen für die Verwaltung von elektronischen Gesundheitsdatensätzen in vielfältigen, nicht einheitlichen Formaten vor. Wenn Patient:innen die Gesundheitsleistung von einer einzigen Einrichtung erhalten, hat dies nur begrenzte Auswirkungen; wenn die Gesundheitsleistung jedoch von mehreren Ärzt:innen und Einrichtungen erbracht wird, können die Auswirkungen erheblich sein. Wenn Klinikärzt:innen eine Vielzahl von elektronischen Gesundheitsdatensätzen manuell durchsuchen müssen, bedeutet dies Ineffizienz, doch der wahre Schaden liegt im potenziell fehlenden Zugang zu diesen Daten und stellt ein Risiko für das Wohlergehen der Patient:innen dar. Diese Herausforderung erstreckt sich über das gesamte Spektrum des Gesundheitswesens und betrifft Einzelpersonen von führenden Forscher:innen und renommierten Ärzt:innen bis hin zu globalen Pharmaunternehmen. Diese Herausforderung wird durch die elektronische Patientenakte (ePA) angegangen, die in Kürze automatisch allen gesetzlich Krankenversicherten zur Verfügung gestellt wird, sofern sie sich nicht dagegen entscheiden. Die Erbringer:innen von Gesundheitsleistungen übertragen Daten aus ihrer lokalen Patientenakte in die ePA des:der Patient:in, damit andere Ärzt:innen und Einrichtungen darauf zugreifen können (sofern sich der Patient nicht dagegen entscheidet). In der ePA sollen die Daten nach einheitlichen Standards strukturiert dokumentiert werden und interoperabel sein. Wenn dies der Fall ist, können mögliche zukünftige Filter- und Suchfunktionen Ärzt:innen bei der Analyse der Daten unterstützen. Darüber hinaus kann KI Ärzt:innen auch dabei helfen, die Fülle der im ePA gespeicherten Daten aus medizinischer Sicht zu prüfen.
KI-Systeme sind in der Lage, den Wert von Millionen von klinischen Datenpunkten, die in komplexen Textdokumenten eingebettet sind, automatisch und nahtlos zu erschließen. KI-gestützte Tools gewährleisten die Zugänglichkeit und die aktive Nutzung wichtiger Erkenntnisse und verhindern so, dass Patient:innen bei der herkömmlichen Datenverarbeitung durch das Raster fallen. Beispielsweise wurden Instrumente zur Extraktion realer Patientendaten eingesetzt, um Behandlungsmuster und -ergebnisse bei Patient:innen mit fortgeschrittenem Lungenkrebs zu untersuchen und Patient:innen zu ermitteln, die von Anpassungen ihres Behandlungsprogramms an bewährte klinische Verfahren profitieren würden.
Zusätzlich zur Verbesserung der Gesundheitsergebnisse können KI-Tools die Suche nach umfassenden Gesundheitsdaten vereinfachen und das Scannen von Datendepots in einem Bruchteil der Zeit erledigen, die Menschen brauchen würden, um festzustellen, wo relevante medizinische Aufzeichnungen zu finden sind. Schätzungen zufolge kann KI Gesundheitsakten in weniger als einer Stunde auf eine Behandlungsmethode durchsuchen, um Patient:innen zu ermitteln, die von einer Behandlungsänderung profitieren würden, während ein:e Erbringer:in von Gesundheitsleistungen mehr als 200 Stunden dafür brauchen würde – eine zeitliche und qualitative Verbesserung.
Diese Anwendung im großen Maßstab zeigt die Entwicklung von Behandlungsmustern und klinischen Kovariaten, die sich auf die realen Patientenergebnisse auswirken.
Quelle: Cheung, W. et al. (2021[22]), “82P Exploring treatment patterns and outcomes of patients with advanced lung cancer (aLC) using artificial intelligence (AI)-extracted data”, https://doi.org/10.1016/j.annonc.2021.10.100.
Empfehlungen
Entwicklung von Leitlinien für den Zugang zu Gesundheitsdaten zur Sekundärnutzung, die KI-Entwicklung unterstützen, die Bürger:innen schützen und die Datenschutzrechte respektieren
Die derzeitigen Datenzugangs- und Datenschutzpraktiken müssen aktualisiert werden, um den vernetzten (und exponentiellen) Wert der Daten und die Umsetzung einer verantwortungsvollen KI in Einklang mit dem Daten-Governance-Rechtsakt und der KI-Verordnung der EU zu bringen. Frühere Ansätze zur ausdrücklichen Einwilligung sind in vorhersehbaren, papiergestützten, linearen Prozessen wirksam. Die potenzielle Nutzung von Gesundheitsdaten durch KI ist jedoch breiter angelegt und nur schwer vorherzusagen und erfordert einen modernen Ansatz für die Einwilligung. Ein solcher Ansatz würde Szenarien, in denen Daten niemals verwendet werden dürfen, Szenarien, in denen eine ausdrückliche Einwilligung erforderlich ist, und Szenarien, in denen Daten zum Schutz der Allgemeinheit und des Gemeinwohls weitergegeben werden müssen, definieren, einschließlich Kontrollen und Maßnahmen zum Schutz der Privatsphäre des Einzelnen im jeweiligen Szenario. Dies würde die Nutzung von in der Frühphase des Übergangs zum digitalen Zeitalter erstellten Gesundheitsdaten verbessern, sodass Längsschnitte auf Muster analysiert werden können, die Möglichkeiten zur Prävention, Förderung und Behandlung erkennen.
Festlegung einer Strategie und eines Rahmens für die Governance und Interoperabilität von Gesundheitsdaten mit Rechenschaftspflicht, einer Roadmap, Messungen, finanziellen Hebeln und Aufsicht
Im Rahmen der deutschen Digitalisierungsstrategie für das Gesundheitswesen und die Pflege (BMG, 2023[5]) wird Deutschland zudem die Rechenschaftspflicht für eine (im Rahmen des EHDS erforderliche) Digitale Gesundheitsagentur darlegen, die die Entwicklung und Einführung digitaler Tools unterstützen soll. Darüber hinaus wird die Strategie die Rechenschaftspflicht für die Digitalisierung von Prozessen und die Festlegung von Interoperabilitätsstandards verdeutlichen. Deutschland könnte die Rechenschaftspflicht stärken, indem es bestehende Strukturen neu organisiert. Die Reform des digitalen Gesundheitsraums durch Vereinfachung und Klärung der Zuständigkeiten soll zu einer transparenteren Auslegung der Vorschriften für die Weiterverwendung von Daten beitragen.
Die Arbeit der Gematik und anderer Beteiligter würde von der Entwicklung und Umsetzung einer Strategie profitieren, die Gesundheitsdaten-Governance und -Interoperabilität fördert, einschließlich Leitlinien für den Datenzugang, die Schäden minimieren und Ergebnisse optimieren. Die Strategie würde ein Ziel für die zeitnahe und qualitativ hochwertige Erhebung von Gesundheitsdaten und die Möglichkeit, organisationsübergreifend auf Gesundheitsdaten zuzugreifen, sie zu verknüpfen und zu nutzen, sowie eine Governance, die die Fortschritte bei der Erreichung des Ziels überwacht, festlegen. Diese Strategie könnte sich an den jüngsten Arbeiten Kanadas an einer Shared Pan-Canadian Interoperability Roadmap (gemeinsame pankanadische Roadmap für Interoperabilität) orientieren (Canada Health Infoway, 2023[23]), zumal Kanada über eine ähnliche föderale Struktur wie Deutschland verfügt. Die Bemühungen um die Interoperabilität in Deutschland sollten auf den europäischen Raum für Gesundheitsdaten und Projekte wie XpandH abgestimmt werden.
Gesundheitsdaten sind der Katalysator für hochwertige Gesundheitsleistungen und Forschung, und die Arbeit an der Interoperabilität ist entscheidend für Deutschlands Bestreben gemäß der Regel „ein:e Patient:in – eine Akte“, die durch die elektronische Patientenakte etabliert wird, die bald automatisch jedem gesetzlich Krankenversicherten in Deutschland zur Verfügung gestellt wird – es sei denn, sie oder er entscheidet sich dagegen. Bis 2025 sollen 80 % der gesetzlich Krankenversicherten in Deutschland über eine elektronische Patientenakte verfügen (BMG, 2023[24]). Dies wird die Dokumentation und die Nutzung von E-Rezepten, Telemedizin und Gesundheitsanwendungen verbessern. Diese wertvollen Datenbestände werden (mit entsprechenden Schutzvorkehrungen) zur Verfügung stehen, um durch KI und andere Sekundärnutzung hochwertige Erkenntnisse zu generieren. Im Rahmen der Strategie sollten finanzielle Anreize die Einführung fördern, indem (a) mit jenen, die sie früh einsetzen, eine Risikoteilung vereinbart wird und (b) jene, sie erst spät einsetzen, bestraft werden, wenn mangelnde Compliance nachweislich Schaden verursacht (schlechte Ergebnisse, Verschwendung usw.).
Die Haftung im Zusammenhang mit dem Einsatz von KI im Gesundheitswesen muss geklärt werden. Auch wenn eine Standardvorgehensweise noch festgelegt werden muss, weist die herrschende Vorgehensweise die Haftung dem:der Erbringer:in der Gesundheitsleistungen zu, und zwar unabhängig davon, ob KI bei deren Bereitstellung genutzt wird. Ein voraussichtliches Ergebnis wäre, dass, sobald die KI-Systeme als vertrauenswürdig eingestuft wurden, der Einsatz von KI in der medizinischen Standardversorgung zur Pflicht würde, während die behandelnden Ärzt:innen die endgültige Entscheidung über die Diagnose und Behandlung hätten.
Einbeziehung der Öffentlichkeit und der Erbringer:innen von Gesundheitsleistungen in die Entwicklung von KI-Lösungen, die Konzeption von Kontrollen und Aufsichtsmechanismen, um für Vertrauen zu sorgen
Für einen erfolgreichen und nachhaltigen Übergang zu und Einsatz der Technologie müssen die Öffentlichkeit und die Erbringer:innen von Gesundheitsleistungen KI akzeptieren. Zu diesem Zweck sollten Interessengruppen – wie Patient:innen oder Pflegepersonal – bezüglich spezifischer Probleme angesprochen und relevante Informationen erhalten.
Die OECD-Empfehlung zur Gesundheitsdaten-Governance (OECD, 2016[4]) empfiehlt Engagement und Mitwirkung, klare Bereitstellung von Informationen und Transparenz bei der Verwaltung von Gesundheitsdaten. Darüber hinaus unterstreichen die OECD und die G20 das Vertrauen in ihre KI‑Grundsätze (OECD.AI, 2019[25]).
Förderung der (Um-)Schulung von Erbringer:innen von Gesundheitsleistungen und Technologieexpert:innen für KI-Entwicklung und -Betrieb
Der Wissensaufbau in der Öffentlichkeit und bei Erbringer:innen von Gesundheitsleistungen über die Nutzung von Gesundheitsdaten und die Methodik der KI ist ein Gegenmittel gegen Misstrauen und negative Reaktionen bei der Implementierung neuer Technologien. Finnland hat das Wissen über KI in der Bevölkerung strategisch erhöht. Damit beabsichtigte Finnland, davon zu profitieren, dass KI von der Öffentlichkeit als gemeinwohlorientiertes Instrument akzeptiert wird (University of Helsinki, 2023[26]). Weitere Initiativen zur Steigerung des öffentlichen KI- und digitalen Wissens sind das australische Ausbildungsmodul für die EPA (Australian Digital Health Agency, 2023[27]) und der norwegischen KI-Kurs (Norwegian Cognitive Center, 2020[28])
Mit diesem Wissen können Interessengruppen den Erfolg von KI im Gesundheitsbereich besser gestalten. Dies hängt mit dem menschlichen Faktor der Akzeptanz und damit Vertrauen als Grundlage für die Unterstützung der Interessenträger:innen bei der Einführung von KI zusammen. Maaßen u a. (2021[29]) befragten Praktiker:innen und fanden heraus, dass die Akzeptanz von KI mit der selbst bewerteten Technikaffinität der Menschen zusammenhängt. Eine angemessene Schlussfolgerung ist, dass die Förderung von Akzeptanz und Vertrauen eine Wissensbasis unter den Beteiligten erfordert, die sich im Zuge des fortschreitenden Einsatzes von KI im Gesundheitswesen in einer erfolgreichen Umsetzung niederschlägt.
Für Praktiker:innen muss die KI-Kompetenz über Akzeptanz hinausgehen. Bei der Integration von KI in Gesundheitssysteme müssen Ärzt:innen über die Kompetenz verfügen, um eine potenzielle Verzerrung eines KI-Modells und suboptimale Vorhersage zu beurteilen. Dies kann schwierig sein, da KI-Modelle oft Outputs liefern, ohne zu beschreiben, wie sie zustande gekommen sind. Dieses Phänomen der fehlenden Erklärbarkeit wird auch als „Black Box“ bezeichnet. KI-Systeme zur klinischen Unterstützung im Gesundheitswesen produzieren manchmal falsch positive und negative Ergebnisse, wie z. B. bei der Vorhersage von Sepsis (Goodman, Rodman and Morgan, 2023[30]). Daher ist es für den Erfolg von KI von elementarer Bedeutung, mit Leistungserbringer:innen ins Gespräch zu kommen, um sich auszutauschen und zu lernen, wie man auf KI-Systeme reagiert und sie bewertet. Konsolidierung und Zusammenarbeit bei der Entwicklung und Gestaltung von KI-Systemen sind wichtig für die Benutzerfreundlichkeit und letztlich den Wert von KI im Gesundheitswesen.
Sonstige Erwägungen
Weitere Bereiche, in denen Investitionen in das Gesundheitswesen im Zusammenhang mit KI dazu beitragen könnten, die allgemeine Akzeptanz von KI in Deutschland zu verbessern, werden im Folgenden skizziert.
Erstens ist es notwendig, ausreichende Rechenleistung sicherzustellen, um die Nutzung von KI im Gesundheitsbereich zu entwickeln, umzusetzen und aufrechtzuerhalten. Es gibt zwar Bedenken, ob sichergestellt werden kann, dass KI-Systeme über ausreichende und geeignete Daten verfügen, aber sobald die Daten verfügbar sind, werden die Computersysteme auch bereit sein müssen.
Zweitens sollte Deutschland mit vergleichbaren Ländern zusammenarbeiten, um den Einsatz datenschutzfreundlicher Technologien zu untersuchen (OECD, 2023[31]). Diese Fähigkeiten könnten das Risiko von Datenschutzverletzungen verringern und gleichzeitig die Nutzung von Daten durch KI optimieren. Da in vielen Ländern und Branchen parallel gearbeitet wird, ist es sinnvoll, dies gemeinsam zu tun.
Schließlich sollte Deutschland weiterhin den Einsatz von föderalem Lernen und Technologien wie eines Data Mesh zur Unterstützung der überregionalen Datenzusammenarbeit untersuchen (Rieke et al., 2020[32]), das bereits durch Projekte wie PrivateAIM (PrivateAIM, 2024[33]) und FAIrPaCT gefördert wird (UMG, 2024[34]). Förderales Lernen reduziert Datenschutzrisiken durch Minimierung von Datenkopien und Optimierung der Verwendung von Daten für Analysen, z. B. in der öffentlichen Gesundheit, der Aufsicht über das Gesundheitssystem und der Forschung. Die Priorisierung föderaler Lernmodelle erfordert starke Politik-, Daten- und Technikgrundlagen. Die Weiterentwicklung dieser Grundlagen kann parallel zur Umsetzung föderaler Lernlösungen erfolgen oder auf diese ausgerichtet sein.
Literatur
[27] Australian Digital Health Agency (2023), Online Learning Portal, https://training.digitalhealth.gov.au/ (accessed on 27 October 2023).
[20] Bak, M. et al. (2022), “You can’t have AI both ways: Balancing health data privacy and access fairly”, Frontiers in Genetics, Vol. 13, https://doi.org/10.3389/fgene.2022.929453.
[11] bidt (2023), Autorinnen und Autoren: Das bidt-Digitalbarometer. international, Bayerisches Forschungsinstitut für Digitale Transformation, https://doi.org/10.35067/xypq-kn68.
[24] BMG (2023), Act to Accelerate the Digitalization of the Healthcare System (Digital Act – DigiG), Bundesministerium für Gesundheit, https://www.bundesgesundheitsministerium.de/ministerium/gesetze-und-verordnungen/guv-20-lp/digig.html (accessed on 7 November 2023).
[5] BMG (2023), Digital Together - Germany’s Digitalisation Strategy for Health and Care, Bundesministerium für Gesundheit, https://www.bundesgesundheitsministerium.de/fileadmin/Dateien/3_Downloads/D/Digitalisierungsstrategie/Germany_s_Digitalisation_Strategy_for_Health_and_Care.pdf (accessed on 11 December 2023).
[23] Canada Health Infoway (2023), Shared Pan-Canadian Interoperability Roadmap, https://www.infoway-inforoute.ca/en/component/edocman/resources/interoperability/6444-connecting-you-to-modern-health-care-shared-pan-canadian-interoperability-roadmap.
[19] Cao, J. et al. (2022), “Generalizability of an acute kidney injury prediction model across health systems”, Nature Machine Intelligence, Vol. 4/12, pp. 1121-1129, https://doi.org/10.1038/s42256-022-00563-8.
[22] Cheung, W. et al. (2021), “82P Exploring treatment patterns and outcomes of patients with advanced lung cancer (aLC) using artificial intelligence (AI)-extracted data”, Annals of Oncology, Vol. 32, p. S1407, https://doi.org/10.1016/j.annonc.2021.10.100.
[7] Die Bundesregierung (2018), Strategie Künstliche Intelligenz der Bundesregierung, http://www.ki-strategie-deutschland.de (accessed on 11 December 2023).
[21] EU (2024), Regulation (EU) 2024/ ...... of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), https://data.consilium.europa.eu/doc/document/PE-24-2024-INIT/en/pdf.
[6] Gerlach, F. et al. (2021), Executive Summary of the Council Report 2021 “Digitalisation for Health-Aims and Framework Conditions for a dynamically learning Health System”, https://www.svr-gesundheit.de/fileadmin/Gutachten/Gutachten_2021/Executive_Summary_Englisch.pdf.
[30] Goodman, K., A. Rodman and D. Morgan (2023), “Preparing physicians for the clinical algorithm era”, New England Journal of Medicine, Vol. 389/6, pp. 483-487, https://doi.org/10.1056/nejmp2304839.
[14] Heidel, A. and C. Hagist (2020), “Potential benefits and risks resulting from the introduction of health apps and wearables into the German statutory health care system: Scoping review”, JMIR mHealth and uHealth, Vol. 8/9, p. e16444, https://doi.org/10.2196/16444.
[10] Lantzsch, H. et al. (2022), “Digital health applications and the fast-track pathway to public health coverage in Germany: Challenges and opportunities based on first results”, BMC Health Services Research, Vol. 22/1, https://doi.org/10.1186/s12913-022-08500-6.
[29] Maassen, O. et al. (2021), “Future medical artificial intelligence application requirements and expectations of physicians in German university hospitals: Web-based survey”, Journal of Medical Internet Research, Vol. 23/3, p. e26646, https://doi.org/10.2196/26646.
[16] McLennan, S. et al. (2022), “Practices and attitudes of Bavarian stakeholders regarding the secondary use of health data for research purposes during the COVID-19 pandemic: Qualitative interview study”, Journal of Medical Internet Research, Vol. 24/6, p. e38754, https://doi.org/10.2196/38754.
[9] Nensa, F., A. Demircioglu and C. Rischpler (2019), “Artificial intelligence in nuclear medicine”, Journal of Nuclear Medicine, Vol. 60/2, pp. 29S-37S, https://doi.org/10.2967/jnumed.118.220590.
[28] Norwegian Cognitive Center (2020), “Free AI course for everyone”, https://norwegiancognitivecenter.com/blog/free-ai-course-for-everyone (accessed on 7 November 2023).
[1] OECD (2024), AI in Health: Huge Potential, Huge Risks, OECD Publishing, https://www.oecd.org/health/AI-in-health-huge-potential-huge-risks.pdf.
[31] OECD (2023), “Emerging privacy-enhancing technologies: Current regulatory and policy approaches”, OECD Digital Economy Papers, No. 351, OECD Publishing, Paris, https://doi.org/10.1787/bf121be4-en.
[2] OECD (2022), Health Spending (data), OECD, Paris, https://data.oecd.org/healthres/health-spending.htm.
[4] OECD (2016), Recommendation of the Council on Health Data Governance, OECD, Paris, https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0433.
[25] OECD.AI (2019), G20 AI Principles, OECD, Paris, https://oecd.ai/en/wonk/documents/g20-ai-principles.
[3] OECD/EU (2022), Health at a Glance: Europe 2022: State of Health in the EU Cycle, OECD Publishing, Paris, https://doi.org/10.1787/507433b0-en.
[18] O’Leary, L. (2022), “How IBM’s Watson went from the future of health care to sold off for parts”, Slate, https://slate.com/technology/2022/01/ibm-watson-health-failure-artificial-intelligence.html (accessed on 7 November 2023).
[8] Oliveira Hashiguchi, T., L. Slawomirski and J. Oderkirk (2021), “Laying the foundations for artificial intelligence in health”, OECD Health Working Papers, No. 128, OECD Publishing, Paris, https://doi.org/10.1787/3f62817d-en.
[17] Parikh, R., S. Teeple and A. Navathe (2019), “Addressing bias in artificial intelligence in health care”, Journal of the American Medical Association, Vol. 322/24, p. 2377, https://doi.org/10.1001/jama.2019.18058.
[33] PrivateAIM (2024), Privacy-Preserving Analytics in Medicine, https://privateaim.de/eng/index.html (accessed on 11 December 2023).
[32] Rieke, N. et al. (2020), “The future of digital health with federated learning”, npj Digital Medicine, Vol. 3/1, https://doi.org/10.1038/s41746-020-00323-1.
[15] Schmitt, T. (2023), “Implementing eectronic health records in Germany: Lessons (yet to be) learned”, International Journal of Integrated Care, https://doi.org/10.5334/ijic.6578.
[13] Schmitt, T., A. Haarmann and M. Shaikh (2022), “Strengthening health system governance in Germany: looking back, planning ahead”, Health Economics, Policy and Law, Vol. 18/1, pp. 14-31, https://doi.org/10.1017/s1744133122000123.
[34] UMG (2024), FAIrPaCT - Federated Artificial Intelligence Framework to Optimise the Treatment of Pancreatic Cancer, University Medical Center Göttingen, https://bioinformatics.umg.eu/research/projects/fairpact/ (accessed on 11 December 2023).
[26] University of Helsinki (2023), Elements of AI, https://www.elementsofai.com/ (accessed on 31 October 2023).
[12] Wintergerst, R. (2023), Digital Health.