Die akademischen wie kommerziellen Entwickler medizinischer KI-Anwendungen stehen in Deutschland vor einer Reihe besonderer Herausforderungen. Die TMF AG-Experten Prof. Dr. Rainer Röhrig und Prof. Dr.-Ing. Myriam Lipprandt skizzieren im Interview mit dem Krankenhaus IT Journal Impulse und Perspektiven für Technologie und Methoden einer vernetzten medizinischen Forschung.
Eine der zentralen Herausforderungen für Optimierung ist die Verfügbarkeit von kuratierten, qualitativ hochwertigen Datensätzen, mit denen KI-Algorithmen insbesondere bei Deep Learning Szenarien trainiert und validiert werden können. Wie lässt sich das hier wie verbessern?
Röhrig: Mit der Medizininformatik-Initiative, der Nationalen Forschungsdatenplattformen (NFDI, insb. NFDI4Health, GHGA), GENOM.de und den Datenplattformen des NetzwerksUniversitätsmedizin (z.B. AKTIN, NATON, RACOON) entsteht in Deutschland eine Infrastruktur, in der wir Daten nutzbar machen. Die Datenqualität ist dabei natürlich nie so hoch, wie man dies für klinische Studien oder klinische Prüfungen benötigt. Wichtig ist aber: Die verschiedenen Datenkörper haben unterschiedliche Eigenschaften – unterschiedliche Stärken und Schwächen. Daher braucht man eine Expertise und Erfahrung, was man mit welchen Daten machen kann. Diese Expertise müssen wir in den nächsten Jahren aufbauen.
Lipprandt: Eine andere wichtige Limitation ist die Veränderung über die Zeit, die sich in den Daten abbildet: Gesetzliche und organisatorische Änderungen in der Gesundheitsversorgung, der biomedizinische Fortschritt mit neuen Erkenntnissen und innovativen diagnostischen und therapeutischen Verfahren müssen bei der Interpretation der Daten berücksichtigt werden. Dies gilt natürlich auch für das Training von KI-Algorithmen. Und wir müssen die Daten sehr gut kennen, damit wir verhindern können, dass die KI nicht diskriminierende gesellschaftliche Muster, insbesondere zu Herkunft und Geschlecht reproduziert.
Teilweise mangelt es an der nötigen Digitalisierung und Standardisierung der Ausgangsdaten. Was ist bei Krankenhäusern ebenso wie bei politischen Entscheidungsträgern zu tun?
Lipprandt: Die sekundäre Datennutzung für die Forschung und für das Training von KI-Systemen sollte bei jedem Digitalisierungsprojekt in der Medizin mitgedacht werden. Landes- und Bundesförderungen sollten daran gekoppelt sein, dass in den IT-Projekten ein Anschluss an entsprechende Forschungsinfrastrukturen vorgesehen wird.
Röhrig: Ein gutes Beispiel dafür sind die Modellvorhaben Genomsequenzierung nach § 64e SGB V. Auch wenn es in dem Projekt nicht immer rund läuft – die Idee, dass Patienten, die von den Daten anderer profitieren, ihre Daten in einem geschützten Datenraum für die biomedizinische Forschung geben-, geht in die richtige Richtung. Über das Projekt müsste viel mehr allgemeinverständlich in der Öffentlichkeit berichtet und diskutiert werden!
Lipprandt: Es gibt aber auch in den Klinken genug zu tun. Viele Krankenhäuser haben keine Digitalisierungsstrategie und keine Strategie zum Aufbau deiner medizinischen Digitalkompetenz. Gerade der Einsatz von digitalen Innovationen und KI erfordert auch den Aufbau einer lokalen Kompetenz zur Eigenherstellung und dem Betrieb von Medical Device Software sowie der Nutzung von Open Source Softwarekomponenten. Die Häuser müssen nicht nur in Hard- und Software, sie müssen in erster Linie in Bildung und Personalaufbau investieren!
Ein Problem im Hinblick auf kommerzielle medizinische KI-Anwendungen ist Misstrauen gegenüber privaten Unternehmen. Woran liegt das hauptsächlich?
Lipprandt: Das Misstrauen gegenüber kommerziellen medizinischen KI-Anwendungen beruht vor allem auf Datenschutzbedenken, mangelnder Transparenz und wirtschaftlichen Interessen. Patienten fürchten den Missbrauch sensibler Daten, während undurchsichtige Algorithmen Vertrauen erschweren. Zudem gibt es die Sorge, dass Profitinteressen das Patientenwohl gefährden. Diese Faktoren zusammen lassen viele skeptisch gegenüber privaten Anbietern bleiben.
Röhrig: Ich glaube, wir müssen hier auch öffentlich klar machen: Wir können in der akademischen Forschung Translation, also Innovationen so weit entwickeln, dass wir diese in der Krankenversorgung erproben und später einsetzen können. Um dies in der breiten Fläche einsetzen zu können, brauchen wir Unternehmen, die die Verbreitung, die Wartung und den Support übernehmen. Daher muss ein Transfer zu einem Unternehmen stattfinden, damit wir einen breiten gesellschaftlichen Nutzen von den Innovationen haben.
Bei Versorgungsdatennutzung für die Forschung sollen Industrieunternehmen außen vor bleiben. Wie weit ist diese Haltung berechtigt? Wie müssen sich Industrieunternehmen für mehr gesellschaftliche Akzeptanz anders aufstellen?
Lipprandt: Mit dem Gesundheitsdatennutzungsgesetz (GDNG) hat der Gesetzgeber die Eigenforschung und die Verbundforschung in den Gesundheitseinrichtungen gestärkt. Dies entspricht dem Eindruck, dass die Patienten vor allem ihren Gesundheitseinrichtungen trauen. Eine kommerzielle Nutzung ist durch die Möglichkeit der Weitergabe anonymisierter Daten ebenfalls möglich. Wichtig war dem Gesetzgeber, dass für die Kontrolle der Daten weiter die Gesundheitseinrichtung verantwortlich ist, die die Patienten kennen und der sie vertrauen.
Röhrig: Wir müssen hier auch in die Zukunft schauen: Mit dem EHDS wird eine supranationale Infrastruktur geschaffen, in der in sogenannten Trusted Research Environments (TRE), den Health Data Access Bodies (HDABs) Daten sicher und unter der Einhaltung ethischer Prinzipen verarbeitet werden können. Wir müssen jetzt das Forschungsprivileg nutzen, das uns der Gesetzgeber mit dem GDNG gegeben hat, um uns gut aufzustellen und nicht in Europa von anderen Staaten abgehängt zu werden. Wenn wir das nicht nutzen, werden wir in Deutschland zu Zulieferern, anstatt durch das Angebot von Plattformen und Endprodukten relevant von der Wertschöpfung zu profitieren und die Ansprüche an Qualität und Ethik mitzugestalten.
Welche besonderen Impulse gibt die TMF zu „Künstliche Intelligenz (KI) in der medizinischen Anwendung"?
Lipprandt: Als Sprecherin der TMF AG Medizinische Software und Medizinprodukterecht (AG MSM) möchte ich natürlich als erstes meine Arbeitsgruppe und das Modul 2b MII- Projekt fit4translation nennen. Hier erarbeiten wir Methoden und Best Practices, wie man in einem akademischen Umfeld, bzw. in Krankenhäusern Softwaresysteme entwickeln, herstellen und betreiben kann, und dabei die unterschiedlichen Anforderungen des Medizinprodukterechts, des AI Acts oder den Regelungen zur Cybersicherheit erfüllt. Ich glaube aber, dass wir in Deutschland auch eine Förderinitiative für die translationale Forschung im Bereich der Digitalen Medizin brauchen, die eine Aufbau von Translationszentren mit entsprechender regulatorischer Kompetenz in den Universitäten fördert.
Röhrig: Neben der TMF AG MSM gibt es viele weitere Arbeitsgruppen, z.B. zum Datenschutz, zur Datenqualität, die AG-Register und natürlich die MI-I AG Interoperabilität. Vom Prinzip gibt es keine AG, die keine Berührung zur Entwicklung und dem Einsatz von KI hat. Wie bereits in der letzten Frage angesprochen, bin ich besorgt, dass wir in Deutschland und der EU meist nur Anwender der großen Plattformen sind. Dies macht uns vor allem von den USA, zukünftig auch von China abhängig. Zum einen trägt dies nicht zum Vertrauen bei, zum anderen findet die Wertschöpfung dann auch nicht bei uns statt. Die Situation erinnert ein wenig an die Situation um 1970, als Europa im Flugzeugbau abgehängt war und Airbus als europäisches Gemeinschaftsprojekt gegründet wurde, um der starken Konkurrenz aus den USA entgegenzutreten. Wir brauchen meiner Meinung nach eine Europäische Initiative mit dem Ziel, eine Art CERN für die künstliche Intelligenz zu gründen, wie es z.B. CAIRNE (Confederation of Laboratories for Artificial Intelligence Research in Europa) fordert.
Prof. Dr. Rainer Röhrig ist Vorstandsvorsitzender der TMF – Technologie und Methodenplattform für die vernetzte medizinische Forschung e.V. und Direktor des Instituts für Medizinische Informatik der Uniklinik RWTH Aachen.
Prof. Dr.-Ing. Myriam Lipprandt ist Sprecherin der TMF AG Medizinische Software und Medizinprodukterecht, Koordinatorin des BMBF-Projektes fit4translation, und Professorin für Medizinische Informatik mit dem Schwerpunkt Medical Software Engineering an der Uniklinik RWTH Aachen.
Quelle: Krankenhaus-IT Journal, Ausgabe 02/2025, Stand April 2025
