Das Health & Law Netzwerk der Kanzlei Schürmann Rosenthal Dreyer in Berlin nahm im April 2024 das Thema: „Künstliche Intelligenz (KI) im Gesundheitswesen – praktische Nutzung, rechtliche Hürden“ unter die Lupe. Experten diskutierten und beleuchteten Herausforderungen, die sich beim praktischen Einsatz von KI-Systemen in der Gesundheitsbranche ergeben. Dabei ging der Blick über die Schnittstelle von Medizin und Informatik hinaus: AI – um nicht in Bürokratie zu ertrinken.
Im März 2024 hat das EU-Parlament die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI) angenommen. Zweck der Verordnung ist es, auf den Menschen ausgerichtete KI zu fördern und ein hohes Schutzniveau in Bezug auf Sicherheit und Gesundheit zu gewährleisten. Die KI-Verordnung (engl. AI Act) betrifft die Gesundheitsbranche daher in besonderer Weise. Sie qualifiziert Sicherheitskomponenten, die bei Medizinprodukten oder in der Kritischen Infrastruktur verwendet werden, pauschal als Hochrisiko-KI-Systeme; zudem sollen KI-Systeme in Zukunft als hochriskant eingestuft werden können, wenn sie ein hohes Risiko bergen, die Gesundheit von Personen zu schädigen. Damit stehen insbesondere die Betreiber von Krankenhäusern und Medizinischen Versorgungszentren, Unternehmen, die Medizinprodukte herstellen, oder öffentliche Forschungseinrichtung vor beträchtlichen Herausforderungen und oft noch ungeklärten Rechtsfragen.
KI - reguliert und revolutionär
„Reguliert und revolutionär: Rechtskonforme KI-Innovationen im Gesundheitswesen - KI kann den medizinischen Versorgungsqualität steigern“, betonte Małgorzata Steiner, CompuGroup Medical SE & Co. KGaA. Der Europäische Raum für Gesundheitsdaten (EHDS) ist einer der Eckpfeiler der europäischen Gesundheitsunion und stellt den ersten gemeinsamen EU-Datenraum in einem spezifischen Bereich dar, der aus der EU-Datenstrategie hervorgeht. Experten arbeiten an Anwendungen, die mithilfe von Künstlicher Intelligenz (KI) schwere Krankheiten erkennen, lange bevor sie symptomatisch werden. Dafür bringen die Forscherinnen und Forscher Computerprogrammen mithilfe von Methoden des Maschinellen Lernens bei, auf Ultraschall- oder Computertomographie-Bildern selbständig Anomalien zu erkennen oder vorherzusagen. In einigen Fällen irrte sich KI zwar oft wie die Mediziner. Insgesamt traf der Computer mehr richtige Entscheidungen als die Pathologen mit einer enormen Geschwindigkeit.
Von der Data Compliance zur AI Governance
Mit den Chancen wachsen die Herausforderungen. Neue Vorschriften und Gesetze wie beispielsweise die KI-Verordnung sind einzuhalten. Für Anwendungen gibt es einen gemeinsamen regulativen und rechtlichen Rahmen für Künstliche Intelligenz. Der Ansatz des AI Act ist risikobasiert und legt eine Reihe von abgestuften rechtlichen und technischen Verpflichtungen fest. Diese sind abhängig davon, ob das KI-Produkt oder die Dienstleistung als ein System mit niedrigem, mittlerem oder hohem Risiko eingestuft wird, während andere KI-Anwendungen vollständig verboten werden. Daten, die die Gesundheit einer Person betreffen, sind gesetzlich typisiert als besonders sensibel zu betrachten und damit auch besonders schutzbedürftig.
KI-Technologien einzusetzen, ist nicht ohne technische und rechtliche Risiken. Einen Einblick zu „Datenschutz und Datennutzung: Von der Data Compliance zur AI Governance“ gab Philipp Müller-Peltzer von Rosenthal Dreyer Rechtsanwälte. Um KI-Projekte erfolgreich und rechtskonform in Geschäftsprozesse zu implementieren, ist etwa ein unternehmensspezifisches Regulatory Mapping nötig. Dabei geht es um Identifikation relevanter rechtlicher Anforderungen durch detailliertes Mapping gemäß verschiedenen nationalen Vorgaben und EU-Datenregulierungen. Dies ermöglicht es, eine präzise und umfassende Compliance-Strategie in Bezug auf den Einsatz von KI-Technologien zu entwickeln.
Bürokratie: das Problem im Gesundheitswesen
„Generative KI im Gesundheitswesen“ ist ein Kernthema von Univ.-Prof. Dr. med. Felix Nensa (Universitätsklinikum Essen). Prof. Dr. Felix Nensa ist schon lange an der Schnittstelle von Medizin und Informatik aktiv. Der Professor für Radiologie leitet das Institut für Künstliche Intelligenz in der Medizin am Universitätsklinikum Essen. Fokus ist die klinische KI-Integration. Hierbei geht es darum, den Zugriff auf neu entwickelte Algorithmen zu erleichtern. Hierzu werden auf der einen Seite Möglichkeiten zur Integration entwickelt. Auf der anderen Seite werden fortgeschrittene Algorithmen in einem Studiensetting klinisch evaluiert und weiterentwickelt. Schlüsseltechniken schließen dabei automatisierte Segmentierungsmethoden, Deep Learning oder Radiomics-basierte Feature Extraktion und Machine Learning-basierte Prädiktion ein.
Unterstützung bei Dokumentation und Administration, Effizienzsteigerung im Gesundheitswesen - als erhebliches Problemfeld im Gesundheitswesen nannte Prof. Nensa: „Wir ertrinken in Bürokratie.“ Hier erkennt der Wissenschaftler das Potenzial von Artificial Intelligence AI und maschinellem Lernen über die direkten medizinischen Sektoren hinaus. „Ein Großteil der ärztlichen Tätigkeit besteht heute aus Dokumentation und dem Suchen von Informationen in Patientenakten. Wenn wir solche Aufgaben an Künstliche Intelligenz delegieren, kann sich die Medizin wieder auf ihren Kern besinnen – Patientenbehandlung mit zwischenmenschlichem Kontakt.“
Die Kanzlei Schürmann Rosenthal Dreyer bietet Beratung zum datenschutzkonformen Umgang mit Patienten- und Gesundheitsdaten und zum Potential der erfolgreichen Verarbeitung von Gesundheitsdaten. www.srd-rechtsanwaelte.de
Autor: Wolf-Dietrich Lorenz
Foto: Adobe Stock / Murrstock
