Die Hybridveranstaltung „KI im Gesundheitswesen - praktische Anwendungen und rechtliche Herausforderungen“ bot am 11.12.2023 gute Gelegenheit, sich über die innovative Technologien zu informieren, aktuelle Trends zu diskutieren und Herausforderungen zu erforschen, die sich aus der Nutzung von KI im Gesundheitswesen ergeben: Rechtsfragen, Risikoeinschätzung, OP-Planung. Veranstalter war der Health-IT-Talk Berlin-Brandenburg.
Prof. Dr. Dr. Christian Dierks ist Fachanwalt für Medizinrecht und Sozialrecht, Facharzt für Allgemeinmedizin und Professor für Gesundheitssystemforschung an der Charité Berlin (Berlin School of Public Health). Er diskutierte mit den Teilnehmern - vor Ort und digital - offene Rechtsfragen rund um Künstliche Intelligenz (KI) in der Medizin. Künstliche Intelligenz kann eine entscheidende Rolle in der Gesundheitsversorgung und in der Forschung spielen. KI in der Medizin birgt große Potenziale, ist aber mit Rechtsunsicherheiten behaftet.
Die EU setzte jüngst Regeln für den Einsatz von Künstlicher Intelligenz. Unterhändler von Europaparlament und EU-Staaten haben sich kürzlich auf Grundzüge des "AI Act" geeinigt. Für den Einsatz von Künstlicher Intelligenz sollen in der EU künftig strengere Regeln gelten. Unterhändler von Europaparlament und EU-Staaten verständigten sich in Brüssel nach langen Verhandlungen auf den "AI Act". Nach Angaben des EU-Parlaments handelt es sich um das weltweit erste KI-Gesetz.
Prof. Dr. Dr. Dierks, Dierks+Company Rechtsanwaltsgesellschaft mbH
Prof. Dierks lieferte einen Umriss der regulatorischen Bedingungen in Bezug auf Datenschutz, Haftung und Medizinprodukterecht. Er gab einen Ausblick auf die Regulierung durch die Europäische Union. Zugleich hielt er ein Plädoyer für mehr Datennutzung und Wettbewerb in der Medizin.
Prof. Dierks setzte dabei kritische Merkpunkte zu dem "AI Act". Zusätzliche Bürokratie durch neue Regulierungen entstünden. Unklare Definitionen und Klassifizierungen brächten „Medical Devices“ mit Risiko für Gesundheit hervor. Weiterhin bestehe eine potenzielle Einschränkung der Innovation. Erhöhte Kosten durch Konformitätsbewertungen und Compliance. Er betonte Bedenken bezüglich der globalen Wettbewerbsfähigkeit für Europa.
Dierks mahnte in einem Ausblick: „KI ist nicht immer, was es scheint.“ Algorithmen sind unterschiedlicher Herkunft, der Patient wird einen Anspruch auf Ersatz gegen KI haben. Neu und quasi eine „Grauzone“ sind neue Dynamic AI Solutions, also kontinuierlich selbstlernende Algorithmen. Sie finden bislang keine Anwendung in der Praxis. Konsequenzen lassen sich daher noch kaum definieren. KI wird der Bestandteil der Versorgung in Diagnose und Therapie der Orphan Diseases. Prof. Dierks: „Regulatorische Hürden müssen niedrig gehalten werden, sonst reduzieren wir nicht nur das Risiko, sondern auch das Potenzial.“
Prof. Dierks zeigte als Perspektive: „Es bedarf neuer Rechte.“ Das Recht auf Datennutzung soll die Asymmetrie des bisher praktizierten Datenschutzes beseitigen, das heißt viel Schutz und weniger wenig Nutzung, dies schadet dem Patienten. Potentiale der Datennutzung werden nicht realisiert, also sei die Datennutzung zu fördern. Unzulässige Restriktionen müssten Haftung und Sanktionierung auslösen. Datensicherheit sei nicht gleich Patientensicherheit. Prof. Dierks: „Patienten sterben an fehlenden Daten oder Fehlinformationen, nicht aber an Datenschutzverletzungen.“
Das „Recht auf Gefundenwerden“ umfasst den durchsetzbaren Anspruch, dass alle verfügbaren Daten für Diagnostik, Behandlung und Forschung zeitnah, vollständig strukturiert und in interoperabler Form zur Verfügung stehen. Prof. Dierks ist Co-Founder von Dierks+Company, einem Unternehmen, das Strategie- und Rechtsberatung für Innovationen im Gesundheitswesen mit dem Schwerpunkt digitale Transformation verbindet.
Wie weit die EU als Vorreiter in Sachen KI Regulierung dem KI-Standort Europa mit der vorgelegten Einigung zum Europäischen AI Act einen Gefallen getan hat, wird von Kritikern kritisch beäugt. Sie monieren: Es sei eine vertane Chance für die Aktivierung eines innovativen KI-Ökosystems in Europa. Auch Prof. Dierks unterstrich beim Health-IT-Talk Berlin-Brandenburg: „Wir brauchen echte gleiche Wettbewerbsbedingungen für KI-Unternehmen in Europa.“
x-cardiac: Präzisere Risikoeinschätzung durch KI
Kay Brosien ist COO und Regulatory Manager der x-cardiac GmbH. x-cardiac, ein Spin-Off des Deutschen Herzzentrums Berlin sowie der Charité - Universitätsmedizin Berlin, setzt KI-Technologien ein, um postoperative Komplikationen nach Herzoperationen vorherzusagen. Dieser Ansatz ermöglicht eine präzisere Risikoeinschätzung. Im Vortrag beleuchtete Kay Brosien Herausforderungen in der Entwicklung, dem Deployment und der Anwendung dieser Technologien im klinischen Umfeld. „Ziel ist es, durch innovative KI-Lösungen die Patientenversorgung zu verbessern und medizinisches Fachpersonal effektiv zu unterstützen.“
Kay Brosien, COO und Regulatory Manager der x-cardiac GmbH
nextOR GmbH: Durch KI die OP-Planung besser unterstützen
Das OP-Management hat täglich mit kurzfristigen Änderungen durch z.B. Notfälle oder Personalausfall zu kämpfen. Die Folge sind Überstunden für Mitarbeitende und eine nicht optimale Auslastung der teuren Ressourcen im OP. Das führt zu Unzufriedenheit bei Mitarbeitenden und insbesondere auch bei Patient:innen. Marcus Goerke ist Co-Founder und CFO der nextOR GmbH. Im Vortrag erklärte Marcus Goerke, wie durch der Einsatz von Künstlicher Intelligenz (KI) die OP-Planung besser unterstützen kann: „Die Komplexität vieler, individuell einfließender Parameter wird beherrschbar.“
Marcus Goerke, Co-Founder und CFO der nextOR GmbH
Health-IT-Talk Berlin-Brandenburg
Im monatlichen Health-IT-Talk Berlin-Brandenburg tauschen sich verbands- und fachrichtungsübergreifend Branchenkollegen zur Digitalisierung der Gesundheitswirtschaft aus. Basierend auf dem Eigenantrieb der drei beteiligten Organisationen (BVMI, KH-IT, SIBB) beschäftigen wir uns mit Themen, die für uns selbst interessant sind. Neben dem Fachvortrag und der jeweiligen Diskussion charakterisiert der Netzwerkaustausch am Buffet unsere regelmäßige Abendveranstaltung. Über die Jahre hinweg hat sie innerhalb der Health-IT eine Signalwirkung für das Bundesgebiet und darüber hinaus bewirkt. Unterstützt durch Non-Profit-Organisationen ist die Reihe frei von wirtschaftlichen Interessen und kostenfrei für die Teilnehmer.
Autor: Wolf-Dietrich Lorenz
Foto: Adobe Stock / adisak
