Die Integration von agentenbasierter Künstlicher Intelligenz (KI) und generativer KI (GenAI) in das Gesundheitswesen verspricht erhebliche Fortschritte in der Diagnostik, Therapieplanung und Patientenversorgung. Valide Antworten stehen bei Fragen nach der juristischen Verantwortlichkeit ebenso aus wie bei der Haftung für potenzielle Fehlentscheidungen. Fest steht: Medizinisches Personal darf eigene kritische Einschätzungen nicht vernachlässigen. Ist der KI-Agent ein Modell mit beschränkter Haftung?
Diese Technologien können große Datenmengen analysieren, personalisierte Behandlungsvorschläge generieren und medizinische Prozesse effizienter gestalten. Agentenbasierte KI-Systeme, die eigenständig Entscheidungen treffen oder Vorschläge unterbreiten, könnten dabei insbesondere in Notfall- und Intensivmedizin, radiologischer Diagnostik oder der Arzneimittelforschung bahnbrechende Verbesserungen erzielen.
Dennoch bestehen erhebliche Herausforderungen und Unsicherheiten, insbesondere im Hinblick auf die Regulierung und Haftung. Die europäische KI-Verordnung (AI Act) sowie nationale Gesetze befinden sich noch in der Anpassung an diese neuen Technologien. Unklar bleibt beispielsweise, wie die Verantwortung zwischen Entwicklern, Anwendern und Klinikleitungen verteilt wird. Wenn eine KI fehlerhafte Diagnosen stellt oder suboptimale Therapieempfehlungen gibt, stellt sich die Frage nach der juristischen Verantwortlichkeit: Trägt der behandelnde Arzt die Haftung, die Klinikleitung oder der Hersteller der KI-Software?
Neben den regulatorischen Unsicherheiten sind auch medizinische Risiken nicht zu unterschätzen. GenAI kann zwar personalisierte Therapieoptionen vorschlagen, doch die zugrundeliegenden Modelle sind nicht immer transparent oder nachvollziehbar. Wenn eine KI Entscheidungen trifft, die auf fehlerhaften oder voreingenommenen Trainingsdaten basieren, könnten Patienten Schäden erleiden. Ein weiteres Problem stellt die Mensch-KI-Interaktion dar: Übermäßiges Vertrauen in KI-Empfehlungen könnte dazu führen, dass medizinisches Personal eigene kritische Einschätzungen vernachlässigt.
KI ist ein unterstützendes Werkzeug
Agentenbasierte KI-Systeme spielen eine zunehmend wichtige Rolle bei Diagnosen, Therapieempfehlungen und Ressourcenmanagement. Diese Systeme agieren autonom oder unterstützend für medizinisches Personal, indem sie große Mengen an Patientendaten analysieren und Entscheidungen vorschlagen.
Herausforderungen bestehen bei Haftung, Transparenz und Rechtssicherheit . Da KI-Systeme Diagnosen stellen, Therapieempfehlungen geben und Prozesse optimieren, stellt sich die Frage, wer im Schadensfall haftet. Die derzeitige Rechtslage sieht vor, dass die Verantwortung primär beim medizinischen Personal liegt. Doch wenn ein Fehler auf die KI selbst zurückzuführen ist – etwa durch fehlerhafte Algorithmen oder unzureichende Daten – kann auch der Hersteller oder Betreiber in die Haftung genommen werden.
Transparenz ist dabei entscheidend: KI-Entscheidungen müssen nachvollziehbar und erklärbar sein, um eine sichere Anwendung zu gewährleisten. Rechtssicherheit kann durch klare gesetzliche Regelungen verbessert werden, etwa durch spezifische KI-Haftungsgesetze oder Zertifizierungsprozesse. Eine enge Zusammenarbeit zwischen Medizin, Recht und Technik ist entscheidend, um sowohl Innovationen zu ermöglichen als auch Patientenrechte zu schützen.
Kombination aus Haftung von Hersteller, Betreiber und Arzt
Die Haftungsfrage bei Fehlentscheidungen durch KI ist komplex. Grundsätzlich liegt die Verantwortung für Behandlungsentscheidungen weiterhin beim medizinischen Fachpersonal, das die KI-Ergebnisse validieren muss. Dennoch kann es zu Haftungsfragen kommen, wenn sich Ärzte stark auf die KI verlassen oder wenn Fehler auf unzureichende Trainingsdaten oder fehlerhafte Algorithmen zurückzuführen sind.
In Deutschland könnte eine Kombination aus Hersteller-, Betreiber- und Arzt-Haftung greifen. Denkbar sind zudem neue gesetzliche Regelungen zur spezifischen KI-Haftung, um Transparenz und Rechtssicherheit zu gewährleisten. Entscheidend bleibt, dass KI als unterstützendes Werkzeug dient, während die finale Entscheidung und Verantwortung beim Menschen liegt.
Für Krankenhausverantwortliche ergeben sich erhebliche Risiken. Neben der Haftung für potenzielle Fehlentscheidungen müssen sie sicherstellen, dass die implementierten KI-Systeme den geltenden Datenschutzbestimmungen entsprechen, insbesondere im Umgang mit sensiblen Patientendaten. Zudem sind Investitionen in die Schulung des medizinischen Personals erforderlich, um eine sichere und effektive Nutzung der Technologie zu gewährleisten.
Fehlt den Herausforderungen und Chancen agentenbasierter KI Chancen im Gesundheitswesen noch die Balance? Durch eine sorgfältige Regulierung, transparente Algorithmen und ein verantwortungsbewusstes Risikomanagement könnten Krankenhäuser langfristig von den Vorteilen dieser Technologie profitieren, ohne dabei ethische und rechtliche Aspekte zu vernachlässigen.
Autor: Wolf-Dietrich Lorenz Bild: Adobestock / KOTL
