Page 16 - Netzwerk_aktiv

Krankenhaus-KI

KI: sicherer und verantwortungsbewusster machen

Explainable AI (XAI) gewinnt zunehmend an Bedeutung, da künstliche Intelligenz in immer
mehr Bereichen Entscheidungen trifft, die erhebliche Auswirkungen auf Individuen und
Gesellschaften haben. Im Blick stehen die Haftung bei KI-basierten Entscheidungen, die

Transparenz von KI- und Machine-Learning-Anwendungen sowie der Umgang mit KI wird
sicherer und verantwortungsbewusster machen.

Branchen verlassen sich mehr und mehr auf KI-generierte auch ethisch vertretbar agieren. Hierbei spielen Audits und Zer-
Insights. Dabei nehmen die Transparenz und das Vertrauen tifizierungen eine entscheidende Rolle, um die Sicherheit und
in KI-Modelle eine zentrale Rolle ein. Das macht Explainable Vertrauenswürdigkeit der eingesetzten Algorithmen zu gewähr-
AI, also die Erklär- und Nachvollziehbarkeit von KI-Prozessen, leisten.
unerlässlich auch im Gesundheitswesen. Die Transparenz von KI- und Machine-Learning-Anwen-
Um den ethischen Umgang mit KI zu gewährleisten, müs- dungen ist ein weiterer zentraler Aspekt. Black-Box-Modelle,
sen Transparenz, Nachvollziehbarkeit und Verantwortlichkeit die Entscheidungen treffen, ohne dass deren innere Logik für
in den Mittelpunkt gerückt werden. Dies geschieht durch den Menschen nachvollziehbar ist, stoßen zunehmend auf Kritik.
Einsatz von Frameworks, die ethische Grundsätze wie Fair- Methoden wie erklärbare Entscheidungsbäume, Feature-Impor-
ness, Nicht-Diskriminierung und Datenschutz berücksichtigen. tance-Analysen oder visuelle Darstellungen von neuronalen
Besonders in sensiblen Bereichen wie Gesundheitswesen, Justiz Netzwerken helfen dabei, KI-Modelle verständlicher zu machen.
oder Personalwesen ist es wichtig, dass die Entscheidungswege Zusätzlich sollten Unternehmen und Entwickler aktiv daran
von KI-Systemen verständlich sind und überprüft werden kön- arbeiten, ihre Systeme durch klare Dokumentationen und ver-
nen. ständliche Erklärungen für Endnutzer transparenter zu gestal-
Die Frage der Haftung bei KI-basierten Entscheidungen ten.
stellt eine besondere Herausforderung dar. Wenn eine KI feh- Ein verantwortungsbewusster Umgang mit KI erfordert
lerhafte oder diskriminierende Entscheidungen trifft, muss interdisziplinäre Zusammenarbeit zwischen Technik, Recht
geklärt werden, wer die Verantwortung trägt – der Entwick- und Ethik. Nur wenn KI-Systeme nachvollziehbar, fair und
ler, der Betreiber oder der Nutzer? Die bestehenden rechtli- sicher sind, können sie langfristig gesellschaftlich akzeptiert
chen Rahmenwerke sind oft noch nicht ausreichend auf KI- werden. Der richtige Umgang mit KI trägt dazu bei, Risiken
Anwendungen zugeschnitten, sodass eine Weiterentwicklung zu minimieren, Vertrauen zu schaffen und den technologischen
der Gesetzgebung erforderlich ist. Unternehmen müssen zudem Fortschritt nachhaltig zu gestalten.
sicherstellen, dass ihre KI-Systeme nicht nur effizient, sondern

Krankenhaus-KI Journal 1 /2025
82