Page 9 - Netzwerk_aktiv

KI-Verordnung / Artificial Intelligence Act: KI-Kompetenz wird Pflicht

■ Als Betreiber wird eingestuft, wer stellung der KI-Kompetenz, definiert als sollte dann – insbesondere beim Einsatz
ein KI-System für interne Zwecke Kombination von Fähigkeiten, Kennt- von KI-Systemen in höheren Risikokate-
einsetzt, ohne es weiterzuentwickeln nissen und Verständnis, um KI-Systeme gorien – schrittweise, ggf. mit Partnern,
oder als eigenes Produkt anzubieten. sachkundig zu nutzen, einschließlich ein zielgruppenspezifisches Angebot
des Bewusstseins für Chancen, Risiken aufgebaut werden. Diese Vorgehens-
Wenn an KI-Modellen oder -Systemen und mögliche Schäden. Ziel ist es, die skizze lehnt sich an die Empfehlungen
geforscht wird und sie zusätzlich nicht Risiken im Umgang mit Künstlicher von „KI-Campus“ an. Der „KI-Campus“
produktiv genutzt werden, sind diese Intelligenz zu minimieren und einen ver- ist eine Gemeinschaftsinitiative mit der
vom Anwendungsbereich der KI-VO antwortungsvollen Einsatz von KI-Tech- Zielstellung, einzigartige Strukturen für
ausgenommen. Dieses Forschungs- nologien gemäß Zeitplan seit Inkrafttre- Bildungsinnovationen auf regionaler,
privileg gilt nicht für KI-Modelle und ten des AI Act zu gewährleisten (siehe nationaler und europäischer Ebene zu
-Systeme, die in der Forschung als Tool weiterführende Informationen) schaffen (siehe Originalquelle https://
eingesetzt werden, wie z.B. Software zur Mittels einer KI-Inventur kann www.zki.de/)
Transkription von Interviews, die nicht ermittelt werden, welche KI-Systeme Werden in einem KI-System auch
eigens und für den alleinigen Zweck zu welchem Einsatzzweck verwenden personenbezogene Daten verarbeitet,
der wissenschaftlichen Forschung und werden und wie diese funktionieren. ist neben der KI-VO die DSGVO zu
Entwicklung entwickelt und in Betrieb Vorhandene moderne Software Asset beachten. Die Verarbeitung personen-
genommen worden sind. Management Tools (SAM Tools) kön- bezogener Daten in KI-Systemen wird
In der KI-VO wird ein risikobasierter nen dabei unterstützen. regelmäßig dazu führen, dass für die
Ansatz verfolgt. Mit diesem risikobasier- Zum einen kann über eine KI-Inven- Verarbeitungstätigkeiten, in denen diese
ten Ansatz wird die Regulierungsinten- tur identifiziert werden, welche KI- Systeme eingesetzt werden, eine Daten-
sität an das Risiko angepasst, das von der Systeme ein inakzeptables Risiko haben schutz-Folgenabschätzung durchgeführt
konkreten Anwendung ausgeht. Sechs und damit verboten wären. Für die KI- werden muss. Dies gilt für den Einsatz
Monate nach Inkrafttreten der KI-VO Inventur muss der Verwendungszweck von KI-Systemen in Forschung, Lehre
sind KI-Systeme mit inakzeptablem jedes einzelnen Systems kurz umrissen und Hochschulverwaltung und ist bei
Risiko verboten, weil sie besonders tief in werden. Auf dieser Grundlage gilt es zu der zeitlichen Planung von Projekten zu
die Grundrechte eingreifen und poten- prüfen, ob eine der Anwendungen in die berücksichtigen.
ziell erheblichen Schaden verursachen Beschreibung eines der Absätze von Arti-
können. In der KI-VO werden vier Risi- kel 5 der KI-VO fällt. Solche Systeme
kostufen für KI-Systeme definiert (siehe müssen bis spätestens zum 2. Februar Weitere Informationen:
Originalpublikation https://www.zki. 2025 außer Betrieb genommen werden. Quelle: https://www.digitalaustria.gv.at/
de/) Zum anderen kann auf Grundlage Themen/KI/AI-Act.html
Ab dem 2. Februar 2025 tritt eine der einer KI-Inventur auch der Schulungsbe-
zentralen Vorschriften der KI-VO (Art. darf analysiert werden, um mögliche nie- Quelle: Dr. Till und weitere in
4 KI-VO) in Kraft. Anbieter und Betrei- derschwellige, auch kostenlose oder kos- „EU AI Act: Wie wird Deutschland KI-
ber von KI-Systemen müssen sicher- tengünstige Möglichkeiten auszuloten, kompetent?“
stellen, dass ihre Mitarbeitenden und um Mitarbeitenden allgemeine Grund-
wahrscheinlich einzelfallabhängig auch lagen von KI zu vermitteln (z.B. über https://ki-campus.org/blog/ai-act-ki-
Studierende, die KI-Systeme der Hoch- Materialsammlungen für unterschiedli- kompetenzen
schule nutzen sollen, sowie alle weiteren che Bedarfe wie Informationsmaterialien,
in den Betrieb oder die Nutzung einge- Podcast, Kurse, Videos). Quelle: Zentren für Kommunikation
bundenen Personen über ein ausreichen- Damit könnten ggf. erste Mindestan- und Informationsverarbeitung in Lehre
des Maß an KI-Kompetenz verfügen. forderungen an KI-kompetente Mitar- und Forschung e. V.
Die Gesetzgebung verlangt die Sicher- beitende erfüllt werden. Auf dieser Basis

Krankenhaus-KI Journal 1 /2025
75