Die KI-Verordnung der Europäischen Union (KI-VO) macht Vorgaben für Institutionen, die KI-Anwendungen selbst anbieten oder betreiben. Ob und wann die KI-VO für Hochschulen überhaupt gilt und was genau Hochschulen beachten sollten, dafür gibt das neue Rechtsgutachten von KI:edu.nrw eine erste Einordnung.

Alternativer Download-Link (PDF)

Sind Hochschulen Betreiberinnen oder Anbieterinnen von KI-Systemen? Welche Verpflichtungen haben Hochschulen gegenüber ihren Mitgliedern in Sachen Schulung von KI-Kompetenz? Wann wird aus einem KI-Modell eigentlich ein KI-System? Und was gilt bei Hochrisiko-KI oder Open Source-KI? Diesen und vielen weiteren Fragen geht das neue Rechtsgutachten von KI:edu.nrw nach.

Zentral ist aber zunächst die Frage danach, ob die KI-VO im Sinne des Wissenschaftsprivilegs für Wissenschaftseinrichtungen überhaupt gilt. Und die Antwort darauf ist klar: zumeist ja. Hochschulen müssen die KI-VO zwar nicht beachten, wenn sie ein KI-System nur zu Forschungszwecken entwickeln und in Betrieb nehmen. Dies ist jedoch eng auszulegen. Denn: falls ein späterer Praxiseinsatz in Betracht kommt, greift die KI-VO spätestens ab der Inbetriebnahme eines KI-Systems – auch wenn der Betrieb zunächst für Forschungszwecke erfolgt.

Entsprechend hat die KI-VO Auswirkungen auf Hochschulen. Sie müssen Maßnahmen für die Vermittlung von KI-Kompetenz ergreifen, haben als Anbieterinnen oder Betreiberinnen aus der KI-VO resultierende Verpflichtungen und müssen Vorgaben beachten, wenn ein KI-System als Hochrisiko-KI einzuordnen ist. Letzteres ist beispielsweise der Fall, wenn KI-Tools zur Bewertung von Lernergebnissen oder bei der Steuerung von Lernprozessen eingesetzt werden.

Übrigens führt auch bei Open Source-Modellen oft kein Weg an der KI-VO vorbei. Zwar sind Open Source-KI-Systeme von der KI-VO ausgenommen. Diese Ausnahme wird aber durch andere Regelungen so stark eingeschränkt, dass für ihre Anwendung nicht viel Spielraum bleibt und die KI-VO entsprechend auch für viele Open Source-Anwendungen beachtet werden muss.

Das Rechtsgutachten bietet Hochschulen deutschland- und europaweit eine verlässliche rechtliche Orientierung und weist den Weg für einen rechtskonformen Umgang mit der KI-VO.

Geklärt werden hochschulübergreifende Fragen, bei denen die KI-VO Interpretationsspielräume lässt und die für die Hochschulen zugleich von besonderer Relevanz sind. Ermittelt wurden diese Fragen in einem mehrstufigen Prozess unter Einbeziehung der nordrhein-westfälischen Hochschulen, hochschulbezogener Rechtsinformationsstellen der Bundesländer und weiterer Expert*innen.

Entstanden ist das Rechtsgutachten im Kontext des vom Ministerium für Kultur und Wissenschaft des Landes Nordrhein-Westfalen unter dem Dach der Digitalen Hochschule NRW geförderten Projekts KI:edu.nrw.