Rechtsklärung zur KI-Verordnung

Art. 4 KIVO regelt, dass Anbieter und Betreiber von KI-Systemen „Maßnahmen“ ergreifen müssen, um „nach besten Kräften“ bei mit KI-Systemen befasste Personen „ein ausreichendes Maß an KI-Kompetenz“ sicherzustellen. Für Hochschulen stellen sich u. a. die Fragen: Welche Maßnahmen sind geeignet? Reicht ein Fortbildungsangebot an den betroffenen Personenkreis aus, um „nach besten Kräften“ gehandelt zu haben – oder muss dies verpflichtend sein? Welchen Umfang müssen Fortbildungen haben, um das „ausreichende Maß“ an KI-Kompetenz zu erreichen?

Die KI-Verordnung nimmt insbesondere die Anbieter und Betreiber von KI in die Pflicht. Für Hochschulen stellen sich u. a. die Fragen: Ab wann ist eine IT-Anwendung als KI einzuordnen? Muss eine Hochschule als Anbieter oder Betreiber von KI gelten, wenn sie ihren Mitgliedern einen zentralen Zugang zu KI bietet? Wird eine Hochschule zum Anbieter von KI, wenn sie Anwendungen auf Open Source-KI aufbaut und das verwendete freie Modell für die eigenen Zwecke anpasst?

Die KIVO definiert für KI unterschiedliche Risikoklassen. So genannte „Hochrisiko-Anwendungen“ sind zwar erlaubt, allerdings ist ihr Einsatz an hohe Anforderungen geknüpft. Für Hochschulen ist hier insb. der Art. 6 Abs. 2 KIVO in Verbindung mit Anhang III Punkt 3 von Interesse, da hier Hochrisiko-Systeme im Bildungsbereich benannt werden. Bei der Auslegung stellen sich u. a. die Fragen: Ab wann sind Ausgaben von KI-Systemen als „Steuerung des Lernprozesses“ zu verstehen? Ist KI auch dann ein Hochrisiko-System, wenn Ausgaben nicht an Lehrende, sondern zu Reflexionszwecken nur an Studierende liefert?

Die KIVO „gilt nicht für KI-Systeme oder KI-Modelle (…), die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden“ (Art. 2 Abs. 6). Dies ist für Hochschulen hilfreich, da sie auch für Zwecke von Studium und Lehre KI-Systeme erforschen. Aber: Wie weit reicht das Privileg? Umfasst es beispielsweise auch anwendungsorientierte Forschung, die durchaus den künftigen Einsatz in der Praxis im Blick hat?

Im ersten Schritt sammeln wir im Austausch mit den Hochschulen in Nordrhein-Westfalen (und darüber hinaus) besonders drängende und grundsätzliche Fragen. Diese stellen wir zu einem Fragenkatalog zusammen. Senden Sie auch Ihre Fragen gerne bis zum 01.04.2025 an Robert Queckenberg (robert.queckenberg@rub.de).

Ein Zwischenschritt bei der Erstellung des Fragenkatalogs war das deutschlandweite Rechtssymposium, das KI:edu.nrw im Februar 2025 an der Ruhr-Universität Bochum organisiert hat. Hier kamen Expert*innen aus dem ganzen deutschsprachigen Raum zusammen, um akute Rechtsfragen mit Blick auf KI und Learning Analytics in Studium und Lehre zu diskutieren. Eine Dokumentation der Veranstaltung ist hier zu finden.

Der im Austausch mit den Hochschulen sowie über die Diskussion auf dem Rechtssymposium entwickelte Fragenkatalog wird dann durch ein externes Rechtsgutachten – eingedenk der rechtlichen Unsicherheiten – geklärt. Wir wenden hier das bewährte Verfahren an, das auch schon zu unserem allgemeinen Rechtsgutachten zu KI in Studium und Lehre sowie zum Rechtsgutachten zu Learning Analytics geführt hat.

Über den gesamten Prozess hinweg informieren wir über unsere unterschiedlichen Austauschformate wie z.B. das monatliche KI-Update NRW und unsere Fortbildungsveranstaltungen über aktuelle Entwicklungen. Zudem setzen wir die mit dem Rechtssymposium begonnene Vernetzung der juristischen Fachgemeinschaft (Justiziariate, Datenschutzbeauftragte, Wissenschaftler*innen) zu diesem Thema fort – beispielsweise auf der Learning AID-Tagung.