Am 20. Februar 2025 haben sich 60 Rechtsexpert*innen aus ganz Deutschland aus Justiziariaten, Datenschutzstellen, Wissenschaft und Politik im Beckmanns Hof zum fachlichen Austausch getroffen. Der Zeitpunkt passte gut, immerhin müssen Hochschulen seit diesem Monat die ersten Vorgaben der europäischen KI-Verordnung einhalten. Das Ergebnis: Es gibt einzelne Antworten – viele offene Fragen.
Schon vor dem Symposium wurde der Bedarf nach fachlichem Austausch deutlich, indem die verfügbaren Plätze innerhalb kürzester Zeit vergeben waren und die Warteliste wuchs. Zwar beschäftigten sich die meisten Teilnehmenden seit längerer Zeit mit den Rechtsfragen zu Künstlicher Intelligenz in Studium und Lehre an ihren Hochschulen und haben fachliche Expertise entwickelt, allerdings hat sich während des Symposiums gezeigt, dass akute Fragen an Hochschulen teilweise aufgrund unklarer Vorgaben noch nicht seriös beantwortet werden können. Der hochschulübergreifende Austausch hat dies bestätigt, aber auch Lösungen und Hinweise wurden zwischen den Teilnehmenden geteilt.
Das Symposium „Rechtsfragen zu Künstlicher Intelligenz in Studium und Lehre“ wurde gemeinsam von dem von der Stiftung Innovation in der Hochschullehre geförderten Projekts KI-NeL-24, des vom Ministerium für Kultur und Wissenschaft des Landes Nordrhein-Westfalens (MKW NRW) geförderten Projekts KI:edu.nrw und der ebenfalls vom MKW NRW geförderten Rechtsinformationsstelle ORCA.nrw ausgerichtet.
Die europäische KI-Verordnung soll rechtliche Klarheit zum Umgang mit KI-Systemen geben, so wie es die europäische Datenschutz-Grundverordnung für die Persönlichkeitsrechte tut. Bei der Auslegung der KI-Verordnung wird allerdings ein Problem deutlich: Sie kann mit Blick auf ihren Hauptgegenstand „KI“ in ihren Formulierungen und den verwendeten Begriffen nicht auf beispielsweise nationale Gesetze oder einen langen Diskurs in den Rechtswissenschaften aufbauen. Entsprechend mussten für die KI-Verordnung Formulierungen gefunden werden, für die es noch keinen definitorischen Konsens im rechtswissenschaftlichen Diskurs gibt. Hinzu kommt, dass in der Verordnung unbestimmte Rechtsbegriffe gewählt wurden, die weitere Erklärungen bedürfen. Prof. Dr. Nikolaus Forgó lobte daher – nur halb im Scherz – in seinem Expertenvortrag gleich mehrere Promotionsthemen aus und auch die anderen Expert*innen und Teilnehmenden wiesen häufiger auf die Unschärfen hin. Auf drei Fragen, die im Rahmen des Symposiums aufgekommen sind, gehen wir nachfolgend ein.
Was ist überhaupt KI im Sinne der KI-Verordnung?
Die wohl grundlegendste Frage ist wohl, für welche technischen Systeme die KI-Verordnung überhaupt gilt. Mit dieser Frage eröffnete auch Prof. Dr.-Ing. Torsten Zesch den ersten Vortrag des Tages, der die technischen Grundlagen für den weiteren Tag legte. Als promovierter Informatiker sei auch ihm nicht klar, welche Systeme unter die KI-Verordnung fallen und welche Software noch als ,klassischer Algorithmus‘ zählt, so Zesch. Die Grenzen seien fließend.
Doch auch bei den anwesenden Rechtsexpert*innen herrschte keine Einigkeit. Am deutlichsten zeigte sich der Dissens an Learning-Analytics-Technologien, die von einigen Anwesenden als unter die KI-Verordnung fallend ausgelegt wurden, während andere dies vom Einzelfall abhängig machen würden.
Wann ist ein Anscheinsbeweis ein Anscheinsbeweis?
Im Impulsvortrag zu prüfungsrechtlichen Aspekten von generativer KI in Hochschulprüfungen räumte Dr. jur. Sarah Rachut unter anderem mit drei Mythen auf:
Als Konsequenz bliebe aktuell nur der Anscheinsbeweis, um ein prüfungsrechtliches Fehlverhalten nachzuweisen. Diverse rechtswissenschaftliche Kommentare in Bezug auf eine auf diese Weise begründete Entscheidung machen allerdings deutlich, dass dieser Anscheinsbeweis in Bezug auf die Täuschung mit generativer KI diskutabel ist. Anhand der Entscheidung des Bayrischen Verwaltungsgerichts (Beschluss vom 13.12.2023 – BVerwG 6 B 13.23), illustrierte Dr. Rachut anschaulich, wie kompliziert die Beweisführung bei Täuschungsvorwürfen für Hochschulen sein können. In diesem Fall ging es darum, dass einem eineiigen Zwilling eine Täuschung vorgeworfen wurde, indem sein Zwilling die Klausur geschrieben haben solle. Ein im Rahmen des Prozesses angefertigtes Schriftgutachten kam allerdings zu dem Schluss, dass keiner der beiden Zwillinge die Klausur geschrieben haben könne. Der Täuschungsvorwurf wurde letztendlich abgewiesen, da der Anscheinsbeweis nicht begründbar sei. Da auch der Einsatz generativer KI in der Regel nicht sicher nachweisbar ist, stehen Hochschulen auch hier in einer komplizierten Beweispflicht. Bayerns Wissenschaftsminister Markus Blume schlägt daher ein Verbot für ein KI-Verbot in Hochschulprüfungen vor.
Was ist ein ausreichendes Maß an KI-Kompetenz?
Kommen wir zur für die Hochschulen aktuell brennendsten Frage, da sie sie seit Februar 2025 beantworten können müssen. Was ist ein ausreichendes Maß an KI-Kompetenzen im Sinne der KI-Verordnung? Prof. Forgó sieht im Artikel 4 der KI-Verordnung direkt mehrere definitorische Unklarheiten, indem unklar sein, was in diesem Kontext eigentlich „Maßnahmen“, „nach besten Kräften“, „mit KI-Systemen befasst“, „ausreichendes Maß“ sowie die komplette zweite Hälfte des Artikels uneindeutig seien.
Diese Unklarheit zeigte sich auch in der anschließenden Diskussion, bei der ein Teilnehmer fragte, welche der anwesenden Hochschulen überhaupt schon Schulungen im Sinne des Artikel 4 anbieten. Zögerlich hoben sich ein paar Hände, mit den zusätzlichen Hinweis, dass man die Angebote zwar im Sinne des Artikels verstehen würde, aber niemand behaupten würde, damit das Gesetz an dieser Stelle rechtssicher zu erfüllen.
Trotz aller Unklarheiten bei Detailfragen ist es wichtig, den Sinn des Gesetzes nicht aus den Augen zu verlieren. Die Unterschiede zeigen sich auch in der zuvor skizzierten Diskussion um die Frage, was eigentlich mit KI im Sinne der KI-Verordnung gemeint ist. Gilt sie für alle mächtigen Datenverarbeitungssysteme oder nur für KI-Systeme, die auch aus einer technischen Perspektive als solche definiert würden?
Die Wichtigkeit des Sinnzusammenhangs wird auch an einem von Dr. Maxi Nebel eingebrachten praktischen Beispiel deutlich. In der deutschen Übersetzung des Anhang III Nr. 3 lit. d der KI-Verordnung wird die Überwachung und Erkennung von verbotenem Verhalten nur auf Schüler, also nicht auf Studierende oder andere Lernende, bezogen. Im Sinne der vorherigen Buchstaben ist allerdings anzunehmen, dass an dieser Stelle auch Studierende mit gemeint sind. Dies lassen auch die Übersetzungen in andere Sprachen vermuten.
Am Ende des Symposiums waren unter den Teilnehmenden allerdings nicht nur Solidaritäts- und Leidensbekundungen ausgetauscht, sondern auch konkrete Lösungen zum Umgang mit KI-Systemen in Hochschulen. Einen kleinen Einblick bieten die folgenden beiden Abschnitte.
Auslegung der KI-Verordnung
Weitestgehend Einigkeit herrschte beispielsweise bei der Frage, wie Anbieter und Betreiber im Sinne der KI-Verordnung zu verstehen sind und das Hochschulen durch Veränderungen am System von Betreiber*innen zu Anbieter*innen werden können. Auch über die Einstufung von bildungsbezogenen KI-Systemen in die vier Risikoklassen herrschte Einigkeit. Die schlechte Nachricht für Hochschulen: Einigkeit herrschte damit auch, dass KI- und Learning Analytics-Systeme je nach Anlage mindestens als Hochrisikosysteme einzustufen sind. Dadurch entstehen erhebliche Kontroll-, Informations-, Dokumentations-,Schulungs- und weitere Pflichten, sobald Hochschulen KI-Systeme als Betreiber*innen für ihre Angehörigen bereitstellen. Hochschulen können aber auch schnell zu Anbieter*innen werden, wodurch die Pflichten noch einmal zunehmen.
Prüfungsrechtliche Antworten
Auch in Bezug auf Hochschulprüfungen wurde viel Wissen geteilt. So zeigte Dr. Rachut in ihrem Vortrag nicht nur auf, an welcher Stelle Prüfungen aus prüfungsrechtlicher Perspektive durch generative KI neu zu bewerten sind, sondern auch, dass viele Prüfungsformate auch weiterhin bestand haben können. Dies wurde auch in einem der Workshops am Nachmittag von den Teilnehmenden in der Diskussion weiter ausdifferenziert. Eine Teilnehmerin wies in der Abschlussdiskussion zudem darauf hin, dass nach einer neuen Verordnung das Prinzip „eine Prüfung pro Modul“ in Zukunft abgeschafft werde, sodass Lehrende zukünftig auch mehr Flexibilität in der Ausgestaltung von Prüfungen haben.
Das Symposium wurde seiner Idee gerecht: Es hat einen Raum für fachlichen Diskurs und Vernetzung gegeben. Erwartungskonform war es ein Auftakt für den Austausch und kein Abschlusstreffen.
Gutachten für rechtliche Klärungen in Vorbereitung
Einerseits bereitet das Projekt KI:edu.nrw aktuell einen Fragenkatalog für ein Rechtsgutachten zum Umgang mit KI-Systemen in der Hochschullehre unter Berücksichtigung der KI-Verordnung vor. Diese Gutachten schließt damit an das Gutachten von Prof. Dr. Thomas Hoeren aus dem Jahr 2023 an, das ebenfalls im Rahmen des Projekts entstanden ist. Das Symposium bietet eine gute Grundlage für den Fragenkatalog des neuen Gutachtens. Falls auch Sie konkrete Szenarien und diesbezügliche Fragen beschäftigen, die Sie gerne gutachtend klären lassen möchten, melden Sie sich gerne bis Ende März 2025 damit bei Robert Queckenberg (Robert.Queckenberg@rub.de). Wir werden auch diese Fragen im Rahmen der Möglichkeiten im Gutachten adressieren.
Vernetzung zum fachlichen Austausch geht weiter
Die Teilnehmenden betonten den Wert der Möglichkeit zum fachlichen Austausch und wünschten sich regelmäßiger entsprechende Formate. Diesem Wunsch kommen wir zusammen mit der Rechtsinformationsstelle ORCA.nrw gerne nach, die am 01. September 2025 im Rahmen des Community-Tags der Learning AID-Tagung ein entsprechendes Austausch- und Vernetzungsangebot schafft. Die Anmeldung ist aktuell noch nicht möglich, aber wir werden über unseren Newsletter darüber informieren, sobald diese geöffnet ist.
Sie möchten in Zukunft über aktuelle Entwicklungen aus dem Projekt KI:edu.nrw, zur Learning AID und zu weiteren Veranstaltungen informiert werden? Dann abonnieren Sie gerne unseren Newsletter.
