Die Initiative Inferenz NRW bietet für alle NRW-Hochschulen einen zentralen Zugang zu Open-Weight-Sprachmodellen an – kostenlos, datenschutzkonform und leistungsfähig. Damit geht NRW einen weiteren Schritt auf dem Weg zur digitalen Souveränität und wird unabhängiger von anbietergebundenen Big-Tech-KI-Systemen. Im Fokus stehen vor allem europäische Sprachmodelle. Verfügbar ist das Angebot über die Weboberfläche von KI:connect.

Hochschulen können KI‑Sprachmodelle in vielen Bereichen sinnvoll nutzen – von der Lehre über Forschung bis zur Verwaltung – und der Bedarf an Lösungen und Tools wächst. Datenschutz spielt dabei eine große Rolle, denn nicht immer sollen beispielsweise sensible Forschungsdaten durch kommerzielle Systeme weiterverarbeitet werden. Außerdem legen Tools wie ChatGPT ihre Trainingsdaten nicht offen, sodass viele mit den Modellen verbundene Fragen offenbleiben.

Abhilfe schaffen so genannte Open-Weight-Modelle, deren trainierte Parameter (die „Gewichte“) öffentlich eingesehen werden können. Man kann diese Modelle lokal bzw. in einer eigenen Infrastruktur ausführen und anpassen. Anders als bei kommerziellen Diensten verbleiben die Daten in der eigenen Infrastruktur. Ziel der Initiative Inferenz NRW ist der Aufbau einer landesweiten, souveränen KI-Inferenz-Infrastruktur auf Basis vorrangig europäischer Open-Weight-Sprachmodelle. Inferenz NRW ermöglicht so allen NRW-Hochschulen Zugang zu datenschutzkonformen und unabhängig betriebenen KI-Lösungen für Forschung, Lehre und Verwaltung. Gemeinsam wurde ein standortübergreifendes Konzept für Betrieb und Weiterentwicklung erarbeitet, das NRW-Hochschulen eine stärkere gemeinsame Nutzung von KI-Infrastruktur ermöglicht.

Alle Hochschulen in NRW können seit Beginn des Sommersemesters 2026 die folgenden von Inferenz NRW zentral bereitgestellten Sprachmodelle nutzen:

• Mistral Small 4 (Mistral AI)
• GPT OSS (Open AI)
• Qwen3 Embedding (Alibaba Cloud)
• E5 Mistral 7B Instruct (intfloat)

Die Modellangebote und deren Verfügbarkeit werden in den kommenden Monaten sukzessive erweitert. Nutzbar sind die Modelle ergänzend oder als Alternative zu anderen kommerziellen und nicht-kommerziellen Modellen über KI:connect.

Alle NRW-Hochschulen, die an KI:connect angeschlossen sind, können die neu angebundenen Modelle individuell zur Nutzung auswählen. Aufgrund der zentralen Finanzierung stehen die Modelle ohne weitere Kosten für die Hochschulen in NRW zur Verfügung.

• Nutzbar via KI:connect
  Angeboten werden die KI-Modelle von Inferenz NRW für Hochschulen, die bereits an KI:connect angebunden sind bzw. es noch einführen.
• Chatbot und API
  Neben der unmittelbaren Chatbot-Nutzung über die KI:connect-Weboberfläche stehen die Modelle per API-Schnittstelle auch für lokale Anwendungen in den Hochschulen zur Verfügung.
• Europäische Modelle
  Angeboten werden nicht-kommerziell bereitstellbare Modelle mit dem Fokus auf europäische Modelle.
• Support
  Unterstützung bei Nutzung und Bereitstellung bietet KI:connect.
• Keine Bereitstellungskosten
  Inferenz NRW ist bis auf Weiteres für die Hochschulen in NRW zentral finanziert.
• Limits
  Aktuell ist die Nutzung aufgrund knapper Infrastruktur-Ressourcen noch limitiert. Die Limitierung ist ausreichend für die Nutzung insbesondere von Chatbots. Perspektivisch ist der Ausbau der IT-Infrastruktur geplant.
• Blick in die Zukunft
  Inferenz NRW soll sukzessive zu einem vollständigen Service mit entsprechender Servicequalität ausgebaut werden, um einen für die Hochschulen verlässlichen Betrieb zu gewährleisten.