Beschaffung von Managed Services für KI-Inferenz mittels Confidential Computing

Der Landesbetrieb Information und Technik Nordrhein-Westfalen (im Folgenden IT.NRW genannt) übernimmt für die Landesverwaltung Nordrhein-Westfalen Aufgaben in den Bereichen Informationstechnik und Statistik. Im Geschäftsfeld Informationstechnik umfasst dies insbesondere die Entwicklung und den Betrieb der IT-Infrastruktur für die nordrhein-westfälische Landesverwaltung, die Bera-tung und Unterstützung von Behörden und Einrichtungen des Landes beim Einsatz von Informationstechnik sowie IT-Fortbildungen für Mitarbeitende der öffentlichen Verwaltung. Als Statistisches Landesamt des bevölkerungsreichsten Bundeslandes Deutsch-lands erheben und veröffentlichen wir umfassende Daten über soziale und wirt-schaftliche Gegebenheiten. Diese Tätigkeiten führen dazu, dass der Bedarf der Landesverwaltung an KI in den kommenden Monaten durch eine verbesserte Verfügbarkeit von Software-Lösungen stark steigen wird. Um diesem Bedarf gerecht zu werden, wird beim Auftraggeber eine KI-Plattform in Betrieb genommen, die die Bereitstellung und Implementierung von KI beschleunigen soll. Die Skalierungsherausforderung wird am Leuchtturmprojekt NRW.Genius deutlich, ei-nem Verwaltungsassistenten für Nordrhein-Westfalen, bei dem mehrere zehntausend Nutzer erwartet werden. Darüber hinaus erhöht das Aufkommen von Modellen mit großen Parameterzahlen, fortschrittlichen RAG-Technologien und agentischer KI den Bedarf weiter. In diesem Zusammenhang sind zusätzliche mögliche Einsatzbereiche die Datenanalyse und Mustererkennung (z. B. für Prognosen und Trendmodellierungen) sowie die Prozessautomatisierung (Do-kumenten- und Formularprüfung, Entscheidungsunterstützung).