Rahmenvertrag für KI-gestützte IT-Dienstleistungen

Der Auftraggeber beabsichtigt den Abschluss eines Rahmenvertrags zur Unterstützung bei der Identifikation, Konzeption, Entwicklung und dem Betrieb von KI-gestützten IT-Anwendungen. Konkrete Leistungsinhalte werden durch den Auftraggeber über Einzelabrufe festgelegt. Es besteht für den Auftraggeber keine (Mindest-)Abnahnmepflicht. 1. Leistungsgegenstand Die möglichen Leistungen gliedern sich insbesondere in folgende in vier fachliche Schwerpunkte: - Chatbot-Lösungen: Konzeption und Implementierung von RAG-Systemen (Retrieval Augmented Generation), Prompt-Engineering, Finetuning von LLMs sowie Maßnahmen zur Vermeidung von Halluzinationen und Gewährleistung der KI-Security. - Automatisierte Codierung: Analyse natürlichsprachlicher Texte (Unfallberichte, Diagnosen) und Überführung in strukturierte Daten unter Nutzung spezifischer Klassifikationen (ICD 10/11, Weller-Tabelle, DGUV-Statistikdaten). - Anonymisierungsservice: Pflege und Weiterentwicklung eines bereits bestehenden Anonymisierungsservices (Backend: Python/FastAPI, Frontend: Django). Hier ist die Integration in andere KI-Applikationen und Authentifizierungssysteme (Keycloak) gefordert. - KI-Infrastruktur: Konzeption und Betriebsunterstützung einer On-Premise KI-Plattform auf Basis gehärteter Kubernetes-Cluster (SUSE RKE2), inkl. GPU-Optimierung und Bereitstellung von Modellen mittels KServe/vLLM. 2. Technologischer Rahmen: Die Umsetzung erfolgt weitestgehend auf Open-Source-Basis. - Sprachen/Frameworks: Python, Django, FastAPI. - Containerisierung: Docker, Kubernetes/OpenShift (RKE2), Helm Charts. - KI-Stack: Huggingface, PyTorch/TensorFlow (implizit), KServe, Triton. 3. Mengengerüst: - Die Abrufe erfolgen bedarfsbezogen auf Basis von Personentagen. - Prognostizierter Abruf: ca. 400 Personentage pro Vertragsjahr. - Maximaler Gesamtabruf (inkl. aller Optionen): 2.500 Personentage. 4. Personelle Anforderungen: Es wird die Bereitstellung eines festen Kernteams mit den Rollen Projektleiter, UI/UX-Designer, AI Architect, AI Senior/Junior Specialist und System Administrator gefordert.