BVB KI für IT-Leistungen Dokumentversion: 14.08.2026 Ausprägung nach KFW-interner Einstufung IT-Leistung Fremdbetrieb auf KfW-externer Infrastruktur mit VIV 3-3-3“
VERTRAG ÜBER
LEGAL AI WORKSPACE
KFW-2026-0025
BESONDERE VERTRAGSBEDINGUNGEN FÜR KÜNSTLICHE IN-
TELLIGENZ
BEZÜGLICH IT-LEISTUNGSART FREMDBETRIEB AUF KFW-EXTER-
NER INFRASTRUKTUR
1 GRUNDSATZ FÜR KI-MASSNAHMEN
1.1 Ein KI-System ist die technische Lösung, mit der Methoden der Künstlichen Intelligenz (z. B. Machine Learning, NLP, generative Modelle) implementiert und betrieben werden. Dies umfasst mindestens KI-Systeme nach der EU KI-VO.
1.2 Ein KI-Modell ist der Teil eines KI-Systems, der nach dem Lernen aus Beispieldaten die eigentliche „intelligente“ Leistung erbringt. Es ist ein Rechenverfahren, das darauf trainiert wurde, bestimmte Aufgaben zu erledigen, zum Beispiel Texte einzuordnen, Zahlen oder Wahrscheinlichkeiten vorherzusagen oder Inhalte zu erzeugen. Ein KI-Modell besteht aus einer bestimmten Rechenstruktur (etwa einem Entscheidungsbaum oder einem Neuronalen Netz) und aus den gelernten Einstellungen, die während des Trainings aus Daten abgeleitet wurden. Mit Hilfe dieser Struktur und Einstellungen verarbeitet das KI-Modell Eingabedaten und erzeugt daraus Ergebnisse, etwa eine Empfehlung, eine Klassifikation oder eine Vor- hersage. Damit ist das KI-Modell der Kernbaustein eines KI-Systems.
1.3 Die Wahl geeigneter Maßnahmen im Zusammenhang mit KI-Systeme, die der Auftragneh- mer der KfW bereitstellt, obliegt dem Auftragnehmer. Der Auftragnehmer gewährleistet, dass bei der Leistungserbringung durchgehend Maßnahmen zum Schutz der Informationen der Unternehmen des KfW-Konzerns umgesetzt werden, die für die Einhaltung des festge- legten Mindestschutzniveaus in Kapitel 2 sorgen und unter Berücksichtigung des jeweiligen Standes der Technik, der Art, des Umfangs und der Zwecke der Verarbeitung der Informa- tionen durch das KI-System sowie der Eintrittswahrscheinlichkeit und Schwere des Risikos getroffen worden sind. Das vorgegebene Mindestschutzniveau kann auch durch abwei- chende, aber gleichwertige Maßnahmen erfüllt werden.
Seite 1
BVB KI für IT-Leistungen Dokumentversion: 14.08.2026 Ausprägung nach KFW-interner Einstufung „IT-Leistung Fremdbetrieb auf KfW-externer Infrastruktur mit VIV 3“
2 BESONDERE ANFORDERUNGEN BEI BESCHAFFUNG UND BEREITSTELLUNG VON KI-SYSTEMEN
2.1 Qualitätssicherung der Ausgaben von KI-Systemen 2.1.1 Der Auftragnehmer hat für alle KI-Systeme, die der KfW im Rahmen der Vertragsleistun- gen bereitgestellt werden, geeignete organisatorische und technische Maßnahmen zu im- plementieren, mit denen die Qualität der durch diese KI-Systeme erzeugten Ausgaben bewertet und überwacht werden kann. (Mögliche Nachweise: z.B. Modelcards, Beschreibung des Trainingsprozesses) 2.1.2 Der Auftragnehmer setzt insbesondere Verfahren ein, die eine Nachvollziehbarkeit und Beurteilung der Ausgaben der KI-Systeme ermöglichen, z. B. durch Quellangaben, Con- fidence-Scores, geeignete Evaluierungstools oder Metriken zur laufenden Überwachung der Ergebnisqualität. Die eingesetzten Verfahren sind so auszugestalten, dass sie in das Qualitäts- und Testmanagement der KfW integrierbar sind. (Mögliche Nachweise: z.B. Modelcards, Beschreibung des Trainingsprozesses) 2.1.3 Der Auftragnehmer richtet für die im Rahmen der Vertragsleistungen bereitgestellten KI- Systeme systematische Phasen der verstärkten Qualitätsüberprüfung („Confidence-Pha- sen“) im produktiven Betrieb ein. Im Rahmen dieser Confidence-Phasen erfolgt eine struk- turierte Bewertung der von den KI-Systemen erzeugten Ergebnisse und – soweit relevant – der zugrunde liegenden Daten, um Datenverzerrungen, Datenverunreinigungen und sonstige unerwünschte Effekte frühzeitig zu erkennen und zu korrigieren.
Hierzu nutzt der Auftragnehmer insbesondere Stichprobenprüfungen, Nutzerfeedback so- wie geeignete Kennzahlen (z. B. Confidence-Scores oder vergleichbare Metriken). Der Auftragnehmer dokumentiert die Durchführung der Confidence-Phasen einschließlich festgestellter Abweichungen und ergriffener Korrekturmaßnahmen und stellt der KfW diese Dokumentation auf Verlangen zur Verfügung. (Mögliche Nachweise: z.B. Modelcards, Beschreibung des Trainingsprozesses)
2.2 Nachweise zu Trainingsdaten, Modelldokumentation und Modellrisiken 2.2.1 Für alle KI-Systeme, die der Auftragnehmer der KfW im Rahmen der Vertragsleistungen bereitstellt, legt der Auftragnehmer der KfW vor Produktivsetzung sowie auf Verlangen während der Vertragslaufzeit nachvollziehbare und prüffähige Nachweise über die Eig- nung und Qualität der für das jeweilige KI-System verwendeten Trainingsdaten vor oder stellt alternative Dokumentationen bereit (z. B. Model Cards oder eine Beschreibung des Trainingsprozesses). 2.2.2 Für KI-Systeme bzw. KI-Modelle, die mit externen Trainingsdaten trainiert werden, stellt der Auftragnehmer der KfW ergänzend Berichte (z. B. Model Cards oder gleichwertige Dokumentationen) über die Eignung und Qualität dieser Trainingsdaten bereit. Diese Be- richte müssen mindestens folgende Informationen enthalten: • transparente Darstellung der Herkunft der verwendeten Daten sowie der Kriterien für de- ren Auswahl,
• Beschreibung des beabsichtigten Zwecks und des erwarteten Nutzens des KI-Systems bzw. KI-Modells,
Seite 2
BVB KI für IT-Leistungen Dokumentversion: 14.08.2026 Ausprägung nach KFW-interner Einstufung „IT-Leistung Fremdbetrieb auf KfW-externer Infrastruktur mit VIV 3“
• Dokumentation möglicher Auswirkungen der verwendeten Trainingsdaten, insbesondere potenzieller Verzerrungen, sowie sonstiger Einschränkungen der Daten und des hierauf basierenden Modells.
2.2.3 Die vom Auftragnehmer bereitzustellenden Nachweise und Dokumentationen müssen die KfW in die Lage versetzen zu bewerten, ob und in welchem Umfang Halluzinationen der KI-Systeme auftreten können und wie dieses Risiko im Rahmen des Test- und Qualitäts- managements berücksichtigt wurde. Insbesondere ist darzustellen,
• welche Erkenntnisse zu möglichen Halluzinationen des KI-Systems vorliegen und • welche Maßnahmen im Testmanagement zur Identifikation, Bewertung und Behand- lung von Halluzinationen getroffen wurden. (Mögliche Nachweise: z.B. Modelcards, Beschreibung des Trainingsprozesses) 2.2.4 Beim erneuten Training (Retraining) oder Fine-Tuning der KfW bereitgestellten oder für die KfW betriebenen KI-Systeme/-Modelle gewährleistet der Auftragnehmer, dass die hier- für eingesetzten Trainingsdaten neue, bislang vom betreffenden KI-System/Modell unge- sehene Daten einbeziehen. Vom jeweiligen KI-System/Modell selbst erzeugte Daten sind beim Retraining ausdrücklich auszuschließen, um fortschreitende Datenverunreinigungen und -verzerrungen zu vermeiden. Der Auftragnehmer dokumentiert das beim Retraining angewendete Datenmanagement und stellt der KfW diese Dokumentation auf Verlangen zur Verfügung.
2.3 Schutz vor Prompt-Injection und manipulativen Eingaben 2.3.1 Der Auftragnehmer implementiert für die der KfW bereitgestellten oder für die KfW betrie- benen KI-Systeme/-Modelle geeignete technische und organisatorische Maßnahmen, um diese gegen direct und indirect Prompt-Injection-Angriffe, den Missbrauch von APIs/Schnittstellen sowie andere manipulative Eingaben Dritter zu härten. Dabei sind ins- besondere der aktuelle Stand der Technik, die Art und Kritikalität der durch das KI-System unterstützten Geschäftsprozesse sowie die möglichen Auswirkungen auf Verfügbarkeit, Authentizität, Integrität und Vertraulichkeit der Informationen der Unternehmen des KfW- Konzerns zu berücksichtigen. 2.3.2 Zu den vom Auftragnehmer umzusetzenden technischen und organisatorischen Maßnah- men gehören mindestens: • Schulungen und Awareness-Maßnahmen für die an der Nutzung, Konfiguration oder dem Betrieb der KI-Systeme beteiligten Mitarbeitenden zum Erkennen und Vermeiden von Prompt-Injection- und sonstigen Manipulationsversuchen,
• organisatorische und technische Regelungen zur Kennzeichnung externer Datenquellen, die der KI als Kontext bereitgestellt werden, damit diese nicht als Instruktionen interpre- tiert werden,
• ein vorheriges Review externer Datenquellen (z. B. Drittsysteme, externe Wissensbasen, Webinhalte) vor ihrer Nutzung im KI-Kontext, um manipulative Inhalte oder sicher- heitskritische Anweisungen zu identifizieren und auszuschließen,
• Tests mit adversarial Prompts (z. B. mehrstufige, verkettete Anweisungen, verschleierte Befehle) im Rahmen von Entwicklung, Test und Betrieb der KI-Systeme, um die Wirk- samkeit der Schutzmaßnahmen zu überprüfen und kontinuierlich zu verbessern.
Seite 3
BVB KI für IT-Leistungen Dokumentversion: 14.08.2026 Ausprägung nach KFW-interner Einstufung „IT-Leistung Fremdbetrieb auf KfW-externer Infrastruktur mit VIV 3“
Der Auftragnehmer dokumentiert die umgesetzten Maßnahmen einschließlich der Ergeb- nisse der durchgeführten Tests mit adversarial Prompts und der daraufhin ergriffenen Opti- mierungen. Diese Dokumentation ist der KfW auf Verlangen zur Verfügung zu stellen.
(Mögliche Nachweise: Systemkonfigurationen bzw. Screenshots, die aktivierte Schutzme- chanismen zeigen; Prozessbeschreibung/Checklisten für das Review externer Datenquellen vor Nutzung im KI‑Kontext; Protokolle von Tests mit adversarial Prompts inkl. Testfällen und Ergebnissen.)
2.4 Protokollierung und Nachvollziehbarkeit 2.4.1 Der Auftragnehmer gewährleistet, dass eine nachvollziehbare und vollständige Protokol- lierung der folgenden Ereignisse: 2.4.1.1 Der Auftragnehmer gewährleistet, dass sämtliche Eingaben und Ausgaben der KI nach- vollziehbar sind und nachträglich rekonstruiert werden können. 2.4.1.2 Die Protokollierung nach Ziffer 2.5.2 ist so auszugestalten, dass sie eine angemessene Nachvollziehbarkeit der Funktionsweise der KI-Systeme sowie der durch diese vorberei- teten oder beeinflussten Entscheidungen ermöglicht und von der KfW im Bedarfsfall zur Prüfung, Auswertung und Erfüllung regulatorischer Anforderungen herangezogen wer- den kann. Die entsprechenden Protokolle sind der KfW auf Verlangen zur Verfügung zu stellen. (Mögliche Nachweise: Logs von Systemen)
Seite 4