[Seite 1]
BVB KI für IT-Leistungen Dokumentversion: 17.08.2026
VERTRAG ÜBER
EINFÜHRUNG EINER CLOUDBASIERTEN REISEKOSTENABRECH-
NUNGS- UND KOSTENERSTATTUNGSLÖSUNG FÜR DIE KFW UND
DIE KFW IPEX-BANK
KFW-2026-0034
BESONDERE VERTRAGSBEDINGUNGEN FÜR KÜNSTLICHE IN-
TELLIGENZ
BEZÜGLICH IT-LEISTUNGSART SAAS (SOFTWARE-AS-A-SER-
VICE)
1 GRUNDSATZ FÜR KI-MAßNAHMEN
1.1 Ein KI-System ist die technische Lösung, mit der Methoden der Künstlichen Intelligenz (z. B. Machine Learning, NLP, generative Modelle) implementiert und betrieben werden. Dies umfasst mindestens KI-Systeme nach der EU KI-VO.
1.2 Ein KI-Modell ist der Teil eines KI-Systems, der nach dem Lernen aus Beispieldaten die eigentliche „intelligente“ Leistung erbringt. Es ist ein Rechenverfahren, das darauf trainiert wurde, bestimmte Aufgaben zu erledigen, zum Beispiel Texte einzuordnen, Zahlen oder Wahrscheinlichkeiten vorherzusagen oder Inhalte zu erzeugen. Ein KI-Modell besteht aus einer bestimmten Rechenstruktur (etwa einem Entscheidungsbaum oder einem Neuronalen Netz) und aus den gelernten Einstellungen, die während des Trainings aus Daten abgeleitet wurden. Mit Hilfe dieser Struktur und Einstellungen verarbeitet das KI-Modell Eingabedaten und erzeugt daraus Ergebnisse, etwa eine Empfehlung, eine Klassifikation oder eine Vor- hersage. Damit ist das KI-Modell der Kernbaustein eines KI-Systems.
1.3 Die Wahl geeigneter Maßnahmen im Zusammenhang mit KI-Systeme, die der Auftragneh- mer der KfW bereitstellt, obliegt dem Auftragnehmer. Der Auftragnehmer gewährleistet, dass bei der Leistungserbringung durchgehend Maßnahmen zum Schutz der Informationen der Unternehmen des KfW-Konzerns umgesetzt werden, die für die Einhaltung des festge- legten Mindestschutzniveaus in Kapitel 2 sorgen und unter Berücksichtigung des jeweiligen Standes der Technik, der Art, des Umfangs und der Zwecke der Verarbeitung der Informa- tionen durch das KI-System sowie der Eintrittswahrscheinlichkeit und Schwere des Risikos getroffen worden sind.
Seite | 1
[Seite 2]
BVB KI für IT-Leistungen Dokumentversion: 17.08.2026
2 BESONDERE ANFORDERUNGEN BEI BESCHAFFUNG UND BEREITSTELLUNG VON KI-SYSTEMEN
2.1 Qualitätssicherung der Ausgaben von KI-Systemen 2.1.1 Der Auftragnehmer hat für alle KI-Systeme, die der KfW im Rahmen der Vertragsleistun- gen bereitgestellt werden, geeignete organisatorische und technische Maßnahmen zu im- plementieren, mit denen die Qualität der durch diese KI-Systeme erzeugten Ausgaben bewertet und überwacht werden kann. (Mögliche Nachweise: z.B. Modelcards, Beschreibung des Trainingsprozesses) 2.1.2 Der Auftragnehmer setzt insbesondere Verfahren ein, die eine Nachvollziehbarkeit und Beurteilung der Ausgaben der KI-Systeme ermöglichen, z. B. durch Quellangaben, Con- fidence-Scores, geeignete Evaluierungstools oder Metriken zur laufenden Überwachung der Ergebnisqualität. Die eingesetzten Verfahren sind so auszugestalten, dass sie in das Qualitäts- und Testmanagement der KfW integrierbar sind. (Mögliche Nachweise: z.B. Modelcards, Beschreibung des Trainingsprozesses) 2.1.3 Der Auftragnehmer richtet für die im Rahmen der Vertragsleistungen bereitgestellten KI- Systeme systematische Phasen der verstärkten Qualitätsüberprüfung („Confidence-Pha- sen“) im produktiven Betrieb ein. Im Rahmen dieser Confidence-Phasen erfolgt eine struk- turierte Bewertung der von den KI-Systemen erzeugten Ergebnisse und – soweit relevant – der zugrunde liegenden Daten, um Datenverzerrungen, Datenverunreinigungen und sonstige unerwünschte Effekte frühzeitig zu erkennen und zu korrigieren.
Hierzu nutzt der Auftragnehmer insbesondere Stichprobenprüfungen, Nutzerfeedback so- wie geeignete Kennzahlen (z. B. Confidence-Scores oder vergleichbare Metriken). Der Auftragnehmer dokumentiert die Durchführung der Confidence-Phasen einschließlich festgestellter Abweichungen und ergriffener Korrekturmaßnahmen und stellt der KfW diese Dokumentation auf Verlangen zur Verfügung. (Mögliche Nachweise: z.B. Modelcards, Beschreibung des Trainingsprozesses) 2.1.4 Der Auftragnehmer untersucht das KI-System im Hinblick auf mögliche Verzerrungen („Bias“), die die Gesundheit und Sicherheit von Personen beeinträchtigen, sich negativ auf die Grundrechte auswirken oder zu einer nach den Rechts-vorschriften der Europäische Union verbotenen Diskriminierung führen könnten, insbesondere wenn die Datenausga- ben die Eingaben für künftige Operationen beeinflussen. Der Auftragnehmer ergreift ge- eignete Maßnahmen zur Erkennung, Verhinderung und Abschwächung möglicher ermit- telter Verzerrungen.
2.2 Nachweise zu Trainingsdaten, Modelldokumentation und Modellrisiken 2.2.1 Für alle KI-Systeme, die der Auftragnehmer der KfW im Rahmen der Vertragsleistungen bereitstellt, legt der Auftragnehmer der KfW vor Produktivsetzung sowie auf Verlangen während der Vertragslaufzeit nachvollziehbare und prüffähige Nachweise über die Eig- nung und Qualität der für das jeweilige KI-System verwendeten Trainingsdaten vor oder stellt alternative Dokumentationen bereit (z. B. Model Cards oder eine Beschreibung des Trainingsprozesses). 2.2.2 Für KI-Systeme bzw. KI-Modelle, die mit externen Trainingsdaten trainiert werden, stellt der Auftragnehmer der KfW ergänzend Berichte (z. B. Model Cards oder gleichwertige Dokumentationen) über die Eignung und Qualität dieser Trainingsdaten bereit. Diese Be- richte müssen mindestens folgende Informationen enthalten: • transparente Darstellung der Herkunft der verwendeten Daten sowie der Kriterien für de- ren Auswahl,
Seite | 2
[Seite 3]
BVB KI für IT-Leistungen Dokumentversion: 17.08.2026
• Beschreibung des beabsichtigten Zwecks und des erwarteten Nutzens des KI-Systems bzw. KI-Modells,
• Dokumentation möglicher Auswirkungen der verwendeten Trainingsdaten, insbesondere potenzieller Verzerrungen, sowie sonstiger Einschränkungen der Daten und des hierauf basierenden Modells.
2.2.3 Die vom Auftragnehmer bereitzustellenden Nachweise und Dokumentationen müssen die KfW in die Lage versetzen zu bewerten, ob und in welchem Umfang Halluzinationen der KI-Systeme auftreten können und wie dieses Risiko im Rahmen des Test- und Qualitäts- managements berücksichtigt wurde. Insbesondere ist darzustellen,
• welche Erkenntnisse zu möglichen Halluzinationen des KI-Systems vorliegen und • welche Maßnahmen im Testmanagement zur Identifikation, Bewertung und Behand- lung von Halluzinationen getroffen wurden. (Mögliche Nachweise: z.B. Modelcards, Beschreibung des Trainingsprozesses) 2.2.4 Beim erneuten Training (Retraining) oder Fine-Tuning der KfW bereitgestellten oder für die KfW betriebenen KI-Systeme/-Modelle gewährleistet der Auftragnehmer, dass die hier- für eingesetzten Trainingsdaten neue, bislang vom betreffenden KI-System/Modell unge- sehene Daten einbeziehen. Vom jeweiligen KI-System/Modell selbst erzeugte Daten sind beim Retraining ausdrücklich auszuschließen, um fortschreitende Datenverunreinigungen und -verzerrungen zu vermeiden. Der Auftragnehmer dokumentiert das beim Retraining angewendete Datenmanagement und stellt der KfW diese Dokumentation auf Verlangen zur Verfügung. 2.2.5 Macht ein Dritter Ansprüche gegen die KfW wegen der (angeblichen oder bestehenden) Verletzung von Schutzrechten in Bezug auf die Ausgaben eines vom Auftragnehmer be- reitgestellten KI-Systems oder KI-Modells geltend, wird der Auftragnehmer die KfW von den geltend gemachten Ansprüchen, einschließlich der Kosten der Rechtsverteidigung (insbesondere Gerichts- und Anwaltskosten), freistellen. Ansprüche der KfW aus diesem Absatz bestehen jedoch nicht, soweit der Auftragnehmer nachweist, dass er die Schutz- rechtsverletzung weder zu vertreten hat noch bei Anwendung kaufmännischer Sorgfalt zum Zeitpunkt der Leistung hätte kennen müssen. Dies ist nicht erforderlich, sofern der Auftragnehmer nachweist, dass die für das Training und Retraining der der KfW bereitgestellten KI-Modelle oder Systeme verwendeten Trai- ningsdaten ausschließlich aus Inhalten bestehen, für die die erforderlichen Nutzungs- rechte (einschließlich etwaiger Urheber- und Lizenzrechte) ordnungsgemäß bestehen, oder aus Inhalten, die nicht urheberrechtlich geschützt sind.
2.3 Schutz vor Prompt-Injection und manipulativen Eingaben 2.3.1 Der Auftragnehmer implementiert für die der KfW bereitgestellten oder für die KfW betrie- benen KI-Systeme/-Modelle geeignete technische und organisatorische Maßnahmen, um diese gegen direct und indirect Prompt-Injection-Angriffe, den Missbrauch von APIs/Schnittstellen sowie andere manipulative Eingaben Dritter zu härten. Dabei sind ins- besondere der aktuelle Stand der Technik, die Art und Kritikalität der durch das KI-System unterstützten Geschäftsprozesse sowie die möglichen Auswirkungen auf Verfügbarkeit,
Seite | 3
[Seite 4]
BVB KI für IT-Leistungen Dokumentversion: 17.08.2026
Authentizität, Integrität und Vertraulichkeit der Informationen der Unternehmen des KfW- Konzerns zu berücksichtigen. 2.3.2 Zu den vom Auftragnehmer umzusetzenden technischen und organisatorischen Maßnah- men gehören mindestens: • Schulungen und Awareness-Maßnahmen für die an der Nutzung, Konfiguration oder dem Betrieb der KI-Systeme beteiligten Mitarbeitenden zum Erkennen und Vermeiden von Prompt-Injection- und sonstigen Manipulationsversuchen,
• organisatorische und technische Regelungen zur Kennzeichnung externer Datenquellen, die der KI als Kontext bereitgestellt werden, damit diese nicht als Instruktionen interpre- tiert werden,
• ein vorheriges Review externer Datenquellen (z. B. Drittsysteme, externe Wissensbasen, Webinhalte) vor ihrer Nutzung im KI-Kontext, um manipulative Inhalte oder sicher- heitskritische Anweisungen zu identifizieren und auszuschließen,
• Tests mit adversarial Prompts (z. B. mehrstufige, verkettete Anweisungen, verschleierte Befehle) im Rahmen von Entwicklung, Test und Betrieb der KI-Systeme, um die Wirk- samkeit der Schutzmaßnahmen zu überprüfen und kontinuierlich zu verbessern.
Der Auftragnehmer dokumentiert die umgesetzten Maßnahmen einschließlich der Ergeb- nisse der durchgeführten Tests mit adversarial Prompts und der daraufhin ergriffenen Opti- mierungen. Diese Dokumentation ist der KfW auf Verlangen zur Verfügung zu stellen.
(Mögliche Nachweise: Systemkonfigurationen bzw. Screenshots, die aktivierte Schutzme- chanismen zeigen; Prozessbeschreibung/Checklisten für das Review externer Datenquellen vor Nutzung im KI‑Kontext; Protokolle von Tests mit adversarial Prompts inkl. Testfällen und Ergebnissen.)
2.4 Protokollierung und Nachvollziehbarkeit 2.4.1 Der Auftragnehmer gewährleistet, dass eine nachvollziehbare und vollständige Protokol- lierung der folgenden Ereignisse: 2.4.1.1 Der Auftragnehmer gewährleistet, dass sämtliche Eingaben und Ausgaben der KI nach- vollziehbar sind und nachträglich rekonstruiert werden können. 2.4.1.2 Die Protokollierung nach Ziffer 2.4.1.1 ist so auszugestalten, dass sie eine angemessene Nachvollziehbarkeit der Funktionsweise der KI-Systeme sowie der durch diese vorberei- teten oder beeinflussten Entscheidungen ermöglicht und von der KfW im Bedarfsfall zur Prüfung, Auswertung und Erfüllung regulatorischer Anforderungen herangezogen wer- den kann. Die entsprechenden Protokolle sind der KfW auf Verlangen zur Verfügung zu stellen. (Mögliche Nachweise: Logs von Systemen)
Seite | 4