[Anlage zum Hauptvertrag] Stand: 27. Oktober 2025
Einsatz von Künstlicher Intelligenz (KI)
gemäß EU AI Act und ISO 42001
zwischen dem/der
– Verantwortlicher –
BMW BKK
Postfach 1533
84126 Dingolfing
vertreten durch den Vorstand Jens Gerhardt
nachstehend auch Auftraggeber genannt
und dem/der
– Auftragsverarbeiter –
nachstehend auch Auftragnehmer genannt
Die Vertragsparteien haben mit Zuschlag vom ____________ (Vergabe-Nummer:
CXP4YMTMXM2) einen Vertrag über Callcenter-Dienstleistungen im Bereich der gesetz-
lichen Kranken- und Pflegeversicherung geschlossen.
§ 1 Grundsatz zur KI-Nutzung
Setzt der Dienstleister im Rahmen der Leistungserbringung für die Krankenkasse KI-
Systeme ein oder entwickelt solche, verpflichtet er sich zur Einhaltung der jeweils gülti-
gen rechtlichen Rahmenbedingungen, insbesondere der Verordnung (EU) über Künstli-
che Intelligenz (EU AI Act), sowie der ISO-Normen 42001, 27001 und 27002.
§ 2 Risikobewertung und Schutzbedarf
Der Einsatz von KI-Systemen muss auf Basis einer dokumentierten Risikobewertung er-
folgen, die den spezifischen Schutzbedarf der verarbeiteten Informationswerte, insbe-
sondere Gesundheits- und Sozialdaten, angemessen berücksichtigt. Die Ergebnisse die-
ser Bewertung sind der Krankenkasse auf Verlangen offenzulegen.
§ 3 Anforderungen an das KI-System
Der Dienstleister verpflichtet sich,
a) Anforderungen für die Einrichtung, Umsetzung, Aufrechterhaltung und fortlaufende
Verbesserung des KI-Systems zu definieren und zu dokumentieren,
b) angemessene technische und organisatorische Maßnahmen zur Risikominimierung
entsprechend dem festgestellten Risikolevel umzusetzen,
c) eine kontinuierliche Überwachung, Pflege und ggf. Nachschulung des KI-Systems si-
cherzustellen, insbesondere im Hinblick auf Fairness, Transparenz, Nachvollziehbarkeit
und Sicherheit.
§ 4 Ethische Grundsätze und ISO 42001
Die Entwicklung und Nutzung von KI-Systemen hat sich an ethischen Grundsätzen zu
orientieren, die in Anlehnung an die ISO 42001 erarbeitet werden können. Die Kranken-
kasse kann hier eigene ethische Leitlinien vorgeben, die vom Dienstleister zu berück-
sichtigen sind.
§ 5 Transparenz und Nachvollziehbarkeit
Der Dienstleister stellt sicher, dass Entscheidungen oder Empfehlungen des KI-Systems
jederzeit für autorisierte Fachnutzer nachvollziehbar dokumentiert werden können.
Black-Box-Systeme ohne Erklärungsmöglichkeiten sind unzulässig, sofern sie in Ent-
scheidungsprozesse mit Gesundheits- oder Sozialdaten eingebunden sind.
2
§ 6 Inkrafttreten
(1) Diese Bestimmungen treten mit Inkrafttreten des Hauptvertrages in Kraft.
(2) Es gilt die Gerichtsstandvereinbarung des Hauptvertrages.
Ort, Datum Ort, Datum
Stempel/Unterschrift Auftragnehmer Stempel/Unterschrift Auftraggeber
3