Anlage 2 - LV.pdf

[Seite 1]

Leistungsbeschreibung zur Vergabe eines

Deep Learning GPU Clusters

basierend auf NVIDIA B300 GPUs

PR1285415

1 PR1285415

[Seite 2]

Inhalt

1. Beschreibung des Vorhabens 3
2. Inhaltliche Anforderungen 5 1.1 Leistungen bis zur Abnahme .................................................................................... 5 1.1.1 Kauf von Hardware ............................................................................................. 5 1.1.2 Überlassung von lizenzfreier Standardsoftware gegen Einmalvergütung (Kauf) ...... 5 1.1.3 Erstellung des Gesamtsystems und Inbetriebnahme .............................................. 5 1.2 Leistungen nach der Abnahme ................................................................................ 7 1.2.1 Systemservice ...................................................................................................... 7 1.3 Systemumgebung des zu erstellenden Gesamtsystems.............................................. 8
3. Leistungszeitraum Lieferung bis 30.04.2027 9
4. Termin und Leistungsplan 9
5. Abnahme 9
6. Zahlungsbedingungen 9
7. Eignungskriterien 10
8. Zuschlagskriterien 10

2 PR1285415

[Seite 3]

1. Beschreibung des Vorhabens

Allgemeine Vorstellung der Organisation:

Die Fraunhofer-Gesellschaft mit Sitz in Deutschland ist eine der führenden Organisationen für anwendungsorientierte Forschung. Im Innovationsprozess spielt sie eine zentrale Rolle – mit For- schungsschwerpunkten in zukunftsrelevanten Schlüsseltechnologien und dem Transfer von For- schungsergebnissen in die Industrie zur Stärkung unseres Wirtschaftsstandorts und zum Wohle unserer Gesellschaft.

Die 1949 gegründete Organisation betreibt in Deutschland derzeit 76 Institute und Forschungs- einrichtungen. Die gegenwärtig knapp 32 000 Mitarbeitenden, überwiegend mit natur- oder in- genieurwissenschaftlicher Ausbildung, erarbeiten das jährliche Finanzvolumen von 3,4 Mrd. €. Davon fallen 3,0 Mrd. € auf den Bereich Vertragsforschung, der sich in drei Finanzierungssäulen gliedert: Einen Anteil davon erwirtschaftet Fraunhofer mit Aufträgen aus der Industrie und aus Lizenzerträgen, die sich auf insgesamt 836 Mio. € belaufen. Der hohe Anteil an Wirtschaftser- trägen ist das Fraunhofer-Alleinstellungsmerkmal in der deutschen Forschungslandschaft. Ein weiterer Teil aus dem Bereich Vertragsforschung stammt aus öffentlich finanzierten Forschungs- projekten. Bund und Länder komplettieren die Vertragsforschung durch die Grundfinanzierung. Damit ermöglichen die Zuwendungsgeber, dass die Institute schon heute Problemlösungen ent- wickeln können, die in einigen Jahren für Wirtschaft und Gesellschaft relevant werden.

Das Fraunhofer-Institut für Fabrikbetrieb und -automatisierung (IFF) forscht und entwickelt an- wendungsorientiert auf den Gebieten Robotik, Virtual Engineering, Logistik und Materialfluss- technik sowie Prozess- und Anlagentechnik. Das Fraunhofer IFF arbeitet in eigener wissenschaft- licher Verantwortung und ist in nationale und internationale Forschungs- und Wirtschaftsnetz- werke eingebunden. Es kooperiert eng mit der Otto-von-Guericke-Universität Magdeburg und weiteren Hochschulen sowie Forschungsinstitutionen der Region. In Zusammenarbeit mit Wirt- schaft, Wissenschaft und Staat werden in einem dynamischen, sich stets wandelnden Umfeld innovative, markt- und bedarfsorientierte Leistungen erbracht und dem Kunden angeboten. Zum Kundenkreis für die Auftragsforschung gehört die öffentliche Hand, internationale Indust- rieunternehmen, die Dienstleistungsbranche und Unternehmen der klein- und mittelständischen Wirtschaft.

Zum 31. Dezember 2024 beschäftigte das Fraunhofer IFF 193 Mitarbeitende. Unsere wissen- schaftlichen Teams bestehen überwiegend aus Expertinnen und Experten der Ingenieurwissen- schaften – ergänzt durch Fachkräfte aus den Human- und Wirtschaftswissenschaften, Mathema- tik, Physik sowie dem kaufmännischen Bereich. Zur Bearbeitung der Forschungsaufträge stehen modernste Laborausstattungen und 5.000 m² Büro- und Laborfläche zur Verfügung. Das Fraunhofer IFF bietet seinen Kunden und Partnern von der Ideenfindung bis zur Umsetzung und Schulung der Mitarbeiter komplette, systemorien- tierte und kundenspezifische Forschungs- und Entwicklungsleistungen.

Ein Hauptziel der Forschungsarbeiten ist es, identifizierte und durch das Fraunhofer IFF entwi- ckelte Methoden, Verfahren, Strategien und innovative Technologien zu strukturieren und an die Erfordernisse des Mittelstandes in Sachsen-Anhalt anzupassen. Die entwickelten Methoden und Prototypen werden auf ihre Anwendbarkeit und industrielle Relevanz getestet. Auf diesem Gebiet kooperiert das Institut mit namhaften nationalen und internationalen Forschungs- und Industriepartnern.

3 PR1285415

[Seite 4]

Konkrete Vorstellung des Vorhabens:

Für das Forschungsvorhaben „Weiterentwicklung und Evaluierung von humanoiden Robotern für industrielle Anwendungen – WERA“ soll ein sogenanntes „DEEP Learning System“ beschafft werden.

Deep Learning Systeme können ihre Leistung durch Zugriff auf sehr große Datenmengen opti- mieren (Maschinenversion des Lernens aus Erfahrung). Das zu beschaffende Deep Learning GPU Cluster basiert auf kombinierte GPU-Recheneinheiten zur optimalen Berechnung besonders großer künstlicher neuronale Netze und dient somit als Deep Learning System. Diese sind dem menschlichen Gehirn nachempfunden und lernen selbst- ständig aus riesigen Datenmengen, indem es komplexe Muster erkennt, ohne dass es dafür ex- plizit programmiert werden muss.

Mit Zuwendungsbescheid vom 07. Juli 2026 hat die IB Sachsen-Anhalt das Vorhaben rückwir- kend für den Zeitraum vom 01.03.2026 bis 31.12.2027 bewilligt. Entsprechend dem vorliegen- dem Orientierungsangebot muss für die Beschaffung von 6 Monaten Lieferzeit ausgegangen werden. Daraus resultiert unsere Bitte, diesen Vorgang priorisiert zu bearbeiten, um das so drin- gend benötigte System für die termin- und qualitätsgerechte Bearbeitung des Vorhabens einset- zen zu können.

Es wird ein Anbieter gesucht für die Lieferung und Installation vor Ort (inkl. Inbetriebnahme am vorbereiteten Installationsort) eines GPUs Clusters basierend auf NVIDIA B300 GPUs mit War- tung und Support über 3 Jahre. Als Software soll für den flexiblen Einsatz nur ein Ubuntu der aktuellen LTS Version und sonstige lizenzfreie notwendige Software (z.B. Treiber) zur Nutzung des GPU Clusters vom Anbieter installiert werden.

Das Leistungsverzeichnis für diesen Beschaffungsvorgang wurde vom Geschäftsfeld Robotersys- teme (RS) und menschzentrierte Arbeitssysteme (MArS) des Fraunhofer IFF erstellt.

RS Ansprechpartner: Magnus Hanses E-Mail: magnus.hanses@iff.fraunhofer.de Telefon: 0049-(0)391-4090229

MArS Ansprechpartner: Patrick Menz E-Mail: patrick.menz@iff.fraunhofer.de Telefon: 0049-(0)391-4090818

4 PR1285415

[Seite 5]

2. Inhaltliche Anforderungen

1.1 Leistungen bis zur Abnahme

1.1.1 Kauf von Hardware Bei den nachstehend beschriebenen technischen Parametern handelt es sich um Mindestanforde- rungen. Die angebotene Hardware muss die aufgeführten Leistungs- und Ausstattungsmerkmale mindestens erfüllen. Das Angebot von Komponenten mit höheren Leistungswerten oder einer technisch überlegenen Ausstattung ist zulässig.

GPUs: 8x NVIDIA Blackwell B300 GPU, PCIe 5.0

GPU Memory: 2304 GB total (288 GB pro GPU)

Performance: 72 petaFLOPS Training / 144 petaFLOPS Inference

Interconnect NVLink Switch 1800 GB/s overall GPUs GPUs:

CPU: 128 Cores total, 2,30 GHz (Base), 3,9 GHz (Max Boost) – zum Beispiel: Dual Intel® Xeon® Platinum 6776P Processors

System Memory: 2TB DDR5

Networking: 8x OSFP ports serving 8x NVIDIA ConnectX-8 VPI up to 800 Gb/s infiniBand/Ethernet 2x dual-port QSFP112 NVIDIA BlueField-3 DPU ConnectX-8 VP In- finiBand/Ethernet

Storage OS: 2x 1,92TB M.2 NVME drives

Internal Storage: 30TB (8x 3,84TB) E1.S NVME drives

Support: 3 Jahre

1.1.2 Überlassung von lizenzfreier Standardsoftware gegen Einmalvergütung (Kauf)

◼ Betriebssystem: Installation der aktuellen Ubuntu LTS ◼ Treiber: Notwendige Treiber zur Inbetriebnahme auf Datenträger

1.1.3 Erstellung des Gesamtsystems und Inbetriebnahme

5 PR1285415

[Seite 6]

◼ Vor-Ort-Installation: Folgende Anforderungen werden IFF-seitig vorgehalten:

• 10 HE Plätze im Schrank,
• Einbautiefe des Rechners: 904 mm
• Wärmeabgabe/erforderliche Kühlleistung: max. 15,5 kW ◼ Elektroanschlusskabel: sollen mitgeliefert werden ◼ Erforderliches Werkzeug: Serverlift (entsprechend NVIDIA-Spezifikation/Beschreibung) ◼ Einbau: Rackeinbauschienen passend für 19“ Serverracks

6 PR1285415

[Seite 7]

1.2 Leistungen nach der Abnahme

1.2.1 Systemservice

1.2.1.1 Support - Wiederherstellung der Betriebsbereitschaft des Gesamtsystems (Störungsbe- seitigung)

◼ Inklusive 3 Jahre Hardware Wartung und Vor-Ort-Service durch den Hersteller des ange- botenen Systems oder einen autorisierten Servicepartner für

• Remote-Hardware-Support, einschließlich Diagnosetools um Systeme wieder funktions- fähig zu machen
• Vor-Ort-Hardware-Support und -Austausch, inklusive erweiterter RMA-Autorisierung (Re turn Merchandise Authorization) für den nächsten Werktag ◼ Störungsmeldung via Ticketsystem oder E-Mail mit je nach den folgenden Mängelklassen zu berücksichtigen Reaktions- und Wiederherstellungszeiten:

1.2.1.2 Dauer der Systemserviceleistungen

◼ Beginn ab Tag nach der Abnahme des Gesamtsystems ◼ Dauer: 36 Monate

7 PR1285415

[Seite 8]

1.3 Systemumgebung des zu erstellenden Gesamtsystems

◼ Serverraum mit leeren 19" Schrank im 3. Obergeschoss (per Fahrstuhl erreichbar) o Serverschrank: Rittal TS8 19" Schrank o Kühlung: Rittal 3312.230 TS8, SK 3312230 LCP Rack CW ◼ Kaltgerätedosenanschlüsse über eine zentrale USV versorgt (2x11 KW redundant) ◼ Details können Lageplan entnommen werden

8 PR1285415

[Seite 9]

3. Leistungszeitraum

Lieferung bis 30.04.2027

◼ Wartung und Support (inkl. Hardwaresupport) für 3 Jahre nach erfolgreicher Inbetriebnahme vor Ort

4. Termin und Leistungsplan

1 MS = Meilenstein 2 BB = Termin der Betriebsbereitschaftserklärung 3 BBTA = Termin der Betriebsbereitschaftserklärung zur Teilabnahme 4 TA = Teilabnahmetermin 5 VE = Vertragserfüllungstermin

5. Abnahme

◼ Bezahlung nach erfolgreicher Lieferung, Einbau, Funktions- und Leistungstest. Der Anbieter hat die erforderliche Software, Treiber und eine Anleitung zum Test der Hardware zu liefern.

6. Zahlungsbedingungen

◼ Das Zahlungsziel beträgt 30 Tage netto nach erfolgreicher Abnahme und Rechnungseingang.

9 PR1285415

[Seite 10]

7. Eignungskriterien

8. Zuschlagskriterien

Der Auftrag wird nach den folgenden Zuschlagskriterien vergeben:

◼ Preis: 100%

10 PR1285415