Die Gottfried Wilhelm Leibniz Universität Hannover schreibt für das "Soofi-Projekt" die Beschaffung von GPU- und CPU-Rechenleistung für das Training eines großen Sprachmodells (Large Language Model, LLM) aus. Die Beschaffung ist in zwei Lose unterteilt, die zwei technisch unterschiedlichen Systemklassen entsprechen.

Region Hannover, Germany

1. Alle Nachweise können in Form von Eigenerklärungen erfolgen, soweit sich aus der Ausschreibung nicht etwas anderes ergibt. Alle vom Auftraggeber bereitgestellten Formblätter sind zwingend zu verwenden. 2. Alle weiteren Informationen zu diesem Vergabeverfahren wie Änderungen der Leistungsbeschreibung, Beantwortung von Bieterfragen oder sonstige verfahrensrelevante Informationen werden über das Vergabeportal bereitgestellt. Für Fragen und sonstige Kommunikation in diesem Verfahren ist ausschließlich die Kommunikationsfunktion des Vergabeportals Deutsche eVergabe zu verwenden. Sofern Unklarheiten in den Vergabeunterlagen bestehen, sind Bieterfragen bis spätestens zum 13.10.2026, 12:00 Uhr zu stellen. 3. Das Angebot ist in deutscher oder in englischer Sprache abzufassen und bis spätestens zum Ende der Frist vorzulegen. Angebote müssen in elektronischer Form eingereicht werden. Die Abgabe ist ausschließlich über das Vergabeportal Deutsche eVergabe möglich. 4. Eine Einreichung per E-Mail, Telefax oder in schriftlicher Form ist nicht zulässig. 5. Der Auftraggeber erstattet keine Kosten, die für die Teilnahme am Vergabeverfahren entstehen. 6. Es wird darauf hingewiesen, dass für die Auszahlung des Rechnungsbetrags eine Bankbürgschaft in Höhe von 100% des jeweiligen Vertragsbetrags (Los 1 bzw. Los 2) erforderlich ist. Nähere Informationen entnehmen Sie bitte Ziffer 1.3.7. der Leistungsbeschreibung. 7. Für beide Lose kann der Auftraggeber den Beginn durch Mitteilung mindestens 4 Wochen vor dem angebotenen Termin um bis zu 30 Tage verschieben. Die Laufzeit verschiebt sich entsprechend. 8. Wurde der vollständige Cluster nicht innerhalb von 30 Tagen nach dem Beginn der Leistungserbringung bereitgestellt und abgenommen, kann der Auftraggeber den Vertrag für das betreffende Los kündigen. Vorauszahlungen werden im Rahmen der Bankbürgschaft zurückgezahlt. 9. Die verbindliche Sprachfassung der Vergabeunterlagen ist entgegen Ziff. 5.1.11 der EU-Auftragsbekanntmachung, die aus technischen Gründen nicht veränderbar ist, die jeweilige Sprachfassung, die in den jeweiligen Unterlagen benutzt wird (Deutsch oder Englisch). Für die EU-Auftragsbekanntmachung ist die verbindliche Sprachfassung Deutsch.

Im Rahmen eines öffentlich geförderten europäischen Projekts zu offenen großen Sprachmodellen veröffentlicht die Gottfried Wilhelm Leibniz Universität Hannover (LUH) diese europaweite Ausschreibung für GPU- und CPU-Rechenkapazitäten für das Pretraining und Post-Training großer Sprachmodelle (LLMs). Die Beschaffung ist in zwei Lose unterteilt, die zwei technisch unterschiedlichen Systemklassen entsprechen: Los 1 betrifft GPU-Knoten gemäß der NVIDIA-DGX/HGX-B200- oder B300-Referenzarchitektur (8 GPU-Module pro Knoten) oder neuer. Gegenstand sind die Fertigstellung und das Post-Training von Mixture-of-Experts-(MoE-)Modellen mit mehr als 100 Milliarden Parametern, die Evaluierung, die Generierung synthetischer Daten mit Generatormodellen von etwa 400 Milliarden Parametern sowie die Destillation kleinerer Modellvarianten. -Referenz-GPU NVIDIA B200 in Knoten der DGX/HGX-B200-Referenzarchitektur (2,25 × 10¹⁵ FLOPs/s BF16 Dense je GPU); DGX/HGX B300 oder neuere NVIDIA-Referenzarchitekturen derselben Klasse (z. B. DGX Rubin NVL8) sind zulässig. -Verbindliche Mindestrechenleistung 1,5 × 10²⁵ FLOPs ≈ 1,85 Millionen B200-GPU-Stunden - Referenzkonfiguration 1.024 GPUs (128 Knoten) während der ersten 65 Tage, anschließend 128 GPUs (16 Knoten) bis zum Ende der Laufzeit (155 Tage) = 1.873.920 GPU-Stunden = 1,52 × 10²⁵ FLOPs - Mindestanzahl gleichzeitig verfügbarer GPUs ≥ 1.024 (128 Knoten) während der ersten 65 Tage; anschließend ≥ 128 (16 Knoten) - Beginn / Ende des Leistungszeitraums Vom Bieter angebotener Beginn, nicht vor dem 1. Dezember 2026 und nicht nach dem 15. Januar 2027; Laufzeit 155 Tage (Referenz: 1. Dezember 2026 bis 4. Mai 2027), mit vorausgehender zweiwöchiger Testphase - Option Bis zu drei Monate nach der Grundlaufzeit, 128 GPUs - Preisobergrenze 16.400.000 EUR (einschließlich 19 % Umsatzsteuer) - CPU ≥ 15 Millionen Core-Stunden; Partition mit ≥ 4.096 physischen Kernen - Speicher ≥ 1 PB paralleles Dateisystem zuzüglich ≥ 1 PB S3-kompatibler Objektspeicher - Standort EU/EWR oder ein Land mit einem Angemessenheitsbeschluss der EU Nähere Informationen entnehmen Sie bitte der Leistungsbeschreibung.

Region Hannover, Germany

Im Rahmen eines öffentlich geförderten europäischen Projekts zu offenen großen Sprachmodellen veröffentlicht die Gottfried Wilhelm Leibniz Universität Hannover (LUH) diese europaweite Ausschreibung für GPU- und CPU-Rechenkapazitäten für das Pretraining und Post-Training großer Sprachmodelle (LLMs). Die Beschaffung ist in zwei Lose unterteilt, die zwei technisch unterschiedlichen Systemklassen entsprechen: Los 2 betrifft Rack-Scale-Systeme gemäß der NVIDIA-GB200- oder GB300-NVL72-Referenzarchitektur oder neuer. Gegenstand sind das Pre-Training und Post-Training eines MoE-Modells mit mehr als 350 Milliarden Parametern, beispielsweise durch Reinforcement Learning mit verifizierbaren Belohnungen. Die NVLink-Domäne mit 72 GPUs ist für diese Modellgröße technisch erforderlich (Anhang A.4). - Referenz-GPU NVIDIA GB200 NVL72 (2,5 × 10¹⁵ FLOPs/s BF16 Dense je GPU); GB300 NVL72 oder neuere NVIDIA-Rack-Scale-Referenzarchitekturen (z. B. Vera Rubin NVL144) sind zulässig. - Verbindliche Mindestrechenleistung 2,4 × 10²⁵ FLOPs ≈ 2,67 Millionen GB200-GPU-Stunden (≈ 2.048 GPUs für mindestens 54 Tage) - Referenzkonfiguration 2.048 GPUs (29 NVL72-Racks, Reservekapazitäten gemäß A5) für 56 Tage ab dem Beginn der Leistungserbringung (Referenz: 15. Januar bis 11. März 2027) = 2.752.512 GPU-Stunden = 2,48 × 10²⁵ FLOPs - Mindestzahl gleichzeitig verfügbarer GPUs (F) 2.048 (29 NVL72-Racks), bis die garantierten FLOPs bereitgestellt sind - Beginn / Ende des Leistungszeitraums Vom Bieter angebotener Beginn, nicht vor dem 15. Januar 2027 und nicht nach dem 1. April 2027; Laufzeit bis zur Bereitstellung der garantierten FLOPs (Referenz: 56 Tage, 15. Januar bis 11. März 2027), mit vorausgehender zweiwöchiger Testphase - Option Bis zu drei Monate nach der Grundlaufzeit, 2.048 GPUs - Preisobergrenze 26.100.000 EUR (einschließlich Umsatzsteuer) - CPU Partition mit ≥ 8.192 physischen Kernen (RL-Sandboxes) - Speicher ≥ 1 PB paralleles Dateisystem zuzüglich ≥ 1 PB Objektspeicher (Checkpoints mit jeweils bis zu etwa 8 TB) - Standort EU/EWR oder ein Land mit einem Angemessenheitsbeschluss der EU Nähere Informationen entnehmen Sie bitte der Leistungsbeschreibung.

Region Hannover, Germany