In einem von HPE und NVIDIA gesponserten Beitrag stellen die beiden Unternehmen das Konzept der «AI factory» vor, einer integrierten Infrastruktur, die Daten wiederholt und effizient in Intelligenz verwandeln soll. Sie bieten drei Modelle an, von der Komplettlösung bis zur souveränen Architektur, und betonen, dass die Wahl von den Anwendungsfällen und nicht von der Hardware ausgehen muss.
- HPE und NVIDIA stellen die «AI factory» vor, eine integrierte Infrastruktur für KI.
- Die Wahl richtet sich nach den Anwendungsfällen, nicht nach der Hardware.
- Drei Modelle reichen von der Komplettlösung vor Ort bis zur souveränen, isolierten Architektur.
- Der gewünschte Kontrollgrad bestimmt die Wahl, und HPE begleitet Kunden von der Planung bis zum Betrieb.
Eine Infrastruktur, die von den Anwendungsfällen her gedacht ist
Eine AI factory umfasst den gesamten Lebenszyklus der KI: die Datenerfassung, die Modellentwicklung, ihr Training, ihre Anpassung (das Fine-tuning), die Inferenz, also ihre Ausführung, sowie die Überwachung und kontinuierliche Verbesserung. Der Text präzisiert, dass diese Integration einem Arzt, einem Ingenieur oder einer öffentlichen Dienststelle ebenso dienen soll wie einem Unternehmen. Einen beschleunigten Prozessor zu wählen reicht nicht: Die Berechnung muss zum Geschäftsmodell passen, das Netzwerk und die Datenströme müssen die Beschleuniger versorgen, der Speicher muss mit dem Datenvolumen Schritt halten, und Sicherheit, Governance sowie die gemeinsame Nutzung der Infrastruktur durch mehrere Benutzer müssen von Anfang an mitgedacht werden. Die Stromversorgung und Kühlung müssen schließlich die Dichte des Systems unterstützen, heute wie morgen. Thierry Pienaar, HPE Fellow, Vice President und Chief Technology Officer (CTO) für HPC- und KI-Verkäufe, erklärt: «Ohne geeignete Architektur, Governance und operative Expertise können Organisationen ihre Daten nicht sicher nutzen, KI in Kernprozesse integrieren oder Innovation in nachhaltigen Wettbewerbsvorteil verwandeln.»
Drei Modelle je nach Bedarf
Das Portfolio HPE AI Factory with NVIDIA kombiniert die KI-Beschleuniger, das Netzwerk und die KI-Software von NVIDIA mit der Infrastruktur, Software und den Services von HPE. Das erste Angebot, HPE Private Cloud AI, ist eine vor Ort installierte Komplettlösung für Fine-tuning, RAG (Retrieval-Augmented Generation, die ein Modell mit Dokumenten verbindet) und Inferenz, mit einem Bedarf von bis zu 256 GPUs. Das zweite, HPE AI Factory at-scale, richtet sich an Modellersteller, Dienstleister und Großunternehmen mit Ressourcen von einigen hundert bis zu zehntausenden GPUs, zentraler Kontrolle und Multi-Tenant-Betrieb, bei dem mehrere Nutzer eine gemeinsame Infrastruktur teilen. Das dritte, HPE Sovereign AI Factory, übernimmt diese Architektur und fügt eine erweiterte operative Kontrolle, Sicherheit und Datenresidenz sowie «air-gapped»-Konfigurationen hinzu, die von jedem externen Netzwerk isoliert sind.
Das Ganze wie ein einziges System betreiben
Je mehr sich die KI in einer Organisation ausbreitet, desto unterschiedlicher sind die Ressourcen-, Servicelevel- und Datenperimeter-Bedürfnisse der Teams. Laut dem Text erfordert eine künstliche Produktivsetzung aus separaten Komponenten Fähigkeiten, die viele IT-Abteilungen in diesem Maßstab nie hatten. Ein schlecht konzipiertes System kann technisch funktionieren, aber unwirtschaftlich sein: unterausgelastete GPUs, Engpässe in den Datenströmen, Einschränkungen bei Stromversorgung oder Kühlung oder schwer zu handhabende Managementsysteme. «Das Portfolio HPE AI Factory with NVIDIA bietet Unternehmen eine Reihe von KI-Lösungen, die gemeinsam mit NVIDIA entwickelt und durch die Ingenieursexpertise und technischen Fähigkeiten von HPE unterstützt werden, um eine auf ihre Bedürfnisse zugeschnittene AI factory zu entwerfen und für Leistung im großen Maßstab zu optimieren», präzisiert Thierry Pienaar.
Souveränität und Begleitung
Cloud, private Umgebungen und hybride Ansätze können alle eine Rolle in einer KI-Strategie spielen. Für Organisationen mit Souveränitätsanforderungen hängt die Wahl vor allem vom gewünschten Kontrollgrad ab: Speicherort der Daten und Modelle, Identität der Administratoren, anwendbare Rechtsordnung, Governance-Regeln und Grad der Arbeitslastisolierung. Kaushik Shirhatti, Vice President, AI Factory bei NVIDIA, erklärt: «Die souveränen KI-Tools von HPE und NVIDIA geben einem Unternehmen oder sogar einem Staat vollständige Kontrolle darüber, wie seine KI-Systeme aufgebaut, bereitgestellt, betrieben und verwaltet werden.» Der Text nennt zwei aktuelle Implementierungen: die TELUS Sovereign AI Factory in Kanada und eine sovereign AI factory an der University of Utah in den USA. HPE AI Services begleitet Kunden von der Planung bis zum Betrieb, während HPE Financial Services unter anderem beschleunigte Abschreibungen anbietet. Die beiden Partner verweisen für weitere Informationen auf die Seite HPE AI Factory.
