NVIDIA kündigte an, dass Dell Technologies, Hewlett Packard Enterprise und Lenovo die ersten sein werden, die NVIDIA Spectrum-X(TM) Ethernet-Netzwerktechnologien für KI in ihre Server-Produktpalette integrieren, um Unternehmenskunden bei der Beschleunigung generativer KI-Workloads zu unterstützen. Spectrum-X wurde speziell für generative KI entwickelt und bietet Unternehmen eine neue Klasse von Ethernet-Netzwerken, die im Vergleich zu herkömmlichen Ethernet-Angeboten eine 1,6-fach höhere Netzwerkleistung für die KI-Kommunikation erreichen können. Die neuen Systeme von drei der führenden Systemhersteller kombinieren Spectrum-X mit NVIDIA Tensor Core GPUs, NVIDIA AI Enterprise Software und NVIDIA AI Workbench Software, um Unternehmen die Bausteine zu liefern, mit denen sie ihr Geschäft mit generativer KI transformieren können.

Spectrum-X kombiniert die extreme Leistung des Spectrum-4 Ethernet-Switches mit der NVIDIA BlueField®-3 SuperNIC, einer neuen Klasse von Netzwerkbeschleunigern zur Beschleunigung von KI-Workloads im Hyperscale-Bereich, sowie mit Beschleunigungssoftware, um die Effizienz von KI-Workloads zu optimieren. Spectrum-X ergänzt die BlueField-3 DPUs, die fortschrittlichste Infrastruktur-Computing-Plattform der Welt. Spectrum-4 ist der weltweit erste 51 TB/s-Ethernet-Switch für KI, der einen hocheffektiven Datendurchsatz im großen Maßstab und unter Last bietet und gleichzeitig die Netzwerküberlastung für mandantenfähige KI-Cloud-Workloads minimiert.

Seine intelligente, fein abgestimmte Routing-Technologie ermöglicht jederzeit eine maximale Auslastung der Netzwerkinfrastruktur. BlueField-3 SuperNICs wurden für netzwerkintensive, massiv parallele Berechnungen entwickelt. Sie bieten bis zu 400 Gb/s RDMA over Converged Ethernet (RoCE) Netzwerkkonnektivität zwischen GPU-Servern und steigern die Leistung für KI-Training und Inferenzverkehr im Ost-West-Netzwerk innerhalb des Clusters. Darüber hinaus ermöglichen sie sichere, mandantenfähige Rechenzentrumsumgebungen und gewährleisten eine deterministische und isolierte Leistung zwischen den einzelnen Mandaten.

Mit ihrem stromsparenden PCIe-Formfaktor mit halber Höhe und halber Länge sind die BlueField-3 SuperNICs ideal für Server der Unternehmensklasse. Die Beschleunigungssoftware für Spectrum-X umfasst NVIDIA Software Development Kits wie Cumulus Linux, Pure SONiC und NetQ, die zusammen die bahnbrechende Leistung der Plattform ausmachen.

und das NVIDIA DOCA? Software-Framework, das das Herzstück von BlueField bildet. NVIDIA AI Enterprise bietet Frameworks, vortrainierte Modelle und Entwicklungstools für sichere, stabile und unterstützte Produktions-KI.

NVIDIA AI Workbench ermöglicht es Entwicklern, vortrainierte generative KI-Modelle schnell auf einem PC oder einer Workstation zu erstellen, zu testen und anzupassen ? und sie dann auf praktisch jedes Rechenzentrum oder jede Cloud zu skalieren. Neue Systeme von Dell, HPE und Lenovo mit dem kompletten NVIDIA AI Stack werden für das erste Quartal des nächsten Jahres erwartet.