Supercomputer für KI von NVIDIA, der mit 200B-Parameter-Modellen arbeiten kann

NVIDIA hat den kleinsten Supercomputer für KI-Aufgaben vorgestellt. Das Project Digits ist hauptsächlich auf Wissenschaftler ausgerichtet, die Daten analysieren, KI-Forscher und einfach auf Benutzer weltweit, die Grace Blackwell testen möchten.

Superchip GB10 Grace Blackwell

Das Besondere an diesem Projekt ist der Superchip GB10 Grace Blackwell, der eine Petaflop-Leistung für die Arbeit mit riesigen KI-Modellen bietet, um Prototypen zu erstellen und andere große Aufgaben zu bewältigen.
Der Superchip GB10 basiert auf der Architektur Grace Blackwell und bietet exklusive Leistungsmerkmale mit einer Leistung von 1 Petaflop bei FP4-Genauigkeit. Der Chip wurde in Zusammenarbeit mit MediaTek und NVIDIA entwickelt, die außergewöhnliche Ergebnisse erzielt haben und ein Produkt mit exklusiven Verbindungsmöglichkeiten, Energieeffizienz und Leistung geschaffen haben. Diese leistungsstarke Leistung des Superchips kann bei Verwendung einer Standard Steckdose gewährleistet werden.

Project DIGITS ist mit 4 TB NVMe-Speicher und 128 GB kohärentem Speicher ausgestattet. Um einen noch größeren Fortschritt bei innovativen Ansätzen zu erzielen, kann der Supercomputer Modelle mit etwa 200 Milliarden Parametern ausführen. Um die Anzahl der aufgeführten Parameter zu verdoppeln, können zwei verbundene Supercomputer verwendet werden.

Benutzer von Project DIGITS haben auch Zugang zu einer riesigen Softwarebibliothek für KI, einschließlich Frameworks und verschiedener Modelle, Orchestrierungs-, Prototyping- und Entwicklungskits. Zu den am weitesten verbreiteten Frameworks gehören Jupyter und PyTorch.

Laut aktuellen Informationen wird Project DIGITS Ende des Frühlings auf den Markt kommen, und der Preis wird ab 3000 US-Dollar betragen.