Arm fordert AMD heraus: Fast doppelte KI-Leistung pro Serverrack

Es gibt eine spannende Meldung von Arm zum Rechenzentrumssektor. Die kürzlich vorgestellte AGI-CPU bietet im Vergleich zum EPYC 9755 von AMD fast die doppelte Leistung pro Server-Rack, wie aus Benchmarks hervorgeht, die von Arm durchgeführt und von Signal65 unabhängig analysiert wurden.

Die Benchmarks wurden an sieben für KI-Agenten relevanten Workloads durchgeführt, darunter Datenbanktransaktionen, Webserver, Softwareentwicklung und das Ausführen von KI-Modellen. Dies ist relevant für das Szenario, in dem KI-Agenten Tools nutzen, Informationen suchen und Aufgaben mit minimaler menschlicher Beteiligung ausführen.

Die Prozessoren von Arm gewannen fünf von sieben einzelnen Chip-Tests. Besonders gut schnitten sie bei „fastText“ ab, wo AGI einen Vorsprung von 97 % gegenüber AMD erzielte. Bei MySQL und dem Milvus-Durchsatz blieb AMD jedoch weiterhin vorne.

Der größere Unterschied zeigte sich auf Rack-Ebene. Die Modellierungsergebnisse von Arm zeigten einen durchschnittlichen Leistungsvorteil des 1,99-Fachen über alle sieben Workloads hinweg.

Warum die Rack-Dichte den Wettbewerb verändert

Der Stromverbrauch liefert eine mögliche Erklärung für dieses Ergebnis. Nach Schätzungen von Arm kann ein 24-kW-Rack bis zu 23 AGI-Server von Arm aufnehmen, was dem Dreifachen der Anzahl von AMD-Servern (13) entspricht. Auf diese Weise könnten Betreiber von Rechenzentren mehr KI-Aufgaben bewältigen, ohne die Größe ihrer physischen Anlage zu vergrößern.

Die von Signal65 durchgeführte unabhängige Überprüfung ergab eine Abweichung von weniger als 0,5 % gegenüber den von Arm vorgelegten Ergebnissen. Dennoch basierte die Überprüfung ausschließlich auf den von Arm durchgeführten Tests.

Unsere Einschätzung

Wir sind der Ansicht, dass die Erkenntnisse von Arm eine bedeutende Veränderung in der Art und Weise bedeuten könnten, wie Unternehmen Server-CPUs bewerten müssen. Die Taktrate des Chips ist wichtig, doch die Leistung pro Watt und die Leistung pro Rack könnten ebenso wichtig sein. Dies könnte es Rechenzentren ermöglichen, ihre Energiekosten zu senken und mehr KI-Agenten zu betreiben, ohne zusätzlichen Platz zu beanspruchen.

Allerdings wird erst die tatsächliche Implementierung dieser Systeme zeigen, ob diese Verbesserungen nachhaltig sind.

Hat Ihnen dieser Artikel gefallen? Teilen Sie ihn mit Ihren Kollegen und folgen Sie unseren Social-Media-Kanälen, um weitere Einblicke in die Welt der Technologie zu erhalten. Entdecken Sie in unseren anderen Artikeln, wie KI die Hardware hinter den digitalen Diensten von morgen neu gestaltet.