AMD versichert, dass ein Server mit dem neuen EPYC 9996 bis zu 3,7-mal mehr Leistung bietet als ein System, das auf der Vera-CPU von NVIDIA basiert. Mit diesem Vergleich kündigte AMD die allgemeine Verfügbarkeit seiner EPYC-Sechste-Generation-Prozessoren für Server an, die SP7-Familie, die die Zen-6-Architektur einführt. Gegenüber dem Intel Xeon 6980P spricht die Marke von bis zu 2,2-mal mehr Leistung und dem doppelten Leistung pro Dollar.
Die Systeme mit diesen Prozessoren werden bereits von den führenden Serverherstellern ausgeliefert. Nicht zuletzt werden Microsoft Azure und Oracle Cloud Infrastructure in Kürze cloudbasierte Instanzen darauf anbieten. AMD tritt zu diesem Markteinführungstermin ein, nachdem die fünfte Generation zurzeit die größte Volumen- und Annahmegeschichte der EPYC geworden ist.
„Die KI erweitert die Rolle der CPU in allen Ebenen des Rechenzentrums deutlich“, erklärt Dan McNamara, Senior Vice President und General Manager für Unternehmens-Computing & KI bei AMD.
Ein Prozessor für jede Rolle der KI-Agenten
Die Strategie von AMD zielt darauf ab, Modelle je nach Aufgabe zu variieren. Tatsächlich ist die eigenständige KI-Agentur das Hauptbeispiel. Ein KI-Agent benötigt Server für allgemeine Dienste, Knoten, die die GPUs versorgen, und isolierte Umgebungen, in denen Code ausgeführt wird, sogenannte Sandboxes.
Für die GPU-Knoten erreichen Hochfrequenzmodelle 5,3 GHz und erzeugen laut AMD bis zu 1,8-mal mehr Text mit Sprachmodellen als die vorherige Generation. Für die isolierten Umgebungen würden Hochdichte-Modelle etwa 3,3-mal mehr Agenten pro Watt liefern als NVIDIAs Vera und etwa 2,5-mal mehr als der Xeon 6980P.
Der Ansatz erstreckt sich auch auf das komplette Rack. Die EPYC der sechsten Generation gehören zu AMD Helion, einem offenen Design, das das Unternehmen im Oktober vorgestellt hat und das in drei Varianten erhältlich ist. Helion Liquid bietet die höchste Dichte und ist dafür vorgesehen, zusammen mit Helios-Racks in großen Installationen zu arbeiten.
Por su parte, Helion Air se orienta a centros de datos refrigerados por aire y Helion Air Inference combina CPU y GPU para inferencia local en un mismo armario. Algunas configuraciones alcanzan los 73.728 hilos en un solo rack.
Meta, Azure y Oracle, los primeros clientes
En cuanto a los primeros clientes, AMD explica que Meta ya está validando plataformas con estos procesadores antes de desplegarlas a gran escala. Microsoft Azure, por su parte, tiene en vista previa las instancias HDv2, orientadas al procesamiento de datos para IA, los agentes y la computación de alto rendimiento. Además, prepara las HXv2 para diseño electrónico y cálculo técnico, además de las ND MI455X v7 para inferencia a gran escala. Finalmente, Oracle usará los nuevos EPYC en sus instancias Compute E7.
