ASUS präsentiert UGen Intel Arc Pro B70 – 32-GB-GDDR6-ECC-GPU für lokale KI-Inferenz

Oscar

ASUS hat seine neue GPU offiziell vorgestellt, die ASUS UGen Intel Arc Pro B70. Es handelt sich um ein Modell, das sich an Workstations und professionelle Umgebungen richtet, die KI-Workloads ausführen müssen, ohne auf Cloud-Server angewiesen zu sein. Die Karte basiert auf der Architektur Intel Xe2-HPG und verfügt über 32 GB GDDR6-Speicher mit ECC, eine Kapazität, die dafür vorgesehen ist, lange Kontextfenster und mehrere Anfragen gleichzeitig zu bewältigen und dabei die Stabilität im Speicher zu wahren.

Um die Montage in kompakten Systemen oder Hochdichte-Servern zu erleichtern, hat der Hersteller ein Zwei-Slot-Format mit Turbinenkühlung gewählt. Diese Lösung führt die Wärme direkt aus dem Gehäuse ab und ermöglicht es, mehrere Einheiten dicht nebeneinander zu installieren, ohne dass der Luftstrom blockiert wird.

Technische Daten der ASUS UGen Intel Arc Pro B70

  ASUS UGen Intel Arc Pro B70
Architektur Intel Xe2-HPG
Kerne und KI-Motoren 32 Xe-Kerne (256 XMX-Motoren)
KI-Leistung 367 TOPS (INT8)
VRAM-Speicher 32 GB GDDR6 mit ECC
Bus und Bandbreite 256 Bit bei 608 GB/s
Maximale Frequenz 2.800 MHz
Schnittstelle PCIe 5.0 x16
Energieverbrauch 310 W (typische Leistungsaufnahme der Karte)
Formfaktor 2 Slots mit Turbinenkühler

Bis zu 128 GB VRAM lokal, um die Cloud zu vergessen

Eine der Schlüsselkomponenten des Designs ist die Erweiterbarkeit. Eine einzelne Karte mit 32 GB Speicher ermöglicht es, Modelle mit Parametern unter 27 Milliarden zu betreiben, wie Llama 3.1 8B oder gpt-oss-20b. Allerdings ist die Karte darauf ausgerichtet, in Systemen bis zu vier Beschleunigern zusammenzuschalten. In der Praxis bedeutet dies, dass man 128 GB VRAM in einem einzigen Gehäuse zur Verfügung hat, was die lokale Ausführung deutlich größerer Architekturen ermöglicht, bis zu 120 Milliarden Parameter in quantisierten Formaten.

Außerdem hat uns die Kompatibilität der Software beeindruckt. Die GPU baut auf einem offenen Ökosystem auf, das mit Frameworks wie vLLM (XPU), llama.cpp (SYCL/Vulkan), Ollama, PyTorch (IPEX), OpenVINO und oneAPI kompatibel ist. Bezüglich der Leistung zeigen MLPerf Client v1.0-Messungen eine Zeit bis zum ersten Token von 0,08 Sekunden und eine nachhaltige Generierungsrate von 123 Tokens pro Sekunde mit einer einzigen Karte, während Inferenzserver mit vier Einheiten 540 Tokens pro Sekunde erreichen.

Geeknetic ASUS presenta la UGen Intel Arc Pro B70, una GPU de 32 GB GDDR6 con ECC pensada para inferencia de IA local 2

Außerdem erleichtert die Unterstützung von Umgebungen wie ASUS Zenni Claw oder Intel SuperClaw die Verwaltung lokaler Agenten und laut Hersteller hilft sie, den Verkehr zu externen APIs um bis zu 70 % zu reduzieren. Das bedeutet natürlich eine erhebliche Einsparung für Unternehmen.

Konzipiert, um auch sehr lange Sessions ohne Unterbrechung durchzuhalten

Geeknetic ASUS presenta la UGen Intel Arc Pro B70, una GPU de 32 GB GDDR6 con ECC pensada para inferencia de IA local 3

Um Zuverlässigkeit in 24/7-Workstations zu gewährleisten, integriert die Karte spezielle Bauteile, die einen kontinuierlichen Einsatz unterstützen. Der Lüfter verfügt über Doppelkugellager, um seine Lebensdauer gegenüber herkömmlichen Lagern zu verlängern. Zudem verwendet die Kühlfläche des Hauptchips eine Phasenwechsel-Thermopaste, die dazu dient, mikroskopische Unebenheiten auszugleichen. Hinzu kommt eine Edelstahl-Rahmenkonstruktion aus 304 und eine Klebeverstärkung an den Ecken des GPU-Gehäuses.

Schließlich wurde der Stromanschluss an das hintere Ende verlegt, um die Verkabelung zu erleichtern, wenn mehrere Karten parallel installiert werden. Das Produkt kommt mit einer begrenzten Garantie von drei Jahren auf dem Markt, begleitet von weltweitem Support und technischer Unterstützung.