Der Windows-Task-Manager bietet uns eine Visualisierung der Systemressourcen und deren Nutzung. Doch beim VRAM-Verbrauch wird dieser nur allgemein angegeben, ohne genau zu sagen, welche Anwendungen diese wertvolle Speicherressource tatsächlich nutzen. Um mehr Details zur VRAM-Nutzung zu erfahren, hat Scott Hanselman (Vizepräsident von Microsoft) gputaskman vorgestellt, eine Open-Source-Anwendung, die dir alle diese Informationen liefert.
gputaskman gibt Aufschluss darüber, welche Anwendungen den VRAM der GPU verbrauchen
Dieses Tool ist kostenlos und Open Source und ermöglicht die Überwachung der VRAM-Ressourcen unserer GPU mit einer detaillierten Analyse dieses Verbrauchs. In der Auswertung findest du, welche Anwendungen VRAM verwenden und wie viel davon sie verbrauchen sowie die aktuellen Workloads, die den Speicher der GPU nutzen. Du kannst die Prozessliste nach Verbrauch sortieren und zu jedem einzelnen Prozess weitere Informationen erhalten.
Dies ermöglicht auch die lokalen KI-Belastungen zu sehen, indem Modelle erkannt werden, die über die gängigen Werkzeuge wie LM Studio, Ollama oder llama.cpp ausgeführt werden. Die Anwendung zeigt die Namen der Modelle, den zugewiesenen Speicher, den geschätzten Verbrauch usw. Der Entwickler weist selbst darauf hin, dass in diesem Bereich nicht alle Werte direkt gemessen werden und Speicherprobleme eine Schätzung sein können.
Kompatibel mit NVIDIA, AMD, Intel und Apple Silicon unter Windows, Linux und macOS
Mit gputaskman kannst du den Speicherverbrauch, die Taktrate und die Temperatur der GPU sehen, ebenso wie den Energieverbrauch mit Echtzeitinformationen. Es ist auch in der Lage, Laufzeitumgebungen von Software wie dem NVIDIA CUDA, Vulkan oder Direct3D zu erkennen.
Ein weiterer Vorteil ist, dass es für Windows, Linux und macOS verfügbar ist, sogar eine native Version für Windows ARM existiert und es über Python-Paketmanager installiert werden kann. Es ist mit Grafikkarten der führenden Hersteller kompatibel, darunter NVIDIA, AMD, Intel und Apple Silicon. Derzeit befindet es sich in Version 0.4.0, und der Entwickler Hanselman sagt, dass diese Software noch in einer experimentellen Phase sei und sie auf GitHub zu finden ist.
