Вице-президент Microsoft Скотт Хансельман представил бесплатную программу GPU Taskman с открытым исходным кодом. Она показывает, какие приложения и процессы используют графический процессор, сколько видеопамяти они занимают и какие задачи выполняют. Утилита также умеет анализировать нагрузку от локальных моделей искусственного интеллекта.
Программа работает в терминале и предоставляет более подробную информацию о загрузке видеокарты, чем стандартный список процессов. Пользователь может увидеть потребление видеопамяти отдельными приложениями, загрузку графических вычислительных блоков, температуру, энергопотребление и другие показатели. Данные обновляются в реальном времени, а встроенные графики позволяют отслеживать изменения нагрузки.
Отдельное внимание разработчик уделил ИИ-приложениям. GPU Taskman умеет распознавать некоторые среды выполнения нейросетей и определять, какие модели используются. При работе с поддерживаемыми большими языковыми моделями программа показывает распределение памяти между весами модели, KV-кэшем и другими вычислительными буферами. Это помогает понять, почему запуск нейросети занимает определенный объем видеопамяти.
Например, если одновременно работают игра, браузер и локальная языковая модель, утилита позволяет увидеть вклад каждого процесса. Можно также сравнить два снимка состояния системы, чтобы определить, какие задачи увеличили расход памяти после загрузки модели или изменения ее настроек.
GPU Taskman поддерживает Windows, Linux и WSL, а также компьютеры Mac на процессорах Apple Silicon. На Windows программа работает с видеокартами NVIDIA и AMD. Для установки доступны портативные сборки, а также варианты через Python-пакетный менеджер.
Проект распространяется по лицензии MIT и открыт для изменений со стороны сообщества. При этом разработчик предупреждает, что программа пока экспериментальная. Потребление ресурсов и загрузка GPU измеряются системными средствами, но определение конкретных моделей и распределение некоторых видов памяти могут основываться на оценках. Утилита не считывает содержимое видеопамяти напрямую и не показывает отдельные текстуры, тензоры или графические команды.
GPU Taskman может пригодиться тем, кто запускает локальные нейросети, работает с графикой или хочет разобраться, какие программы занимают видеопамять даже тогда, когда компьютер кажется незагруженным.
Читайте также: Claude случайно удалил год лекций и учебную программу профессора права