实时查看GPU显存占用、功耗、进程状态
·
简介
当运行深度学习命令时,我们总想查看GPU占用了多少显存,以便及时调整模型的参数。我之前总是’nvidia-smi’,然后一直↑+enter,一直盯着屏幕看显存占用情况。
后来感觉太麻烦了,还要一直手动点击,真是费劲。现在
我推荐使用以下两种方法查看显存占用情况。
方法 1:使用 nvitop
我推荐使用这个命令,感觉可视化做的挺好的,不仅能看GPU显存,还能查看内存使用。
nvitop 是类似 top 命令的工具,可以实时监测 GPU 的显存使用、进程状态等:
pip install nvitop
然后运行命令:
nvitop
这样你可以实时查看显存占用的变化情况,包括每个进程占用的显存量。

方法 2:使用 nvidia-smi 查看 GPU 显存使用
虽说也是使用nvidia-smi,但是不用一直手动点击,只需一次即可。
nvidia-smi 是 NVIDIA 显卡自带的管理工具,可以查看 GPU 的显存、温度、功耗等信息。在命令行中输入以下命令即可:
watch -n 1 nvidia-smi
watch -n 1:每 1 秒刷新一次显示结果。nvidia-smi:显示 GPU 状态,包括显存使用情况。
这将会以每秒一次的频率刷新 GPU 使用情况,你可以实时观察显存占用情况。
输出结果如下:

方法 2:使用gpustat 查看 GPU 显存使用:
这是一种更简洁的方式,只显示显存占用。
-
gpustat是另一个用于查看 GPU 状态的命令行工具,它类似于nvitop。虽然它也没有曲线图显示,但可以更简洁地展示 GPU 的实时状态。 -
安装:
pip install gpustat -
使用:
watch -n 1 gpustat这个命令会每 1 秒刷新一次 GPU 的状态。

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。
更多推荐



所有评论(0)