首页 新闻 会员 周边 捐助

如何通过 ollama 确认所运行的模型是否使用了 GPU

0
悬赏园豆:30 [已解决问题] 浏览: 90次 解决于 2025-02-15 23:02

在服务器上通过 kubernetes 部署了 ollama+deepseek r1:7b,想确认一下所运行的 deepseek r1:7b 模型是否使用了服务器的 GPU?

dudu的主页 dudu | 高人七级 | 园豆:27830
提问于:2025-02-15 10:49
< > 人人可用的开源BI工具
分享
最佳答案
0

通过 ollama ps 命令就可以看出来

NAME              ID              SIZE      PROCESSOR    UNTIL              
deepseek-r1:7b    0a8c26691023    5.5 GB    100% CPU     3 minutes from now 

上面的控制台输出中 100% CPU 说明用的是 CPU

如果使用了 GPU,会是下面的输出

NAME              ID              SIZE      PROCESSOR          UNTIL              
deepseek-r1:7b    0a8c26691023    6.0 GB    38%/62% CPU/GPU    2 minutes from now
dudu | 高人七级 |园豆:27830 | 2025-02-15 13:19
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册
Top