据了解满血deepseek需要600个才玩得起
ollama 运行 deepseek-r1:671b 至少需要 433.6G
内存
# ollama run deepseek-r1:671b
Error: model requires more system memory (433.6 GiB) than is available (14.1 GiB)
阿里云上内存大于400G的 GPU 实例只有一款可选(A10加速):
GPU 计算型 gn7i,ecs.gn7i-c32g1.32xlarge,128vCPU 752GiB
官网包月原价:¥25571.90/月
抢占式实例当前价格:¥18.65/时
以上是华东1(杭州)J 可用区,华东1(杭州)K 可用区有 512G 内存的 GPU 实例,比如:
GPU 计算型 gn7i,ecs.gn7i-8x.32xlarge,128vCPU 512GiB
但价格更贵了,因为有8块A10卡
这种你直接打客服电话就可以了。让他给你选机器。
阿里云PAI帮助文档中建议的最低配置是:8卡GU120(8 * 96GB显存)https://help.aliyun.com/zh/pai/user-guide/one-click-deploy-deepseek
– dudu 1周前GPU System Requirements for Running DeepSeek-R1
– dudu 1周前