推理服务器

单机即可部署运行 DeepSeek R1 671B 模型，浪潮信息推出元脑 R1 推理服务器

2 月 12 日消息，浪潮信息今日宣布推出元脑 R1 推理服务器，通过系统创新和软硬协同优化，单机即可部署运行 DeepSeek R1 671B 模型。注：DeepSeek 开源了多版本模型，其中，DeepSeek R1 671B 模型作为全参数基础大模型，相比蒸馏模型具有更强的泛化能力、更高的准确性和更好的上下文理解能力，但也对系统显存容量、显存带宽、互连带宽和延迟提出了更高要求：在 FP8…
资讯
- 7.7k
1 个月前

搜索