DeepSeek R1推理测试:英伟达Vera Rubin吞吐量提升10倍

业界
2026
07/22
13:50
IT之家
分享
评论

7 月 22 日消息,英伟达(NVIDIA)昨日(7 月 21 日)发布博文,宣布其 Vera Rubin 正迈步万亿级规模部署。

英伟达在博文中指出,公司正加速量产 Vera Rubin NVL72,并已在 CoreWeave、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等合作伙伴内部运行。

英伟达表示为了满足全球客户的计算需求,Vera Rubin 在 30 个国家拥有 350 多个工厂,建立了有史以来规模最大、最成熟的机架级供应链。

CoreWeave 公司昨日(7 月 21 日)发布博文,表示该公司于 6 月初完成了业界首个 NVIDIA Vera Rubin NVL72 的上电和验证工作,搭建了端到端的机架级系统,包括电源、冷却、网络和计算均已验证并运行。

IT之家翻译博文相关内容如下:

DeepSeek R1 是驱动当前智能体 AI(Agentic AI)激增的推理模型之一,因此在部署 Vera Rubin NVL72 和 NVIDIA Blackwell NVL72 后,我们基于该模型做了相关测试。

在本次测试评估中,我们着重评估每兆瓦吞吐量(token throughput per megawatt)以及交互性(TPS / user,表明用户或智能体在模型处理任务时所体验到的响应速度)之间的关系。

在匹配的交互性目标下,在相同 DeepSeek R1 工作负载下,相比较 NVIDIA GB200 NVL72,Vera Rubin NVL72 每兆瓦 Tokens 吞吐量提升 10 倍。

【来源:IT之家】

THE END
广告、内容合作请点击这里 寻求合作
英伟达
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

7 月 21 日消息,Wolfe Research 最新报告披露称,英伟达正在美国推进大规模长途光纤网络资源布局,收购了大量“暗光纤”(Dark Fiber)容量,用于支持未来 AI 基础设施建设。
业界
7月21日消息,英伟达推出合成视频检测器(Synthetic Video Detector)NIM微服务,专门用来识别AI生成的假视频,1080p画面处理仅需22毫秒,准确率达到92%。
业界
7月20日消息,英伟达近日发布了RTX Spark的首个驱动程序616.00开发者预览版,原生支持Windows 11 Arm64架构。
业界
7月16日消息,美国国际贸易委员会于当地时间7月15日正式对特定动态随机存取存储器(DRAM)设备及其下游产品和组件启动337调查。
业界
北京时间7月16日,据《商业内幕》报道,就连英伟达也无法完全避免AI芯片短缺的影响。
业界

相关推荐

1
3