消息称英伟达重启推理预填充优化芯片 Rubin CPX 项目,设计大幅调整

浏览22次 点赞0次 收藏0次

9 月 1 日消息,分析师郭明錤昨日表示,其最新产业调查显示 NVIDIA(英伟达)已重启人工智能推理预填充加速 GPU "Rubin CPX" 项目,不过其设计得到了大幅度的调整,预计 2027Q1 开始生产。

在芯片级别,新 Rubin CPX 拥有接近标准 Rubin GPU 的算力预填充性能进一步提升,单体最高功耗同为 2300W,配备 168GB HBM4 内存(注:旧 Rubin CPX 为 128GB GDDR7,168GB 或指向 7×24GB 设计)。

来到托盘与机架级别,8 颗新 Rubin CPX 构成 1 个计算托盘;8 个计算托盘构成 1 个机架模组,内部以 Spectrum-6 全铜以太网横向扩展 (Scale-out);新 Rubin CPX 采用独立的 MGX ETL 机架,每个机架包含 1~4 组机架模组,机架模组间横向扩展则是 Spectrum-6 + OSFP 光学方案。

而在系统层面,NVIDIA 建议 Rubin CPX 与标准 Rubin 按 1:1 配对,Rubin CPX ETL 机架与 Vera Rubin NVL72 机架间采用基于以太网的 RDMA 连接。

这位分析师评论称,目前的 AI 推理工作量中超过 50% 来自处理输入并建立相应的 KV Cache,新 Rubin CPX 能以更具弹性的部署方式与更低成本承接预填充负载;新 Rubin CPX 计算托盘具备 1.34TB HBM 内存,足以满足大多数长上下文预填充与 KV Cache 建立需求。

声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它往往能得到较好的回响。
评论
游客
游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。
最新资讯