AI 中文社
英伟达 Dynamo 发布：号称“AI 工厂的操作系统”，Blackwell 买得越多、省得越多
浏览393次
点赞0次
收藏0次
3 月 19 日消息，英伟达今日正式发布 Dynamo，号称是“AI 工厂的操作系统”。
Dynamo 是一个“分布式推理服务库”。本质上，它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。
黄仁勋展示了一张关于推理的图表，X 轴显示用户每秒的 Token 数，Y 轴显示工厂每秒的 Token 数。
在 Dynamo、Grace Blackwell NVLink72 超级芯片的加持下，Blackwell 相比 Hopper 可实现 25 倍的性能提升。
而在推理模型中，Blackwell 的性能是 Hopper 的 40 倍。
注意到，黄仁勋还打趣道，有了上述最新技术加持，搭建 AI 工厂的厂商“买得越多、省得越多”，总而言之就是掏钱吧。
声明：本文转载自IT 之家，转载目的在于传递更多信息，并不代表本社区赞同其观点和对其真实性负责，本文只提供参考并不构成任何建议，若有版权等问题，点击这里。
