10 倍词元容量:Cerebras 推出 WSE-3 Turbo 芯片与 CS-4 系统
浏览27次
点赞0次
收藏0次
8 月 19 日消息,晶圆级 AI 推理加速器制造商 Cerebras 当地时间 18 日宣布推出其新一代芯片 WSE-3 Turbo 和基于该芯片的 CS-4 系统。与上代 CS-3 相比,CS-4 带来了 10 倍的词元容量和 2 倍的速度。

与此前的 WSE-3 类似,WSE-3 Turbo 集成了 90 万个核心和 44GB SRAM 片上缓存,但其 FP16 稀疏 AI 算力、内存带宽、片上互联带宽、I/O 带宽均实现翻倍。而 CS-4 系统则可集成 3 块 WSE-3 Turbo,进一步提升了算力密度。
Cerebras 表示,CS-4 在 OpenAI GPT-OSS 模型上拥有 4465 Token/s 的词元交付速度,是 GPU 方案的 30 倍,同时较 CS-3 提升 93%。对于超高参数模型,CS-4 的 2μs 低延迟晶圆间互连则能在 10T 规模上实现超 1000 Token/s 的词元输出。

CS-4 原生支持推理负载拆分,可作为解码单元与异构的预填充硬件配套使用,发挥双方架构上的差异化优势。
这一算力硬件基于 Cerebras 全新的 Nexus 机架式平台,计算、电源、互连 3 大方面现在是重新设计的独立系统,整体组件数量减少了 50%,制造自动化比例大幅提升。CS-4 几乎完全消除了板级供电功率损耗,为 WSE-3 Turbo 提供了双倍的电力供给。
声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!
AI 中文社