马斯克:xAI 训练 Grok-3 大模型用了 10 万块英伟达 H100 芯片

2024-07-03 发布 · 浏览33次 · 点赞0次 · 收藏0次

7 月 2 日消息,马斯克已经宣布其人工智能初创公司 xAI 的大语言模型 Grok-2 将于 8 月推出,将带来更先进的 AI 功能。虽然 Grok-2 还没亮相,但马斯克已经开始为其 Grok-3 进行造势。

马斯克表示,训练 AI 聊天机器人需要数据集,而且从现有数据中清除大型语言模型 (LMM) 的工作量很大。他还谈到了 OpenAI 模型输出训练的几个问题。

他透露 xAI 的 Grok-3 用了 10 万块英伟达 H100 芯片进行训练,预计将于年底发布,相信它会“非常特别”。

H100 是英伟达开发的专门用于处理大语言模型(LLMs)数据的 AI 芯片。每块英伟达 H100 人工智能芯片的价格估计在 3-4 万美元(当前约 21.9 - 29.2 万元人民币)左右,批量购买的话可能会有折扣。

我们简单计算可知,xAI 这里的 10 万块英伟达 H100 价值 30-40 亿美元(备注:当前约 218.68 - 291.57 亿元人民币)。马斯克之前曾提到特斯拉今年从英伟达的采购额估计将在 30-40 亿美元之间,合理推测 xAI 这里用的是特斯拉购买的英伟达芯片进行训练。

相关阅读:

马斯克:xAI 训练 Grok-3 大模型用了 10 万块英伟达 H100 芯片 - AI 资讯 - 资讯 - AI 中文社区

声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里。本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它能得到比较好的回应。
评论

游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。