英特尔第 3 代酷睿 Ultra 处理器适配群联 aiDAPTIV:16GB 内存能跑 26B 模型
浏览17次
点赞0次
收藏0次
6 月 2 日消息,群联电子 (Phison) 今日宣布与英特尔合作,增强 AI PC 的本地 AI 应用执行能力。
群联 Pascari aiDAPTIV 内存延伸技术现已适配第 3 代酷睿 Ultra 处理器 (Panther Lake / PTL) 并支持 OpenVINO 工具套件,这使得最新一代 AI PC 能支持更大的 MoE AI 模型、更长时间的 AI 会话、代理式 AI 工作流。

通过 Cache Memory,aiDAPTIV 可将 AI 工作内存从系统 DRAM 拓展至高性能高耐久 NAND,建立新的 AI 内存架构,降低本地 AI 工作负载对 DRAM 的需求并支持 KV Cache 复用等运行时功能。
根据群联内部测试,在相同测试环境下,搭载 aiDAPTIV 的系统仅需 16GB DRAM 即可执行 26B 参数规模的 AI 模型,而对于未配备 aiDAPTIV 的系统则需要 32GB 的 DRAM 才能完成相同工作负载。
声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!
AI 中文社