AI 芯片竞合并存:NVIDIA 牵手 d-Matrix 打造混合算力基础设施

浏览13次 点赞0次 收藏0次

7 月 8 日消息,据美媒 The Information 当地时间 7 日报道,AI 芯片巨头 NVIDIA(英伟达)正与 ASIC 初创企业 d-Matrix 合作,打造一个结合双方硬件的混合型混合算力基础设施,支持 AI 模型的运行。

注意到,d-Matrix 在一份美国当地时间今日发布的新闻稿中表示,Neocloud 企业 Parasail 通过将 NVIDIA 的 Hopper / Blackwell GPU 与 d-Matrix 的 Corsair ASIC 相结合,实现了 10 倍的 Token(词元)生成速率

d-Matrix 的 Corsair 采用 D-IMC(数字存内计算)架构,这颗台积电 N6 制程 SoC 将计算单元和足量 SRAM 集成在同一芯片上,降低数据传输带来的开销,并通过片外 LPDDR5 进一步扩展内存容量。

Parasail 将 NVIDIA GPU 用于 AI 推理工作负载前端的计算密集型预填充任务;与此同时,拥有大容量 SRAM 的 d-Matrix Corsair 非常适合推理后端的延迟敏感型解码任务

d-Matrix 创始人兼首席执行官 Sid Sheth 表示:

Parasail 正在印证我们从一开始就坚信的观点:推理的未来是异构的。GPU 和专用推理加速器并非竞争对手,而是相辅相成。通过将 Corsair 与其 NVIDIA 产品线结合使用,Parasail 正在采用一种异构推理方法,旨在优化工作负载的每个阶段。

声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它往往能得到较好的回响。
评论
游客
游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。
最新资讯