Tensordyne Napier 流片:宣称平台 AI 推理吞吐 13 倍于 Blackwell 系统

浏览14次 点赞0次 收藏0次

6 月 16 日消息,北美-欧洲 AI 芯片初创企业 Tensordyne 当地时间 15 日宣布推出 AI 推理系统 Tensordyne Napier (TDN),宣称其可实现 NVIDIA Blackwell 系统 17 倍的按 Token(词元)计能效和 13 倍的吞吐量

TDN 平台由 Tensordyne 与博通、HPE 瞻博网络合作开发。其核心 Napier 处理器已成功流片,正以台积电 3nm 制程工艺生产。

了解到,Napier 芯片采用对数数学设计,这意味着可用更简单的加法运算替代 AI 推理中的大规模乘法操作;此外其芯片集成大量 SRAM 缓存和 HBM 内存,处理器间通信延迟<1μs。

基于 Napier,Tensordyne 构建了集成 72 颗算力芯片 TDN 的 TDN72“推理舱”,而一个机架 / 机柜可容纳四个“推理舱”,从而集成 288 颗芯片。机架级 TDN 系统可以 1000 Token/s/user 的速率进行 T 级 LLM 推理,每年额外创造多达 3300 万美元的收入。

声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它往往能得到较好的回响。
评论
游客
游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。
最新资讯