Tenstorrent 发布高端 Wormhole AI 处理器,采用 RISC-V 架构
Tenstorrent 推出了其先进的 Wormhole 高性能 AI 芯片,采用 RISC-V 架构,并提供前所未有的扩展性。还推出高端 Wormhole AI 芯片和专用工作站产品
Tenstorrent 的首席执行官兼芯片专家 Jim Keller 经常调侃 NVIDIA 等公司在 AI 领域不够地道,Wormhole AI 芯片看起来非常强大,同时具备良好的扩展性。除了 AI 芯片外,Tenstorrent 还发布了面向新 Wormhole 平台的专用工作站,为潜在买家提供了完整的解决方案。
首先来看 Wormhole AI 芯片,Tenstorrent 将它们作为 PCIe 卡提供,并有两种不同配置:Wormhole n150 和 Wormhole n300。Wormhole n150 配备单个处理器,包含 72 个 Tensix 核心。根据 Tenstorrent 的说法,每个 Tensix 核心都包含“五个 RISC-V baby 核心”,这使得芯片在扩展和多芯片开发方面具有显著优势。
Wormhole n150 处理器的功耗为 160W,提供 262 TFLOPS 的 FP8 性能。有趣的是,Wormhole n150 插卡配备了 12 GB 的 GDDR6 内存,带宽达到 288 GB/s。
Wormhole n300 在 n150 的基础上增加了第二个处理器,因此计算能力翻倍,并配备了 24 GB 的 GDDR6 内存。
虽然从纸面上看,Wormhole 系列 AI 芯片似乎性能不足,但 Tenstorrent 提供了极强的扩展能力,这使它们极具竞争力。而且这种扩展能力是原生支持的。这意味着多颗 Wormhole 处理器可以在需要时作为一个整体工作,提供统一的计算能力,或者也可以分别独立使用。这一切都得益于以太网互连技术,Jim Keller 对此高度赞赏。
除了 Wormhole 芯片,Tenstorrent 还发布了新的工作站产品,包括 TT-QuietBox,配备 AMD 的 EPYC 处理器、液冷和 4 张 Wormhole n300 AI 卡,总共有 8 个处理器。公司还推出了 TT-LoudBox,采用 Intel 的 Xeon 架构和增强规格,但不配备液冷,因此被称为“LoudBox”。
再来看价格,Tenstorrent 的 Wormhole n150 和 n300 的售价分别为 999 美元和 1399 美元,这比市场竞争对手便宜得多。虽然与 NVIDIA 的 H100 AI GPU 等产品在性能上有明显差距,但考虑到这些 AI 芯片的价格几乎是市场上其他产品的十分之一,性价比还是非常高的。对于工作站,TT-LoudBox 售价为 6000 美元,而 TT-QuietBox 售价为 1500 美元。
总体而言,Tenstorrent 的新产品非常扎实,对于那些预算有限但需要低到中等 AI 计算能力的 AI 初创公司或个人来说,是不错的选择。