Tenstorrent的首席执行官JimKeller透露了更新的RISC-V产品路线图，以及他计划如何使用CPU而不是GPU来应对NVIDIA的AI主导地位。

Tenstorrent将通过将RISC-V和Chiplet技术用于AICPU来挑战NVIDIA的AI主导地位

最近在日本东京举行的“RISC-VDaysTokyo2023Summer”会议上，著名传奇人物JimKeller透露了他利用RISC-V架构和小芯片设计推动人工智能行业向前发展的计划。Jim指出，虽然NVIDIA和AMD一直专注于GPU来推动AI进步，但他相信专门为运行AI工作负载而设计的CPU可以实现更高的效率，并且比传统GPU做得更好。

“NVIDIA的GPU响应了AI趋势大大增加的时机。但是，GPU并没有针对AI处理进行优化。我们已经证明我们的AI加速器在效率上超过了。另外，GPU处理AI的问题之一是访问CPU和内存成为瓶颈。将RISC-V集成为CPU的Blackhole迁移的产生消除了这些瓶颈。结果，可以实现更省电和低成本的AI计算机。

AMDRTG背后的首席架构师和英特尔执行副总裁兼GPU部门负责人RajaKoduri也离开加入了Tenstorrent的董事会。

JimKeller的Tenstorrent希望使用基于RISC-V的AICPU与NVIDIA的AIGPU竞争2

这背后的理由是GPU价格和功耗一直在上涨，这对AI行业本身来说是不可持续的。CPU可以集成GPU使用的一些技术，RISC-V还可以绕过通常与使用Intel、AMD和ARM芯片相关的昂贵许可证。另据透露，虽然CUDA在AI和HPC领域仍然占据主导地位，但BUDA编译器也可以用来运行一些在AI领域广泛使用的高级语言，如PyTorch和Java，而低级编程语言也以BUDAM(M代表metal)的形式出现在作品中，它本质上将替代CUDA。

“很多AI的开发者都是从PyTorch、Java等高级语言编程的。我们相信我们现在的编译器“Buda”可以用来运行，而且demo已经可以运行了。另一方面，数据科学家需要像CUDA这样的低级编程。我们希望通过为开发人员提供BudaM(M表示金属)来回应。”

JimKeller的Tenstorrent希望使用基于RISC-V的AICPU与NVIDIA的AIGPU竞争3

Tenstorrent在展示其硬件路线图时透露，他们目前计划以异构和小芯片设计的形式提供RISC-V和AI芯片。该公司已经推出了GraySkull和Wormhole，它们具有12纳米工艺节点和高达328TFLOPs(FP8)的计算能力以及200GB/s的横向扩展以太网。该公司将推出其BlackHole“StandaloneMLComputer”芯片，该芯片将使用6nm工艺节点并采用SiFiveRISC-VX-280架构进行异构计算。该芯片预计将于2023年推出。

接下来，该公司计划通过其Quasar低功耗和低成本ML设计转向小芯片设计。该芯片将采用全芯片架构，并可根据客户需求进行扩展。Blackhole将在AI加速器中集成基于RSIC-V的CPU，而Tenstorrent计划在今年年底前发布其第一代基于RISC-V的CPU。

但大炮将在2024年以“Grendel”的形式推出，这是一种高度可配置和高性能的ML小芯片设计，它将CPU小芯片与专用的ML/AI小芯片相结合，其方式类似于NVIDIA的GH200和Grace/料斗超级芯片实施。CPU端显示有16个内核，而AI小芯片每个包含40个内核，总共80个内核。AI小芯片块具有四个内存小芯片，CPU端也是如此，整个芯片连接到负责PCIe和其他功能的IO小芯片。

Tenstorrent还推出了其RISC-VOoO处理器系列，其中包括各种IP。该公司还在开发其第二代基于RISC-V的CPU，并将在即将推出的芯片中部署向量运算单元等新功能。

Tenstorrent进一步宣布了与LG的全新合作，后者将使用RISC-V的AI技术来满足其未来产品线中的AI需求。除此之外，欧盟和日本市场已经在开发一系列采用RISC-V架构的系统，而且它在日本汽车市场的采用率也在不断提高。除此之外，Jim还展示了相同的投影幻灯片，展示了之前的AMDZen5和NVIDIAGrace性能，您可以在此处阅读更多信息。