2024年的芯片界迎来了一颗耀眼的新星——FuriosaAI 的 AI 加速器 RNGD（“Renegade”），在 Hot Chips 上的亮相，预示着数据中心 AI 硬件格局的一场颠覆性变革。这家由前 AMD、高通和三星工程师创立于 2017 年的公司，以其快速创新和产品交付的战略，成功将 RNGD 推向市场前台。
突破性的 RNGD 加速器
FuriosaAI 与台积电的紧密合作，使得 RNGD 在收到首批硅片样品后迅速启动，这一创举再次印证了 FuriosaAI 在技术开发上的敏捷与高效。回想 2021 年，FuriosaAI 推出第一代芯片后短短 3 周，便提交了 MLPerf 基准测试的惊人成绩，并在随后的提交中通过编译器增强功能实现了高达 113% 的性能飞跃。
性能卓越，效率出众
RNGD 的早期测试结果令人瞩目，它在处理 GPT-J 和 Llama 3.1 等大型语言模型时展现出色表现。对于拥有约 100 亿参数的模型，单张 RNGD PCIe 卡能够提供每秒 2,000 至 3,000 个令牌的吞吐量，这一性能在同类产品中独树一帜。
创新引领，持续进步
FuriosaAI 的联合创始人兼首席执行官 June Paik 对 RNGD 的推出感到无比自豪：“RNGD 的诞生是多年创新的结晶，它不仅实现了一次性硅片成功，还拥有异常快速的启动过程。” Paik 强调，“RNGD 提供了一种可持续且可访问的 AI 计算解决方案，满足行业对推理的实际需求。”
图：FuriosaAI 推出AI 推理芯片
性能与效率的双重优势
RNGD 的创新之处在于其基于非矩阵乘法的张量收缩处理器 (TCP) 架构，这一架构在效率、可编程性和性能之间实现了完美平衡。通过一个强大的编译器，RNGD 将整个模型视为单融合操作，进一步优化性能。同时，RNGD 的 TDP 仅为 150W，相较于功耗高达 1000W 以上的领先 GPU，其能效比无疑更具吸引力。
行业反响热烈
Supermicro 技术和人工智能高级副总裁 Vik Malyala 对 Furiosa RNGD AI 推理解决方案赞不绝口，认为其推动了 Supermicro 绿色计算的采用。通过集成 Furiosa 的技术，Supermicro 系统在降低每张卡的功耗的同时，仍能提供卓越的推理性能。
GUC 首席营销官 Aditya Raina 同样对 FuriosaAI 的合作表示高度认可，认为 RNGD 的成功源于对现代 AI 软件和硬件的深入理解，以及 FuriosaAI 从设计到交付的出色表现。
展望未来
目前，RNGD 正在向早期试用客户供应样品，并预计将于 2025 年初正式广泛上市。FuriosaAI 在 Hot Chips 上的演讲和现场演示，我们有理由相信，RNGD 将开启 AI 加速器领域的新篇章，为数据中心带来前所未有的性能和效率。
