有报道称，Intel 最近推出了 Gaudi 3 AI 加速器，这是专为 AI 工作负载设计的处理器，尽管在性能上可能不及 Nvidia 的 H100 AI GPU，但它的价格更加亲民。Gaudi 3 包含两个芯片组，共有64个张量处理器核心（TPCs）、八个矩阵乘法引擎（MMEs）、96MB的片上SRAM缓存以及24个200 GbE网络接口，并且每个加速器配备了128GB的HBM2E内存，提供高达3.67 TB/s的带宽。
在原始性能方面，H100在某些基准测试中保持领先，尤其是在利用稀疏性加速AI计算方面。然而，Gaudi 3 通过其5nm工艺，可能在能效上有更好的表现。Gaudi 3 在内存容量方面具有优势，配备了128GB的HBM2e内存，而H100有80GB的HBM3内存。在BF16性能上，Gaudi 3 较上一代提升了4倍，有可能在BF16优化的工作负载中超越H100。此外，Gaudi 3 在网络带宽上也实现了翻倍，达到600 GB/s，虽然略低于H100的800 GB/s，但表明了Intel对通信能力的重视。值得注意的是，Gaudi 3在大模型训练和推理速度以及能效方面相比H100有显著提升，某些情况下，训练速度可快40%，推理速度可快50%，能效最高提升2.3倍。这使得Gaudi 3在处理大规模生成式AI模型时具有竞争力。
图：英特尔推出Gaudi 3 AI加速器（图源：英特尔）
在实际性能方面，Gaudi 3 AI 加速器需要与 AMD 的 Instinct MI300 系列以及 Nvidia 的 H100 和 B100/B200 处理器竞争。目前，Intel 展示了一些幻灯片，声称 Gaudi 3 与 Nvidia 的 H100 相比，可以提供显著的价格性能优势。Intel 还指出，基于八个 Gaudi 3 处理器的加速器套件的价格大约为125,000美元，这意味着每个 Gaudi 3 的成本约为15,625美元，而目前 Nvidia H100 卡的价格为30,678美元。
此外，Gartner 预计全球 AI 芯片的收入在 2024 年将增长 33%，服务器中的 AI 加速器价值将达到210亿美元。这表明 AI 加速器市场正在快速增长，而 Intel Gaudi 3 的推出正是为了抓住这一市场机遇。
总的来说，虽然 Gaudi 3 在性能上可能略逊于 Nvidia 的 H100，但它的低价策略可能会吸引那些对成本敏感但需要高效 AI 计算能力的企业和研究机构。随着 AI 芯片市场的不断扩大和成熟，我们可能会看到更多类似 Gaudi 3 这样的产品，为 AI 计算提供更多选择和竞争。
英特尔执行副总裁兼数据中心和人工智能事业部总经理 Justin Hotard 表示：“对人工智能的需求正在推动数据中心发生巨大转变，市场需求要求在硬件、软件和开发工具方面做出相应的改变。随着我们推出配备 P 核的 Xeon 6 和 Gaudi 3 AI 加速器，英特尔正在建立一个开放的生态系统，使我们的客户能够以更高的性能、效率和安全性实施所有工作负载。”
据悉，英特尔的 Gaudi 3 AI 加速器将通过 IBM Cloud 和英特尔 Tiber 开发者云提供。此外，基于英特尔 Xeon 6 和 Gaudi 3 的系统将于第四季度从戴尔、HPE 和超微全面上市，戴尔和超微的系统将于 10 月出货，超微的设备将于 12 月出货。
