我们都知道，人工智能已经渗透到我们生活的方方面面，从智能手机到自动驾驶汽车。而AI芯片，就是这些智能设备的大脑。它专门为人工智能任务设计，能够高效地处理大量数据，让机器像人一样思考和学习。近日，初创公司Untether推出了一款新型人工智能芯片，名为 speedAI240 Slim AI 推理加速卡。该芯片专门为汽车、农业设备和其他特定场景的AI应用提供支持。与Nvidia和AMD的旗舰AI芯片不同，后者通常在数据中心中与成千上万的其他芯片连接使用，进行大型语言模型的构建和训练，这需要大量的能源和额外设备。位于多伦多的Untether表示，其芯片旨在模型构建完成后高效运行AI应用。
Untether的这款新芯片基于开源的RISC-V技术，这是一项备受关注的技术，因为它更加灵活、开放，有望打破传统芯片巨头的垄断。Untether的芯片号称性能出色，能耗却很低。这意味着，它不仅能加速AI应用，而且能延长设备的续航时间。
更重要的是，Untether这款芯片适用于包括汽车、农业和机器视觉在内的多个市场。Untether AI 的 CEO Chris Walker 强调，AI 的真正潜力不仅仅局限于数据中心，还扩展到我们驾驶的汽车和生产食物的田地。这些环境需要在硬件和软件层面上采取截然不同的方法。
随着 AI 从训练转向推理，边缘加速的重要性和独特需求变得清晰。边缘 AI 应用不能容忍基于云的 AI 服务的高延迟、高资本成本和非确定性——它们需要满足非常不同的尺寸、功耗和运营成本要求。
图：初创公司Untether推出AI芯片（图源：Digital Watch Observatory）
speedAI240 Slim 加速卡以其低轮廓、75瓦特热设计功耗（TDP）的 PCIe 设计，提供了最佳性能和降低功耗的解决方案。在 MLPerf 推理基准测试中，speedAI240 Slim 加速卡被认为实现了世界最低延迟和最高吞吐量。这款芯片的设计特点使其在市场中占据领先地位，为 AI 推理提供了强大的硬件支持。
Untether AI 提供的 imAIgine 软件开发工具包（SDK）提供了一键式流程，简化了将训练好的神经网络模型转换为优化的、推理就绪模型的过程，以便在 speedAI 加速解决方案上运行。这一软件支持大大提升了开发便利性，加速了 AI 应用的部署。
Untether AI 的产品副总裁 Bob Beachler 预计，到 2027 年，专注于推理的 AI 芯片市场将达到 1020 亿美元，远远超过训练领域。此外，梅赛德斯-奔驰计划在其未来的自动驾驶汽车中使用 Untether 的芯片，这表明 Untether 的芯片在汽车领域已经获得了一定的认可。
Untether AI 推出的 speedAI240 Slim AI 推理加速卡不仅是一次技术突破，更是对 AI 硬件市场的一次重新定义。随着 AI 技术的不断进步和应用领域的不断拓展，我们可以预见，这款芯片将在自动驾驶、农业技术等领域发挥重要作用，引领边缘计算的新纪元。
随着 Untether AI 的加入，全球 AI 芯片市场的竞争将更加激烈，同时也为 AI 技术的未来发展带来了无限可能。
