Marvell Technology公司近日宣布，在其定制XPU架构中融入了光电协同封装（CPO）技术，进一步提升了公司在半导体定制技术领域的领导地位。此前，Marvell已发布了高带宽内存计算架构，现如今，公司通过引入CPO技术，进一步推动了AI服务器的性能提升。该技术能够让客户将XPU与CPO无缝集成，实现AI服务器的规模扩展，从目前单个机架内通过铜互连连接几十个XPU，到通过CPO实现多机架、数百个XPU的高效连接，从而显著提高AI服务器的性能。
Marvell的创新架构使得云计算超大规模数据中心的运营商可以开发定制的XPU，突破带宽密度限制，提供单个AI服务器内XPU间更长的连接距离，同时优化延迟和功耗。该技术现已可供Marvell客户应用于下一代定制XPU设计。
光电协同封装：打破传统电气连接束缚
Marvell的定制AI加速器架构将XPU计算硅芯片、HBM和其他芯片组件与Marvell的3D硅光引擎（SiPho Engine）整合在同一基板上，通过高速SerDes、芯片间接口以及先进封装技术，彻底消除了电信号需要通过铜线或印刷电路板（PCB）传输的需求。通过集成光学技术，XPU之间的连接可实现更高的数据传输速度，同时传输距离比传统铜缆长100倍。这种技术使得AI服务器内部的扩展连接更加高效，跨机架的XPU互联能够在优化的延迟和功耗下，保证数据传输的高效性。
CPO技术通过将光学组件直接集成到封装中，最大限度地缩短了电气路径的长度。这种紧密耦合的设计大大降低了信号损失，增强了高速信号的完整性，并显著减少了延迟。与传统的铜连接相比，CPO利用高带宽硅光学引擎，能够提供更高的数据传输率，并且在面对电磁干扰时，光学连接表现出更强的抗干扰能力。此外，CPO集成还显著提高了功效，减少了对高功率电气驱动器、信号放大器和重定时器的需求。通过实现更长的传输距离和更高密度的XPU互联，CPO技术为下一代加速基础设施的开发提供了支持，使AI服务器的计算性能和功耗得以优化。
图：Marvell推出自定义XPU架构并实现光电协同封装技术突破
行业首创3D硅光引擎助力CPO技术
Marvell在2024年OFC展会上首次展示了行业领先的3D硅光引擎，该引擎支持200Gbps的电气和光学接口，成为将CPO技术集成到XPU中的关键基础模块。这款6.4T 3D硅光引擎集成了32个200G电气和光学接口，集合了数百个模块、光电探测器、调制解调器驱动器、跨阻放大器、微控制器及其他被动组件，能够提供比100G接口设备高出两倍的带宽，并且每比特的功耗低30%。多家客户正在评估这一技术，并计划将其集成到他们的下一代解决方案中。
Marvell的光电技术积累
Marvell已经在硅光学技术领域积累了超过八年的经验，成功为数据中心提供高性能、低功耗的COLORZ光模块。该技术已通过高产量验证，并被多家领先的超大规模云计算公司应用，满足其日益增长的数据中心间带宽需求。Marvell的硅光学设备在实际应用中累计运行超过100亿小时。
突破性光电技术推动加速基础设施的演进
Marvell一直致力于推动互连技术的变革，提升加速基础设施的性能、可扩展性和经济性。Marvell的互连产品组合涵盖了高性能SerDes、芯片间技术IP、高效的PCIe重定时器、突破性的CXL设备、短距离连接的活跃电缆和光电缆数字信号处理器（DSP）等一系列技术解决方案，助力从机架内连接到跨数据中心几千公里的互联。
未来展望：CPO技术的广阔前景
Marvell高层表示：“集成CPO技术的定制AI加速器架构使得云计算超大规模数据中心的运营商能够开发出更高密度、更高性能的AI服务器。”Marvell网络交换业务部高级副总裁Nick Kucharewski也表示：“AI服务器的规模扩展需要更高的信号速度和更长的连接距离，集成CPO技术是提升性能、实现更大带宽和更长传输距离的下一步。”
行业专家预计，随着CPO技术的普及，市场将从如今的不到5万端口快速增长至2029年超过1800万个端口，其中大部分将用于服务器内的XPU连接。Marvell凭借在光学技术和定制XPU领域的深厚经验，势必成为这一技术进步的关键推动者，为超大规模云计算公司释放CPO的潜力，并将其整合进基础设施中，满足AI应用日益增长的性能需求。
