英特尔27日,在2024年度光学通讯大会上,由整合光学解决方案事业部展示业界最先进的首款全面整合光学运算互连(OCI)小芯片,与CPU共同封装并处理实时资料。
英特尔通过在数据中心和高效能运算(HPC)应用的新兴AI基础设施,实现共同封装的光学输入/输出(I/O),展现公司的OCI小芯片在高带宽互连技术领域取得重大进展。
英特尔目前的OCI小芯片只是原型产品,正与特定客户合作,将OCI与其SoC共同封装为光学I/O解决方案。
英特尔整合光学解决方案事业部产品管理策略资深总监Thomas Liljeberg表示,数据在服务器之间日益频繁的传输对数据中心的基础架构带来庞大压力,而目前市面上的解决方案正快速逼近电气I/O效能的实际极限。
英特尔此次突破性的研发成果,让客户可将共同封装硅光子互连解决方案无缝整合到次世代运算系统中。 英特尔的OCI小芯片可提高带宽、降低功耗并增加传输距离,进而加速机器学习工作负载,为高效能AI基础设施带来革命性的发展。
英特尔首款OCI小芯片可在长达100米的光纤上支持64个通道的32 Gbps数据传输,满足AI基础设施对高带宽、低功耗和长距离传输的需求。 此技术有助实现未来CPU/GPU集链接的可扩展性和新式运算架构,包括一致的内存扩充和资源解构。
全球市场正加速部署AI应用,大型语言模型(LLM)和生成式AI的最新发展也加速此趋势,更大型且更高效率的机器学习(ML)模型成为满足AI工作负载运算需求的关键角色。 随着业界对扩充未来AI运算平台的需求不断提升,带动了I/O带宽的指数型增长和传输距离的增加,以支持包括CPU、GPU与IPU在内的更大型运算处理器丛集,并在架构上更有效利用资源,例如xPU解构和内存池。
电气I/O(如铜线连接) 支持高带宽密度和低功耗,但只能提供约1米内的短距离传输。 资料中心和早期 AI 丛集所使用的可插拔式光学收发器模块在增加传输距离的同时也提高成本和功耗水平,而这无法满足扩张的 AI 工作负载需求。 此共同封装xPU光学I/O解决方案可支持更高带宽,同时提升能源效率、降低延迟并增加传输距离,这正是扩充AI和ML基础设施的必要条件。
以光学I/O替换CPU与GPU中的电气I/O传输数据,如同以汽车、卡车替代马车分送货物,可增加运送距离与货物量,不受运送范围和容量的限制。 而英特尔OCI小芯片的光学I/O解决方案,可在AI扩充中实现性能提升和降低能源成本。
全面整合的OCI小芯片运用英特尔经实地验证的硅光子技术,并将包含芯片上激光与光学放大器的硅光子集成电路(PIC)与电气芯片整合。 英特尔在2024年光学通讯大会上展示的OCI小芯片是与英特尔CPU共同封装,也可以与新一代CPU、GPU、IPU和其他系统单芯片(SOCs)整合。
该OCI技术成果支持高达4 Tbps双向数据传输,并与PCIe 5.0兼容。 实时光学连接展示了两个CPU平台之间可透过单模光纤(SMF)跳线链接发送器(Tx)和接收器(Rx)。 CPU 会生成并测量光学位错误率(BER),展示中显示,单根光纤在Tx光谱上呈现8个波长,波长间距为200 GHz,并显示讯号质量强劲的32 Gbps Tx眼图 (Eye Diagram)。
目前的小芯片可利用8对光纤,每对光纤可乘载8个高密度波长分波多工(dense wavelength division multiplexing,DWDM)波长,并可支持64个通道、32 Gbps的数据传输,传输距离最远可达100米(实际应用传输距离可能因飞时测距延迟而受限于数十米)。
此共同封装解决方案也具备高能源效率,每位功耗仅5皮焦耳(pJ),相较之下,可插拔式光学收发器模组的功耗约为15 pJ/bit。 这种高效表现有助于解决数据中心和高性能计算环境中 AI 难以可持续的电力需求。
英特尔身为硅光子技术的市场领导者,积极运用英特尔实验室超过 25 年的内部研究成果,力求突破,而英特尔实验室也是整合式光子研究先驱。 英特尔是首家开发并向主要云端服务供应商大量出货硅光子连结产品之公司,产品可靠性领先业界。
英特尔使用混合芯片上激光和直接整合技术,不仅提升可靠度,也同时降低成本,兼具效率及卓越性能。 英特尔的平台已出货超过800万个PIC,其中含有超过3200万个整合的芯片上激光,失效率(FIT)低于0.1.此为广泛使用的可靠性测量方法,可测试失效率和发生故障的次数。
这些 PIC 被封装在可插拔式收发器模块中,主要布署在超大规模云服务供应商的大型数据中心网络,支持 100、200 和 400 Gbps 的应用。 而下一代每通道 200G 的 PIC,可支持 800 Gbps、1.6 Tbps 新兴应用的产品正在开发中。 英特尔同时在推动具备先进装置性能、更高密度、更佳连结,并可显著提升经济效益的硅光子新制程节点,持续于芯片上激光与先进性能取得进展,显著降低成本使芯片面积减少超过40%、功耗降低超过15%。
英特尔的OCI小芯片代表高速数据传输的一大进展,随着AI基础设施领域持续演进,英特尔始终处于领先地位,推动创新,打造连结技术的新未来。