打通异构算力之间的高速网络通道是构建多元智算体系的关键

通信世界网消息（CWW）大模型时代对算力的需求永无止境，大规模智算中心建设如火如荼。人工智能技术在各领域应用的快速发展，以及Sora、Gemini 1.5 Pro的面世，将进一步提高算力基础设施的建设要求，激活算力技术的不断创新和迭代升级。如今，算力市场已形成庞大的生态系统，涵盖CPU、GPU、DPU、FPGA等专用芯片，各种形态的交换机、光模块/线缆等连接介质，以及各服务提供商交付的算力运营、算力调度、算法交易平台等。对企业而言，如何博各家之所长，构建出多元融合的智算体系，是赢得未来竞争、享受智算红利的关键所在。

异构算力网络成为“必选项”

随着智算热度持续提升，以AI为核心的算力需求激增。为实现计算效力最大化，多元异构算力将成为必然趋势。异构算力体系可以充分发挥各种计算设备的优势，为客户提高智算效率、降低采购成本、提升系统安全性。但在实际应用中，大多数客户对于智算场景都是初次接触，并不像传统ICT基础设施建设那样可以轻车熟路地进行规划、采购、部署。因此，解决异构组件间的互联问题，是打通整体方案的重要前提，那么网络是否做好了承担重任的技术储备？

用网络打通异构算力的关键能力要求

通过数十年信息技术的发展，以太网具备拉通和兼容多种不同终端的能力，这一点已经被充分验证。面对智算的异构需求，以太网一方面需在网络侧解决端口密度、设备形态、通道标准、传输介质的扩展性和兼容性；另一方面需在计算侧筛选AI服务器网卡规格，为智算业务提供高性能算力，这种“多元可靠联接”的能力正是打通异构算力所需要的。

在高性能网络领域，无损以太网（RoCE）是一个快速普及且被大众认可的技术，其在成本、未来演进和生态丰富度上具备天然优势。当RoCE发展到智算网络时代，连接非智能网卡、智能网卡、可编程智能网卡等不同能力的网卡时，以“场景化网络调优”的模式解决Hash极化问题，降低网络拥堵风险，成为构建智算网络无损能力的关键。

此外，智算网络如果脱离了与算力的联动，那就是孤立、被动的，为确保智算业务平稳有序地发展，网络必须与算力调度平台联动起来。而国内大多数算力厂商没有配套的网络设备和平台，因此，想用网络打通异构算力，则必须具备与多家厂商的CCL（集合通信库）的兼容对接能力，将算力需求转译为网络配置，也就是所谓的“异构算网联动”。

综上所述，要打通异构算力之间的高速网络通道，必须具备“多元可靠联接、场景化网络调优、异构算网联动”三大关键能力，这也是算力产业实现创新发展的重中之重。

聚焦异构算力组网痛点，新华三持续赋能智算新时代

作为数字化解决方案领导者，新华三集团始终致力于成为客户业务创新、数字化转型值得信赖的合作伙伴。面对网算之间互相协同推进的发展态势，新华三在“多元可靠联接、场景化网络调优、异构算网联动”等方面加速突破，积极探索打通异构算力的开放网络。

●多元可靠联接

新华三集团进行了丰富的智算产品布局，提供了开放性、兼容性、扩展性、稳定性极强的网络环境和端到端异构连接保障，全方位满足了客户需求。

新华三长期致力于推动国内高速网络技术的发展，在100G/400G/800G产品的面世时间上都处于国内乃至业界领先地位。在智算场景下，新华三的产品布局也是业内最丰富的。从产品形态上看，新华三可提供从100G到800G多种形态的框式、盒式产品，端口密度覆盖完善，能够满足不同规模智算客户的组网需求。从1K GPU到512K GPU的场景下，客户可以平滑地选用新华三的单框、盒盒、框盒、三层盒盒等不同的组网架构，实现成本与规模的最优匹配。

从绿色节能角度来看，新华三产品可同时支持LPO和液冷技术，LPO技术是指通过设备内部的信号稳定器件和设计，替代光模块中的DSP芯片，降低DSP带来的功耗和时延，亦可规避DSP芯片的供应风险。而液冷技术可将关键芯片产生的大量热量通过液冷带出设备，配套的风扇仅用于其他非关键器件的散热，转速和耗电都将大幅降低。

此外，新华三拥有业界最开放的生态合作环境，各条产品线都采用了多家合作伙伴的交付件，包括GPU、网卡、光模块、交换芯片，由此也为新华三带来了天然优势——能够代替客户验证异构算力环境的兼容性。对客户而言，选择异构方案最大的阻力来源于实施效果，能否互联互通，以及互通后的性能、可靠性是否能支撑业务需求，这是实际存在的风险。而新华三的能力就是利用自身的生态优势，为客户提供端到端的异构连接保障，确保客户从新华三验证过的交付件库中选择GPU、网卡、模块、交换机，即可在实际场景中放心互联。

为此，新华三还设计了一套《智算网络异构连通专项测试》标准，专门用于验证不同智算组件之间的互通性，丰富的测试例覆盖了如下验证能力（如图1所示）。

图1测试例覆盖的验证能力

●场景化网络调优

在“场景化网络调优”方面，新华三集团通过端口对称Hash技术LBN、动态负载均衡技术DLB（如图2所示）、链路喷洒技术SprayLink、全局负载均衡技术FGLB等满足了客户不同智算场景的技术需求，实现了数据中心超高带宽利用率的无阻塞转发。

图2动态负载均衡技术DLB示意

以“端口对称Hash技术LBN”为例，对于智算网络中的每一台设备而言，网络调优的最终目标，就是下行端口接收的流量，能够确保通过上行带宽资源转发出去。实现这个目标最简单的方式是为每一个下行口指定一个同速率的上行口，其他下行口的流量不能从该上行口转发，形成独占的上行资源，这项技术即为LBN（如图3所示）。

图3 LBN技术示意

当网络和业务规模超出LBN可覆盖的能力时，需要通过“引入新变量”和“分割单一流”解决Hash极化问题。所谓“引入新变量”，即为在Hash过程中引入出端口负载情况（队列长度），提升队列更短的出端口优先级，就可以将流量更多地分摊到空闲端口上；所谓“分割单一流”，即为在出端口Hash时，针对子流做Hash，引入当前出端口的负载，便可以将不同时间段到达的子流Hash到当前最空闲的端口发送。

当一条大流连续到达交换机的时候，“链路喷洒技术SprayLink”（如图4所示）的价值便得到了彰显。SprayLink通过实时监控LACP/ECMP中各物理链路的带宽利用率、出口队列、缓存占用、传输时延等精细化数据，对大流做到基于Per-Packet（逐包）方式的动态负载均衡，将每个数据包分配到当时资源最优的链路上。通过实测，采用SprayLink可以使多条链路的总带宽利用率达到95%以上，比传统H a s h方法提升明显。但是SprayLink存在流量到达接收端的乱序问题，需要接收端的网卡支持乱序重排技术才能匹配。

图4链路喷洒技术SprayLink示意

上述几种负载均衡技术，看似已完整覆盖了所有场景，但其只能根据设备本地的负载情况进行选择，对于发出的数据在剩余路径上的传输质量，则没有判断依据。而新华三的全局负载均衡技术FGLB（如图5所示），能够让每台设备都拥有全局视角，了解自己接口的下一跳，乃至下一跳到再下一跳的链路负载情况，来辅助决策本地的负载结果。

图5全局负载均衡技术FGLB示意

众所周知，实现全场景网络调优是企业提升链路效能的关键，新华三依托其领先的负载均衡技术，通过丰富的现网实践，总结出了以下场景化匹配应用建议（如图6所示）。

图6场景化匹配应用

●异构算网联动

在“异构算网联动”方面，新华三在“调整网卡QP能力与网络联动”“算网主动选路与路径仿真技术”两大方面进行了实践探索。

关于“调整网卡QP能力与网络联动”（如图7所示），新华三通过识别不同网卡的样本能力（QP规格），结合当前网络可用路径数量和带宽的资源，以及自研的算法，提供了一种端到端的负载优化机制。当训练任务开始时，两张网卡之间建立数据连接，在AI服务器内部的agent就将报文特征等信息传递到控制器，同时控制器根据当前网络的资源，设置网卡的QP规格，为一对Peer建立多对QP，解决路径中设备Hash不均问题。

图7调整网卡QP能力与网络联动示意

关于“算网主动选路与路径仿真技术”（如图8所示），新华三通过算网协同机制，实现了一种主动选路的功能。当一个CCL发起新的互通请求时，新华三的网络分析器会收集当前所有链路流量负载情况，并根据自研的智能选路算法，选出对于该互通连接最高效的路径，将配置下发到交换机，实现按策略的转发，避免传统路由协议选路条件粗放的问题。同时新华三还提供路径仿真能力，对于主动选路效果，可以在分析器内部通过NFV的形式进行真实流量模拟，来验证策略下发效果，验证后再下发到真实设备上。

图8算网主动选路与路径仿真技术示意

面向未来，在算力爆发的时代，新华三集团将始终秉承开放共赢的理念，通过多元可靠联接、场景化网络调优、异构算网联动三大核心能力，解决客户在异构算力组网过程中遇到的各种问题，与生态合作伙伴、行业客户一起，打造繁荣、开放的智算生态体系。