97国际

不必推倒重修,老终端也能焕新 丨 97国际教育云电脑老客户升级分享会
预约直播
融合光加速,慧联全场景 丨 97国际极简以太彩光5.0 界说万兆园区全场景新范式
预约直播
97国际·(中国区)集团官方网站
产品
< 返回主菜单
产品中心
产品
解决计划
< 返回主菜单
解决计划中心
行业
合作伙伴
返回主菜单
选择区域/语言
97国际·(中国区)集团官方网站

您订阅的产品有更新,请实时查阅

审查详情
97国际·(中国区)集团官方网站 97国际·(中国区)集团官方网站

手艺盛宴|浅谈AIGC算力网络中LPO模块的手艺优势

有网络的地方就会有光模块的应用,那么算力网络中会安排哪种光模块呢?本文将围绕光模块失效率,剖析古板DSP模块的主要失效缘故原由,团结LPO手艺举行失效率比照剖析,讨论LPO模块的优势所在 。

  • 97国际·(中国区)集团官方网站

    宣布时间:2024-08-06

  • 97国际·(中国区)集团官方网站

    点击量:

  • 97国际·(中国区)集团官方网站

    点赞:

分享至

97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站

我想谈论

随着AI手艺的迅猛生长,林林总总的AI应用走入各人的事情、学习和生涯当中,好比Chatbot(谈天机械人)、虚拟主播、AIPC(人工智能小我私家电脑,Artificial Intelligence Personal Computer)等 。为了让用户获取更好的应用体验,更快地响应时效要求,需要更好的大语言模子,更大规模的模子参数目 。

相信各人也关注到,近期行业宣布的Llama 3.1 模子,参数规模已抵达惊人的4050亿 。

云云重大的模子训练离不开超大规模智算中心的支持,近期马斯克在社交平台上宣布:xAI公司已经最先在超等盘算中心的“Supercluster”举行训练,该集群由10万个液冷H100 GPU组成,10万张GPU算力卡的互联需要高速网络通道 。

随着智算中心集群规模的一直扩张,光市场已经占有数据中心越来越多的份额 。在100G时代,光模块和网络的比例约为1:1;到了400G时代,光模块和网络的比例变为7:3,光模块在集群中的主要性不言而喻 。本文将围绕光模块失效率,剖析古板DSP模块的主要失效缘故原由,团结LPO手艺举行失效率比照剖析,讨论LPO模块的优势所在 。

 

一、算力网络中光模块的现状

谈到光模块各人不会生疏,有网络的地方就会有光模块的应用 。那么算力网络中会安排哪种光模块呢?

下图展示了现在智算中心RoCE以太网计划的主流网络架构,服务器端通过400G高速网卡接入到算力网络中,搭载51.2T交流芯片的数据中心交流机组成三级架构支持万卡以上的集群规模 。

 

智算中心RoCE以太网计划的主流网络架构

 

不难看出智算中心对模块速率的要求已经抵达了400G,交流机互联的部分甚至可以思量接纳800G互联 。

现在主流51.2T的交流芯片是112G SerDes,因此交流机侧的400G光模块对应是Q112的封装,网卡侧现在主要是OSFP的封装,安排时凭证距离选择对应长度的型号即可 。

 

交流机网卡安排

 

二、DSP光模块事情原理

以400G Q112 VR4模块为例剖析DSP光模块的事情原理以及各部件的要害作用 。(SR、DR模块结构图大致相同,只是所用的电光转换计划差别,SR用VCSEL,DR用EML或者硅光) 

DSP光模块事情原理

 

1、交流芯片发送4*112Gbps PAM4电信号进入光模块中

2、DSP芯片会将经由的电信号举行重整形然后发到Driver端

3、Driver作为驱动将电信号传输到激光器处

4、VCSEL激光器把电信号转光信号并发到光纤

5、光信号经由光纤抵达对端光模块的PD光电二极管阵列后被转换成电信号

6、TIA将转换后的电信号举行信号放大并送到DSP芯片

7、DSP芯片再次将电信号举行重整型后发送到交流机芯片上

 

三、光模块失效率指标

失效率为何被关注

相较于交流机、服务器等装备,光模块的结构着实是较量简朴的,但就是云云简朴的光模块在算力网络中也是至关主要的保存 。虽然简单模块的失效率较量低,可是放在万卡以上的集群中也会被放大数倍 。模块的失效会造成一定概率的故障爆发,故障又会导致训练营业的中止,重新启动训练需要特另外耗时,无形中增添了集群的运营本钱 。因此光模块的失效率需要被重视起来 。

 

失效率指标界说

FIT(Failures In Time)失效率是一个权衡产品或系统在单位时间内爆发故障的频率的指标 。它通常用来形貌在一准时间规模内,特定命目的产品或系统预计会泛起几多次故障 。FIT是一个无量纲值,体现的是每十亿小时内的故障次数 。例如,若是一个产品在10亿小时内爆发了100次故障,那么它的FIT失效率就是100 FIT 。这体现在视察的时间段内,每十亿小时可以预期会爆发100次故障 。

光模块的失效率=模块中所有元器件失效率的求和,好比某个光模块的理论失效率=155.63FIT,意味着在十亿小时内可以预期会爆发155.63次失效 。

简单模块爆发一次失效所需要的小时数目=10亿/155.63≈8647744(小时)换算成一个好明确的方法即为单个模块在8647744个小时内会泛起一次失效,单看这个数据感受模块的可靠性很是高,但放在整个集群中我们来看看详细数据 。

 

光模块失效率指标

 

如图所示,我们枚举了差别集群规模下所需要的光模块数目以及所有光模块爆发一次模块失效的距离时间,不难看出这是一个随着模块数目变大而枯燥递减的函数 。

简单模块的失效率在万卡以上的集群规模中被放大了,理论上在32K卡的集群中或许每两天就会爆发一次模块失效,这样来看模块的失效率照旧相当值得关注的 。

 

导致光模块失效率转变的主要因素

有两个主要因素会引起失效率转变,一个是模块内部的元器件数目,另一个是模块自身的事情温度 。

详细转变关系是:

1、模块元器件越少,失效率越低

2、模块事情温度越低,失效率越低

 

古板DSP光模块失效率剖析

古板DSP模块计划在失效率方面还保存以下缺陷:

1、模块元器件多、事情温度高:DSP模块不但有DSP芯片,还包括周边的晶体振荡器、Flash、电源等一系列芯片,且功耗占比凌驾50%,会显著提升模块的事情温度 。

2、模块元器件自己失效率高:DSP模块若是接纳EML或VCSEL计划,会包括多颗疏散的III-V族激光器,而激光器自己的失效率就会偏高 。

基于以上剖析可以看到导致DSP模块失效的主要缘故原由是器件数目多、事情温度高,好比DSP及周边芯片、EML/VCSEL激光器等 。要想降低模块的失效率照旧得从泉源解决问题,下面我们来先容一下LPO(Linear-drive Pluggable Optics)模块计划 。

 

四、LPO光模块解决计划

LPO模块 

LPO模块 

LPO 模块去掉了古板DSP模块中的DSP芯片,使用交流芯片中DSP举行电信号的处置惩罚,模块中接纳通例性能的Driver和TIA芯片,并选用合适的电光转换计划,即可以实现优异的传输性能 。电光转换部分可以接纳VCSEL、EML或者硅光计划,硅光具有更好的线性度、更低的电反射 。为了包管供应以及更高的可靠性,97国际网络接纳了硅光手艺计划 。更多LPO基础看法的先容可以参考往期文章揭秘智算中心网络建设新利器:LPO手艺的泛起 。

 

LPO模块失效率剖析 

LPO模块失效率剖析 

LPO模块失效率剖析

 

上述图表展示了400G模块在相同模块事情温度55°C情形下,差别手艺计划的失效率比例关系 。可以看到在相同模块事情温度下,LPO+硅光计划的失效率更低,其他计划失效率为LPO+硅光计划的1.31~2.34倍左右 。

这样的对例如式是从理论上评估差别模块的失效率,因此会控制事情温度坚持稳固 。而在现实安排中,LPO+硅光模块的事情温度相较于DSP计划会更低,因此失效率可以获得进一步的降低 。 

壳温比照

 

如上图所示,在相同的情形温度情形下,LPO模块的事情温度比DSP模块要低15°C左右 。 

Radom Failure Rate VS Temperature 

团结上述图表,可以看到LPO模块温度从55°C降低到40°C后,失效率下降了50%,具备更高的可靠性 。 

400G DR4/SR4 Radom Failure Rate @ CL=60% 情形温度相同 

从现实安排场景来看,将差别手艺计划的400G模块放在相同情形温度下举行比照,能够看到LPO+硅光计划的失效率获得进一步降低,这就是模块事情温度较低带来的收益 。

 

总结

基于以上理论剖析团结现实数据来看,LPO+硅光的计划相较于其他计划而言失效率是较低的 。焦点缘故原由在于以下两点:

1、移除DSP芯片:去掉DSP芯片后可以较大幅度降低模块事情温度,降低因高温给激光器带来的影响 。

2、接纳硅光手艺:如下图所示,光电转换部分接纳硅光计划后可以让硅光芯片认真信号调制,Laser仅需要提供直流光,无需调制信号 。比照EML计划需要4个激光器以及TEC,硅光计划的Laser只需要1个,镌汰了模块元器件的数目,降低失效率 。

 

接纳硅光手艺 

 

五、LPO光模块性能参数

只具备更低的模块失效率还缺乏以让LPO模块替换DSP模块,我们还应评估光模块的可用性,也就是关注BER(误码率)和SEN(迅速度),这两个指标的性能参数需要能抵达协议门限的标准 。

 

光模块BER&SEN评估要领 

光模块BER&SEN评估要领 

通过调理光衰减的巨细,获得差别RX光功率下的BER,将所有测试效果汇总到一起绘制成BO曲线 。 

97国际·(中国区)集团官方网站 

当光功率一直调� 。ㄍ急碇泻嶙晗蜃蟮鹘馇魇疲�,直到BER即是FEC门限划定的2.4e-4(图表中纵坐标向上调解趋势)时,纪录此时的光功率就是光模块的迅速度(SEN) 。通常的BER都是在没有加光衰减器的情形下测试的,即在BER error floor区间测试的效果 。

SEN越小说明光模块越能容忍更小的光功率,对现实的安排有较量大的资助,好比由于讨论脏污、滥觞光功率变小、光纤讨论插损大等会造成光功率变小的情形 。

 

LPO DR模块的性能参数

以下是差别计划模块在常温短纤场景中的测试数据 

97国际·(中国区)集团官方网站 

从BER图表数据可以看到以下征象:

1、LPO DR模块的BER和协议门限相比有5个数目级的余量 。

2、LPO DR与DSP+硅光计划的BER参数靠近,且优于DSP+EML计划 2~3个数目级 。 

97国际·(中国区)集团官方网站 

从SEN图表数据看到以下征象:

1、LPO DR模块的SEN和协议门限相比有3.5dB的左右余量 。

2、三种计划在SEN参数方面相差不大 。

 

基于以上征象可以得出结论:LPO+硅光性能参数靠近DSP+硅光,优于DSP+EML计划,因此可以替换现有的DSP DR计划 。

 

六、LPO光模块的其他收益

LPO光模块除了高可靠性及高可用性这两点外,在其他维度也具备一定的价值收益 。

1、更低功耗:去掉DSP芯片后,光模块的最大功耗可以降低51.3%左右,低于4W(壳温70℃测试) 。 

LPODR4 VS DSP DR4模块功耗比照

 

2、更低时延:模块中少了DSP芯片,镌汰一跳,时延可以降低95%,知足更低延迟的应用场景 。 

LPODR4 VS DSP DR4模块时延比照

 

3、优异供应:古板DSP模块的DSP芯片和VCSEL激光器现在供应较量主要,且交期较量长,大规模交付有供应危害 。LPO模块计划去掉了DSP芯片,并且接纳硅光手艺,阻止使用供应主要的DSP芯片和VCSEL芯片,在一定水平上规避了要害器件的供应危害 。

 

七、97国际LPO光模块产品 

97国际·(中国区)集团官方网站 

97国际·(中国区)集团官方网站

 

97国际网络聚焦AIGC算力网络场景妄想设计了三款LPO DR的自研光模块,知足以下三种网络架构的互联需求 。

 

97国际·(中国区)集团官方网站

 

现在正在配合各大厂举行适配测试事情,敬请期待 。

97国际网络,作为GenAI时代的全栈服务专家,致力于为企业提供笼罩IaaS到PaaS的全栈产品及解决计划 。我们的产品笼罩高性能网络与GPU算力优化调理,旨在通过立异手艺解决计划,资助客户实现生产效率的奔腾与运营本钱的优化 。我们坚信,通过我们的起劲,能够为客户打造一个越发智能、高效和可靠的未来 。让我们携手,配合探索AI时代的每一个时机 。

相关标签:

97国际·(中国区)集团官方网站 97国际·(中国区)集团官方网站

点赞

更多手艺博文

任何需要,请联系97国际

97国际·(中国区)集团官方网站

返回顶部

收起
97国际·(中国区)集团官方网站 文档AI助手
97国际·(中国区)集团官方网站 文档评价
资料内容是否对您有资助?
您对目今页面的知足度怎样?
不咋滴
很是好
您知足的缘故原由是(多� 。�
您对文档是否尚有其它的问题或建议?
为尽快解决问题,请您留下联系方法以便回复
邮箱
手机号
谢谢您的反� 。�
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
请选择服务项目
关闭咨询页
售前咨询 售前咨询
售前咨询
售后服务 售后服务
售后服务
意见反响 意见反响
意见反响
更多联系方法
网站地图