97国际

不必推倒重修,老终端也能焕新 丨 97国际教育云电脑老客户升级分享会
预约直播
融合光加速,慧联全场景 丨 97国际极简以太彩光5.0 界说万兆园区全场景新范式
预约直播
97国际·(中国区)集团官方网站
产品
< 返回主菜单
产品中心
产品
解决计划
< 返回主菜单
解决计划中心
行业
合作伙伴
返回主菜单
选择区域/语言
97国际·(中国区)集团官方网站

您订阅的产品有更新,请实时查阅

审查详情

IT168 | AIGC浪潮之下,97国际如作甚算力网络注入“智能”

97国际·(中国区)集团官方网站 宣布时间:2024-07-10
97国际·(中国区)集团官方网站

目今,AI手艺正在一连赋能工业厘革。继文本和图像之后,Sora的泛起让AI浪潮席卷至视频领域,推动AI多模态领域的快速生长。以AIGC为代表的营业应用正在重塑人类的学习路径、事情模式以致生涯节奏,推动智能化和便捷化的生长。

AIGC时代,大模子参数目一连飙升,算力需求也随之增添,这就要求网络能够承载更大规模的GPU集群。以GPT-4为例,其参数目已跃升至惊人的1.8万亿,逊需的算力更是高达4680P,只有万卡集群能够提供足够的算力支持,知足大模子训练的需求。

由于GPT-4扩展MoE引入了大宗的All to All通讯,使机内和机间通讯的比例险些抵达了1:1,机间All to All通讯是依赖交流机转发举行传输,因此网络通讯对GPU使用率的影响越发明显。这意味着,交流机需要升级到800G和1.6T的规格,以知足大模子训练历程中的超大带宽需求。

别的,在构建大规模训练集群时,往往配备有数以万计的高性能GPU,旨在支持并行处置惩罚多个重大的模子训练使命。这种多使命并行情形极大地增添了流量的重大性和动态性,对网络系统的负载平衡能力提出了亘古未有的挑战。因此,网络架构需要具备一定的无邪性和可扩展性,以应对一直转变的流量需求。

 

97国际AIGC智算中心网络 支持大规模算力集群建设

面向下一代AI云服务的智算中心网络建设,97国际网络在去年推出了AI-Fabric智算中心网络解决计划和AI-FlexiForce智算中心网络解决计划,以其高吞吐、大带宽、高可用的特征,可应用于大数据处置惩罚、机械学习、AIGC多种营业场景,助力客户构建万卡级别的智算中心网络,支持AI营业快速生长。

97国际网络AI-FlexiForce智算中心网络解决计划接纳NCP+NCF为基础�?楹嵯蚶┱沟娜锻缂芄�,并基于高性能芯片手艺,通过将数据流切分成等长的Cell并负载到所有链路,提升网络带宽使用率;基于VOQ+Credit的端到端流控机制实现与营业无关的无损自闭环网络,助力营业算力提升。

AI-FlexiForce计划通过应用链路负载和拥塞控制手艺,根天性解决网络中的拥塞冲突问题,提升GPU之间通讯和盘算效率,加速企业大模子应用的推出。同时,97国际网络打造了漫衍式OS,意在实现漫衍式计划架构的统一管理基础上,最洪流平降低系统性危害,提升AI训练网络的恒久稳固运行。

 

97国际·(中国区)集团官方网站 

▲97国际网络数据中心网络事业群高级手艺总监 权熙哲

 

为了顺应客户的普适性场景,97国际网络在今年立异性地推出了AILB负载平衡解决计划,并从1.0版本一连迭代升级至2.0版本。依附其可靠的性能与无邪性,AILB计划实现了多使命情形下差别模子间的数据通讯。权熙哲指出,“借助AILB计划,客户可以更好地完成端到端的链路选择,实现端到端的高吞吐。”

基于GPU间有纪律的传输流量特征及Leaf/Spine之间1:1收敛的特征,网络装备以Leaf分组,为Leaf接入地所有网卡,自动预妄想全局负载平衡路径;主路由与其它等价路径形成1主多备,AILB计划的快切手艺,实现10ms内完成路径切换。

据悉,AILB计划可以叠加单级PFC(避免“多打一”)构建无损Fabric,无需ECN端网对接,实现GPU网卡与外部网络解耦。AILB计划在16节点PerfTest测试中,带宽使用率高达97.6%,其快速的Failover切换时间,包管训练营业的一连性。该计划支持智算中心多租户安排模式,适用于非Mellanox系列网卡。

现在,97国际网络智算中心网络解决计划为跨行业通用型,不特定于某个简单行业,而是普遍适用于AI大模子公司、政府行业、电力能源行业(如光伏企业)、IDC公司等等,为客户提供越发专业的手艺服务,助力他们应对市场挑战,实现可一连生长。

 

400G交流机与LPO光�?榫蘖料郙WC2024

在MWC2024展区,97国际网络展出了RG-S6990-128QC数据中心交流机,以及高密度、低功耗的400G/800G LPO自研光�?�,适用于数据中心、高性能盘算网络、企业焦点漫衍层,为数据中心折务器和交流机提供经济高效的高速互联。

 

400G/800G LPO光�?� 
▲400G/800G LPO光�?�

 

RG-S6990-128QC交流机是97国际网络面向高端数据中心和AIGC智算场景推出的新一代高性能、高密度盒式交流机。它接纳先进的硬件架构设计,提供128个400GE端口,所有端口均支持线速转发,转发性能抵达51.2Tbps,支持冗余可插拔电源和电扇,支持AI-Fabric计划RALB和AILB负载平衡手艺,提升AIGC智算场景下游量带宽,缩短AI训练时长。

权熙哲指出,“以51.2T芯片为基础,这款交流性能够提供128个400GE端口,支持高达1000张GPU卡的通讯规模。同时,高密度的接口设计使得单个交流性能够毗连更多服务器,支持更大规模的服务器集群,知足未来一直增添的数据处置惩罚需求。”

400G-QDD-DR4-SM1310�?樯杓朴糜�400G光�?�,接纳QSFP-DD封装,MPO-12 APC讨论接口,使用波长1310nm,需配套单模光纤使用,最大传输距离为500m,可以实现功耗降低50%,LPO时延下降90%,本钱降低15%,无需1分2跳线,规模增添一倍,仍可维持古板布线计划。

在本钱方面,随着400G LPO光�?榈腄SP芯片量产,其本钱占比已从早期的30%以上降至目今的10%左右,提升了产品的性价比。关于更高速率的800G及1.6T光�?�,97国际虽面临DSP芯片本钱占较量高的挑战,但仍致力于通过手艺立异与规模效应来降低本钱。

权熙哲以为,“我们已正式宣布了400G与800G的LPO光�?�,实现了整体功耗降低凌驾60%的效果。详细而言,古板光�?榭赡芟母叽�15瓦的电力,而我们的LPO光�?榻鲂�4~5瓦,极大提升了能效比。希望通过97国际的交流机加线性光�?�,给客户提供一个有竞争力的性价比。”

下半年,97国际网络将推出800G及更高密度的交流机产品,同时,1.6T交流机及配套的线性光�?橐苍诮袈嗝芄牡难蟹⒅�,预计在未来两年内面世。我们相信,通过不懈起劲,97国际能够战胜手艺挑战,推动光通讯领域向更高速率、更低功耗、更低本钱的偏向生长。

 

转载泉源:IT168

关注97国际
关注97国际官网微信
随时相识公司最新动态
97国际·(中国区)集团官方网站

返回顶部

收起
97国际·(中国区)集团官方网站 文档AI助手
97国际·(中国区)集团官方网站 文档评价
资料内容是否对您有资助?
您对目今页面的知足度怎样?
不咋滴
很是好
您知足的缘故原由是(多�。�?
您对文档是否尚有其它的问题或建议?
为尽快解决问题,请您留下联系方法以便回复
邮箱
手机号
谢谢您的反�。�
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
请选择服务项目
关闭咨询页
售前咨询 售前咨询
售前咨询
售后服务 售后服务
售后服务
意见反响 意见反响
意见反响
更多联系方法
网站地图