97国际

生产无周游,智造更从容 丨 从扬子江药业看企业无线零周游落地之道
预约直播
融合光加速,慧联全场景 丨 97国际极简以太彩光5.0 界说万兆园区全场景新范式
预约直播
97国际·(中国区)集团官方网站
产品
< 返回主菜单
产品中心
产品
解决计划
< 返回主菜单
解决计划中心
行业
合作伙伴
返回主菜单
选择区域/语言
97国际·(中国区)集团官方网站

您订阅的产品有更新,请实时查阅

审查详情
97国际·(中国区)集团官方网站 97国际·(中国区)集团官方网站

十万卡GPU集群“不堵车”,算力背后的网络调理密码

97国际AI-Fabric智算网络解决计划针对万卡级GPU集群的AI训练瓶颈,通过三级多轨组网、高达97%的带宽使用率与端到端零丢包设计,有用降低网络通讯时延,释放算力。计划支持超大规模集群扩展,并借助智能运维实现网络可视化与自动化管理,已助力97国际在高端数据中心交流机市场一连领先,为智算中心构建高效数据基础。

  • 97国际·(中国区)集团官方网站

    宣布时间:2025-12-24

  • 97国际·(中国区)集团官方网站

    点击量:

  • 97国际·(中国区)集团官方网站

    点赞:

分享至

97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站

我想谈论

10月,Gartner宣布2026年十大战略手艺趋势:“AI超等盘算平台”位列首位。并展望,到2028年,将混淆盘算范式架构应用于要害营业流程的领先企业将抵达40%以上。

11月,信通院《人工智能算力基础设施赋能研究报告(2025)》指出:我国人工智能算力基础设施正处于系统性升级与架构演进的要害时期,未来将进入超大规模集群化、绿色低碳化与高速互联化阶段。

97国际·(中国区)集团官方网站

随着大模子参数规模从千亿级向万亿级迈进,算力集群中GPU间的通讯效率已成为AI训练历程中的要害瓶颈。古板网络架构下,大规模GPU集群的盘算效率往往难以实现线性增添,网络通讯时间占比甚至高达30%以上。

这意味着:真正的AI工业竞争力不止来自GPU的规模,模子训练、推理、调理全历程的数据流效率,也一律主要。在这个意义上,AI网络已经成为新的基础设施主战场。

训练吞吐慢,网络效率常“背锅”

多个果真行业剖析都指出,随着模子参数和训练数据规模的指数式扩张,网络在AI集群中的本钱与瓶颈正在快速上升。这背后有几个实质转变:

1.AI 集群结构从“单机强”转向“多机耦合强”

AI训练吞吐越来越依赖节点间通讯效率,好比:All-Reduce历程的同步期待、模子并行带来的跨节点梯度交流、海量训练样本的数据分发。

行业普遍以为,大规模AI训练使命中,网络通讯占用的时间可能已靠近甚至凌驾算力盘算时间。若是通讯效率低,即便拥有成百上千张GPU,也难以实现线性扩展。

2.工具向流量爆炸,需要极低时延与无损网络

已往,云数据中心是“南北向营业流”为主。而现在,AI集群则是典范的“工具向流量麋集型系统”,部分大型数据中心的工具流量占比甚至凌驾70%。差别于“南北向流量”单向性为主、单次请求数目小等特征,“工具向流量”内部服务器之间双向通讯频仍、并发数据量极大。内部带宽缺乏、交流机拥塞、延迟颤抖……成为主要网络逆境。

因此,AI网络(具备无损以太网络、拥塞控制、基于流特征的智能调理算法等能力)已经不是“锦上添花”的性能优化价值,而成为训练跑通的“基础设施”。

3.AI训练与推理的安排模式越发多样化

信通院报告显示:目今运营商、AI头部厂商正从“集中式大集群”走向更为多样化的系统,即训练仍集中在超大规模GPU集群以确保吞吐与本钱效率,但推理事情则逐步向边沿节点、行业专用集群以及营业侧的轻量化服务下沉。同时,多营业团队、多个模子版本的并行运行成为常态,训练与推理往往需要在统一基础设施上混淆编排。

由此,“训练中心+推理边沿+混部调理”的立体化模式正成为主流,也对底层网络提出更高的智能化、隔离性与可视察性要求。

“算网合一”成一定趋势

古板IT基础设施中,算力、存储、网络是相对自力的�?�。但在AI中,三者正在融合为一个整体资源池,而网络肩负着“粘合剂”的角色。未来的AI基础设施有几个显着偏向:

趋势1:面向AI场景的网络自治能力

AI训练的通讯图谱更重大、流量突发更强烈,需要网络具备:自动识别训练阶段;自顺应优化拥塞算法;智能路径选择;隐式包管要害流。也就是说,网络需要像调理系统一样“明确AI”。

趋势2:端到端可视化成为主战场

大模子玩家越来越意识到:训练稳固性的问题,不但靠“堆GPU”,还需要“视察GPU为什么没被充分使用”。因此,AI网络需要做到:GPU、CPU、网络装备的跨维度监测;PSL/Flow性能的实时可视察;对端到端训练使命的运行视角重修�?墒踊募壑�,不但是“监控”,更是训练效率优化的基础。

97国际·(中国区)集团官方网站

趋势3:开放生态与异构算力的并存

未来企业的AI集群不可能只基于简单GPU、简单框架或简单网络厂商。行业趋势显着指向:以太网继续成为主流承载计划;硬件与编排软件协同优化;多厂商装备混部成为常态。这对网络系统的开放性、兼容性提出了更高要求。

简而言之,大规模训练集群现在像一座重大工厂,而非一个机房。AI网络要解决的不但是“带宽”问题,而是“效率”与“可展望性”问题。

AI-Fabric智算网络,为啥能知足AI训练需求?

97国际AI-fabric智算中心网络解决计划,实质上是针对上述趋势给出的一个系统化回覆。其价值不在于某个单点手艺,而在于“把网络看成AI工程的一部分来设计”。

一起来看,它怎么系统性知足智算中心的AI训练需求?

1.十万卡GPU “不堵车”,网络不再成为训练瓶颈

古板网络就像单车道,装备多了一定堵。97国际用 “三级多轨组网”,相当于给数据修了 “专属高速网”:

  • 每张GPU网卡都有 “专属通道”,数据不必绕路,时延大幅降低;
  • 支持多轨组网架构,三级组网最大能连100000+GPU集群。

说白了,就像给小区每个单位,都配备专属电梯直达车库,不必等、不拥挤,10万多 “住户”(GPU)出门都顺畅。

97国际·(中国区)集团官方网站

图1:102.4T高密交流机,具备百万卡组网能力

2.高达97%带宽使用率,释放极致算力

AI训练的焦点矛盾的是 “数据传得慢,算力被闲置”。97国际直接给数据传输装了 “超等加速器”,让算力全程满负荷运转,不铺张一分钱硬件本钱:

  • 400G/800G RoCE无损网络设计,低时延、高带宽;
  • 只拓宽“通道”还不敷,分流手段也很要害�;诓畋鸪【暗耐缙胶饧苹篟ALB管十万卡集群、AILB宏观调理全局、ENLB守焦点链路,每个场景都有专属 “调理员”,使带宽使用率达97%;
  • 值得注重的是网络 “1:1收敛比” 设计,不管几多装备同时传数据,包管带宽都不缩水。

这就像都会的“智能交通网”,不但统计车流量,还能实时监测每条车道的路面状态、车辆速率和拥堵水平,动态调解信号灯,进而包管所有蹊径资源被有用使用,阻止拥塞。

97国际·(中国区)集团官方网站

图2:AILB全局负载平衡

3.数据传输 “零丢包”,训练再也不返工

LLMs训练时间长,最怕 “丢包”。一次故障,不但此前功夫白搭,严重影响训练周期和本钱。97国际从网卡、光�?椤⒘绰返浇涣骰母呖煽可杓�,有用解决上述问题:

  • RCCL让网卡故障秒级逃生,训练中止率降90%;
  • 支持LPO光�?�,低功耗、高可靠;
  • 高频光�?楣收�“事前检测-事中预警-事后展望”;
  • ECMP快切确保装备间链路故障,毫秒级收敛;
  • CLOS架构设计提高装备节点冗余度,CPU/跳变/HAM历程等异常自愈。

全流程、全节点的故障处置惩罚机制,显著降低网络滋扰与�;奔�。97国际也依附AI以太网架构与网络优化效率两项要害手艺,入选2025年Gartner®《新兴手艺影响力雷达:能效大规模盘算》代表厂商。

97国际·(中国区)集团官方网站

图3:高可靠网络设计图

4.安排更简朴,运维更智慧

智算中心网络 “装备多、参数繁、需求杂”,关于安排运维而言, “手动操作累、故障定位慢、扩容不兼容”是常态。借助97国际的运维中心,通过统一的SDN控制器,实现全网可视化、自动化设置与智能运维:

  • 一键安排上线,千卡集群仅7天交付;
  • 基于大数据和AI算法,实现云端算力仿真模拟,性能、收益智能剖析;
  • 网络可视化管理,自动发明断连、错连、拥塞等异常,快速定位、隔离、恢复;
  • 网侧+端侧自顺应辅助调优,岂论是训练使命转变、集群扩容、照旧数据量波动,自动调解传输战略。

这就像给智算网络请了位 “万能智能管家”,不必增添人力投入,哪怕是运维新手,也能轻松管好十万卡集群。

97国际·(中国区)集团官方网站

图4:网络康健度视图

97国际智算中心网络计划,在落地应用中,也普遍受到市场认可。据IDC统计,中国200G/400G数据中心交流机出货量,97国际网络一连14个季度(2022年-2025Q2)排名第一。

从突破单机算力壁垒到买通全网数据流通堵点,97国际AI-Fabric智算网络以 “低时延、高带宽、广毗连” 的手艺硬实力,修通了一条高效运转的 “数据高速”,赋能智算中心跑出 “加速率”。

相关标签:

97国际·(中国区)集团官方网站 97国际·(中国区)集团官方网站

点赞

更多手艺博文

任何需要,请联系97国际

97国际·(中国区)集团官方网站

返回顶部

收起
97国际·(中国区)集团官方网站 文档AI助手
97国际·(中国区)集团官方网站 文档评价
资料内容是否对您有资助?
您对目今页面的知足度怎样?
不咋滴
很是好
您知足的缘故原由是(多�。�?
您对文档是否尚有其它的问题或建议?
为尽快解决问题,请您留下联系方法以便回复
邮箱
手机号
谢谢您的反�。�
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
请选择服务项目
关闭咨询页
售前咨询 售前咨询
售前咨询
售后服务 售后服务
售后服务
意见反响 意见反响
意见反响
更多联系方法
网站地图