97国际

生产无周游,智造更从容 丨 从扬子江药业看企业无线零周游落地之道
预约直播
融合光加速,慧联全场景 丨 97国际极简以太彩光5.0 界说万兆园区全场景新范式
预约直播
97国际·(中国区)集团官方网站
产品
< 返回主菜单
产品中心
产品
解决计划
< 返回主菜单
解决计划中心
行业
合作伙伴
返回主菜单
选择区域/语言
97国际·(中国区)集团官方网站

您订阅的产品有更新,请实时查阅

审查详情

对话97国际网络黄米青:算力成AI生长基础,智算中心能提供怎样价值?

97国际·(中国区)集团官方网站 宣布时间:2024-03-13
97国际·(中国区)集团官方网站

(作者|贾桂鹏)

当下,AI大模子的参数已升级至万亿级别,各个大模子重大的训练使命需要由大宗GPU服务器组成的算力集群来协作完成。同时算力的提升对网络提出了超大规模、超高带宽、超强可靠性的需求,为AI模子训练提供强有力的支持。

 

AI模子训练

 

面临AI浪潮,各个行业纷纷抢滩结构,热度急剧升温,同时在我国“新基建”“东数西算”等工程的加持下,算力网络这条全新赛道涌进越来越多的加入者。据Dell'Oro Group最新报告显示,到2027年20%的以太网数据中心交流机端口将毗连到加速服务器,以支持AI的事情负载。

随着新的天生式AI应用的兴起,预计推动数据中心网络市场未来五年销量累计收入凌驾1000亿美元。算力基础设施和网络基础设施的整体结构与手艺架构迎来革命性转变,“算”“网”基础设施成为算力工业生长的要害所在,其迭代演进亟须加速。

在此配景下,元宇宙新声有机会采访到97国际网络数据中心网络事业群DCN BU总司理黄米青,与他一起探讨了AIGC手艺生长为企业带来了怎样的改变,97国际网络智算中心怎样赋能企业数字化生长。

 

97国际网络数据中心网络事业群DCN BU总司理 黄米青

(97国际网络数据中心网络事业群DCN BU总司理 黄米青)

 

为什么是97国际网络

建设于2003年的97国际网络,追随着数字经济一连加速生长驭风而行,深耕网络装备、网络清静产品及云桌面解决计划三大领域,依附强盛的研发立异实力、贴近用户的产品计划以及专业快捷的服务能力,现已生长成为ICT及云盘算基础设施专业企业。凭证IDC中国以太网交流机市场跟踪报告2023Q3数据剖析显示,97国际网络数据中心交流机在互联网行业市场份额排名前线。

而在AI时代,我们也看到97国际网络继续承继着立异生长的路径,依附敏锐的行业洞察与深挚的手艺积淀,进一步推动行业生长,行稳而致远。

 

天生式AI怎样改变企业生长

现在,许多企业数字化转型已进入“深水区”,数字手艺与古板行业的简朴叠加,已不可知足古板笔直行业的生长需求,企业在各自领域面临新时机和新挑战,急需向广度和深度进发。

天生式AI作为目今新兴的人工智能手艺生长趋势,是企业加速数字化转型的主要选择之一。部分行业代表性企业已在生产运营中安排应用天生式AI,取得了起源效果。

 

天生式AI怎样改变企业生长

 

黄米青以为:“AI手艺关于企业生长来说是很是主要的机会。”

首先,这些手艺能够资助企业实现自动化和智能化,提高生产效率、降低本钱;其次,这些手艺还能为企业带来更富厚、更个性化的用户体验。

黄米青体现:“AI的普及和深化将可能从以下几个方面深刻改变人类生涯:智能家居、康健医疗、智能交通、事情助手、虚拟娱乐、人类增强等等。这些都将让我们的生涯越发便当和恬静。进而,还将影响到社会的方方面面,包括经济结构、劳动力市场、都会妄想、执律例则以致伦理品德看法。”

 

AI手艺改变人类生涯

 

那么,关于更多希望加速数字化转型程序的企业而言,下一步应该怎样用上、用好天生式人工智能呢?

首先要做到价值认同。要让数字化转型成为企业管理者与企业员工的共识,要充分熟悉、认可天生式人工智能。天生式AI能够在客户服务、销售市场、知识管理以及辅助决议方面助力企业实现大幅降本增效、降低商业试错本钱。

在AI商业昌盛的大趋势下,天生式人工智能正变得越发普惠,企业使用本钱一连降低,企业员工学习门槛一连降低。

其次要找到“准确路径”。关于企业而言,选择使用大模子和天生式AI来提升数字化能力,需要遵照科学的理论要领。企业需要凭证自身的行业特点和专业知识,与基础大模子合作,将特定场景的专业数据加入基础大模子举行再训练和微调,研发出专属大模子或场景大模子。

再次要提防危害。天生式AI作为一种新兴的手艺,在赋能工业高质量生长的同时,也保存许多危害,如隐私�;ぁ⑿ЧЭ亍⑹菪孤兜�。

 

天生式AI来提升数字化能力

 

另外,元宇宙新声以为,上述一切的生长条件是算力的生长,我们要考量算力是否能够知足人工智能的需求,因此,怎样在AI服务这个营业模式中坚持强有力的竞争力,提升集群的GPU效率变得尤为要害。

 

AI生长所向披靡,但算力仍是其基本

随着天生式AI的生长,以及大模子参数目的提升,对算力的消耗也在显着增添。大模子训练关于算力的需求也切合类似“摩尔定律”的特征,从每3-4个月算力消耗翻倍到每2个月算力消耗翻倍。随着模子迭代速率越来越快,对算力的需求也越发紧迫。

以ChatGPT为例,从OpenAI的官方声明可以看出,ChatGPT4的规模远远凌驾了ChatGPT3,并且使用更强盛的硬件GPU(H100)。这意味着ChatGPT4的训练时间和盘算本钱都很是高,需要更多的时间和资源来完成。

 

AI生长的基本-算力

 

可以看出影响一个模子的训练时长主要因素在于GPU的使用率,以及GPU集群处置惩罚能力,而这些要害指标又与网络效率亲近相关。网络效率是影响AI集群中GPU使用率的一个主要因素。

在AI集群中,GPU通常是盘算节点的焦点资源,由于它们可以高效地处置惩罚大规模的深度学习使命。然而,GPU的使用率受到多个因素的影响,其中网络效率是一个要害因素。

 

GPU的使用率

 

众所周知,AI集群通常由多个盘算节点和存储节点组成,这些节点需要频仍地举行通讯和数据交流,若是网络效率低下,这些节点之间的通讯将会变得缓慢,这将直接影响到AI集群的算力。

黄米青体现:“企业要将更多资源投入到提升算力使用效率上,其中包括模子及并行通讯算法的研发以及高效算力网络的构建。”

可是,我们看到影响网络通讯效率的因素抛开硬件性能的限制,针对端处置惩罚时延、内部排队时延和丢包重传时延三大动态因素优化网络拥塞和时延,则成为提升AI集群网络通讯性能具备本钱效益的要领�;谡庑┧妓�,97国际网络致力于提升通讯带宽使用率,降低动态时延以及实现无损的网络传输,以提升AI集群网络通讯性能。

在此配景下,97国际网络面向下一代AI云服务的智算中心网络建设,推出了97国际网络AI-FlexiForce智算中心网络解决计划。那么它又有怎样的价值呢?

 

智算中心的价值几何

97国际网络宣布的AI-FlexiForce智算中心网络解决计划,接纳NCP+NCF为基础�?楹嵯蚶┱沟娜锻缂芄�,并基于高性能芯片手艺,通过将数据流切分成等长的Cell并负载到所有链路,提升网络带宽使用率;基于VOQ+Credit的端到端流控机制实现与营业无关的无损自闭环网络,助力营业算力提升。

 

AI-FlexiForce智算中心网络解决计划接纳三级组网

 

从规模上来看,AI-FlexiForce智算中心网络解决计划接纳三级组网,可支持17k到32k个400G的端口。97国际网络在海内首发了400G的NCP和NCF装备,以支持AIGC网络的大接入带宽。NCP装备RG-S6930-18QC40F1,支持18口400G的营业口,并支持40口200G的Fabric内联口,用于和NCP之间的互联。NCF装备RG-X56-96F1,支持96口200G的Fabric内联口。我们可以看到,该解决计划可知足差别营业需求,具有可扩展性和无邪性。

 

400G的NCP和NCF装备

 

黄米青体现:“97国际AI-FlexiForce智算中心网络解决计划通过立异性地应用链路负载和拥塞控制手艺,解决网络中的拥塞冲突问题,提升GPU之间通讯效率,进而提升GPU盘算效率,加速企业大模子应用的推出。”

并且,在研发AI-FlexiForce智算中心网络解决计划的同时,97国际网络还打造了漫衍式OS,旨在简化安排,提高系统可靠性。古板的DDC(Distributed Disaggregated Chassis,漫衍式疏散式机箱)由于控制面集中,一旦NCC(Network Cloud Controller网络云控制器)失联,就会影响整个网络,从而影响整个营业流程。另外,由于版本不兼容,若是部分装备需要升级,就碰面临重大的运维难题。

97国际网络AI-FlexiForce智算中心网络解决计划接纳去中心化的漫衍式OS,实现了控制面与管理面解耦。纵然管理平台泛起问题,也不会影响整个网络的运行。与此同时,它还解决了兼容性问题,装备可以自力升级,大幅降低了运维难度。

黄米青诠释道:“我们在研发AI-FlexiForce智算中心网络解决计划时,打造了漫衍式OS,意在实现漫衍式计划架构的统一管理基础上,尽可能降低系统性危害,提升AI训练网络的恒久稳固运行。”

而在谈到97国际智算中心的优势时,黄米青体现:“97国际拥有RALB、AILB等网络负载平衡手艺,在智算网络计划中提供优性能。”

可以预见,未来,随着AI关于算力需求一连增添,97国际将一连精进AI Fabric智算中心网络解决计划,在降低时延、提高在网盘算性能、实现端网融合等方面一连突破,打造高速互联、弹性可扩展、绿色节能的下一代AI云服务智算中心网络。

可以预见,在全球互联网流量一直增添和数据应用需求日益多样化的配景下,97国际将一连精进AI-FlexiForce智算中心网络解决计划,在降低时延、提高在网盘算性能、实现端网融合等方面一连突破。未来,97国际网络还将通过一连的手艺研发和产品立异,继续为全球的数据中心提供更高效网络解决计划,在AI时代助力各行业实现快速生长。

 

采访小记

这是我们第一次与黄总交流,并且照旧线上形式,几多会显得有一些急遽,但我们照旧在相同的历程中显着感受到他在专业领域上的积累,好比他关于AI在企业端价值的体现、算力在AI生长历程中的主要性等都有着很是独到的看法息争读,也为我们提供了许多差别角度来视察科技的生长,这也是我们在交流历程中的收获。

在采访最后,当黄总在谈到97国际网络在未来AI时代的赋能时,我们也感受到了他关于AI生长的期待和对97国际网络产品息争决计划的信心。我们也希望,未来97国际网络也能像黄总展露出的信心一样勇往直前,使用自己手艺赋能千行百业。

关注97国际
关注97国际官网微信
随时相识公司最新动态
97国际·(中国区)集团官方网站

返回顶部

收起
97国际·(中国区)集团官方网站 文档AI助手
97国际·(中国区)集团官方网站 文档评价
资料内容是否对您有资助?
您对目今页面的知足度怎样?
不咋滴
很是好
您知足的缘故原由是(多�。�?
您对文档是否尚有其它的问题或建议?
为尽快解决问题,请您留下联系方法以便回复
邮箱
手机号
谢谢您的反�。�
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
请选择服务项目
关闭咨询页
售前咨询 售前咨询
售前咨询
售后服务 售后服务
售后服务
意见反响 意见反响
意见反响
更多联系方法
网站地图