97国际

不必推倒重修 ,老终端也能焕新 丨 97国际教育云电脑老客户升级分享会
预约直播
融合光加速 ,慧联全场景 丨 97国际极简以太彩光5.0 界说万兆园区全场景新范式
预约直播
97国际·(中国区)集团官方网站
产品
< 返回主菜单
产品中心
产品
解决计划
< 返回主菜单
解决计划中心
行业
合作伙伴
返回主菜单
选择区域/语言
97国际·(中国区)集团官方网站

您订阅的产品有更新 ,请实时查阅

审查详情
97国际·(中国区)集团官方网站 97国际·(中国区)集团官方网站

手艺盛宴 | 多维度比照剖析AIGC网络网卡双上联手艺架构

目今交流机支持的几种网卡双上联架构解决计划:网卡双IP计划、去堆叠计划、去堆叠+双平面计划、M-LAG手艺、E-AP手艺以及VXLAN Multihoming手艺 ,选择最合适的网卡双上联计划需要综合思量网络架构的目今和未来需求 ,以及对性能、可靠性和本钱的影响。

  • 97国际·(中国区)集团官方网站

    宣布时间:2024-06-07

  • 97国际·(中国区)集团官方网站

    点击量:

  • 97国际·(中国区)集团官方网站

    点赞:

分享至

97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站

我想谈论

AIGC(Artificial Intelligence Generated Content ,天生式人工智能)手艺使用训练有素的天生式模子来天生自然语言文本、图像、音频等多样化内容。在其网络架构中 ,网卡(Network Interface Card ,NIC)饰演着至关主要的角色 ,作为毗连盘算机和网络的要害装备。其主要职责包括将盘算机爆发的数据有用地发送到网络中 ,并认真吸收来自网络的数据。网卡装备关于确保 AIGC 网络的高性能和可靠性具有主要意义 ,为数据传输和网络毗连提供了可靠的基础支持。

 

网卡双上联的爆发缘故原由

网卡双上联是一种架构 ,它将服务器或网络装备的两个物理网卡同时毗连到差别的网络上级装备或交流机上。

 

网卡双上联

 

在古板的网卡单上联架构下 ,无论是光纤照旧友流机泛起异常 ,都会导致AIGC训练使命中止 ,因训练中止将造成训练本钱增添和客户品牌的负面影响。别的 ,交流机升级时代 ,AIGC训练营业也需要提前迁徙。这对用户体验、系统稳固性以及网络运维都带来了许多问题。

相比之下 ,网卡双上联架构中 ,服务器上的所有网卡的两个端口划分毗连到差别的交流机 ,并通过绑定这两个端口形成一个bond端口来提供服务。这样 ,当一个上联链路或对应的接入层交流机泛起故障时 ,流量可以切换到另一个端口 ,确保训练使命不会中止。

 

网卡双上联架构

 

双上联架构设计阻止了网卡单上联接入交流机带来的单点故障危害 ,极大提高了整系一切互联的鲁棒性。别的 ,这也为集群系统的交流机热升级创造了条件 ,使得整体网络运维和功效迭代变得越发利便。

 

集群系统

 

网卡双上联架构网络解决计划

以下是目今交流机支持的几种网卡双上联架构解决计划:

网卡双IP

网卡的每个端口划分设置2个差别的IP地址 ,通过网卡设置将流量疏散差别的路径。网卡对外虚拟为2个差别的网卡 ,自然复用交流机目今成熟的IP转发特征。当其中1个端口或IP地址失效时 ,另一个端口/IP地址也可以继续事情。

网卡双IP是一种无邪且高效的网络设置计划 ,适用于多种应用场景。但部分荟萃通讯库关于双IP的支持度较差 ,且泛起多QP性能下降的情形;别的该计划需要为网卡多分派1倍的IP地址 ,IP地址资源保存铺张。

 

网卡双IP

 去堆叠

去堆叠计划为我司提出的立异性解决计划。去堆叠计划是指网卡和交流机之间通过bond绑定为聚合口 ,网卡侧关于ARP/ND实现broadcast ,即2个端口同时发送ARP/ND报文 ,使得2台接入的交流机可以同时学习到网卡的ARP/ND ,2台接入交流机将ARP/ND转换为BGP路由 ,向其他装备通告BGP路由。

去堆叠可以坚持营业接入方法稳固 ,同时2台交流机之间无需物理关联 ,并且能很好适配网卡双上联接入。

 

去堆叠

 

去堆叠+双平面

去堆叠+双平面是在去堆叠计划的基础上 ,将交流机划分为差别的转发平面 ,每个网卡双上联的差别端口映射至差别的网络平面。即2个网卡端口划分接入到差别的交流机 ,这2台交流机划分接入到差别的平面。

接纳去堆叠+双平面的计划 ,网卡发送端在bond端口发送流量时只要包管流量均分至发送侧的两个端口 ,那么在吸收侧的接入层交流机也一定会收到匀称的网络流量 ,大幅度降低了哈希极化的爆发概率。

同时 ,基于双上联和双平面接入的设计 ,使2层CLOS网络的单集群最大拓展规模翻倍 ,获得整集群通讯拓扑简化、降低时延、降低本钱等收益。

 

去堆叠+双平面

 

M-LAG

M-LAG(Multichassis Link Aggregation Group ,跨装备链路聚合)是一种跨装备链路聚合手艺 ,通过2台装备毗连组成双活系统 ,控制平面相互自力 ,交流机之间通过peer-link链路举行通讯和同步。M-LAG组的2台装备对外等效为1台装备 ,该等效装备和下联装备之间通过聚合口互联。

M-LAG架构具有高可靠性 ,若是一个交流机或链路爆发故障 ,流量可以自动切换到其他正常事情的链路或交流机 ,从而确保网络的高可靠性和冗余;别的还能使网络拓扑越发精练 ,多个物理链路在逻辑上看作一个链路 ,简化了网络设置和管理。可是M-LAG是私有实现 ,同组M-LAG只能是相同厂商的装备 ,跨组M-LAG装备不保存此限制。

 

M-LAG

 

E-AP

E-AP ( Enhanced Aggregation Port )是一种跨装备链路聚合手艺 ,它是由多台支持链路聚合的自力装备组成的系统。该系统可以等效成一台装备 ,与下联装备举行链路聚合 ,从而将链路可靠性提高到装备级 ,以知足高可用性场景的要求。当某条链路故障或者装备故障时 , E-AP将自动切换数据营业至E-AP组中其他可用的链路或装备上 ,从而实现装备级的可靠性。

E-AP通过私有协议通讯 ,无需特殊增添装备之间的互联链路 ,就能支持网卡双上联架构。E-AP架构同样具有高可靠性 ,能支持物理链路的冗余备份 ,降低单点故障的危害。

 

E-AP

 

VXLAN Multihoming

VXLAN Multihoming是指在VXLAN网络中 ,一个VXLAN实例(通常是一个租户或一个虚拟网络)通过多个物理网络接口或多个差别的网络路径毗连到VXLAN网络 ,视为相同EVI接入 ,VXLAN实例表项通过BGP EVPN举行同步。使用VXLAN Multihoming架构手艺 ,在网络中安排VXLAN虚拟网络 ,从而实现网卡双上联到差别交流机。

VXLAN Multihoming是RFC标准实现 ,为网络提供冗余毗连 ,支持网卡双上联。VXLAN Multihoming允许网络流量在多个链路之间举行分派 ,从而提高网络的吞吐量和效率;别的 ,VXLAN Multihoming具有较高的无邪性和扩展性。

 

VXLAN Multihoming

 

 

计划较量

我们对差别计划举行了评估 ,综合思量了资源占用情形、支持网卡规模、流量平衡、安排难度和运维难度等多个维度 ,每个计划都有其奇异的优势和局限性 ,选择时应凭证详细需求和现有资源举行权衡。

 

计划较量

 

选择最合适的网卡双上联计划需要综合思量网络架构的目今和未来需求 ,以及对性能、可靠性和本钱的影响。通过仔细评估每个计划的优劣 ,可以为AIGC网络设计一个既高效又可靠的网络情形

97国际网络 ,作为GenAI时代的全栈服务专家 ,致力于为企业提供笼罩IaaS到PaaS的全栈产品及解决计划。我们的产品笼罩高性能网络与GPU算力优化调理 ,旨在通过立异手艺解决计划 ,资助客户实现生产效率的奔腾与运营本钱的优化。我们坚信 ,通过我们的起劲 ,能够为客户打造一个越发智能、高效和可靠的未来。让我们携手 ,配合探索GenAI时代的每一个时机。

相关标签:

97国际·(中国区)集团官方网站 97国际·(中国区)集团官方网站

点赞

更多手艺博文

任何需要 ,请联系97国际

97国际·(中国区)集团官方网站

返回顶部

收起
97国际·(中国区)集团官方网站 文档AI助手
97国际·(中国区)集团官方网站 文档评价
资料内容是否对您有资助?
您对目今页面的知足度怎样?
不咋滴
很是好
您知足的缘故原由是(多�。�
您对文档是否尚有其它的问题或建议?
为尽快解决问题 ,请您留下联系方法以便回复
邮箱
手机号
谢谢您的反�。�
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
97国际·(中国区)集团官方网站
请选择服务项目
关闭咨询页
售前咨询 售前咨询
售前咨询
售后服务 售后服务
售后服务
意见反响 意见反响
意见反响
更多联系方法
网站地图