揭秘EQDS：AI时代数据中心的新宠

EQDS手艺将险些所有的排队操作从数据中心网络移动到了主机端侧，对数据中心网络流量传输举行了优化，EQDS成为了AI时代数据中心的新宠。

宣布时间：2024-01-12
点击量：
点赞：

分享至

我想谈论

2023年以来，以ChatGPT为代表的天生式 AI（AIGC，Artificial Intelligence Generated Content）手艺成为整个科技行业最热门的讨论话题。业内大模子已推出千亿、万亿级参数目，底层GPU算力安排规模也抵达万卡级别，对智能算力的需求一直增添。

在AI大模子的训练中，数据中心已经成为了AI运算的“大脑”，网络的性能成为了制约其规模扩展和性能提升的要害因素，一旦网络性能不佳，就会影响漫衍式训练的质量和速率。而EQDS手艺，正是这个“大脑”中不可或缺的一部分。

揭秘EQDS：AI时代数据中心的新宠

作甚EQDS？

EQDS，全称为Edge-queued datagram service，是一种新型的数据报服务，它的泛起为数据中心带来了革命性的厘革。该手艺将险些所有的排队操作从数据中心网络移动到了主机端侧，对数据中心网络流量传输举行了优化，包括带宽提升、时延降低、流量负载平衡等。这就像是给数据中心装上了一个“加速器”，让数据传输越发流通、高效。

EQDS DPDK可以在Host主机的用户空间运行，提供类似DMA内存直接会见能力。更主要的是，EQDS的实现不需要依赖于特定的硬件网卡，应用程序可以直接在用户态执行数据传输，不需要在内核态与用户态之间做上下文切换。这意味着，无论是通用盘算、存储照旧高性能盘算场景，EQDS都能轻松胜任。

作甚EQDS？

EQDS是怎样爆发的？

既然EQDS云云优异，那它又是怎样爆发的呢？着实，EQDS的泛起并非无意。TCP协议虽然普遍适用，但由于其自己的机制，导致通讯过时延增添；RDMA手艺虽然适用于高速网络，但其只对拥塞信号“事后”作出反应的机制，也导致了长尾时延的增添。别的，TCP流量和RDMA流量共存时，会贪心地占用带宽，导致RDMA被抑制。正是在这样的配景下，EQDS应运而生。

EQDS是怎样爆发的？

EQDS基于Credit信令机制，在无需交流机加入下实现了端到端的拥塞控制。主机吸收端分发credit，确保主机发送端流量在吸收端不会过载，解决了动态时延不确定性问题。

Credit信令机制

使用交流机逐包ECMP的方法，实现网络侧的负载平衡，同时在无需专用NIC支持的情形下实现吸收端的数据包重组。

逐包ECMP

接纳EQIF隧道手艺，建设EQDS virtual interface虚拟行列和隧道细粒度的调理战略，实现TCP和RDMA流量的公正共享。

接纳EQIF隧道手艺

经由实考试证，EQDS手艺在存储网络NVMe-OF场景下体现优异。

在差别网卡、差别场景下，NVMe over EQDS的性能体现险些相同，且显着优于NVMe over TCP，稍逊色于NVMe over RDMA。虽然，由于EQDS DPDK运行在用户态，测试主机的CPU较低，无法完全施展EQDS的性能。不过，只要接纳AMD EPYC及以上的CPU，EQDS的性能将会获得充分验展。

97国际·(中国区)集团官方网站

总的来说，EQDS手艺为数据中心带来了诸多价值。

它兼容标准网卡、协商阶段确定对EQDS的支持、兼容与古板网卡的TCP/IP通讯、营业无感安排、基于EQIF诱骗应用层实现应用层面零修改、兼容RDMA、TCP/IP营业、数据面去RDMA+QP基于EQDS转发、端侧基于标卡实现DMA举行内存拷贝、端到端稳固低延时等。

EQDS可以透明地加速古板的TCP和RDMA协议栈，并支持传输协议的演进，同时受益于未来的交流机增强功效而无需修改更高层的协议栈。更主要的是，基于EQDS的Credit机制实现滥觞流控、基于Spray方法充分使用所有链路、基于EQIF隧道战略实现多营业的公正调理等特征，使得EQDS成为了AI时代数据中心的新宠。

97国际网络推出AIGC网络计划，席卷高性能以太网络解决计划以及AI-FlexiForce网络解决计划，来应对全球互联网流量一直增添和数据应用需求多样化的生长趋势。97国际网络致力于推动网络手艺的前进和生长，一连举行手艺研发和产品开放立异，起劲探索海内外先进手艺，为全球的数据中心提供越发高效、可靠、智能的网络解决计划，助力互联网、运营商等各行各业的快速生长。