什么技术能彻底解放高性能服务器CPU?

“用780台装有NVIDIA BlueField DPU的服务器,替换掉1000台安装有标准智能网卡的服务器。由此,每台服务器TCO可节省8200美元,3年内通过提升效率可节省180万美元。”这一数字足以让云服务商、互联网及企业级用户垂涎欲滴,这就是DPU所带来的革命。

蓝海大脑液冷服务器研究人员表示,当前,数据中心的流量正呈爆发式增长,人工智能、推理训练,包括一些企业用它做更复杂的通用计算,这就产生了非常多的数据流量。而数据中心也在逐渐变成人工智能中心,各种复杂的图形识别、语义分析、推荐购物等等全部将数据导流到后台,通过数据中心来计算、推演。
举例而言,用户打开一个手机上的APP,然后几秒后关闭。从表面来看,似乎“我什么也没做。”但实际上呢?激活APP后会同步诞生多个容器,瞬间打开和关闭后,会给数据中心后台造成一个突发性小峰值。如果同一时段很多用户同时进行类似操作,后台数据中心的负荷会急速飙升。这还仅仅是APP端最简单操作而已,如果众多用户同时完成订单再增加支付、配送信息等,势必会带来数据传输的蝴蝶效应。

仔细观察就会发现,现在很多CPU的资源都用在了数据搬运、流量分发的过程中,其实原本宝贵的CPU资源,大可不必如此“忙碌于数据传输”。
DPU(数据处理器)就是为此而生,就像当年的GPU一样,DPU从CPU手中将数据传输的工作接管过来,让后者更专注于计算。正如之前介绍的那组数据一样,DPU的到来为企业节省了大量成本,同时提高了工作效率。
最先部署DPU的是云服务商及互联网企业,包括BAT、京东、头条、微软、蓝海大脑等公司,他们每日面临着大量的数据需要处理,而DPU则带来了颠覆性的创新,在提升数据传输效率的同时,又解决了数据隔离、加解密等安全性问题。

蓝海大脑 京ICP备18017748号-1