当前位置:首页>科技 >内容

影响服务器机架功率的凶手,AI

2024-01-30 14:12:02科技漂亮的斑马

很多朋友对影响服务器机架功率的凶手,AI不是很了解,六月小编刚好整理了这方面的知识,今天就来带大家一探究竟。人工智能逐渐比云技术更受

影响服务器机架功率的凶手,AI

很多朋友对影响服务器机架功率的凶手,AI不是很了解,六月小编刚好整理了这方面的知识,今天就来带大家一探究竟。

人工智能逐渐比云技术更受欢迎。我们说人工智能无处不在,不仅仅是因为数据中心有AI应用,或者因为MIT Python程序员可以编写AI,而是因为它已经进入了我们的日常生活,比如在超市巡航的导购机器人,使用卷积神经网络(CNN)安装在机场的安全摄像头,放置在壁炉台上的亚马逊Alexa语音助手,甚至是我们牛仔裤口袋里的苹果手机Siri虚拟助手(它可以推荐10英里内的寿司店)。

AI编程可以从经验中学习,也可以通过训练学习,可以独立地将学到的知识应用到未来的场景中,所以它以极快的速度进入我们的生活。换句话说,它可以像人类一样完成工作,同时会自动适应变化的环境。无论使用AI的是超市里目光呆滞的机器人,还是带领我们去酒吧的澳洲性感女郎,其功能都是通过CPU或GPU系统实现的(比如英语传达的DGX)。

AI应用有很多种,不能简单说哪种硬件最好。正如英特尔的Naveen Rao所说,“因为AI应用不是只有一个,所以客户发现没有所谓的‘最佳’硬件平台可以适用于所有的AI应用”。无论AI应用选择哪种硬件,有一点是明确的:每一个处理设备都需要电源。昂贵的数据

对于IT管理者来说,在计算服务器所需功率时,必须考虑AI的影响。普通服务器机架的平均功耗为7kW,而运行AI应用的机架功耗可能超过30kW。因为在运行AI应用时处理器利用率更高,比如在GPU服务器上运行AI应用,每个芯片的功耗会翻倍,所以必须增加功耗才能保证系统的正常运行。

当然,如果设备的电量不够,可以尝试迁移数据,但这可能比处理数据要耗电得多,因为在数据迁移过程中总是要耗电的。简单来说,数据传输的成本非常高。比如虽然有很多云提供商(AWS,Azure,Google等。)来选择,复杂的数据传输也隐含着成本,很多公司都会遇到这个问题。因此,可行的解决方案不是迁移数据,而是在数据源附近进行处理,边缘计算应运而生。

小网络解决大问题边缘计算有望成为另一项备受期待的5G数据技术的基础。5G网络需要许多分布式处理区域(也称为边缘网络)的支持,才能达到1ms的延迟指标。边缘服务器的位置应该靠近制作4K甚至8K格式的高清文章的个人,以及监控智能城市中行人和交通动态的相机等应用。在这些场景中,不需要将数据发送到云。

此外,无人驾驶汽车也需要边缘网络的支持。这些新数据应用的关键是近乎实时的人工智能信息处理。目前,所有的人工智能应用都运行在硅基计算硬件上。——可以是智能手机中的定制芯片,可以是边缘计算服务器中的FPGA,也可以是通过公共云(如DGX)可访问的专有AI系统。

这些硬件都需要电源,无论是直流电(如电池)还是交流电(来自电网)。物理系统也需要通过铜线或光纤连接进行数据通信。停电是AI最大的威胁。AI似乎对人类有着前所未有的价值。但是,一旦断电,它就会崩溃,停止工作,就像超人对氪石的反应一样。让AI避免断电,降低系统崩溃风险的最好方法就是保证持续可靠的供电。

对于那些需要近实时处理的AI应用,具有每个插座功率感测功能的开关PDU(功率分配单元)可以使边缘数据中心提供最大的运行时间。在这种环境下,交通信号控制、消防站等城市应急响应系统所需的AI服务器必须选择可靠的PDU,以保证救护车、消防车、执法部门数字通信系统的畅通。图1:1:服务器技术公司的交换PDU。

对于这些关键任务,智慧城市需要智能电力设备来确保5G服务的畅通。使用可以远程监控和管理的数据中心PDU,可以监控机柜的温度和环境条件。对于数据中心和主机托管设施,人们将把基于CPU的服务器替换为具有更强AI处理能力的GPU系统。当需要C13和C19插座的更大组合时,可扩展机架PDU将派上用场,它支持30 kW机架。信息革命源于技术进步。

详细的信息有助于决策,一开始只需要口头收集信息。直到1846年皇家伯爵府发明了电报打印系统,信息收集才开始需要手摇曲柄提供电力。从此,权力和信息处理就密不可分了。

目前世界上处理能力最强的超级计算机是橡树岭国家实验室的Summit。它使用近3万个强大的图形处理器运行深度学习算法,达到每秒10亿次运算的速度,帮助我们解决气候变化问题。我们正在进入一个新的历史时代,人工智能会给我们的生活带来翻天覆地的变化,但我们首先要为人工智能提供电力。选择一个可扩展的、可靠的电源对于AI功能的顺利实现至关重要。

以上知识分享希望能够帮助到大家!

声明本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们

Top