爱游戏-应对人工智能数据中心的电力挑战

[导读]国际能源署 (IEA) 的数据注解,2022 年数据中间的耗电量约占全球总用电量的 2%,到达 460 TWh 摆布。现在,加密货泉和人工智能/机械进修 (AI/ML) 等高耗能利用方兴日盛,而这些手艺中凡是需要摆设年夜量的高机能图形处置单位 (GPU)。是以,数据中间耗电量仍将不竭爬升。 国际能源署 (IEA) 的数据注解,2022 年数据中间的耗电量约占全球总用电量的 2%,到达 460 TWh 摆布。现在,加密货泉和人工智能/机械进修 (AI/ML) 等高耗能利用方兴日盛,而这些手艺中凡是需要摆设年夜量的高机能图形处置单位 (GPU)。是以,数据中间耗电量仍将不竭爬升。 人工智能利用的扩大速度使人震动。ChatGPT 上线仅 5 天,用户数目就到达了 100 万,并在 2 个月内冲破了 1 亿,这一增加速度远超在 TikTok 和 Instagram。GPT-4 练习包括跨越 1.7 万亿参数和 13 万亿 token,总共利用了 2.5 万个 NVIDIA A100 GPU,每台办事器的功耗约为 6.5 kW。据 OpenAI 称,GPT-4 的练习耗时 100 天,耗损能源约 50 GWh,耗资 1 亿美元。 在当前情况中,我们很难正确估量将来耗电环境,此中为撑持人工智能而摆设的 GPU 耗损了年夜部门电力。国际能源署守旧猜测,到 2026 年,数据中间的耗电量将最少到达 650 TWh,乃至可能跨越 1,000 TWh。 人工智能数据中间的架构演化 初期数据中间将电网电压集中转换为 12V,然后经由过程总线将电力传输至办事器,再经由过程逻辑电平转换器将电压转换为 3.3/5V。但是功率需求不竭晋升,这类供电方式的电能消耗变得不成接管。是以,母线电压被提高到 48V,电流减小到本来的 1/4,消耗下降到了本来的 1/16。 而今朝处置器电压进一步下降,从 3.3V 降到了低在 1V 的亚伏特级别,此时就需要利用多条功率相对较高的电压轨。这进而催生了两级电压转换方案。该方案利用 DC-DC 转换器作为中心总线转换器 (IBC),先将 48V 电压转换为 12V 的局部总线电压,然后再将此转换为所需的低电压。 江南体育 图 1:典型办事器电源架构 – 中心总线 人工智能数据中间需要高能效电源转换 功率消耗带来了两重挑战,不但会造成能源华侈、增添运营本钱,并且会发生年夜量热量,进而需占用更年夜空间、耗损更多本钱。运营超年夜范围人工智能数据中间时,机架功率需求为 120 kW。将电网电力转换为 GPU 所用电压的能效约为 88%,这意味着会发生年夜约 15 kW 废热,并需要经由过程液冷手艺进行有用散热。 在办事器电源设计中,能效和功率密度是两个主要概念,两者相辅相成。我们必需尽量高效地未来自电网的能量转换为有效功率,削减消耗。为此,电源拓扑不竭演化,业界开辟了同步整流等手艺,并在整流器中采取 MOSFET 代替了消耗较年夜的二极管。 改良拓扑布局只成功了一半。为了优化能效,还必需尽量提高所有元器件的能效,特别是对转换进程相当主要的 MOSFET。 MOSFET 并不是无消耗器件,在导通和开关进程中也会发生消耗。跟着办事器电源不竭提高运行频率以缩小尺寸,开关消耗成了优化的重点。 高效 PowerTrench MOSFET 安森美 (onsemi)的中低压 T10 PowerTrench MOSFET采取了新型屏障栅极沟槽手艺,下降了开关消耗和导通消耗,并进而显著下降了其 Qg,RDS(ON) 也降至 1mOhm 以下。此中的进步前辈软恢复体二极管减缓了振铃、过冲和噪声问题,同时下降了 Qrr 消耗,为快速开关利用找到了机能与恢复时候的均衡点。 与初期器件比拟,这些新型 MOSFET 可以使开关消耗下降高达 50%,并使导通消耗下降 30% 以上。 图 2:PowerTrench T10 MOSFET 的优势 安森美新型 40V和 80V T10 PowerTrench 器件的 RDS(on) 表示超卓。NTMFWS1D5N08X(80 V、1.43 mΩ、5 mm x 6 mm SO8-FL 封装)和NTTFSSCH1D3N04XL(40 V、1.3 mΩ、3.3 mm x 3.3 mm 源极向下双散热封装)具有优良的品质因数 (FOM),是人工智能数据中间电源供给器(PSU) 和中心总线转换器利用的抱负选择。T10 PowerTrenchMOSFET 合适严酷的 Open Rack V3 能效尺度,即能效到达 97.5% 以上。

欲知详情,请下载word文档 下载文档

· Ceva 凭仗在物联网毗连方面的市场带领地位和在音频和视觉传感方面的壮大专业常识,开辟针对嵌入式装备的优化 NPU,帮忙半导体企业和 OEM厂商阐扬边沿人工智能的潜力

要害字: 人工智能 AIoT

全球供给品类丰硕、发货快速的现货手艺元器件和主动化产物领先贸易分销商 DigiKey,日前公布推出《数字化城市》视频系列第 4 季《智能世界中的 AI》,由 Molex 和 STMicroelectronics 供给撑持...

要害字: 人工智能 数字化

为了知足高速数据传输需求,数据中间蓬勃成长,在这个进程中光器件的感化变得愈来愈主要。实现电旌旗灯号与光旌旗灯号之间的高效转换需要切确的测试解决方案,特别是用在对高度集成的光器件履行测试的解决方案。虽然这些器件的测试还面对严重挑战...

要害字: 数据中间 光器件

6月25日动静,今天OpenAI忽然发布将终止对中国供给办事的动静后,国产年夜模子厂商敏捷采纳步履,纷纭推出替换方案以弥补市场空白。

要害字: OpenAI 人工智能

光合组织将联袂X-MAN,缔造更多交换机遇,以现实步履赋强人工智能范畴,会聚生态之力成为扶植数字中国的主力军。

要害字: X-MAN 人工智能

上一篇:爱游戏-智能家居 下一篇:爱游戏-HarmonyOS NEXT技术创新媒体体验,百亿级宣发资源激活高品质数字内容分发