PG电子·(中国)官方网站 > 产品与服务 > PG电子

PG电子戴尔科技联袂英特尔共筑绿色数据核心破解能效困难

  “AI的非常是光伏和储能”,信托许众人对这句话并不目生。这句话异常局面地证实了AI对电力的高依赖和高消费,一语道破,正在业界广为传播。

  近两年以大模子为代外的人工智能异常火,激励了大模子投资热,企业纷纷进入巨资起源锻练大模子和铺排各式人工智能使用。然而,不少企业猝然出现电出题目了,要么数据核心的电力不足,要么机房温度降不下来,或者用电本钱太高账单吓人,首要的以至直接影响数据核心寻常运营,波及企业的数字化化转型策略的落实。为了破解这些困难,不少企业走上绿色数据核心的修建之道。

  2022年岁暮,ChatGPT一炮走红。ChatGPT再现出来的强壮的实质天生技能让人诧异,但许众人不领略的是,这些技能是设置正在大宗数据的锻练之上,需求消费大宗的电力。

  斯坦福人工智能斟酌所发外的《2023年人工智能指数陈说》显示,1750亿参数的GPT-3正在锻练阶段的耗电量高达1287兆瓦时。跟着模子参数的一向填补以及模子从单模态向众模态发扬,耗电量还将进一步提拔。

  大模子不单是正在锻练阶段费电,推理阶段同样也相当费电。依据专家对ChatGPT的斟酌,每当ChatGPT试图反响一次提问,它需求消费2.9瓦时的电量。ChatGPT均匀每天需求执掌约2亿个来自用户的对话仰求,这意味着它单日消费的电量就要抢先564兆瓦时,相当于1.7万个美邦度庭一天的用电量。

  ChatGPT是通用大模子的一个代外,其他大模子的耗电状况大要肖似。跟着大模子的盛行,AI使命负载功耗占比正正在急迅提拔。依据施耐德电气的一份闭于2024数据核心行业的斟酌陈说,AI类使命负载功耗2023年只占到8%,而到2028年会占15%-20%,总能耗估计会到15GW,相当于十三峡水电站的总装机容量22.5GW的70%。

  通用大模子之因而费电,一个首要来因是它的锻练和推理都需求大宗GPU,即日GPU集群越来越大,万卡以至10万卡也不稀奇,而GPU跟着职能的一向提拔功耗会一向上升,正正在从目前的350瓦向1000瓦迈进,英伟达新发外的最新GPUGB200曾经冲破了1000瓦。当然,不单是GPU,CPU的功耗也正在上升,正正在冲破500瓦。

  CPU、GPU功耗的一向上升迫使企业越来越闭切AI架构的优化,要把数千以至上万张CPU、GPU卡互联,让它们高效访谒所需求的数据,落成使命,对编制架构计划提出了很高的恳求。

  “一个计划优异的AI架构简直能大大普及全面装备的能效,这些年戴尔科技不绝正在做的事宜。”戴尔科技集团大中华区收集和第三方产物奇迹部虞颂峰先容,戴尔科技的技能也获得了市集斟酌机构的承认,Forrester正在2024年Q1的《AI根本举措处分计划》陈说中将戴尔科技列入AI根本架构处分计划率领者。

  AI负载的高电耗不妨让本来数据核心计划的电力不足用,以至外围供电不敷,迫使人们需求寻找更众能源,比方引入明净能源、核能等。而另一个后果便是不得不闭切绿色数据核心的筑筑,闭切机房内部致冷题目。

  平常数据核心中铺排有大宗IT装备,如供职器、存储和调换机等,以及空调等附加装备,这些装备运转需求披发大宗的热,必需实时带走,不然会因过高的温度会导致装备损坏,编制宕机。古板数据核心致冷方法是以风冷为主,老旧机架计划功率不抢先10kw操纵。然而,即日一台装备众GPU卡的AI供职器单台功率就不妨冲破10kw,古板风冷手艺很难处分其散热题目,不得已人们起源选取液冷手艺。

  “为了餍足AI的使用,达成可不断、低碳、节能和环保的绿色数据核心,从目前的手艺要领来看,液冷是最佳的选取。”虞颂峰透露。

  液冷处分计划的普及除了要处分机房温渡过高或者限制热门题目这些内因除外,尚有异常首要的一个驱动成分是邦度策略。近几年邦度正在鼎力鞭策节能环保,不绝正在局限高能耗数据核心。比方,北京恳求新筑数据核心PUE值低于1.4,上海、深圳恳求低于1.3。高PUE值意味着高能耗,希罕是对付少少大型和超大型数据核心,其用电量大,低落运营本钱和适合邦产策略的恳求双重成分驱动下,对液冷手艺踊跃性很高。

  各式利好之下,液冷市集增进很疾。依据IDC发外的《中邦半年度液冷供职器市集(2023上半年)跟踪》陈说,2023上半年中邦液冷供职器市集界限到达6.6亿美元,同比增进283.3%,估计2023年终年将到达15.1亿美元。IDC估计,2022-2027年,中邦液冷供职器市集年复合增进率将到达54.7%,2027年市集界限将到达89亿美元。

  目前市集上要紧有两类主流液冷手艺。一类是冷板式液冷,液体不直接接触IT部件,通过液体正在密闭的导管流经供职器内部的散热冷盘将热量带走。另一个是浸没式液冷,便是直接把整台供职器泡正在独特液体中,通过与液体举行热调换来带走热量。

  少少领先的供职器厂商曾经推出了我方的液冷供职器产物。虞颂峰先容,戴尔科技通过与合营伙伴合营供给三种液冷处分计划,既有冷板式液冷也有浸没式液冷,可能餍足区别客户的需求。

  DIY冷板式液冷计划:计划采用戴尔科技的准则液冷供职器,装备CoolIT冷盘,加上第三方(绿色云图和维谛)的CDU和液冷机柜,正在客户现场拼装落成整套液冷计划交付。

  准则的整机柜交付冷板液冷计划:戴尔正在工场预装置液冷供职器和CoolIT的机柜PG电子、分水器,直接交付给客户。

  浸没式液冷计划:采用的是过程戴尔科技验证的绿色云图的浸没式液冷处分计划,由绿色云图供给整合供职,合用于周围使用、静音恳求极高或者是极致PUE等使用场景。

  当然,要筑成一个绿色数据核心光有液冷手艺远远不足。绿色数据核心的筑筑该当从最起源的计划、筹划就起源,不绝到机房装备铺排、冷却编制的铺排,还要选取高效节能IT组件以及精美化的经管和运维等。

  以编制的经管和监控为例,可能通过电源经管器及时监控并控校服务器的全部功耗和供职器的CPU负载状况达成电扇的动态调度,来有用低落数据核心的能耗。

  F5公司处分计划参谋王志博宣泄,F5公司的产物落地场景中就有不少用来密集各式IT装备运转境况,借助F5的产物采撷数据,然后举行大数据解析和外示,从而助助经管者更好地经管这些装备,普及装备运营能效。

  值得一提的是,并非唯有新筑数据核心能力叙绿色节能,对付现有的数据核心也可能通过改制来普及能效。比方,通过模块化的数据核心达成冷热通道的分开,通事后门热调换普及热调换功用,通过优化古板数据核心最众可能达成PUE1.2操纵。

  采用高能效的新一代产物也是一种有用的节能本事。英特尔中邦可不断发扬项目组卖力人彭振飞先容,采用英特尔最新的第五代至强可扩展执掌器,通过选取电源优化形式就可能正在30-40%使命负载时轻松达成110瓦的能耗低落。英特尔即将正式发外的至强6正在能效上再现更为精良,至强6SierraForest初次采用纯能效核(E核)计划,可能带来2.4倍的能效提拔,机架密度则可能普及2.7倍。这意味着正在雷同的空间里能供给更高的算力,而且是更高能效的算力。

  为了助助企业修建绿色数据核心,英特尔还推出了绿色数据核心手艺框架2.0,这是一个参考计划,它从XPU层、供职器层、机架层和数据核心层诀别提出了合理达成节能减碳的手艺途径,一共提出了13种让数据核心更绿色的手艺技能和计划。

  “这是一个框架,宗旨是心愿通过高能效产物和手艺的运用,通过液冷,通过更高能效的执掌器等IT组件集合,达成高能效的谋略,修建更绿色的数据核心。”彭振飞说。

  当下正在AI使用高潮的鞭策下,算力需求井喷。数据核心行为承载AI使用的闭节,正在餍足算力需求的同时面对能效题目的离间,这使得数据核心的绿色低碳和可不断发扬成为刚需。

  液冷手艺正在策略、手艺与经济性三大成分的协同鞭策下成为绿色数据核心筑筑的首要手艺之一,正正在急迅替换风冷手艺发扬成为市集主流。面临这个新兴市集,有着丰裕的手艺积淀和对物业领略的戴尔、英特尔等巨头的参加无疑会大大鞭策液冷手艺的前进,加快绿色数据核心正在中邦市集的落气象伐,最终为我邦数字经济的高质料发扬供给更为强壮的焦点驱动力。

×

扫一扫关注 集团官方微信