大模型浪潮带来的巨大算力消耗正在让AI服务器市场掀起抢单涨价狂潮。本周三有业内人士表示,服务器需求大增已成共识,未来订单成长动能很大,自家多款AI服务器已启动出货。同时国盛证券10月29日研报援引数据显示,随着拿卡难度加大,目前H800服务器报价已经上冲至300万元/台。
AI服务器市场掀起抢单涨价狂潮
业内分析表示,“百模大战”本质上也是一场AI服务器之争。面对市场的巨大需求,今年以来服务器公司、互联网大厂、AI大模型企业纷纷加速布局。
天风国际证券分析师郭明錤本周发布最新供应链调查指出,受益于企业对AI服务器高于预期的需求,戴尔已要求为产能瓶颈的AI服务器零部件大幅扩产约200%。与此同时,恒润股份、莲花健康、真视通等跨界玩家也横插一脚,豪掷数亿元购入GPU服务器。
英伟达现已开发出针对中国区的最新改良版系列芯片,消息刺激下AI服务器龙头浪潮信息当日尾盘强势涨停。
AI服务器是一种能够提供人工智能(AI)的数据服务器。它既可以用来支持本地应用程序和网页,也可以为云和本地服务器提供复杂的AI模型和服务。AI服务器有助于为各种实时AI应用提供实时计算服务。
随着AI等新应用场景出现,在拉动数据中心的需求的同时,伴随着算力密度的提高,算力设备、数据中心机柜的热密度都显著提高。温控系统是数据中心产业链必不可少的环节,市场对风冷系统与液冷系统需求将不断上升。
中国液冷服务器市场年复合增长率
数据显示,2022年,中国液冷服务器市场规模达到10.1亿美元,同比增长189.9%。IDC预计,2022-2027年,中国液冷服务器市场年复合增长率将达到56.6%,2027年市场规模将达到95亿美元。
6月5日,在第31届中国国际信息通信展览会“算力创新发展高峰论坛”上,中国移动、中国电信、中国联通三家基础电信运营企业邀请液冷产业链的相关代表企业共同发布了《电信运营商液冷技术白皮书》(简称《白皮书》)。《白皮书》提出三年发展愿景,三大运营商将于2023年开展技术验证;2024年开展规模测试,新建项目10%规模试点液冷技术;2025年开展规模应用,50%以上项目应用液冷技术,共同推进形成标准统一、生态完善、成本最优、规模应用的高质量发展格局。
据统计,目前国内各大公司、机构及科研院所已推出了数十个大模型。信息消费联盟理事长项立刚对记者表示,目前,多地及多家企业正不断建立算法平台,为大模型应用构建坚实基础。随着算力网络的逐步完善,产学研协作加快推进科技成果转化,AI大模型多场景应用加速落地,相关投资机会正在显现。目前市场对大模型及算力,正逐步从“热议”趋向“热捧”。
2025年开展液冷技术规模应用
伴随着我国数字经济蓬勃发展,AI、智算需求高速增长,新型数智化应用日新月异,高密、高算力等多样性算力基础设施持续发展,同时,在“双碳”背景下,政府部门对数据中心PUE(电能利用效率)要求越来越高。
在算力基础设施节能降耗方面,相较于传统风冷系统,液冷技术从根本上改善了主设备的散热形式,更能满足高密机柜、芯片级精确制冷,具有更节能、更节地、噪声低等优点。但当前液冷技术尚存在生态不完善、投资成本高等问题。《白皮书》指出,液冷技术发展推广面临三方面挑战。
一是液冷产业生态尚不成熟。目前业内尚无服务器与机柜统一接口规范标准,机柜与服务器深度耦合,各家服务器设备、冷却液、制冷管路、供配电等产品形态各异,不同厂家产品接口不同、不能互相兼容,势必限制竞争,影响产业高质量发展。
二是液冷系统架构尚在演进。当前业内液冷系统架构不同,制冷与供电存在分布式、集中式不同架构;部分厂家服务器已演进为高温服务器,可减配冷水机组,进一步简化冷源架构,促进降本增效。
三是液冷系统成本仍较高。与传统风冷产品比较,液冷仍存在初期投资高、全生命周期成本高等问题,影响产品的规模应用与推广。
据了解,液冷产业生态涉及产业链上中下游,包括上游的产品零部件提供商、中游的液冷服务器提供商及下游的算力使用者。上游主要为产品零部件及液冷设备,部分代表厂商有英维克、3M、云酷、竞鼎、诺亚、广东合一、绿色云图等。中游主要为液冷服务器、芯片厂商以及液冷集成设施、模块与机柜等,部分代表厂商有华为、中兴、浪潮、曙光、新华三、联想、超聚变、英特尔等。下游主要包括三家电信运营商,百度、阿里巴巴、腾讯、京东等互联网企业以及信息化行业应用客户。
液冷技术有不同的技术路线,目前,阿里巴巴以单相浸没式液冷为主要发展方向,其他用户以冷板式液冷试点应用居多。《白皮书》认为冷板式液冷与单相浸没式液冷各有优劣,生态均需完善,两者演进均尚需时日,未来一定时间内将并存发展,为当前业内发展主流。
共同推进液冷技术应用
为解决上述挑战,中国移动、中国电信、中国联通三家电信运营商决定将从传统意义的单纯用户,转变成为液冷生态的主导者、设计者、构筑者。电信运营商表示,将共同联合产学研上下游,强化原创性、引领型关键核心技术攻关,全力打造高水平液冷生态链;构筑开放生态,推进液冷机柜与服务器解耦,引领形成统一标准,既要降低PUE,又要获取最低TCO(全生命周期成本);发挥规模优势,大力拓展应用。
《白皮书》具体提出三年发展愿景:2023年开展技术验证,引领形成解耦标准,推动主流厂家解耦液冷产品研发完成,充分验证液冷技术性能,降低PUE,储备规划、建设与维护等技术能力;2024年开展规模测试,新建项目10%规模试点液冷技术,推进液冷机柜与服务器解耦,促进竞争,推进产业生态成熟,降低全生命周期成本;至2025年,开展规模应用,50%以上项目实现液冷技术规模应用,共同推进形成标准统一、生态完善、成本最优、规模应用的高质量发展格局。
据《白皮书》介绍,2023年中国移动在呼和浩特数据中心国家发改委绿色节能示范项目以及智算中心项目中启动液冷规模试点;中国电信2023年计划在京津冀数据中心实施30个液冷服务器机柜,计划在安徽建设3列,每列7台36KW冷板式液冷机柜,预留8台40KW浸没式液冷机柜,在广州开展1个冷板式液冷服务器项目。
目前,随着液冷等多项关键技术发展,国内数据中心建设也加速推进。据工信部数据显示,近年来,我国算力产业年增长率近30%,算力总规模位居全球第二。此外,近日,中国信通院联合中国电信共同发布我国首个实现多元异构算力调度的全国性平台——“全国一体化算力算网调度平台(1.0版)”,《绿色数据中心政府采购需求标准(试行)》也于6月1日起实行。
NVIDIA财报反映数据中心下游景气度较好,其他数据中心尤其是我国数据中心相关产业链也值得关注。根据工信部信息通信发展司数据,2017年我国数据中心市场总机架数量166万架,2022年预测达到670万架,2017-2022E复合增速达32.2%。根据信通院发布的数据中心白皮书,随着我国各地区、各行业数字化转型的深入推进,我国数据中心市场收入将保持增长态势。