可支撑万亿参数大模型!首个国产液冷万卡算力集群投建
原创
2024-01-23 15:41 星期二
科创板日报
①中国电信表示,2024年上半年,公司将在上海规划建设15000卡的智算集群,总算力超4500P,其中单池新建国产算力达万卡。
②机构认为,AI发展下算力产业发展迎来重大机遇,算力普适普惠化是大趋势,相关服务生态将逐步构建。

《科创板日报》1月23日讯 1月22日,上海徐汇区政府与中国电信上海公司共同举办“算力惠模都 万兆连速城”人工智能公共算力服务产品发布会。中国电信表示,2024年上半年,公司将在上海规划建设15000卡的智算集群,总算力超4500P。其中,单池新建国产算力达万卡,是国内首个单池万卡液冷算力集群。

该集群采用新一代国产AI算力,通过高速RDMA(远程直接数据存取)连接各物理机节点,提供低延时、高吞吐量、无损通信网络和强大的并行计算能力,是目前规模最大的全国产液冷机房,多项技术指标领跑全国。

据介绍,该集群最高可支持万亿参数大模型,便于各科研院校、大模型训练公司等机构和企业实现物理资源独享,无虚拟化损耗,满足AI计算、深度学习、图形渲染等复杂训练任务对算力的要求。

同日,上海电信发布一系列人工智能公共算力服务产品,包括智算产品、弹性算网、算力调度平台和行业大模型等。与此同时,“双万兆接入暨一跳入算服务”正式启用。据称,上海电信将提供算力和算网免费试用以及优惠商用资费。

近一年来,ChatGPT掀起人工智能发展新高潮,大模型参数量和训练数据复杂性的快速增长,对智算系统提出大规模算力扩展需求。因此,中国电信方面表示,将迅速在临港投建支撑万亿级参数大模型训练的智能算力资源,进一步促推全市大模型技术应用赋能、产业发展和生态合作。

从市场规模来看,我国算力规模呈高增长态势。据华金证券近期研报统计,截至23年8月,我国在用数据中心机架总规模超过760万标准机架,算力总规模达到197FLOPS算力总规模,近五年年均增速近30%。

政策也在持续加码算力产业,国家层面《算力基础设施高质量发展行动计划》出台,省市层面对于国产算力的支持力度不断增强。对此,华西证券分析师刘泽晶认为,在国家政策的强力支持下,国产算力有望呈现爆发式增长。

民生证券近期研报指出,AI发展下算力产业发展迎来重大机遇,是AI浪潮下确定性最高的细分领域之一。人工智能算力基础设施成为我国数字经济高质量发展的重要战略部署,具有重大发展意义。算力普适普惠化是大趋势,相关服务生态逐步构建。

具体到产业链层面,机构建议关注国产AI芯片、华为升腾一体机厂商、AI服务器整机厂商以及算力运维、先进封装环节相关厂商。

收藏
70.95W
我要评论
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
要闻
股市
关联话题
3.99W 人关注
1.02W 人关注
9243 人关注
6.22W 人关注
3.59W 人关注