上海打造智能算力资源调度平台,如何支撑大模型与行业应用发展?

上海智能算力资源统筹调度服务平台的构建
平台建设的背景与目标
在人工智能发展的浪潮下,算力需求不断增长。对于中小企业而言,获取足够算力的成本较高。上海市经济信息化委指导下的上海仪电牵头建设调度平台,目标是精准匹配供需、融合资源,降低中小企业创新成本,支撑大模型创新生态。这有助于让更多企业能参与到人工智能的发展中,避免因算力成本过高而被排除在外。
平台的主要功能板块
平台包含算力超市、算力纳管和算力融合等主要功能板块。算力超市构建算力交易生态,有算力产品商城和招标市场。算力纳管汇总各类数据实现统筹调度,涵盖交易直连等部分。算力融合管理异构异域算力资源,包括算力调度等工作。这些功能板块相互协作,使平台能有效运转。
平台的合作与发展生态
生态合作伙伴的共建签约
在“智算擎产业·垂类启新章”专场活动上,进行了平台生态合作伙伴与算力合作伙伴的共建签约。智算科技携手9家创新企业进行平台生态合作联盟共建签约,还与8家算力合作伙伴进行算力合作伙伴共建签约。这众多企业的参与,将为平台注入不同的资源和能力,促进平台的发展壮大。
平台对不同规模企业的服务意义
对于大模型的研发企业,平台提供算力支持,使其能更好地进行训练和部署。对于中小企业和初创企业,平台降低了创新成本。国资功能性平台企业如智算科技既要支撑基础大模型,也要服务中小微企业。这种对不同规模企业的全面服务,有助于构建完整的大模型创新生态。

算力需求的趋势与平台的应对策略
算力需求的现状与变化
大模型的研发训练和部署需要大量算力。从2023-2024年,训练算力需求占比大。随着大模型向垂类行业渗透,推理需求快速增长。虽然本质上是训推结合的市场,但行业应用的发展使得推理需求增长明显,像DeepSeek的发展就带动了推理算力需求。
平台的应对措施
上海仪电已投产多个万卡智算集群并将扩大规模,以满足产业发展需求。仪电智算云在集群建设方面实现国产智算芯片异构纳管,在算力效率上支持容器化调度等,应用部署方面支撑多种大模型。平台还希望整合国产芯片上下游,打造全栈国产生态,提升整体资源统筹调度和服务能力。

相关问答
上海智能算力资源统筹调度服务平台的主要功能有哪些?
该平台主要功能包括算力超市、算力纳管和算力融合等。算力超市构建交易生态,算力纳管统筹调度,算力融合管理异构异域算力资源。
平台的生态合作伙伴签约有什么意义?
生态合作伙伴签约能为平台注入多样资源和能力。不同企业参与其中,有利于平台发展壮大,从而更好地服务大模型和行业应用发展。
为什么要构建这个智能算力资源调度平台?
为了精准匹配供需、融合资源,降低中小企业创新成本,支撑大模型创新生态,以应对人工智能发展中的算力需求问题。
大模型发展对算力需求有何影响?
大模型研发训练和部署需要大量算力。随着向垂类行业渗透,推理算力需求快速增长,总体是训推结合的算力需求市场且规模仍在增长。
上海仪电在平台中的作用是什么?
上海仪电牵头建设平台,投产万卡智算集群并扩大规模,其智算云在集群建设、算力效率、应用部署等方面发挥重要作用。
平台如何应对国产芯片的发展?
平台希望整合上下游软件和硬件,发挥平台作用打造全栈国产生态,以更好地服务大模型行业,提升国产芯片在算力方面的应用能力。

