苏州市干将路303号创意产业园

0512-3565 6563

Jackjones@kuaidata.com

联系客服

数据中心托管服务/管理式网络

服务:

400 651 8888

微软云服务:

400 089 2448

markjune@kuaidata.com

内容分布式网络服务:

400 811 0278

云集成与合作:

cloud@kuaidata.com

公司新闻

观点 | 算力成本高昂背后的三个不平衡挑战

2023-10-24

自今年初ChatGPT火爆全球以来,大模型的热度便居高不下,人工智能的发展也被认为将引发第四次工业革命。算力作为支撑底座也是讨论焦点,核心话题之一便是高昂的成本。原因主要有两个,一是算力成本居高不下,GPT3.5版本的算力训练一次大模型的成本已经高达1200万美元/次;二是需求倍数级增长,GPT3.0需要算力约为3000P,ChatGPT 4.0需求则激增68倍。

想要降低成本,需了解算力发展面临的三个不平衡挑战:

一,训练与推理支持力度、重视程度与研发投入极度不平衡。当前英伟达A100、H800等芯片可谓一卡难求,研发资源与资本也主要聚焦在GPU等高性能芯片上,集中在训练所需要的算力上。但大模型的训练不是目的,应用推理才是终极目标。而目前,全球尤其是中国,在推理芯片、技术及推理算力中心的发展上力度不足。

二,算力资源区域分布不平衡。资本在一线城市积极投入建设,如北京、上海、深圳,智能算力中心的规模在快速增加。这也源于这些地区数字经济发达,大模型企业较多,在智算上存在本地化的强需求。不过,一线城市往往缺乏能耗指标,一线城市之外,尤其是西部地区能源丰富,国家布局“东数西算”便是对能源及算力的协同调度,但目前本地化的大模型等算力供给依旧略显不足。

三,软硬件发展基础极不平衡,这也是三个挑战中最为关键的一点。对于算力的基础硬件,包括服务器、机房等方面的建设,我们的重视程度很高,但往往忽视了软件平台、大模型技术、数据交易平台这些软实力的建设,而软实力是真正让智能算力中心发挥商业价值的关键因素。

基于此,降低算力成本,也就需要提出针对性的解决措施:

算力的训练和推理应并重发展,要更加重视国产工艺下推理算力的发展;要通过政策推动国产推理芯片的技术攻关,加快基于国产工艺推理的数据中心与智算中心发展,尤其要基于区域形成中枢系统,为千行百业数字经济发展提供支撑;要系统化地去构建智能算力中心,芯片、服务器之外,需更加关注大模型训练平台、模型推理服务平台、算法仓库、大模型生产工具链、数据交易底层软件平台等一系列软实力的建设。

通过以上举措,最终共建通用人工智能算力产业生态,促进经济发展技术水平与生产力的变革。