DeepSeek出现后,算力真的会崩塌吗?

DeepSeek带来的变革
成本与性能的巨大反差
DeepSeek在AI领域展现出令人惊叹的表现。它仅用不到OpenAI十分之一的成本,就达到了后者最新大模型的性能。例如DeepSeek-R1模型系列,在大模型排行榜ChatbotArena上基准测试排名已升至全类别第三,与ChatGPT-4o最新版并驾齐驱,在风格控制类模型分类中还与OpenAI-o1并列头名。其V3模型训练只需278.8万GPU小时,成本仅557.6万美金,而GPT-4o模型训练成本约1亿美元,还需更高级的GPU和更多数量。这种成本优势极大地颠覆了传统认知,以往认为要提升模型性能就需要大量投入成本用于算力等资源,DeepSeek却打破了这个固有模式。
技术创新与效率提升
DeepSeek的成功源于多种技术创新。它自研的MLA和MOE架构,为模型训练成本下降起到关键作用。R1模型使用的数据蒸馏技术(Distillation)更是一大亮点。该技术能将原始复杂数据进行去噪、降维和提炼,得到更精炼有用的数据,从而提升训练效率。这就好比在学习中,不是盲目地增加学习资料,而是通过巧妙的方法将已有资料进行优化利用。通过训练小型模型模仿大型模型,广泛应用于提高AI效率与降低成本,改变了过去认为数据越多性能越强的惯性思维,因为过多的数据可能会带来干扰,而清洗和精炼数据同样能提升模型能力。
对行业格局的影响
改变研发路径预期
DeepSeek的颠覆性创新改变了整个AI行业的研发路径预期。在它之前,行业遵循ScalingLaw,认为模型性能与规模呈正相关,即参数越多、计算资源越大,模型性能越强。然而DeepSeek的出现让Scalinglaw的边际效益出现放缓迹象。这使得业界认识到人工智能产业不再要一味追求大规模算力投入,而是要在模型架构和工程优化结合上进行突破。例如微软rStar-Math和上海AI实验室的书生·浦语3.0等都在通过不同方式优化效率,降低成本,提升性能。
打破行业竞争壁垒
DeepSeek的范式转移破除了科技大厂建立的技术领先壁垒,还打破了重资本比拼的游戏惯例。它不仅开源而且免费,这对其他科技企业造成了巨大冲击。像OpenAI紧急上线新一代推理模型o3系列的mini版本,并且首次免费向用户开放其基础功能。这显示出DeepSeek的出现让其他企业不得不重新审视自己的策略,以应对这种新的竞争局面。

算力的真实需求状况
中国算力的发展现状
我国的算力基础设施目前仍处于初步搭建阶段,远未到过剩状态。根据相关报告,截至2023年末,我国算力基础设施规模占全球的26%,名列第二,但国家算力战略部署有着更复杂的考量。例如“东数西算”工程早在2021年5月就已启动,目前已形成多个枢纽和集群。国内已建和正在建设众多智算中心,还出现了多个国产芯片厂商形成的中国军团。到2025年,我国算力规模将达到300EFLOPS,智能算力占比要达到35%,这些都表明我国在积极进行算力建设且有着明确的发展目标。
未来算力需求潜力
虽然DeepSeek改变了行业对算力需求的预期,但从实际情况看,未来对算力仍有很大需求。DeepSeek本身随着用户增长和功能拓展,如突破文本范畴涉及图片、音频和视频生成领域时,对算力和前期训练成本的投入将呈几何级飙升。其他大模型公司也是如此,随着业务发展必然需要不断扩张算力。目前国内各大投资机构积极对接DeepSeek,也说明他们看到了其未来对算力的潜在需求。
在中美AI竞争的大背景下,中国企业DeepSeek以独特的方式取得成功,体现了中国智慧。但我们不能因此就否定算力基础设施的重要性,它仍然是人工智能时代不可或缺的创新土壤和社会资源。我们应在新的发展格局下,合理看待算力建设与AI创新的关系。

相关问答
DeepSeek是如何降低训练成本的?
DeepSeek通过自研的MLA和MOE架构降低模型训练成本,还使用数据蒸馏技术,将原始数据进行优化处理,从而提升训练效率,减少对大量算力的依赖,进而降低训练成本。
DeepSeek的出现对OpenAI有哪些影响?
OpenAI受到多方面影响。一方面,它紧急上线新一代推理模型o3系列的mini版本并首次免费开放基础功能。另一方面,OpenAI还指责DeepSeek团队通过“模型蒸馏”技术“违规复制”其产品功能,尽管未提供证据。
我国算力基础设施建设的目标是什么?
我国的目标是到2025年算力规模达到300EFLOPS,智能算力占比达到35%。并且要适度超前建设数字基础设施,加快形成全国一体化算力体系,目前已在积极推进相关工程如“东数西算”工程等。
为什么说DeepSeek体现了中国智慧?
中国在资源匮乏历史条件下擅长用低成本开发优质产品。DeepSeek以低成本达到一流性能,就像中国家电、光伏等制造业以高性价比取胜一样,在AI领域体现了这种中国智慧。
DeepSeek未来拓展功能会面临哪些挑战?
DeepSeek未来若拓展功能,如突破文本范畴进入图片、音频和视频生成领域,其对算力和前期训练成本的投入将呈几何级飙升,这是它面临的主要挑战之一。
数据蒸馏技术在DeepSeek中的作用是什么?
数据蒸馏技术在DeepSeek中的作用是对原始复杂数据进行去噪、降维和提炼,得到更精炼有用的数据,通过训练小型模型模仿大型模型的方式提高AI效率与降低成本。

