DeepEP开源将如何推动推理需求释放及相关产业发展？

财云财经阅读：26192025-03-03 17:51:00评论：0

摘要： DeepSeek发布相关成果，其推理成本大幅降低。通过EP实现优化，推理成本的节省或因外部算力供应受限。DeepEP开源有望释放推理需求，带动应用渗透和算力发展，云厂商与国产AI算力板块或受益。

DeepSeek推理成本的大幅降低

成本数据与盈亏平衡

DeepSeek在推理服务上有显著的成本优势。其V3和R1推理服务在节点占用方面，峰值为278个节点，平均226.75个节点，以2美金/小时的GPU租赁成本算，总成本为87,072美元/天。在特定时间段内，模型推理消耗Token量，每百万Token处理成本仅0.11美元。如果按照R1收费定价，理论上付费Token占总Token的15%就能实现盈亏平衡。这表明其在成本控制上达到了相当高的水平，为推理需求的释放提供了良好的成本基础。

与海外模型的成本对比

与海外模型如OpenAIo3-mini相比，DeepSeek在推理定价上更具优势。例如在每百万Token输入的价格上，o3-mini为0.55美元（缓存命中），而DeepSeek的R1仅为0.14美元。这种价格差异反映出DeepSeek在推理成本上的节省。这可能是由于国内外算力供应以及产业方向的不同，国内在算力受限的情况下通过技术优化来压榨硬件性能，从而实现成本优势。

DeepSeek的核心技术EP及其优势

大规模跨节点专家并行

DeepSeek-V3/R1推理系统的核心能力之一是大规模跨节点专家并行。采用预填充-解码分解架构，在不同阶段能同时进行多个专家并行计算。这一架构使得系统在处理任务时能够充分利用资源，多个专家同时工作提高了系统的计算效率，为实现更大的吞吐和更低的延迟奠定了基础。

计算/通信重叠

计算/通信重叠也是其重要的技术手段。将GPU中的SM划分为计算、通信两部分，让它们各自同时执行相应工作负载。这种方式减少了延迟等待时间，在提高系统效率方面发挥了重要作用。例如在处理复杂的推理任务时，计算和通信不再相互等待，而是并行进行，大大提高了整体的处理速度。

DeepEP开源将如何推动推理需求释放及相关产业发展？

负载平衡

负载平衡是DeepSeek技术的又一关键。通过预填充负载平衡、解码负载平衡、专家并行负载平衡等方式，尽可能地为每个GPU分配均衡的计算负载、通信负载。这使得系统中的各个GPU都能高效工作，避免出现某个GPU负载过重或过轻的情况，进一步提高了系统的稳定性和整体性能。

DeepEP开源对相关产业的影响

对LLM商业化应用的推动

DeepSeek通过优化推理成本，有望推动LLM商业化应用加速。较低的推理成本使得更多的企业和开发者能够使用相关的模型服务，降低了商业化应用的门槛。例如一些小型企业或创业公司，原本可能因成本问题无法涉足LLM相关应用，现在有了更多的机会。这将促使LLM在更多的领域得到应用，如智能客服、内容创作等。

对IaaS服务商和云厂商的影响

推理需求的释放会带动IaaS服务商稼动率提升，云厂商有望受益。随着更多的推理需求出现，IaaS服务商的设备利用率会提高，从而提高其经济效益。云厂商则可以通过提供相关的云服务来满足市场需求，如提供基于DeepSeek模型的推理云服务等。这将促进云服务市场的发展，同时也为云厂商带来新的业务增长点。

对国产AI算力板块的机遇

虽然目前DeepEP仍需要在特定框架下实现，但中长期来看，随着国产卡的适配跟进，技术有望向更多国产生态迁移。这将为国产AI算力板块带来成长机遇。国产AI算力企业可以通过适配DeepEP，提高自身产品的竞争力，在国内乃至全球市场中占据一席之地。例如在国产AI芯片的研发和应用方面，可以与DeepEP更好地结合，发挥国产硬件和软件的协同优势。

DeepEP开源将如何推动推理需求释放及相关产业发展？