国产芯片如何借助性价比实现替代？清程极智的探索与思考

清程极智的背景与实力

清华系背景

清程极智由清华大学计算机系的人员创办，首席科学家翟季冬教授曾带领清华超算团队取得诸多世界冠军，核心成员多来自清华计算机系高性能计算研究所。这种清华系背景为公司奠定了坚实的技术基础，也赋予了其在人工智能领域的研发能力。

丰富的经验与投资

该团队有着使用和调优十万台服务器超大规模国产算力集群的经验，这在国内是少有的。成立仅一年就获得两轮投资，包括北京市人工智能产业投资基金与中科创星。中科创星指出国内AIInfra市场在核心技术软件方面的空缺，而清程极智完全掌握全栈研发能力。

推理侧需求爆发的影响

业务精力的转移

之前大部分算力需求在预训练侧，清程极智致力于优化训练性能。但DeepSeek走红后，推理算力需求占比大幅提升，新增业务基本都来自推理侧。这种变化是之前有所预判但没想到来得如此迅猛的。

对国产算力的双重影响

一方面，大模型私有化部署需求增加，部分闲置国产算力被消化。另一方面，从推理侧看，DeepSeek拉大了国产算力和英伟达的差距。其技术创新与英伟达H卡架构绑定，多数国产芯片不支持FP8，导致在部署DeepSeek满血版时出现问题，影响了使用国产卡的意愿。

赤兔开源的意义与价值

开源的原因

从技术价值看，赤兔的技术方案对国产AI行业生态有正向影响。从商业角度，虽开源但基于赤兔的部署和运维仍需清程极智参与。从长远看，可通过软硬协同提升国产AI芯片性能，且公司创立的初衷就是促进国产生态发展。

对行业的推动

赤兔开源实现了DeepSeekFP8精度模型在存量GPU上的无损且高效部署，短期来看对国产算力在支持DeepSeek方面是重要的催化剂。长期来看，是国产大模型、国产算力和国产引擎闭环形成中的必要一环，也让闲置的国产算力运转起来。

AI创企发展面临的状况

标签的延续与发展

清程极智成立之初有“助力国产化”“大规模集群训练”等标签，现在这些标签仍与公司发展相关。团队在国产化方面积累深厚，过去的经验有助于发挥国产算力优势，从性价比角度看，国产算力方案未必不如国外。

业务类型与研发压力

目前更偏向本地化部署业务，这是因为不同行业对数据安全有需求。而在研发方面，为提供灵活的算力底座和支持不同架构的芯片，需要考虑多种芯片特性，这带来了额外的工作量。虽然有自动化代码生成手段加速研发，但压力仍然存在。

人才需求与压力

公司技术门槛高，人才压力大，除了看重技术能力，还注重对团队文化的认同。目前持续做好推理引擎需要AI系统层面的人才，随着AI应用落地速度加快，了解上层具体场景解决方案的人才也备受关注。

相关问答

清程极智的核心成员主要来自哪里？

清程极智的核心成员主要来自清华大学计算机系高性能计算研究所，其首席科学家翟季冬教授也来自清华计算机系。

为什么DeepSeek的出现从推理侧拉大了国产算力和英伟达的差距？

DeepSeek的技术创新与英伟达H卡架构绑定，多数国产芯片不支持FP8，在部署DeepSeek满血版时会有显存占用大、模型精度受损等问题，影响使用国产卡的意愿，从而拉大差距。

赤兔开源对国产芯片有哪些短期好处？

赤兔开源在短期内实现了DeepSeekFP8精度模型在存量GPU上的无损且高效部署，让市场上的英伟达老卡旧卡及国产芯片支持FP8计算模型的推理，提高了计算效率。

清程极智为什么更偏向本地化部署业务？

因为政企和一些私企、民营企业有较强的数据安全要求，如金融、法律行业，而本地化部署可以满足这些行业的需求。

清程极智在研发支持不同架构芯片时面临哪些挑战？

要考虑不同芯片的特性，这相比只针对一种芯片会增加工作量，虽有自动化代码生成手段，但仍有额外压力。

清程极智需要哪些类型的人才？

需要AI系统层面的人才以持续做好推理引擎，也需要了解上层具体场景解决方案的人才，以满足AI应用落地需求。