近期，中信建投证券发布了一份深度报告，题为《DeepSeek R1深度解析及算力影响探究》，该报告深入探讨了国内模型在深度推理领域的发展现状及算力对其的影响。
报告中指出，DeepSeek的R1模型在深度推理方面展现出卓越能力。特别是R1-Zero，它通过纯粹的强化学习证明了大型语言模型仅凭强化学习就能取得显著成效。在此基础上，R1经过多次微调和强化学习优化，在数学、编程等推理任务中取得了优异成绩。R1还通过蒸馏技术提升了小模型的推理能力，且成本相对较低。
除了DeepSeek的R1模型，其他模型也在深度推理领域取得了显著成果。例如，Kimi 1.5通过长上下文扩展等创新技术，在多模态和推理能力上表现出色。其独特的推理框架和Long2short技术有效优化了算力使用。同时，阿里的Qwen2.5系列模型也经过一系列改进，包括高质量数据集构建、上下文训练优化、监督微调数据范围扩大以及两阶段强化学习，性能得到大幅提升，在多个领域处于领先地位。
这些模型之所以能在低算力需求下实现高性能，得益于多方面的优化。以DeepSeek模型为例，它采用了高度稀疏架构、FP8混合精度训练框架、流水线并行策略、跨节点无阻通信设计和多token预测技术，实现了算法、框架和硬件的协同优化。
报告还指出，当前大模型行业正经历从生成式向深度推理型的转变。整体需求也从预训练向后期训练和推理转移。尽管部分模型现阶段能以较少的算力实现高性能，但从长远来看，随着模型的不断发展，在深度推理阶段，对算力的需求仍将呈现爆发式增长。
算力在提升人工智能模型性能方面发挥着至关重要的作用，是推动模型不断进步和拓展应用的关键因素。因此，随着深度推理技术的不断发展，对算力的需求也将持续增长，为相关产业带来新的挑战和机遇。
