DeepSeek扔的第二枚开源王炸是什么。2月25日，DeepSeek在开源周的第二天发布了名为DeepEP的开源代码库。DeepEP是首个专为MoE模型训练和推理设计的通信库，填补了该领域专用工具的空白，旨在提高大规模分布式AI训练和实时推理场景下的效率。

DeepEP具备多种技术性能特点。它支持优化的全对全通信模式，通过节点内和节点间的NVLink与RDMA互联来提升数据传输效率。原生支持FP8低精度运算调度，有助于降低计算资源消耗。高吞吐量内核适用于训练和推理预填充场景，能够最大化数据处理能力。针对推理解码场景设计的低延迟内核采用了纯RDMA通信和自适应路由技术，以减少延迟。此外，通过灵活的GPU资源控制策略，DeepEP实现了计算与通信过程的高效重叠，避免了资源闲置。对于NVLink到RDMA的非对称带宽转发场景，DeepEP也进行了专项优化，提升了异构网络下的传输性能，并且支持SM数量动态控制，平衡不同任务的吞吐量需求。