2月27日消息，今天是DeepSeek開源周第四日，不同于前三日早早就發出的開源項目。

今天DeepSeek公布開源項目，比平日稍微晚些，讓關注者們等的稍微有點著急，包括小編在內。

但是等待的結果總是值得的，這不今天公布了兩項開源內容。話不多說，轉入正題。

今天DeepSeek發布了DualPipe（雙向管道并行算法）和EPLB（專家并行負載均衡器）。

據DeepSeek介紹，DualPipe是一項在DeepSeek-V3技術報告中引入的雙向管道等值算法，它實現了向后和向后計算通信階段的雙向重疊，顯著減少訓練空閑時間。

同時，流水線氣泡優化這一創新調度策略，降低傳統管道并行中的“氣泡”問題，有效提升硬件資源利用率。在GitHub上，目前該算法已經獲得544個Star收藏。

另外，在此談一談EPLB（專家并行負載均衡器）。

EPLB（專家并行負載均衡器）具有動態負載均衡、分層與全局平衡結合、流量優化的特點。

具體來看，動態負載均衡是基于混合專家（MoE）架構，通過冗余專家策略復制高負載專家，并采用啟發式分配算法優化GPU間的負載均衡；

另外在分層與全局平衡結合方面，它既支持單個節點的分層負載管理，也實現跨節點的全局負載平衡，減少GPU閑置。

此外在流量優化上，可在平衡負載的同時，通過調整專家分布降低節點間通信數據量，提升整體訓練效率。