DeepSeek宣布开源优化并行策略
发布时间:2025-02-27 10:33 作者:清风不语
【DeepSeek宣布开源优化并行策略】八六软件园报道,Deepseek于开源周第四天宣布开源优化并行策略,其中DualPipe——包括一种用于V3/R1训练中计算-通信重叠的双向管道并行算法;EPLB——一种用于V3/R1的专家并行负载平衡器;以及分析V3/R1中的计算-通信重叠。(金十)
本分分类: 7*24快讯
版权声明:本文由八六软件园用户发布,不代表八六软件园立场,转载联系作者并注明出处:https://www.86zsw.com/post/22387.html