DeepSeek“开源周”第二天开源EP通讯库 — 新京报
视频加载中,请点击播放
近日,围绕某知名公众人物的诸多传闻再度引发热议,众多网友纷纷加入“吃瓜”行列,试图揭开事件背后的真相。虽然各种黑料纷纷曝光,但在信息海洋中,真假难辨,网络舆论也愈发复杂。无论是真是假,事件的发展仍备受关注,值得我们保持理性的态度,审慎对待这些流言带来的影响。
新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的效果:DeepEP,首位个用于MoE模型(混合专家模型)练习和推理的开源EP通讯库。
据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型练习中运用的技能,能用于提高模型并行处理才能和练习功率。
DeepSeek介绍,DeepEP的特色包含:高效且优化的全对全(all-to-all)通讯,节点内和节点间支撑NVLink和RDMA,用于练习和推理预填充的高吞吐量内核,用于推理解码的低推迟内核,原生FP8调度支撑,灵敏的GPU资源操控,完成核算与通讯堆叠。
DeepSeek发布公告截图。
修改 陈莉 校正 柳宝庆。