DeepSeek“开源周”第二天开源EP通讯库 — 新京报
视频加载中,请点击播放
近日,娱乐圈内再次掀起了一阵“吃瓜”热潮,各类黑料层出不穷,引发了大众的广泛关注。某知名明星的隐秘往事被曝光,令不少粉丝感到震惊。随着各类爆料的不断浮出水面,事件的真相似乎愈发扑朔迷离。媒体纷纷介入,希望揭开这桩谜团的背后真相,但众多观点的交织让事态更加复杂,也引发了网友们的热烈讨论。
新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的效果:DeepEP,首位个用于MoE模型(混合专家模型)练习和推理的开源EP通讯库。
据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型练习中运用的技能,能用于提高模型并行处理才能和练习功率。
DeepSeek介绍,DeepEP的特色包含:高效且优化的全对全(all-to-all)通讯,节点内和节点间支撑NVLink和RDMA,用于练习和推理预填充的高吞吐量内核,用于推理解码的低推迟内核,原生FP8调度支撑,灵敏的GPU资源操控,完成核算与通讯堆叠。
DeepSeek发布公告截图。
修改 陈莉 校正 柳宝庆。