字节豆包大模型团队官宣！霸占关键技术 练习本钱节约40%
最近，娱乐圈内又掀起了一阵波澜，几位明星的黑料被曝光，引发了网友们的热议。虽然信息尚未得到官方确认，但细节逐渐浮出水面，似乎隐藏着不为人知的内幕。吃瓜群众们纷纷开始猜测，究竟事件背后真相如何，令人期待后续的进一步揭秘。在这个信息爆炸的时代，谁也无法完全预测接下来会发生什么。
手机检查财经快讯。
专业，丰厚。
一手把握商场脉息。
手机上阅读文章。
提示：微信扫一扫。
共享到您的。
朋友圈。
3月10日，字节豆包大模型团队官宣开源一项针对MoE架构的要害优化技能，可将大模型练习功率提高1.7倍，本钱节约40%。
据悉，该技能已实践运用于字节的万卡集群练习，累计协助节约了数百万GPU小时练习算力。
。
当选优越会议MLSys 2025。 据了解，MoE是其时大模型的干流架构，但其在分布式练习中存在很多跨设备通讯开支，严峻约束了大模型练习功率和本钱。以海外干流模型Mixtral-8x7B为例，其练习过程中通讯时刻占比可高达40%。
针对这一难题，字节在内部研制了COMET核算-通讯堆叠技能，经过多项立异，大幅紧缩了MoE专家通讯空转时刻。
相较DeepSeek近期开源的DualPipe等MoE优化方案，COMET能够像插件相同直接接入已有的MoE练习结构，支撑业界绝大部分干流大模型，无需对练习结构进行侵入式改动。该作业以5/5/5/4的高分当选全球机器学习系统优越会议MLSys 2025 ，被以为“在大规模出产环境中极具运用潜力”。
COMET与Deepseek研制的DualPipe方案还能够联合运用。在同事MoE通讯开支上，COMET采用了核算-通讯交融算子的优化方法，DualPipe则经过排布算子来掩盖通讯，两种方案并不抵触，结合运用或将更大起伏紧缩模型练习本钱。
现在，COMET支撑多种MoE并行形式，布置灵敏、便利。一起，COMET中心代码已开源，并向开发者供给了一套友爱的Python API，方案兼容Triton等编译生态。
近期国内大模型研制技能快速取得打破，相关APP下载量也迅速增长。下载量排名成为外界调查各家大模型有用才干最直接的窗口。到发稿，DeepSeek在我国区苹果运用商铺免费APP下载排行首位，第二名是豆包，第三名是腾讯元宝。
。
最近驳斥谣言。 3月10日，寒武纪（688256.SH）股价午后呈现拉升，一度涨超5%，收涨3.87%，报779元/股，总市值3252亿元。
有商场音讯称，字节跳意向寒武纪下单4万颗580芯片，单价2.5万元，总价值算计10亿元。
对此，字节跳动相关负责人表明，音讯不实。
近期一度大火的Manus也传曾婉拒字节的出资。
据报道，开宣布Manus的我国创业公司——Monica，在2024年年头从前与字节进行过一轮收买商洽。其时字节出价3000万美元，但由于远远达不到创始人肖弘的心思价位，这次商洽终究不欢而散。
挨近Monica内部的从业者表明，字节收买的逻辑是以3000万美金的价格收买团队，将其团队和产品整合到豆包系统中，可是Monica进入字节后就会跟字节大模型战略绑定，就丧失了Monica产品上的共同优势。这也是肖弘及其团队不看好这场收买的主要原因。现在Monica估值挨近1亿美元。
对此，到现在，字节跳动并未给予回应。
。
传抖音将接入豆包大模型。 近期有音讯称，抖音App正在测验接入豆包App的AI才干，为用户带来愈加丰厚多元的智能体会。
在测验版别中，抖音为豆包App开放了两个超级进口：一个置于短视频界面，与点赞、谈论、转发等功用并排；另一个则放在抖音的音讯列表内，使AI技能与交际功用深度交融，进一步强化了用户互动体会。
此前，豆包App困难具有对话、创造及图画生成等功用，但用户需求脱离抖音App才干运用，这在必定程度上，也约束了豆包大模型的运用频率。
而经过将豆包直接嵌入抖音的两个重要进口，抖音App将直接打通豆包大模型中老练的AI功用，用户无需跳转即可运用AI服务，这不仅能强化抖音本身的AI才干，完成流量与功用的深度绑定，还能经过抖音巨大的用户基数为豆包导流，推进“AI生态闭环”的建造。
此外，抖音接入豆包还能够延伸用户在抖音的停留时刻，添加流量和用户粘性，为广告、电商等传统事务供给更大空间。
（文章来历：证券时报网）。
