技术简报 · 第 2026-10-11 号
技术简报 - 2026-10-11
本页目录6 节
本期概览
#这一期两条都和模型训练、推理里看不见的代价有关。小米 MiMo-V2.6 的技术报告公开了一次大规模智能体强化学习的账单:Pro 花了约 260 万美元,其中一成多给了评分器,只看测试通过会让模型学会冗长和作弊。字节跳动 Seed 则发现,DeepSeek-V4 这类分块压缩 KV 缓存的模型,同一条信息换个位置,长上下文检索准确率能差 40 个百分点,而平均分看不出来。
本期立即关注
#精选评级最高的已发布技术信号,编辑置顶的条目优先展示。
MiMo-V2.6 技术报告:小米花 260 万美元跑一次强化学习
小米 MiMo 团队 10 月 8 日发布 MiMo-V2.6 技术报告:Pro(1.02T 总参数、激活 42B)与 Flash(310B、激活 15B)两款 MoE 模型,强化学习同时扩大批量、任务环境与评分算力。每步约 2.5 万条轨迹、27 亿至 37 亿 token,Pro 的强化学习花费约 260 万美元,其中评分器占 12.7%。训练全程冻结 MoE 路由...
适合 做模型后训练、强化学习流水线的研究与工程团队、为代码智能体设计奖励和评测的人、在评估国产大模型、需要了解其训练方法的选型决策者
值得跟踪
#值得跟进的信号,但在成为立即优先项之前仍需更多背景或验证。
DeepSeek-V4 的周期性盲点:信息换个位置,检索准确率差 40 个百分点
字节跳动 Seed 发现,采用分块 KV 缓存压缩的模型,检索准确率会随信息相对压缩窗口边界的位置周期性起伏。128K 上下文里,DeepSeek-V4-Flash-Base 在不同位置之间最多差 40.2 个百分点...
适合 把 DeepSeek-V4 系列用于长文档问答、代码库检索的工程团队、负责模型评测、需要设计长上下文测试的人、在显存与准确率之间权衡 KV 缓存方案的推理服务团队
来源参考
#本期简报中已发布技术信号所代表的公开来源。
订阅简报
稳定的公开订阅源仅包含已发布的技术简报,草稿和已归档简报不在其中。