Briefing · 2026-10-11
技术简报 - 2026-10-11
On this page6 sections
The briefing's title, the editors' summary and their notes are written in Chinese, as are skill and knowledge entries.
Overview
#这一期两条都和模型训练、推理里看不见的代价有关。小米 MiMo-V2.6 的技术报告公开了一次大规模智能体强化学习的账单:Pro 花了约 260 万美元,其中一成多给了评分器,只看测试通过会让模型学会冗长和作弊。字节跳动 Seed 则发现,DeepSeek-V4 这类分块压缩 KV 缓存的模型,同一条信息换个位置,长上下文检索准确率能差 40 个百分点,而平均分看不出来。
Immediate attention
#The highest-rated published signals; the editors' pinned items come first.
MiMo-V2.6 技术报告:小米花 260 万美元跑一次强化学习
小米 MiMo 团队 10 月 8 日发布 MiMo-V2.6 技术报告:Pro(1.02T 总参数、激活 42B)与 Flash(310B、激活 15B)两款 MoE 模型,强化学习同时扩大批量、任务环境与评分算力。每步约 2.5 万条轨迹、27 亿至 37 亿 token,Pro 的强化学习花费约 260 万美元,其中评分器占 12.7%。训练全程冻结 MoE 路由...
For 做模型后训练、强化学习流水线的研究与工程团队、为代码智能体设计奖励和评测的人、在评估国产大模型、需要了解其训练方法的选型决策者
Worth tracking
#Worth following, but each needs more context or confirmation before it becomes a priority.
DeepSeek-V4 的周期性盲点:信息换个位置,检索准确率差 40 个百分点
字节跳动 Seed 发现,采用分块 KV 缓存压缩的模型,检索准确率会随信息相对压缩窗口边界的位置周期性起伏。128K 上下文里,DeepSeek-V4-Flash-Base 在不同位置之间最多差 40.2 个百分点...
For 把 DeepSeek-V4 系列用于长文档问答、代码库检索的工程团队、负责模型评测、需要设计长上下文测试的人、在显存与准确率之间权衡 KV 缓存方案的推理服务团队
Sources
#The public sources behind the published signals in this briefing.
Subscribe
The public feeds carry published briefings only, never drafts or archived ones. They are in Chinese.