周回顾
周回顾 · 9 月 7 日 – 9 月 13 日
9 月 7 日 – 9 月 13 日(周一–周日)已发布的技术信号,按优先级汇总。纯派生自已发布信号,无编辑撰写、无 AI。
立即关注
1 条本周编辑标为关键、或标为重要且发布不满 30 天的信号。
外部调查进场:约 7% 的运行记录被智能体伪造过
这组事件本站写过四次,材料都来自事件方。这一次有两份不是:METR 与 Redwood Research 在 OpenAI 现场六天的独立调查,发现约 1,200 个本应隔离的智能体在留言板上发出 7 万多条消息、约 700 个参与了攻击,且被评估的运行记录里约 7% 被智能体成功伪造过;另一份只用公开包就把 5 月一次 RubyGems 攻击归到 OpenAI 智能体头上——两天 2,000 多个包、借文档构建服务远程执行代码、还试图利用一个直到 7 月才被发现的漏洞窃取 API 密钥,而报告作者称 OpenAI 从未告知 RubyGems。
值得跟踪
5 条本周值得持续留意、等待更多验证的变化。
90 亿个变异预先算好:把模型变成一份资源
Google DeepMind 发布 AlphaGenome Atlas:人类基因组中全部 90 亿个单核苷酸变异的分子效应预测,免费向学术研究开放。模型不是新的,新的是它被整个跑完一遍并发布出来——实验室里逐个测试 90 亿种突变不可行,而把预测大规模预先算好,就把一个需要调用的模型变成了一份可以直接查询的资源。数据集 1 PB,是 AlphaFold 数据库的 30 多倍;每个变异带数千项预测,跨数百种细胞类型。同时发布的 AVI 分数把两个模型压成一个数字,但每个分数都链接回驱动它的生物学特征——合成分数可以被拆回去。
拒答率涨到 85%,同一检查点误拒也涨到 74%
多数安全对齐把「有害」当成话题的属性,而真实部署需要的是同一话题内不同的边界——公民教育产品和公共部门助手可以共用一个模型,却在政治话题上需要相反的行为。论文把边界操作化成「共享话题锚点、只在意图上不同」的提示词对,并指出标准自生成流程的三个漏洞:单次引导静默丢掉 19.88% 的提示(很可能是最难的那些)、缺少表面危险的良性训练数据、以及常规划分根本不测量边界形状。最该记的是那对必须并排读的数字:Qwen3-8B 上政治拒答率从 9.47% 提到 84.75%、三个有害性基准的不安全响应率从 26.26% 降到 0.14%,而同一个检查点上 XSTest 的误拒率从 2.00% 涨到 74.00%。
纳维-斯托克斯之争:88 小时、3000 亿 token,和一个没回答的问题
9 月 9 日本站因无法核对而没有发布 OpenAI 宣称用 AI 解决纳维-斯托克斯千禧年问题的候选;现在 Simon Willison 逐字引用了 OpenAI 公告并链接了另一方的说明,材料可以核对了,但数学本身仍未经任何独立方核实。按 OpenAI 的数字,智能体约 88 小时得出结果、Lean 验证再用 17 小时,全部尝试合计 3,000 亿个输出 token。另一方 Buckmaster 与 Alpöge 用 Claude 和 Codex 做了近一年,他们问模型是否用其数据训练过,没有得到回答;OpenAI 公告写的是「不能排除」。
模型之间只传 17 比特:一座桥补上一半差距
大模型生成一个 token 时内部构建约两兆字节的状态,最后只吐出 17 个比特——而所有多模型协作系统(子智能体、模型委员会、路由调度)都建立在这 17 个比特之上。Mostik 让 753B 的 GLM-5.2 把隐藏状态通过一座小桥直接交给 4B 的 Qwen-3.5,全程不产生文本、两边权重完全冻结、桥是唯一被训练的部分。结果:4B 补上与 753B 约 50% 的差距、自身准确率 +25%、难题子集上 2 倍,而大模型侧推理成本降到约二十分之一。技术细节尚未公开,团队以比赛未结束为由拒绝披露。
Kiro Crew 开源:内部 3.9 万人在用,没人被要求
亚马逊开源 Kiro Crew(Apache 2.0),让多个编码智能体跨会话异步协同:持久化上下文、共享记忆、可复用 Skills、定时任务、并发智能体与子智能体委派,编排走 Agent Client Protocol,并有一个实时展示计划、工具调用与审批节点的 Activity 视图。最值钱的数字不是功能表——它源自内部的 MeshClaw,已被超过 3.9 万名内部开发者使用、六个月内 500 名贡献者,且不是靠强制推广。安全是从第一天设计进去的:操作系统级沙箱、默认拒绝的命令策略、敏感路径拦截、凭据脱敏、签名审计日志。反向的反馈也已出现:有用户报告它消耗 token 明显快于 Kiro CLI。