背景知识
解读 AI 信号的知识
帮助用户理解 AI 技术信号及其背景的概念。
当技术信号引用了你需要复习的概念时，使用本页。每个概念都会说明它澄清了什么，以及哪些已发布信号依赖于它。
- 27
- 知识概念
- 6
- 基础级条目
- 22
- 关联技能
- 102
- 关联已发布信号
基础
基础概念
当技术信号涉及陌生术语或更早的技术思想时，从这里开始。
人在回路的审查
智能体开始以机器速度产出之后，问题不再是「要不要人审」，而是「哪些决定值得占用一个人」——审查点放在哪一段，比有没有审查点更决定信任。
副语言信号与语音交互
语气、停顿、情绪、说话人身份——这些转写文本里不存在的信息层，是语音交互与文字交互的本质差异，也是当前语音模型「会说不会听」差距的成因。
进阶
进阶模式
用这些概念比较不同方案、权衡取舍和实现路径。
工具使用与函数调用
许多新智能体系统背后的老思想：把推理与行动分开，并对两者分别验证——认出这个形状，才不会被协议和 SDK 的包装带走。
模型选型与约束匹配
选模型不是挑最强的那个，而是先找出哪个约束最先咬人——延迟、隐私、成本，还是任务本身根本不需要那么大的模型。
交互系统中的延迟权衡
交互系统里决定体验的不是平均延迟这一个数，而是用户在等待期间知道什么——语音与端侧 AI 让这条老经验重新变得要紧。
合成数据与数据配方
为什么新一代模型的能力越来越取决于「数据是怎么配出来的」，以及合成数据在其中扮演的角色与风险。
对抗性评估与红队方法
一种源自安全工程的经典思路：不测系统平均表现，而是主动寻找让它失败的输入——理解现代模型安全测试与注入防御的方法论根源。
混合专家模型（MoE）架构
理解稀疏激活如何让总参数、推理算力与显存占用三者脱钩——读懂开源旗舰模型规格表和估算部署成本的前提概念。
模型量化与数值精度
把权重和激活从高精度压到低比特，是让大模型跑进有限显存的主要手段；代价是精度损失，而损失落在哪一层决定了它是无感还是灾难。
推测解码与推理加速技术
自回归生成的逐 token 串行是大模型推理延迟的根源；推测解码、连续批处理与 KV 缓存管理从算法与系统两层，把同样的硬件榨出数倍吞吐。
完成判定与验收信号
长时程智能体最难回答的不是「这一步怎么做」，而是「这一步做完了没有」。完成信号从哪里来、由谁定义、能不能被验证，决定了它能不能被托付真正的工作。
本地与云混合推理架构
把「哪些请求留在本地、哪些上云」当成一个架构决策：隐私、延迟、成本与能力四个约束的显式权衡。
长时程智能体的记忆与上下文管理
上下文窗口不是记忆。长时程任务需要在有限窗口之上构建工作记忆、外部存储与检索回填的分层体系，其设计质量直接决定智能体能走多远。
知识蒸馏
用大模型（教师）的输出去训练小模型（学生），让小模型以低得多的成本接近大模型的表现——多数小型开放模型都是这样来的。
监督微调与参数高效微调（LoRA）
在训练好的模型上用一批示范数据继续训练，让它适应特定任务或风格；LoRA 只训练一小组附加参数，让个人和小团队也做得起。
智能体沙箱与执行隔离
智能体会执行它自己写的代码和命令，沙箱决定这些动作最多能波及哪里——隔离强度、网络出口和凭据范围是三个要分开看的维度。
基于执行的代码评测
让模型在真实代码仓库或终端里完成任务，再用测试判定对错——SWE-bench、Terminal-Bench 这类分数说明了什么、哪些能比、哪些不能比。
可复现性与可验证结果
一个结果要能被别人用同样的材料重做出来才站得住——AI 做科研、AI 评测 AI 的结论越来越多，判断它们可不可信，先看这一点。
高级
高级背景
当信号改变架构、数据或技术战略假设时，使用这些背景。
KV 缓存与长上下文推理
生成每个新 token 都要回看前面所有 token；KV 缓存把这份回看要用的中间结果存下来，于是上下文越长，显存和带宽越紧——读懂推理引擎更新和长上下文定价的前提。
强化学习后训练与可验证奖励
让模型自己作答、按结果打分、再朝高分方向更新——近一年推理与智能体能力的主要来源，也是奖励投机这类意外行为的源头。