背景知识
解读 AI 信号的知识
帮助用户理解 AI 技术信号及其背景的概念。
当技术信号引用了你需要复习的概念时,使用本页。每个概念都会说明它澄清了什么,以及哪些已发布信号依赖于它。
- 19
- 知识概念
- 5
- 基础级条目
- 14
- 关联技能
- 79
- 关联已发布信号
基础
基础概念
当技术信号涉及陌生术语或更早的技术思想时,从这里开始。
人在回路的审查
智能体开始以机器速度产出之后,问题不再是「要不要人审」,而是「哪些决定值得占用一个人」——审查点放在哪一段,比有没有审查点更决定信任。
副语言信号与语音交互
语气、停顿、情绪、说话人身份——这些转写文本里不存在的信息层,是语音交互与文字交互的本质差异,也是当前语音模型「会说不会听」差距的成因。
进阶
进阶模式
用这些概念比较不同方案、权衡取舍和实现路径。
工具使用与函数调用
许多新智能体系统背后的老思想:把推理与行动分开,并对两者分别验证——认出这个形状,才不会被协议和 SDK 的包装带走。
模型选型与约束匹配
选模型不是挑最强的那个,而是先找出哪个约束最先咬人——延迟、隐私、成本,还是任务本身根本不需要那么大的模型。
交互系统中的延迟权衡
交互系统里决定体验的不是平均延迟这一个数,而是用户在等待期间知道什么——语音与端侧 AI 让这条老经验重新变得要紧。
推测解码与推理加速技术
自回归生成的逐 token 串行是大模型推理延迟的根源;推测解码、连续批处理与 KV 缓存管理从算法与系统两层,把同样的硬件榨出数倍吞吐。
模型量化与数值精度
把权重和激活从高精度压到低比特,是让大模型跑进有限显存的主要手段;代价是精度损失,而损失落在哪一层决定了它是无感还是灾难。
本地与云混合推理架构
把「哪些请求留在本地、哪些上云」当成一个架构决策:隐私、延迟、成本与能力四个约束的显式权衡。
混合专家模型(MoE)架构
理解稀疏激活如何让总参数、推理算力与显存占用三者脱钩——读懂开源旗舰模型规格表和估算部署成本的前提概念。
对抗性评估与红队方法
一种源自安全工程的经典思路:不测系统平均表现,而是主动寻找让它失败的输入——理解现代模型安全测试与注入防御的方法论根源。
完成判定与验收信号
长时程智能体最难回答的不是「这一步怎么做」,而是「这一步做完了没有」。完成信号从哪里来、由谁定义、能不能被验证,决定了它能不能被托付真正的工作。
长时程智能体的记忆与上下文管理
上下文窗口不是记忆。长时程任务需要在有限窗口之上构建工作记忆、外部存储与检索回填的分层体系,其设计质量直接决定智能体能走多远。
高级
高级背景
当信号改变架构、数据或技术战略假设时,使用这些背景。