软件架构
智能体沙箱与执行隔离
智能体会执行它自己写的代码和命令,沙箱决定这些动作最多能波及哪里——隔离强度、网络出口和凭据范围是三个要分开看的维度。
智能体运行时与协议编码智能体安全与对齐
本页目录5 节
这个概念是什么意思
#为什么需要
编码智能体和电脑操作智能体会安装依赖、运行脚本、访问网络。这些动作由模型临时决定,而模型可能出错,也可能被网页、文件或仓库里的文字诱导——提示注入让读到的内容变成了指令。所以要先假设智能体会做出意料之外的事,再限定它能波及的范围。
隔离强度分几档
- 进程级:同一台机器上的受限进程,启动最快,隔离最弱。
- 容器:独立的文件系统和进程空间,适合要装依赖、改代码、跑测试的任务,但与宿主机共享内核。
- 微虚拟机:每个任务一个轻量虚拟机,有独立内核,启动通常在一秒以内,是运行不受信任代码的常见选择。
- 完整虚拟机或独立机器:隔离最强,成本和启动时间也最高。
按任务的风险选档,而不是一律用最强的。
隔离之外的两件事
- 网络出口:默认拒绝,只放行任务需要的地址。别漏掉不显眼的通道——DNS 查询也能把数据带出去;「只读请求是安全的」这个假设,在有外部服务会替你执行请求时也不成立。
- 凭据与权限:只给完成这次任务所需的最小权限,令牌按会话发放、用完即失效,日志里的凭据要脱敏。沙箱封得再严,带进去的令牌权限过大,损害照样发生在沙箱外面。
读信号时看什么
新的智能体平台或运行时,先找三个答案:代码跑在哪一档隔离里,出网规则是什么,智能体拿到的凭据能做什么。事故复盘里,问题通常出在后两项。
关系网络
在关系网络中的位置
#这个概念相邻的技术信号与相关技能,点击节点可继续探索。
智能体沙箱与执行隔离
技术 · 15
- Google 开源 AX:按 Kubernetes 的方式编排智能体,可秒级暂停
- GPT-6.1 Sol:标价没变,缓存减半,号称逼近 Astra
- OpenAI 的智能体借 DNS 出了沙箱:警报响了,运行没停
- 只能打开网址的智能体,是怎样把代码送出去的
- 模糊测试交给智能体:它做决定,工具管执行
- DeepSeek DSec:智能体训练拼的是沙盒
- Kiro Crew 开源:内部 3.9 万人在用,没人被要求
- 智能体在公共 wiki 上串谋:沙箱假定 GET 不写数据
- Cloudflare Computer:不给智能体一个容器,给它一台机器
- DeepSeek Harness 开源:连 Agent Loop 都能换掉
- 微软 Agent Framework Harness 正式发布:智能体的运行时成了产品
- 智能体入侵技术复盘:17,600 次动作、两条初始入口,以及一次为了「考试作弊」的越权
- Hugging Face 安全事件披露:首例自主智能体驱动的生产入侵
- Shippy 复盘:Ai2 高风险场景智能体的四条工程经验与三件开源工件
- Gemini API Managed Agents 扩展:后台任务与远程 MCP 接入
自动匹配
正文里提到它的信号
#按正文自动匹配,未经编辑挑选;上一节已列出的不再重复。
Google 开源 Harness²:不改模型,递归改智能体的外壳
…Codex executor 会关闭 sandbox。官方提醒,公开基准的评分细则或答案可能通过网络被拿到…Agent Lightning:线上 harness 直接参与强化学习
…可在自管集群、云上 Kubernetes 或本地基础设施上运行智能体,不依赖 Modal Sandbox、E2B 等付费商业沙箱服务。智能体做错的任务,三分之二没有报错
…Face 博客发布 ThinkingBox:一个给智能体跑业务流程的沙盒,以及配套的评测…开放模型生态半年报:点赞与下载,只有一个仓库同时上榜
…七月在 MCP 服务器上提供 hf_fs 工具,用一千多个 token 暴露仓库、存储、文档与论文,并配可挂载的沙箱。LFM2.5-2.6B:一个在智能体外壳里训练出来的端侧模型
它的做法值得记住:训练引擎、推演引擎和环境执行被拆成三个独立部件,动作在沙箱服务里执行,外壳(OpenClaw 或 Hermes Agent)被一个…