跳转至

火山引擎《智能体安全能力图谱》——企业智能体安全治理框架

Ch04.627 火山引擎《智能体安全能力图谱》——企业智能体安全治理框架

📊 Level ⭐⭐ | 5.6KB | entities/volcano-engine-agent-security-capability-map-2026.md

火山引擎《智能体安全能力图谱》——企业智能体安全治理框架

火山引擎基于字节内部 AI 安全治理最佳实践，发布《智能体安全能力图谱》，系统性梳理了智能体安全建设的 10 大能力维度、60 项核心技术要素，覆盖 WorkFlow 类智能体、办公类智能体、AI Coding 类智能体，并提供 L1→L2→L3 三阶段可落地的建设路径（从"基础防护"走向"体系化治理"到"可持续运营"）。

背景与问题

企业智能体部署已进入规模化落地阶段，多元化、异构化的智能体深度融入企业核心生产业务系统与办公开发场景，在重塑企业 IT 架构的同时导致安全风险激增，对传统安全防护体系带来极大冲击。企业需要重新思考并构建适配 AI 时代的安全防护和治理体系框架。

10 大能力维度（60 项核心技术要素）

  • 1. 智能体合规准入：设计及规划阶段安全介入，基于岗位职责、行为权限、使用场景做分类分级，构建安全基准线 + 可嵌入的安全描述文件，为后续管控做准入准备
  • 2. 智能体资产与供应链安全：构建智能体及核心组件清单（AI-BOM），细粒度盘点资产，定期供应链风险巡检
  • 3. 内容安全合规：输入输出内容安全检测，实时拦截有害内容，行业红线敏感话题管控，AI 生成内容深度鉴伪打标签
  • 4. 常态化安全测评与加固：合规测评 + 红队测评实现安全左移，构建上线准入要求与整改加固建议
  • 5. AI 安全网关：统一接入、敏感数据识别与脱敏、数据跨境管控、模型路由、资源耗尽防护、成本治理，降低算力消耗同时实现出入口全面防护
  • 6. 身份与认证管理：非人类身份体系 + 可信身份令牌 + 委托链与意图声明做全链路身份传播，凭据托管避免敏感凭据写入工具代码
  • 7. 权限与访问控制：用户/智能体为主体、知识库/技能工具为客体，运行态对用户→总控智能体→子智能体→工具的委托链逐节点权限控制，动态权限 + 高风险行为阻断或强制 HITL
  • 8. 运行时安全监控与防护：全链路检测，针对工具滥用、越权、记忆投毒、注入攻击提供实时拦截，支持自定义场景策略
  • 9. 安全可观测性与运营管理：全量日志记录、行为审计、事件分析、自动化处置；建立智能体 UEBA / AEBA 基准实现动态化场景运营
  • 10. 模型与推理安全：机密计算防护（芯片级信任 + 端到端全链路加密 + 远程证明 + 可追溯审计），轻量化投入实现等同私有化部署的高等级防护

L1→L2→L3 三阶段建设路径

  • L1 智能体基础安全 AI 防护：先解决"能否安全上线"。覆盖维度 1-4（合规准入、资产供应链、内容安全、安全测评）。目标是为每个进入企业的智能体建立统一、可执行的安全基线。
  • L2 智能体精细化管控：再解决"运行过程是否可控"。覆盖维度 5-8（AI 安全网关、身份认证、权限控制、运行时监控）。围绕统一入口、可信身份、细粒度授权与运行时拦截，建立覆盖每一次调用和执行的控制体系。
  • L3 智能体安全持续运营：最终解决"规模化后能否持续运营机密可信"。覆盖维度 9-10（可观测性运营、模型推理安全）。让企业不仅全面发现处置风险，还能基于全链路数据持续验证安全状态、优化策略，并做到模型推理的机密可信。

与既有智能体安全框架的关系

该图谱与 wiki 中既有的智能体安全框架互补：三步序列框架（治理/身份） 侧重治理与身份的时序编排，本图谱则以 10 大能力维度 + 三阶段成熟度模型给出企业级全景能力清单；智能体安全架构 从架构视角组织防御面，本图谱则以能力建设路径（L1/L2/L3）组织落地顺序。AI 安全网关作为独立能力维度，与 AI 网关 vs MCP 网关 的判别互补。

参考与延伸

→ 原文存档