AI Security - Agent Security Audit

AI Agent 评测数据集设计：从真实工作流到可重复测试

如何设计 AI Agent 评测数据集，覆盖真实工作流、高风险样本、预期结果、元数据、holdout set 和月度更新。

AI Agent 失败模式分析方法，帮助团队识别 Agent 会如何失败、如何发现，以及上线前该加哪些控制。

AI Agent 合规证据包清单，帮助团队准备客户安全评审、采购审查、审计和内部治理材料。

AI Agent SLA 和事故沟通指南，覆盖错误答案、不安全动作、数据暴露、模型降级和客户影响说明。

AI Agent 客户支持就绪度清单，帮助支持团队解释、分流和升级 AI Agent 相关客户问题。

AI Agent 变更管理清单，帮助团队在生产环境前控制提示词、模型、检索、工具和工作流变更。

定义 AI Agent 用户权限边界，避免 Agent 在检索私有数据或调用工具时越权行动。

面向采购、安全评审和创始人的 AI Agent 供应商风险问卷，覆盖数据、模型、工具权限、事故响应和退出风险。

AI Agent 安全审计检查清单，覆盖提示注入、RAG 信任边界、工具权限、guardrail、日志、成本、延迟和回归测试。

AI Agent 提示注入测试清单，覆盖直接攻击、间接注入、恶意工具输出、越权工具调用、数据泄露和回归测试。