Agent安全审计清单
来源:AI知识库第三批专题整理。
权限边界
- Agent 是否只拥有完成任务所需的最小权限?
- 是否禁止默认访问密码、token、用户隐私和后台接口?
- 高风险操作是否必须人工确认?
指令来源
- 外部网页、邮件、上传材料是否只作为资料,不作为系统指令?
- 是否区分可信人工确认和普通用户输入?
- 是否有指定审批邮箱或审批人?
执行日志
- 每一步是否有日志?
- 是否记录输入、动作、结果和错误?
- 是否可以追溯到具体任务编号?
回滚能力
- 文件修改前是否有备份?
- 数据库变更是否可撤销?
- 是否避免批量不可逆操作?
风险处置
- 遇到不确定、高风险、权限不足时是否停止?
- 是否进入人工审核而不是继续自动执行?
- 是否避免把模型输出直接写入正式系统?