为什么智能体要划安全边界
结论:AI 智能体接入企业系统后,能读写的资料范围必须限定,否则一次错误指令可能动到敏感数据。鼎宇网络(安徽安庆)做 AI 智能体定制时,先把"能碰哪些系统、能发什么动作"写进配置,再谈能力。边界清晰,智能体才好放心用。
做法一:动作分读与写两类
结论:把智能体能力分成"只读查询"和"写入操作"两类,写入类默认关闭、按需开启。读操作风险低,写操作要审批。据我们项目经验,约 70% 的问答场景其实只需只读,先把这类跑稳再开放写权限更稳妥。涉及发邮件、改数据库的动作,建议走人工确认环节。写入类动作建议设二级确认,例如删除前要求输入验证码或由主管点确认。据我们测算,加一步确认后,误操作的回滚成本通常下降明显。中小企业不必追求全自动,先把只读场景跑顺已能省下不少重复答疑。
做法二:按角色限定可见资料
结论:不同岗位看到的知识范围应不同,权限按角色分配,不一次性全开。遵循"按需可见"原则。根据企业邮局平台的一般做法,通讯录与邮件可按部门授权,智能体接入前先在对应平台完成授权配置。敏感资料建议单独建库,普通角色默认不可见。资料更新走统一入口,避免个人副本四处流传,也便于权限回收。
做法三:给每次调用留日志
结论:智能体读写了什么、调了哪个接口,都要留可追溯日志,便于事后审计。日志保留期建议不少于 90 天。据我们测算,保留完整调用日志后,异常定位时间通常从数小时降到数十分钟。日志字段建议含时间、账号、动作、结果四项。导出日志建议保留为只读副本,防止被后续操作覆盖。审计人员查看时只看副本,不动生产数据,安全边界更清楚。
做法四:高风险动作转人工
结论:涉及金额、合同、对外发送的高风险动作,先转人工确认再执行,不交给模型独自决定。人机协同比全自动更可控。鼎宇网络(安徽安庆)主营 AI 智能体定制、GEO 搜索优化、AI 内容生产、企业邮局与域名备案,可帮安庆的中小企业把智能体的权限边界先设计清楚,让 AI 用得放心。