从数据分级和最小权限开始,而不是默认全量接入
资料进入知识库或智能体前,先标记来源、所有者、敏感等级、适用人员、有效时间和删除要求。公开资料、内部制度、客户项目、人事财务和商业秘密不能进入同一个无差别检索空间。用户每次提问都要按其身份和项目范围重新过滤,不能只在登录时判断一次。
应用账号只申请目标任务所需权限,默认只读。导出、分享、外发、删除、批量修改和高风险查询应单独授权。测试、演示和生产环境使用不同账号与数据,离职、转岗、项目结束和授权撤回应及时回收访问。
- 标记资料来源所有者和敏感等级
- 按用户项目和时效过滤
- 应用默认最小只读权限
- 高风险动作单独授权审批
- 环境与账号分离并及时回收
输出要有来源、不确定状态和人工审批
知识回答应显示引用资料、版本和更新时间,找不到可靠依据时明确拒答或交给责任人。模型推测不能写回为客户、员工、设备或经营事实。价格、合同、法律、财务、人事、生产控制和对外承诺需要具名人员确认,不能用一句“仅供参考”代替真正的权限控制。
提示注入、恶意文件和跨项目资料可能诱导系统泄露信息或执行错误动作。系统应隔离外部内容,限制工具调用参数,对输出结构和业务规则再次校验。出现来源冲突、异常调用、连续失败或越权尝试时,应冻结相关能力并留下告警。
审计和回退决定问题发生后能否真正处理
审计至少记录谁在何时通过哪个入口提出什么任务、读取了哪些来源、使用何种规则和版本、产生什么结果、是否人工修改以及执行了哪些动作。日志需要限制访问和保留时间,不能反过来成为新的敏感数据泄露面。
上线前使用越权用户、过期资料、冲突版本、恶意指令、接口失败和高风险动作进行测试。版本升级后用固定回归集复测,发现严重问题可快速关闭工具、回退规则或切回人工流程。公开页面说明治理方法,不声称零泄露、完全合规或取得尚未公开核验的认证。
执行检查表
- 01完成资料与动作分级
- 02按身份项目时效执行最小权限
- 03输出保留引用拒答和不确定状态
- 04关键决定与外发保留人工审批
- 05记录访问版本动作和人工修改
- 06演练异常冻结回退和权限回收
常见问题
用了企业版模型就安全了吗?
不够。还需要数据、身份、权限、日志、审批和运维治理。
所有回答都要人工审核吗?
低风险内部任务可按门槛放行,高风险决定和外部承诺必须人工确认。
审计日志是不是越多越好?
不是。应记录必要证据,同时限制敏感内容、访问范围和保留周期。