治理、安全与责任边界

治理、安全与责任边界

企业需要同时管理数据、知识、模型、工具和人员。建议建立场景清单、数据分级、权限矩阵、模型与工具清单、调用日志、审批规则、异常升级和退出机制。

外部网页、邮件、知识库文本和工具返回值都可能包含错误或提示注入。系统应把外部内容视为不可信数据，限制工具权限，并在关键动作前要求人工确认。

责任设计要回答：谁能发起任务、谁能查看数据、谁能批准写入、谁处理异常、谁承担最终业务责任。技术上线不能替代责任分配。