区分回答与行动
当对话式响应会调用工具、更改记录或启动工作流时,它就开始影响实际运营。应明确操作内容、允许的目标位置和停止条件。将检索到的页面和收到的文件视为证据,而不是指令。模型的信心不等于来源可靠性、授权或外部操作已成功的证明。
- ✓ 区分读取、草拟、编辑和发布权限。
- ✓ 明确哪些情况需要人工审核,以及哪些操作绝不可尝试。
设计能够应对故障的任务循环
工具可能超时、返回不完整数据,或操作成功但确认信息失败。应使用明确的状态、有限次数的重试,并尽可能采用幂等写入。将原始输入、工具结果和操作决策保存在适当的审计记录中。避免在日志或提示中暴露机密信息或不必要的个人信息。
- ✓ 缺少必要证据时安全停止。
- ✓ 为影响重大的变更提供回滚或补偿措施。
在扩大自主权之前先评估
建立具有代表性的评估集,其中应包括含糊请求和恶意内容。衡量决策正确率、被拒绝的操作、人工纠正情况和执行可靠性。是否能提高自主程度,应由特定任务范围内观察到的表现决定,而不是依据笼统的智能声明。HGM 的实施讨论应从工作流程和审批边界入手。
- ✓ 将政策版本与评估结果一并保存。
- ✓ 在扩大访问权限之前,审查事件并更新控制措施。