明确决策及其证据边界
从一项具体任务着手,例如优先处理失效的落地页或准备编辑简报。说明允许使用哪些来源、数据必须多新,以及哪些证据支持采取行动。模型的回答不能替代来源记录。将不可信的网页内容和传入消息置于系统指令边界之外。
- ✓ 明确决策负责人和允许使用的输入。
- ✓ 区分直接观测、计算结果和推断建议。
将建议与执行分开
智能体可以准备变更,但不必拥有发布权限。应为读取、起草、编辑和外部操作设置明确的权限范围。对可能重试的操作加入幂等性限制目标范围,并保留审批记录。对产品集成的描述应以当前已实现的连接为准,而非描绘未来的生态系统蓝图。
- ✓ 对影响重大或对外可见的变更要求审批。
- ✓ 为每项操作提供回滚说明和安全重试机制。
扩大访问范围前先评估整个流程
测试有代表性的示例、格式错误的输入、缺失数据和服务故障。分别衡量任务正确性、审核者修正、执行失败和业务结果。Search Intel OS 提供了一个说明 HGM 编排方法的平台;其页面应区分运营组件与拟议架构。只有在证据和控制措施足以支持更大范围时,才应提高自主程度。
- ✓ 保留操作溯源信息和所用输入版本。
- ✓ 将失败和被拒绝的操作纳入日常运营审查。