Distingue una respuesta de una acción
Una respuesta conversacional pasa a ser operativa cuando el sistema llama a herramientas, modifica registros o inicia un flujo de trabajo. Especifica la acción, el destino permitido y las condiciones de detención. Trata las páginas recuperadas y los archivos recibidos como evidencia, no como instrucciones. La confianza de un modelo no equivale a la fiabilidad de la fuente, la autorización ni la prueba de que una operación externa se haya completado correctamente.
- ✓ Separa los permisos de lectura, borrador, edición y publicación.
- ✓ Define qué requiere revisión humana y qué nunca debe intentarse.
Diseña el ciclo de tareas para gestionar fallos
Las herramientas pueden agotar el tiempo de espera, devolver datos incompletos o completar la operación aunque falle la confirmación. Utilice estados explícitos, reintentos limitados y escrituras idempotentes siempre que sea posible. Conserve la entrada original, el resultado de la herramienta y la decisión sobre la acción en un registro de auditoría adecuado. Evite exponer secretos o información personal innecesaria en registros o instrucciones.
- ✓ Detente de forma segura si falta la evidencia necesaria.
- ✓ Proporciona opciones para revertir o compensar los cambios trascendentes.
Evalúa antes de ampliar la autonomía
Crea un conjunto de evaluación representativo que incluya solicitudes ambiguas y contenido malicioso. Mide las decisiones correctas, las acciones rechazadas, las correcciones humanas y la fiabilidad de ejecución. Un mayor nivel de autonomía se justifica por el rendimiento observado en una tarea definida, no por una afirmación general de inteligencia. La conversación de implementación de HGM debe comenzar por el flujo de trabajo y los límites de aprobación.
- ✓ Conserva las versiones de las políticas junto con los resultados de las evaluaciones.
- ✓ Revisa los incidentes y actualiza los controles antes de ampliar el acceso.