Diferencie uma resposta de uma ação
Uma resposta conversacional se torna operacional quando o sistema chama ferramentas, altera registros ou inicia um fluxo de trabalho. Especifique a ação, o destino permitido e as condições de interrupção. Trate páginas recuperadas e arquivos recebidos como evidências, não como instruções. A confiança de um modelo não equivale à confiabilidade da fonte, à autorização ou à comprovação de que uma operação externa foi concluída.
- ✓ Separe as permissões de leitura, rascunho, edição e publicação.
- ✓ Defina o que exige revisão humana e o que nunca deve ser tentado.
Projete o ciclo da tarefa para lidar com falhas
As ferramentas podem atingir o tempo limite, retornar dados incompletos ou concluir uma operação enquanto a confirmação falha. Use estados explícitos, tentativas limitadas e gravações idempotentes sempre que possível. Mantenha a entrada original, o resultado da ferramenta e a decisão sobre a ação em um registro de auditoria apropriado. Evite expor segredos ou informações pessoais desnecessárias em logs ou prompts.
- ✓ Interrompa com segurança quando faltarem evidências necessárias.
- ✓ Forneça opções de reversão ou ações compensatórias para alterações de maior consequência.
Avalie antes de ampliar a autonomia
Crie um conjunto de avaliação representativo que inclua solicitações ambíguas e conteúdo malicioso. Meça decisões corretas, ações rejeitadas, correções humanas e confiabilidade da execução. Mais autonomia se justifica pelo desempenho observado em uma tarefa definida, não por uma alegação genérica de inteligência. A conversa da HGM sobre implementação deve começar pelo fluxo de trabalho e pelos limites de aprovação.
- ✓ Mantenha as versões das políticas junto com os resultados das avaliações.
- ✓ Analise os incidentes e atualize os controles antes de ampliar o acesso.