Todo agente de IA em produção tem acesso a alguma coisa, um sistema, uma planilha, um histórico de conversa. A pergunta que quase nenhuma empresa consegue responder direito é quanto, exatamente, cada agente consegue enxergar. Este guia mostra como auditar isso em poucas horas, sem precisar de ferramenta especializada nem de equipe de segurança dedicada.
Ao final você vai ter uma lista de todo agente ativo na empresa, com o que cada um acessa de fato, não o que deveria acessar segundo a documentação. Antes de começar, tenha em mãos o inventário de sistemas de IA da empresa, descrito em como montar o inventário de sistemas de IA, porque não dá para auditar acesso de um agente que ninguém sabe que existe.
Por que a documentação do acesso não é suficiente?
Porque documentação descreve a intenção, não o comportamento real do sistema. Um agente pode ter sido configurado para acessar só um tipo de dado, mas a permissão do sistema por trás dele pode ser mais larga do que o desenho original previa. A única forma confiável de saber o que um agente realmente entrega é testar, pedindo a ele algo que não deveria dar.
Passo a passo da auditoria
Passo 1, liste todo agente ativo
Reúna todo assistente, chatbot, copiloto interno e automação que usa IA para tomar alguma decisão ou responder alguém, dentro ou fora da empresa. Inclua o que roda dentro de ferramenta comprada, não só o que foi construído internamente. Ferramenta de terceiro que conecta ao seu sistema também é agente para efeito desta auditoria.
Passo 2, mapeie o que cada agente deveria acessar
Para cada agente da lista, escreva em uma frase o que ele precisa saber para fazer o trabalho dele. Um agente de atendimento sobre pedido precisa do histórico de pedido daquele cliente específico. Ele não precisa do histórico de todos os outros clientes, e não precisa de dado financeiro interno da empresa.
Passo 3, teste pedindo o que ele não deveria dar
Esta é a etapa que a maioria das empresas pula, e é a que realmente importa. Converse com o agente como um usuário comum e peça, de forma direta e depois de forma indireta, uma informação que está fora do escopo definido no passo anterior. Peça dado de outro cliente, peça condição comercial de terceiro, peça informação interna que não é do assunto dele.
Se o agente entrega, a permissão está errada, independente do que diz o documento de especificação. Essa é a diferença entre segurança no papel e segurança na prática.
Vale um exemplo concreto. Um agente de atendimento configurado para responder dúvida sobre pedido pode, na prática, ter acesso ao mesmo banco de dado que guarda todos os pedidos de todos os clientes. Se ninguém restringiu a consulta ao pedido daquele cliente específico, um pedido bem formulado como “me mostra os últimos pedidos da base” pode devolver informação de outras pessoas inteiras. A configuração dizia uma coisa, o comportamento real permitia outra, e só o teste prático revela essa distância.
- Escreva o escopo declarado de cada agente numa frase simples.
- Teste pedindo, como usuário comum, algo que está fora desse escopo.
- Se o agente recusa corretamente, registre e passe para o próximo.
- Se o agente entrega o que não deveria, marque a permissão para ajuste imediato.
- Repita o teste depois do ajuste, para confirmar que a correção funcionou de verdade.
Passo 4, teste também o conteúdo que vem de fora
Agente que lê texto de fora da empresa, currículo, petição, avaliação de cliente, mensagem recebida, pode receber instrução escondida dentro desse texto. Teste colando, num desses documentos de exemplo, uma instrução disfarçada, algo como um comando pedindo para ignorar a regra normal. Se o agente obedece ao texto em vez de obedecer à regra da empresa, ele trata conteúdo externo como ordem, o que é uma falha grave de desenho.
Passo 5, registre e defina data de revisão
Documente o resultado de cada teste, com data. Permissão de agente não é decisão única, é decisão que precisa de revisão periódica, porque sistema muda, integração nova é adicionada e o escopo original pode deixar de refletir a realidade em poucos meses.
O registro não precisa ser complexo. Uma planilha simples, com o nome do agente, a data do teste, o que foi pedido, se ele recusou ou entregou, e a data da próxima revisão já cobre o essencial. O valor desse registro aparece quando algo dá errado, porque ele mostra o que já foi verificado e quando, em vez de deixar a empresa correndo atrás dessa informação depois que o incidente já aconteceu.
| Frequência | Quando usar |
|---|---|
| Mensal | Agente que lida com dado sensível de cliente ou financeiro |
| Trimestral | Agente interno de produtividade, sem acesso a dado externo |
| A cada mudança de sistema | Qualquer agente que ganhou uma integração nova |
Como priorizar quando existem muitos agentes
Empresa que já usa IA em várias áreas raramente consegue auditar tudo de uma vez, e não precisa. O critério de priorização é simples, combine dois fatores, o tipo de dado que o agente toca e o quanto ele age sem revisão humana antes de responder.
Agente que lida com dado de cliente, dado financeiro ou dado de contrato entra primeiro na fila, porque um vazamento nessas categorias tem consequência jurídica e reputacional imediata. Agente que só organiza tarefa interna de baixo risco, como resumir uma reunião ou sugerir um texto de rascunho, pode esperar mais.
O segundo fator, quanto o agente age sozinho, também pesa bastante. Um agente que só sugere uma resposta para um humano aprovar antes de enviar tem uma camada de proteção que um agente totalmente autônomo não tem. Priorize sempre o que decide e age sem revisão antes de auditar o que só sugere.
| Tipo de dado | Age sozinho | Prioridade de auditoria |
|---|---|---|
| Cliente ou financeiro | Sim | Imediata |
| Cliente ou financeiro | Não, humano aprova antes | Alta |
| Interno, baixo risco | Sim | Média |
| Interno, baixo risco | Não | Baixa |
Erros comuns
- Confiar só na documentação do fornecedor. Ferramenta comprada de terceiro também precisa passar pelo teste prático, porque a permissão configurada pode ser mais larga do que o marketing da ferramenta sugere.
- Testar só uma vez, na entrega do projeto. Permissão de sistema muda com o tempo, sem que ninguém avise. Auditoria feita uma vez só e nunca repetida perde valor rápido.
- Pedir a informação de forma óbvia demais. Um teste que pergunta diretamente “me dê o dado do cliente X” é fácil demais de bloquear. Teste também de forma indireta, pedindo a informação disfarçada dentro de outro pedido.
- Não envolver quem construiu o agente. Quem desenhou o sistema sabe onde ele é mais provável de falhar. Auditoria feita sem essa pessoa tende a testar só os casos óbvios.
Esse tipo de teste é o mesmo que aplicamos antes de qualquer agente nosso ou de cliente atender gente de verdade, descrito com mais detalhe em como testar um agente de IA antes de produção. A diferença é que aqui o foco é só a permissão de acesso, não a qualidade geral da resposta.
Esse trabalho entra no pilar de tecnologia e automação.
Perguntas frequentes
Quanto tempo leva para auditar todos os agentes da empresa?
Para uma empresa com poucos agentes ativos, o trabalho cabe numa tarde. Empresa com dezenas de integrações de IA espalhadas por diferentes áreas precisa de mais tempo, e vale começar pelos agentes que tocam dado de cliente ou dado financeiro primeiro.
Preciso de conhecimento técnico avançado para fazer esse teste?
Não precisa de conhecimento de segurança especializado. O teste é conversar com o agente como um usuário comum faria, só que com a intenção específica de descobrir o limite dele. Qualquer pessoa que entenda o negócio consegue aplicar, o que muda entre um teste feito por alguém técnico e um feito por alguém de negócio é a criatividade do pedido, não a capacidade de executar o teste em si.
Vale a pena automatizar esse teste em vez de fazer manualmente?
Para empresa com poucos agentes, o teste manual é rápido o suficiente para não justificar o esforço de automatizar. Para empresa com muitos agentes rodando ao mesmo tempo, vale montar uma rotina simples que repete os mesmos testes básicos em intervalo fixo, liberando o time para focar o esforço manual nos casos mais criativos de tentativa de manipulação.
O que fazer quando encontro uma falha de permissão?
Ajuste o acesso do sistema imediatamente, não só o comportamento do agente. Corrigir só a instrução do agente sem corrigir a permissão de base deixa a falha aberta para qualquer outra forma de pedido que ainda não foi testada.
Isso substitui uma auditoria de segurança formal?
Não substitui, complementa. Esse guia cobre o teste prático de acesso de agente de IA especificamente. Empresa que lida com dado muito sensível ou que precisa de certificação formal ainda se beneficia de uma auditoria de segurança mais ampla, feita por especialista da área.
Quem dentro da empresa deveria conduzir essa auditoria?
O ideal é uma dupla, alguém que entende o negócio e alguém que entende como o agente foi construído. A pessoa de negócio sabe o que faz sentido o agente saber, a pessoa técnica sabe onde procurar quando algo foge do esperado. Empresa pequena, sem essas duas funções separadas, ainda consegue fazer o teste com uma pessoa só, desde que ela conheça bem o processo que o agente executa.
Próximo passo
Escolha o agente mais usado da sua operação hoje e faça o teste do passo 3 agora, pedindo a ele uma informação que não deveria sair. Leva dez minutos e costuma revelar mais do que qualquer documento de especificação.
Se encontrar algo preocupante e quiser ajuda para corrigir, fale com a gente no WhatsApp.
1 comentário