Uma auditoria de agentes de IA precisa conseguir reconstruir cada conversa completa: o que o cliente disse e o que o agente respondeu, com qual versão do agente, quais sistemas consultou, quais guardrails foram acionados, quando uma pessoa interveio e quem acessou o registro depois. Se faltar uma dessas peças, a conversa não pode ser auditada.
Na revisão de Riscos de um agente conversacional, a primeira pergunta quase sempre é a mesma: onde fica o registro de cada conversa e quem pode lê-lo. É a pergunta número um do checklist de due diligence usado pelos times de Segurança, e também uma das que mais travam projetos, porque muitos fornecedores respondem com uma transcrição e pouco mais.
Este artigo detalha o que precisa ficar registrado em cada interação de um agente de IA em um banco, uma fintech ou uma seguradora, por quanto tempo vale guardar cada registro segundo as regras da região e como verificar isso antes de assinar com um fornecedor.
Por que a transcrição sozinha não basta
Uma transcrição conta o que foi dito. O auditor costuma chegar meses depois com um caso concreto: um cliente reclama no Procon ou no Banco Central que o agente ofereceu um parcelamento que não existia, ou que compartilhou o saldo dele com outra pessoa. Para responder, o time precisa mostrar quais instruções o agente tinha naquele dia, quais dados consultou nos sistemas do banco, se algum filtro de segurança interveio e quem teve acesso àquela conversa desde então.
Com um agente de IA isso pesa mais do que com um operador humano. O comportamento depende do prompt, do modelo, das ferramentas conectadas e dos guardrails, e qualquer uma dessas peças pode mudar de uma semana para outra. Se o registro não guarda a versão exata que atendeu, a conversa fica sem contexto.
Os oito elementos que precisam ficar registrados
1. Identificação da conversa
Um identificador único, o canal (voz, WhatsApp ou web), a data e a hora de início e de encerramento, o número ou a conta de origem e a carteira à qual pertence. É o que permite achar a conversa certa quando chega uma solicitação do regulador ou uma reclamação.
2. Transcrição e gravação
O texto completo, turno a turno e com registro de horário em cada fala. Em voz, também a gravação do áudio, porque o tom e as interrupções também servem como evidência em uma disputa.
3. Versão do agente que atendeu
O número da versão publicada, que remete ao prompt, ao modelo, às ferramentas e aos guardrails vigentes naquele momento. Se uma mudança causou um problema, a versão mostra desde quando ele acontece e quantas conversas foram afetadas.
4. Ferramentas e sistemas consultados
Cada vez que o agente consulta um saldo, registra uma promessa de pagamento ou atualiza um CRM, o registro deve mostrar qual ferramenta usou, em qual turno, com quais parâmetros e qual resposta recebeu. Assim dá para separar um erro do agente de um dado incorreto no sistema de origem.
5. Guardrails acionados
Qual filtro interveio (injeção de prompt, tentativa de extrair dados pessoais, sinal de crise, pergunta fora do tema habilitado) e o que o agente fez em seguida: respondeu com a mensagem definida, transferiu para uma pessoa ou encerrou a conversa. Para Riscos, esse registro é a prova de que os controles funcionam em produção.
6. Tratamento de dados pessoais
Quais dados sensíveis apareceram na conversa (CPF, CURP, número da conta, cartão) e como ficaram guardados: mascarados ou tokenizados nos logs, com acesso ao dado completo só para perfis autorizados. A LGPD no Brasil e a lei de proteção de dados pessoais no México pedem que esse tratamento possa ser demonstrado.
7. Transferência para humano e resultado
Se houve transferência para um operador, quando aconteceu, por qual motivo e para quem. Também o resultado da conversa com os dados que o agente extraiu (um acordo de pagamento, um valor, uma data) e um resumo no encerramento. Com isso, Operação e Auditoria trabalham sobre a mesma versão dos fatos.
8. Acessos ao registro
Quem abriu, exportou ou baixou cada conversa, e quem mudou a configuração do agente ou publicou uma versão nova. Um arquivo de conversas que qualquer pessoa pode ler sem deixar rastro acaba virando um risco de privacidade para a própria instituição.
O que o auditor pergunta e qual registro responde
| Pergunta do auditor | Registro que responde |
|---|---|
| O que o agente disse a este cliente no dia 14 de março? | Identificação, transcrição e gravação |
| Com quais instruções ele estava operando? | Versão publicada do agente |
| De onde saiu o valor que ele ofereceu? | Ferramentas consultadas e suas respostas |
| O que ele fez quando pediram dados de outra pessoa? | Guardrails acionados |
| Onde ficou o CPF que o cliente informou? | Tratamento de dados pessoais |
| Por que uma pessoa não atendeu? | Transferência para humano e resultado |
| Quem viu esta conversa depois? | Acessos ao registro |
Por quanto tempo guardar cada registro
Não existe um prazo único para toda a região. Ele depende do país, do produto e do contrato com a instituição, e vale definir por tipo de registro, porque uma gravação de voz, uma transcrição e um log de acesso têm usos e custos de armazenamento diferentes. Algumas referências para essa definição:
- Brasil, Decreto 11.034/2022 (SAC): para os serviços regulados pelo Poder Executivo federal, exige manter a gravação das chamadas ao SAC por no mínimo 90 dias, guardar o registro do atendimento por no mínimo dois anos a partir da resolução da demanda e entregar ao consumidor o histórico em até cinco dias corridos (Câmara dos Deputados).
- Brasil, LGPD e Banco Central: o direito de pedir a revisão de decisões automatizadas e a rastreabilidade exigida pela Resolução CMN 4.893 só podem ser cumpridos se a conversa e a decisão ficaram registradas. O detalhe está em o que cada regulador exige de um agente de IA.
- México: não há uma regra específica de guarda para agentes de IA. O prazo vem das políticas da instituição, do que a CNBV pede ao aprovar um terceiro e da necessidade de responder a reclamações na CONDUSEF, que podem chegar meses depois da conversa.
- Referência internacional: o AI Act europeu exige que os sistemas de alto risco, entre eles a avaliação de capacidade de crédito de pessoas, registrem eventos de forma automática, e que quem os opera guarde esses logs por no mínimo seis meses (Help Net Security). Vários times de Riscos da região usam essa regra como referência.
A retenção deveria ficar escrita no contrato com o fornecedor, junto com o que acontece com os registros quando o prazo vence ou a relação comercial termina.
Cinco testes para fazer com um fornecedor
- Peça que ele abra uma conversa de três meses atrás e mostre a versão do agente que respondeu.
- Nessa mesma conversa, peça para ver cada ferramenta que o agente consultou e o que recebeu.
- Peça para alguém do seu time tentar tirar do agente dados de outro cliente e veja como o bloqueio ficou registrado.
- Procure um CPF ou um CURP nos logs e confirme que ele aparece mascarado.
- Peça o registro de acessos dessa conversa: quem abriu e quando.
Se algum desses testes não puder ser feito na demo, ele vai aparecer como objeção na revisão de Riscos.
Como fica registrado na ADI Platform
Na ADI Platform, cada agente tem uma seção de Conversas com o histórico completo: transcrição, gravação em voz, canal, data, os dados extraídos no encerramento e um resumo gerado por IA. Cada conversa fica associada à versão publicada do agente, e as versões podem ser comparadas lado a lado ou restauradas com rollback imediato.
Os guardrails obrigatórios (injeção de prompt, exfiltração de dados pessoais e sinais de crise) rodam em código, fora do modelo. O acesso é controlado por papéis e permissões, com registro de cada ação administrativa. A plataforma também pode enviar a transcrição e o resultado de cada conversa por webhook assinado para os sistemas da instituição, para que o registro fique também do lado do banco. A retenção é definida em contrato.
Ver segurança e guardrails da ADI Platform
Vai levar um agente para a revisão de Riscos? O checklist reúne as 12 perguntas que um CISO faz, começando pelo registro de cada conversa, com a resposta aceitável para cada uma. Baixar o checklist
Perguntas frequentes
O que é uma auditoria de agentes de IA?
É a revisão do que um agente conversacional fez em produção: o que respondeu, com qual versão e configuração, quais dados usou e quais controles foram acionados. Para isso, cada conversa precisa estar registrada de forma completa.
O que precisa ficar registrado em cada conversa com um agente de IA?
A identificação e o canal, a transcrição e a gravação, a versão do agente, as ferramentas consultadas, os guardrails acionados, o tratamento dos dados pessoais, as transferências para humano com o resultado e os acessos posteriores ao registro.
Por quanto tempo é preciso guardar as conversas de um agente de IA?
Depende do país, do produto e do contrato. No Brasil, o Decreto do SAC exige no mínimo 90 dias de gravação das chamadas e dois anos de registro do atendimento. O AI Act europeu fixa um mínimo de seis meses de logs para sistemas de alto risco.
A transcrição basta para auditar um agente de IA?
Não. A transcrição mostra o que foi dito, mas não qual versão do agente respondeu, quais dados consultou nem quais filtros de segurança intervieram. Sem essa informação não dá para explicar uma resposta diante de uma reclamação ou de um regulador.
Como os dados pessoais devem ficar nos logs?
Mascarados ou tokenizados, com acesso ao dado completo só para perfis autorizados e com registro de quem consultou.
Para continuar
- Por que Riscos congela os projetos de agentes de IA em bancos
- LGPD, Banco Central do Brasil e CNBV: o que cada regulador exige de um agente de IA
Conteúdo informativo. Não constitui assessoria jurídica. Consulte a norma vigente e o seu time jurídico para cada caso.
