Quais são os riscos de usar agentes de IA?
Os principais riscos de usar agentes de IA são cinco: alucinação (inventar resposta), informação desatualizada, excesso de autonomia para decidir sozinho, falha silenciosa da integração e exposição de dados pessoais. Todos são controláveis com escopo definido, passagem para humano, monitoramento das conversas e cuidado com a LGPD desde o primeiro dia.
Um agente de IA é diferente de um chatbot de menu: ele interpreta a mensagem em linguagem natural, decide o próximo passo e pode executar ações, como registrar um lead, consultar um pedido ou enviar um link. Essa autonomia é o que torna o agente útil, e é exatamente ela que cria os riscos. Quanto mais o agente pode fazer sem confirmação, maior o estrago de um erro que ninguém viu.
Nada disso é motivo para não usar. É motivo para usar com método. Os riscos se concentram em três momentos: quando o escopo não foi definido por escrito, quando o agente vai ao ar sem teste com conversas reais e quando ninguém acompanha o que ele está respondendo depois do lançamento.
- Alucinação: resposta plausível, mas inventada, principalmente quando a pergunta foge da base de conhecimento.
- Informação desatualizada: preço, prazo ou política antiga repetida com total confiança.
- Excesso de autonomia: o agente toma decisões que deveriam passar por aprovação humana.
- Falha silenciosa: a integração cai e ninguém percebe até o cliente reclamar em outro canal.
- Dados pessoais: informação de cliente circulando por sistemas sem o cuidado que a LGPD exige.
Alucinação e informação errada: o risco mais visível
Modelos de linguagem geram texto prevendo a resposta mais provável. Quando a pergunta está coberta pelo conteúdo que o agente recebeu, a resposta tende a ser correta. Quando não está, o modelo pode completar a lacuna com algo que soa certo e não é: um prazo de entrega que não existe, um desconto que ninguém autorizou, uma característica do produto que nunca foi prometida.
O segundo problema é a base desatualizada. O agente não sabe que o preço mudou na semana passada se ninguém atualizou o conteúdo dele. Ele vai repetir a informação antiga com a mesma segurança de sempre, e o cliente não tem como perceber a diferença. Por isso a base de conhecimento precisa de um dono e de uma rotina de revisão.
- Instrua o agente a dizer que não sabe e chamar uma pessoa quando a resposta não estiver no conteúdo de base.
- Proíba explicitamente que ele invente preço, prazo, desconto ou condição comercial.
- Mantenha a base de conhecimento num único lugar, com responsável e data da última revisão.
- Teste perguntas fora do escopo antes de lançar, não só as perguntas frequentes.
Excesso de autonomia: quando o agente decide demais
Agentes de IA podem chamar ferramentas: consultar um banco de dados, alterar um cadastro, enviar um link de pagamento, cancelar um agendamento. Cada ferramenta liberada é uma decisão que o agente pode tomar sem você. O risco não está na ferramenta em si, mas em liberar ações irreversíveis sem uma etapa de confirmação, especialmente no começo da operação.
A regra prática é separar o que é leitura do que é escrita. Consultar status de pedido, horário ou disponibilidade é de baixo risco. Cancelar pedido, conceder desconto, estornar valor ou alterar dado de cliente é de alto risco e deve exigir aprovação humana ou, no mínimo, uma confirmação explícita do cliente antes de executar.
- Liste por escrito o que o agente pode decidir sozinho e o que sempre exige aprovação humana.
- Libere primeiro só ferramentas de consulta; ações que alteram dados entram depois, com confirmação.
- Registre em log cada ação executada pelo agente, com data, conversa e motivo.
- Revise as permissões sempre que o agente ganhar uma ferramenta nova, não só no lançamento.
Riscos técnicos: falha silenciosa, loop e prompt mal calibrado
Um agente de IA depende de várias peças: a API do WhatsApp ou de outro canal, o webhook que recebe as mensagens, o backend que chama o modelo e o próprio provedor de IA. Se qualquer uma delas cai, o agente para de responder. O perigo é que isso acontece em silêncio: não aparece erro na tela de ninguém, e o cliente simplesmente fica sem resposta.
Outros dois riscos técnicos aparecem nas conversas. O loop acontece quando o agente entende errado, o cliente corrige e o agente erra de novo, sem sair do lugar. O prompt mal calibrado aparece como inconsistência: a mesma pergunta recebe respostas diferentes em dias diferentes. Os dois só são descobertos por quem lê as conversas, não por quem olha um painel de métricas.
- Configure um alerta que avise a equipe quando o agente passar um período sem responder mensagens recebidas.
- Defina um limite de tentativas: depois de duas respostas sem resolver, a conversa passa para uma pessoa.
- Escreva instruções específicas, com exemplos de resposta certa, em vez de orientações vagas.
- Guarde o histórico das conversas para conseguir auditar o que o agente disse e quando.
Riscos de negócio, reputação e LGPD
O cliente que percebe que está preso num robô sem saída costuma ficar mais irritado do que ficaria sem atendimento nenhum. Esconder que a conversa é automatizada piora a situação quando ele descobre. A transparência sai mais barata: avisar que é um assistente de IA e oferecer o caminho para falar com uma pessoa a qualquer momento evita a maior parte do desgaste.
Há também o risco jurídico. Um agente que promete prazo, garantia ou condição que a empresa não cumpre gera reclamação formal. Dados pessoais passando por um sistema mal configurado são questão de LGPD, não só de imagem. No Brasil, o projeto de lei de regulação de IA (PL 2338/2023) está em discussão, e algumas empresas já estruturam governança de IA antes de a regra chegar.
Na comunidade da ZX LAB, Eduardo S. relatou ter fechado três contratos de implantação de Governança de IA no mesmo mês, para empresas que querem se antecipar à regulamentação. É um caso individual, não promessa de resultado, mas mostra que o tema risco já virou serviço contratado. Quem trata risco como parte do projeto desde o início entrega um agente mais confiável e vende com mais segurança.
- Avise que o atendimento é feito por IA logo no início da conversa.
- Mantenha um caminho visível para falar com uma pessoa, sem exigir palavra-chave escondida.
- Colete só os dados que o atendimento realmente precisa e defina por quanto tempo guardá-los.
- Tenha um plano B para quando o agente sair do ar num pico de demanda.
Checklist para reduzir os riscos antes de colocar no ar
A maior parte dos riscos de usar agentes de IA é evitada antes do lançamento, não depois. O roteiro abaixo é a referência que usamos na ZX LAB: começa pelo escopo, passa por teste com conversas reais e só libera o volume total depois que alguém leu as primeiras conversas uma a uma. Pular etapas é o que transforma um erro pequeno em problema grande.
Ferramentas como o Claude Code, da Anthropic, ajudam a montar esse processo porque permitem descrever em português o comportamento do agente, as regras de passagem para humano e os alertas de falha. Ele roda em macOS, Linux e Windows. Mas a ferramenta não substitui a decisão de negócio: quem define o que o agente pode ou não fazer é você.
- 1. Escreva o escopo: o que o agente responde, o que ele nunca responde e quando chama uma pessoa.
- 2. Monte a base de conhecimento com conteúdo real e atualizado, com um responsável definido.
- 3. Teste perguntas frequentes, perguntas fora do escopo e tentativas de induzir o agente ao erro.
- 4. Lance para uma fração do volume e leia as primeiras conversas antes de liberar para todos.
- 5. Mantenha alerta de falha, logs e revisão periódica por amostragem depois do lançamento.
Quando não usar um agente de IA
Há situações em que o risco supera o benefício. Atendimentos que envolvem saúde, questões jurídicas, reclamação formal ou negociação complexa precisam de uma pessoa no comando, com o agente no máximo organizando informações para ela. Também não faz sentido automatizar quando o volume é baixo e a equipe responde todos rapidamente: o custo de montar e monitorar não se paga.
Outro sinal de alerta é usar o agente para esconder um problema de processo. Se o atendimento manual já é confuso, sem regra clara de preço ou prazo, o agente vai repetir a confusão mais rápido e para mais gente. Arrumar o processo vem antes de automatizar, sempre. O agente amplifica o que já existe, seja um processo bem desenhado ou um processo confuso.
- Temas sensíveis, como saúde, jurídico e reclamação formal, sem revisão humana.
- Negociações que dependem de margem, contexto e relacionamento.
- Operações com poucas mensagens por semana, que a equipe já atende bem.
- Processos sem regra definida, em que nem a equipe sabe qual é a resposta certa.
Claude Opus 5 Mandou WhatsApp Sozinho! E Agora?
Na ZX LAB, todo agente de IA que atende cliente real roda com uma pessoa acompanhando as conversas nas primeiras semanas e com escape claro para atendimento humano, porque o maior risco não é o agente errar uma vez, é errar sem ninguém perceber. Rafael Castro, fundador da ZX LAB, ensina essa disciplina aos mais de 15 mil alunos da escola.