Agentes de IA nas empresas: novos riscos de acesso, automação e vazamento


Agentes de IA são sistemas que, além de responder, executam ações: consultam sistemas, enviam e-mails, criam registros e acionam outras ferramentas. O principal risco não está no que o agente diz, e sim no que ele pode fazer. Segurança de agentes exige um modelo de identidade definido, permissões mínimas, aprovação humana para ações críticas, controle de conectores e registro completo das ações.
A conversa sobre IA nas empresas está mudando de "qual IA usar" para "quais dados e quais ações a IA pode acessar". A previsão de cibersegurança do Google Cloud destaca agentes não governados e a evolução da gestão de identidade como temas relevantes, e a Microsoft já trata a segurança de agentes na documentação de governança do Copilot Studio.
IA que responde versus IA que executa
Característica | Assistente de IA | Agente de IA |
O que faz | Responde perguntas e gera conteúdo | Executa tarefas em sistemas |
Acesso | Documentos que o usuário consulta | Conectores, APIs e credenciais |
Risco principal | Resposta incorreta ou exposição de dados | Ação indevida, em escala e com velocidade |
Controle necessário | Política de uso e proteção de dados | Identidade, permissão, aprovação e auditoria |
Quem autoriza um agente a acessar sistemas?
Cada agente deve ter:
· Um dono de negócio responsável pelo propósito e pelos resultados.
· Um responsável técnico pela configuração e manutenção.
· Um modelo de identidade documentado: identidade de aplicação ou permissões delegadas do usuário, conforme a plataforma e a finalidade, sem compartilhamento de senhas.
· Escopo documentado: quais sistemas, quais dados e quais ações.
Agentes criados por usuários sem passar por esse processo são uma nova forma de shadow AI.
Quais ações precisam de aprovação humana
Uma regra prática é classificar as ações por impacto:
Nível | Exemplos | Controle |
Leitura | Consultar estoque, resumir chamados | Automático, com registro |
Escrita interna | Criar tarefa, atualizar CRM | Automático com limites e revisão periódica |
Comunicação externa | Enviar e-mail a cliente, publicar conteúdo | Aprovação humana |
Ação financeira ou crítica | Pagamentos, alteração de cadastro bancário, exclusões | Aprovação humana obrigatória e dupla checagem |
Como controlar conectores e credenciais
· Use conectores aprovados e bloqueie os não homologados.
· Aplique menor privilégio: o agente acessa apenas o necessário.
· Não incorpore senhas em configurações; use cofres e identidades gerenciadas.
· Separe ambientes de teste e produção.
· Avalie riscos como injeção de prompt, em que conteúdos externos tentam manipular o comportamento do agente. O OWASP Top 10 para aplicações com LLM é uma boa referência.
Como registrar ações e revogar acessos
1. Registre cada ação: quem solicitou, o que o agente fez, em qual sistema e quando.
2. Monitore padrões incomuns, como volume de ações fora do normal.
3. Revise periodicamente agentes ativos, donos e permissões.
4. Revogue imediatamente acessos de agentes desativados ou sem dono.
5. Tenha um botão de parada: a capacidade de suspender um agente rapidamente.
Por onde começar
· Faça um inventário dos agentes e automações com IA existentes.
· Defina uma política simples para criação e aprovação de agentes.
· Comece com casos de uso de leitura e baixo risco.
· Evolua para ações com aprovação humana antes de qualquer automação crítica.
Resumo para a diretoria
· Agentes de IA executam ações; o risco cresce com as permissões que recebem.
· Cada agente precisa de dono, modelo de identidade e escopo documentados.
· Como recomendação de governança, submeta ações externas, financeiras ou críticas à aprovação humana proporcional ao risco.
· Registro de ações e capacidade de suspensão rápida devem fazer parte dos requisitos de governança.
Perguntas frequentes
O que é um agente de IA?
É um sistema de inteligência artificial capaz de planejar e executar tarefas em outros sistemas, usando conectores, APIs e permissões.
Qual o maior risco dos agentes de IA?
Executar ações indevidas com permissões amplas, em escala e sem supervisão, incluindo vazamento de dados e alterações em sistemas críticos.
O que é injeção de prompt?
É uma técnica em que instruções maliciosas são inseridas em conteúdos que o agente lê, como e-mails ou páginas web, para manipular seu comportamento.
Agentes de IA precisam seguir a LGPD?
Sim. Se tratam dados pessoais, as obrigações da LGPD se aplicam, incluindo segurança, finalidade e transparência em decisões automatizadas.
Agentes produtivos precisam de limites claros
A Raidbr desenha a governança de agentes de IA e uma arquitetura segura de integração, com identidades, permissões, aprovações e auditoria.



Comentários