top of page

Agentes de IA nas empresas: novos riscos de acesso, automação e vazamento

Foto do escritor: Raidbr
Raidbr
30 de out.
3 min de leitura

Agentes de IA são sistemas que, além de responder, executam ações: consultam sistemas, enviam e-mails, criam registros e acionam outras ferramentas. O principal risco não está no que o agente diz, e sim no que ele pode fazer. Segurança de agentes exige um modelo de identidade definido, permissões mínimas, aprovação humana para ações críticas, controle de conectores e registro completo das ações.


A conversa sobre IA nas empresas está mudando de "qual IA usar" para "quais dados e quais ações a IA pode acessar". A previsão de cibersegurança do Google Cloud destaca agentes não governados e a evolução da gestão de identidade como temas relevantes, e a Microsoft já trata a segurança de agentes na documentação de governança do Copilot Studio.


IA que responde versus IA que executa


Característica

Assistente de IA

Agente de IA

O que faz

Responde perguntas e gera conteúdo

Executa tarefas em sistemas

Acesso

Documentos que o usuário consulta

Conectores, APIs e credenciais

Risco principal

Resposta incorreta ou exposição de dados

Ação indevida, em escala e com velocidade

Controle necessário

Política de uso e proteção de dados

Identidade, permissão, aprovação e auditoria


Quem autoriza um agente a acessar sistemas?


Cada agente deve ter:


· Um dono de negócio responsável pelo propósito e pelos resultados.

·   Um responsável técnico pela configuração e manutenção.

·  Um modelo de identidade documentado: identidade de aplicação ou permissões delegadas do usuário, conforme a plataforma e a finalidade, sem compartilhamento de senhas.

·    Escopo documentado: quais sistemas, quais dados e quais ações.


Agentes criados por usuários sem passar por esse processo são uma nova forma de shadow AI.


Quais ações precisam de aprovação humana


Uma regra prática é classificar as ações por impacto:


Nível

Exemplos

Controle

Leitura

Consultar estoque, resumir chamados

Automático, com registro

Escrita interna

Criar tarefa, atualizar CRM

Automático com limites e revisão periódica

Comunicação externa

Enviar e-mail a cliente, publicar conteúdo

Aprovação humana

Ação financeira ou crítica

Pagamentos, alteração de cadastro bancário, exclusões

Aprovação humana obrigatória e dupla checagem


Como controlar conectores e credenciais


· Use conectores aprovados e bloqueie os não homologados.

·   Aplique menor privilégio: o agente acessa apenas o necessário.

·   Não incorpore senhas em configurações; use cofres e identidades gerenciadas.

·   Separe ambientes de teste e produção.

·  Avalie riscos como injeção de prompt, em que conteúdos externos tentam manipular o comportamento do agente. O OWASP Top 10 para aplicações com LLM é uma boa referência.


Como registrar ações e revogar acessos


1. Registre cada ação: quem solicitou, o que o agente fez, em qual sistema e quando.

2. Monitore padrões incomuns, como volume de ações fora do normal.

3. Revise periodicamente agentes ativos, donos e permissões.

4. Revogue imediatamente acessos de agentes desativados ou sem dono.

5. Tenha um botão de parada: a capacidade de suspender um agente rapidamente.


Por onde começar


· Faça um inventário dos agentes e automações com IA existentes.

·   Defina uma política simples para criação e aprovação de agentes.

·   Comece com casos de uso de leitura e baixo risco.

·   Evolua para ações com aprovação humana antes de qualquer automação crítica.


Resumo para a diretoria


· Agentes de IA executam ações; o risco cresce com as permissões que recebem.

·   Cada agente precisa de dono, modelo de identidade e escopo documentados.

·  Como recomendação de governança, submeta ações externas, financeiras ou críticas à aprovação humana proporcional ao risco.

·  Registro de ações e capacidade de suspensão rápida devem fazer parte dos requisitos de governança.


Perguntas frequentes


O que é um agente de IA?


É um sistema de inteligência artificial capaz de planejar e executar tarefas em outros sistemas, usando conectores, APIs e permissões.


Qual o maior risco dos agentes de IA?


Executar ações indevidas com permissões amplas, em escala e sem supervisão, incluindo vazamento de dados e alterações em sistemas críticos.


O que é injeção de prompt?


É uma técnica em que instruções maliciosas são inseridas em conteúdos que o agente lê, como e-mails ou páginas web, para manipular seu comportamento.


Agentes de IA precisam seguir a LGPD?


Sim. Se tratam dados pessoais, as obrigações da LGPD se aplicam, incluindo segurança, finalidade e transparência em decisões automatizadas.


Agentes produtivos precisam de limites claros


A Raidbr desenha a governança de agentes de IA e uma arquitetura segura de integração, com identidades, permissões, aprovações e auditoria.




Comentários


bottom of page