
Segurança cibernética e superinteligência: o que proteger primeiro
Superinteligência segue hipotética, mas agentes de IA já alcançam credenciais, canais e bases de clientes. Veja a ordem prática para proteger cada ativo.
Quer aplicar isso na sua empresa?
Agendar conversa com o Juan →Superinteligência, no sentido de sistemas que superariam a capacidade humana na maioria das tarefas, ainda não existe, e não há consenso sobre quando ou se existirá. Para a segurança da sua empresa, a pergunta útil é outra: o que um agente de IA consegue alcançar hoje, dentro dos seus sistemas? A resposta prática é proteger primeiro as credenciais, depois as permissões, as ações que não se desfazem, os canais de saída, as bases de dados e, por último, os registros que permitem investigar qualquer incidente.
Principais pontos
- Um agente é tão arriscado quanto as credenciais e permissões que recebe, então a proteção começa no cofre de segredos e no escopo mínimo de cada integração.
- Ações que não se desfazem, como cobrança, cancelamento, envio em massa e alteração de cadastro, precisam de aprovação humana antes de executar.
- O número de WhatsApp e o domínio de e-mail são canais de reputação e também portas de entrada para fraude, não apenas meios de contato.
- Bases com dados pessoais devem ser acessadas por consultas limitadas, nunca por acesso total, o que ajuda a cumprir a LGPD e reduz o dano de um erro.
- Sem registro de decisões e ações, nenhum incidente pode ser reconstruído, por isso o log entra na lista de proteção desde o primeiro piloto.
Por que começar pelo que o agente alcança
O risco de um agente de IA raramente vem de uma inteligência fora de controle. Ele vem de três fatores combinados: o agente tem acesso a sistemas reais, processa textos que não controla e pode tomar ações em nome da empresa. Um cliente, um anexo ou uma página da web podem conter instruções escritas para enganar o modelo, técnica conhecida como injeção de prompt. A OWASP, que mantém uma lista de riscos para aplicações com modelos de linguagem, trata esse problema e também o excesso de autonomia, quando o sistema recebe mais poder do que a tarefa exige.
Por isso, a segurança de um agente começa com um inventário do que ele pode tocar, não com a escolha do modelo. Essa é a leitura mais útil para um gestor: se o agente falhar ou for manipulado, qual é o pior resultado possível com as permissões que ele tem hoje?
Ordem prática de proteção: da credencial à base de dados
A ordem abaixo segue um critério simples: proteja primeiro o que dá acesso a todo o resto, depois o que causa dano imediato e irreversível, e por último o que guarda informação acumulada. Cada item deve ser revisado antes de o agente entrar em operação real.
- Credenciais e chaves de API: guardadas em cofre de segredos, nunca no prompt, no código de exemplo ou em planilhas compartilhadas, com rotação definida.
- Identidade e permissões: cada agente com identidade própria, com escopo mínimo por ferramenta e por operação, separado de contas de pessoas.
- Ações irreversíveis: cobrança, cancelamento, exclusão, reembolso e envio em massa exigem confirmação humana registrada.
- Canais de saída: número de WhatsApp, domínio de e-mail e contas de redes sociais, com limites de volume e regras de quem pode disparar mensagens.
- Bases de dados com dados pessoais: consultas por finalidade, campos necessários apenas, leitura separada de escrita.
- Registros e logs: cada conversa, chamada de ferramenta e decisão com data, origem e resultado, guardados por período definido.
- Configuração e instruções: prompts, regras e fluxos versionados, com quem pode alterá-los e como a mudança é revisada.
A lista não cobre tudo, mas funciona como ponto de partida para uma conversa com a equipe de tecnologia e com quem responde pelo processo.
Credenciais e permissões: como reduzir o estrago
Uma credencial que dá acesso amplo é o ativo mais valioso para qualquer pessoa que queira usar o agente contra a empresa. Na prática, isso significa três cuidados. Primeiro, o agente deve usar tokens com permissões restritas e prazo de validade quando a plataforma permitir, seguindo o princípio de autorização por menor privilégio descrito nas diretrizes da OWASP. Segundo, cada integração deve ser autorizada separadamente, para que a permissão de ler agenda não traga junto a de alterar cadastros. Terceiro, a empresa precisa saber quem pode criar, trocar ou revogar essas credenciais, e isso deve estar escrito.
Um erro comum é dar ao agente a mesma conta administrativa usada pela equipe, por conveniência durante o teste. Essa conta pode sobreviver ao piloto e passar a ser um risco permanente.
Ações irreversíveis e canais de saída
Há ações que o agente não deve executar sozinho, mesmo quando tecnicamente consegue. Estorno, alteração de preço, cancelamento de contrato, exclusão de registro e disparo para uma lista grande de clientes são exemplos. Para essas, o desenho correto é o agente preparar a ação, mostrar o resumo a um responsável e só executar após aprovação registrada.
O mesmo cuidado vale para os canais. Um número de WhatsApp Business ou um domínio de e-mail que sofre abuso pode ser bloqueado, e a reputação perdida leva tempo para voltar. Antes de liberar mensagens ativas, vale confirmar a base de consentimento e as regras da plataforma, como as que tratamos em Janela de 24 horas no WhatsApp API: como o agente de IA deve agir.
Bases de dados e LGPD: acesso por finalidade
A base de clientes costuma ser o ativo mais sensível que um agente alcança, porque reúne nome, telefone, endereço, histórico de compra e, em alguns setores, dados de saúde ou financeiros. A LGPD exige finalidade, necessidade e segurança no tratamento, e a Autoridade Nacional de Proteção de Dados concentra as orientações sobre o tema. Para um agente, isso se traduz em consultas específicas: o agente que informa o status de um pedido não precisa ver o histórico completo de compras, e o agente que agenda uma visita não precisa ler anotações internas.
Também é preciso cuidado com decisões que afetam o cliente de forma relevante, como negar um atendimento ou classificar um pedido como fraude. Essas decisões exigem revisão humana e explicação, tema tratado em Decisões automatizadas na LGPD: art. 20 e o direito de revisão.
Registros, testes e o que fazer quando algo sai do previsto
Registros são o que transforma um incidente em aprendizado. Cada chamada de ferramenta deve deixar uma linha com a data, o pedido recebido, a ação tomada e quem aprovou, quando for o caso. Sem isso, a equipe não consegue dizer se um problema foi falha do modelo, erro de configuração ou tentativa deliberada de manipulação.
Cenário ilustrativo: uma loja de móveis planejados usa um agente no WhatsApp para informar o andamento de pedidos. Um cliente cola no chat um texto pedindo que o agente ignore as regras e envie a lista de clientes da semana. Se o agente só tiver acesso ao status de pedidos de um cliente identificado, a tentativa não encontra nada útil e fica registrada como evento de segurança. Se tiver acesso ao CRM inteiro, o problema vira vazamento. A diferença está nas permissões definidas antes do piloto, não em uma instrução bem escrita no prompt.
Testes com cenários de manipulação, feitos em ambiente isolado antes da operação real, ajudam a encontrar esses buracos. O tema está em Como testar agente de IA com mocks e sandbox sem risco.
Como aplicar isso sem transformar a segurança em burocracia
No nosso método, a proteção entra em quatro etapas. Primeiro, mapear os ativos que o agente alcança, antes de qualquer piloto. Depois, limitar dados e ações ao mínimo necessário para o fluxo escolhido. Em seguida, pilotar um fluxo real com logs e uma métrica de sucesso combinada com o negócio. Por fim, transferir a operação e decidir se o agente deve ser expandido, ajustado ou interrompido. Esse caminho não elimina riscos, mas deixa claro o que foi testado, quem responde por cada ação e o que fazer quando algo sair do previsto.
A recomendação prática para a diretoria é simples: escolha um fluxo, liste o que o agente pode alcançar nele, corte o que não for necessário e exija registro de tudo antes de ampliar o escopo. Para entender melhor o que a palavra superinteligência realmente cobre hoje, vale a leitura de Superinteligência e ChatGPT: a diferença de verdade para empresas.
Perguntas frequentes
Superinteligência já representa um risco para a minha empresa?
Superinteligência, como conceito, ainda não existe e não há consenso sobre quando existirá. O risco concreto de hoje vem de agentes de IA com acesso a sistemas, credenciais e dados reais, que podem ser manipulados por textos de clientes ou executar ações com permissões excessivas. Por isso, a proteção deve começar pelo que esses agentes já conseguem alcançar.
Qual é o primeiro ativo que devo proteger?
O primeiro é a credencial, porque ela dá acesso a todos os outros ativos. Guarde chaves e tokens em cofre de segredos, crie identidade própria para cada agente e restrinja o escopo ao mínimo que o fluxo exige. Só depois avance para permissões de ações, canais e bases de dados.
Preciso impedir que o agente faça qualquer ação sozinho?
Não necessariamente. O agente pode executar tarefas de baixo risco e reversíveis, como consultar status ou sugerir uma resposta. Para ações irreversíveis ou de alto impacto, como cobrança, cancelamento e disparo em massa, o ideal é que ele prepare a ação e um responsável aprove antes da execução, com registro da aprovação.
Por onde começar se minha equipe ainda não tem experiência com agentes?
Comece por um único fluxo real, com baixo risco e dados pouco sensíveis, e faça um mapeamento do que o agente alcança antes de ligá-lo. Defina uma métrica de sucesso, mantenha logs desde o primeiro dia e revise permissões ao fim do piloto. Se o resultado for bom, amplie o escopo de forma gradual; se não for, ajuste ou pare sem constrangimento.