Como preparar a empresa para a superinteligência artificial

Como preparar a empresa para a superinteligência artificial

Para preparar a empresa para a superinteligência artificial, você não precisa prever quando ela chega nem como será. Vale investir no que melhora qualquer sistema de IA, de hoje ou de amanhã: processos documentados, dados organizados, permissões mínimas, avaliações repetíveis e aprovação humana nas decisões de risco.

Principais pontos

• Ninguém sabe se, quando ou como a superinteligência vai aparecer, então o preparo útil é o que funciona em todos os cenários.
• Um processo que não está escrito não pode ser delegado a nenhum sistema, humano ou artificial.
• Dados e conhecimento interno precisam de dono, atualização e regras de acesso antes de qualquer agente os usar.
• Permissões mínimas e avaliações repetíveis permitem trocar de modelo sem refazer a operação.
• Aprovação humana deve ficar nos pontos em que um erro custa caro ou é difícil de desfazer.

O que significa se preparar sem apostar em previsões?

Existem pessoas sérias que acham que sistemas muito mais capazes que os atuais estão próximos, e pessoas igualmente sérias que acham que isso está longe ou nunca virá. Para quem toma decisão numa empresa, essa disputa é pouco útil. O que você controla é a qualidade da própria operação.

Uma boa forma de pensar: separe o que é documentação oficial, o que é experiência de implantação e o que é hipótese. A documentação oficial de fornecedores diz o que um modelo faz hoje. A experiência de implantação mostra onde os projetos costumam travar: processos informais, dados espalhados, acessos amplos demais. A hipótese sobre superinteligência fica no terceiro grupo, e nenhuma decisão de orçamento deveria depender dela.

O teste prático é simples. Para cada preparativo, pergunte: isso continua valendo se os modelos melhorarem pouco? E se melhorarem muito? Se a resposta for sim nos dois casos, o investimento é seguro. Se só faz sentido num cenário específico, é aposta, e aposta não é preparo.

Vale também acompanhar o ambiente regulatório, que muda independentemente da tecnologia. Um bom ponto de partida é entender o marco legal da IA no Brasil e as orientações da ANPD sobre dados pessoais.

Por que documentar processos vem primeiro?

Um sistema mais capaz executa melhor o que foi bem descrito, e também erra com mais confiança o que foi mal descrito. Se o atendimento, a cobrança ou a triagem dependem do que cada pessoa acha certo, não há o que entregar a um agente, e muito menos a algo mais poderoso.

Documentar não precisa ser um manual de duzentas páginas. Para cada processo importante, registre o essencial:

• Qual é o gatilho que inicia o processo.
• Quais informações entram e de onde vêm.
• Quais são os passos, na ordem em que acontecem de fato, não como deveriam acontecer.
• Quais exceções aparecem e quem decide nelas.
• Qual é o resultado esperado e como você sabe que deu certo.
• Quem é o responsável por esse processo.

O item das exceções é o mais valioso. É nele que mora o julgamento da sua equipe, e é ele que costuma estar só na cabeça de uma ou duas pessoas. Escrever isso reduz dependência de indivíduos hoje e cria a base para qualquer automação depois.

Comece pelos processos que se repetem muito, que envolvem clientes e que têm regras razoavelmente claras. Deixe os mais ambíguos para depois de ganhar prática.

Como organizar dados e conhecimento da empresa?

A maioria das empresas tem o conhecimento espalhado: planilhas pessoais, grupos de WhatsApp, e-mails, PDFs de versões diferentes, um CRM pela metade. Qualquer sistema de IA que consulte esse material vai herdar a bagunça. Um modelo melhor não corrige uma política de troca que existe em três versões contraditórias.

O preparo aqui é de gestão, não de tecnologia:

• Defina uma fonte de verdade para cada tipo de informação (preços, prazos, políticas, cadastro de clientes).
• Dê um dono a cada fonte, com data de revisão.
• Retire ou marque como obsoleto o que está desatualizado.
• Classifique o que é dado pessoal, o que é sensível e o que é confidencial para o negócio.
• Registre onde cada dado foi coletado e com qual finalidade, que é o que a LGPD pede de qualquer tratamento.

Essa classificação também decide onde um dado pode ser processado. Se informações pessoais forem enviadas a um serviço fora do país, há exigências próprias, e vale revisar antes o que a LGPD pede sobre transferência internacional. Para dados muito sensíveis, algumas empresas avaliam rodar modelos em infraestrutura própria, o que traz outros custos de operação.

Por fim, defina uma regra de uso para as ferramentas que a equipe já usa por conta própria. Uma política de uso de ChatGPT na empresa deixa claro o que pode ser colado em uma ferramenta externa e o que não pode, e é um dos preparativos mais baratos e mais urgentes.

Como definir permissões e limites de ação?

Quanto mais capaz um sistema, mais importante é limitar o que ele pode fazer. O princípio é antigo na segurança da informação: privilégio mínimo. Cada agente, integração ou ferramenta deve ter acesso apenas ao que precisa para a tarefa, e nada além.

Na prática, mapeie três coisas para cada sistema de IA:

• O que ele pode ler (quais bases, quais campos, de quais clientes).
• O que ele pode escrever ou executar (enviar mensagem, alterar cadastro, emitir desconto, abrir chamado).
• O que ele nunca pode fazer sozinho (pagamentos, cancelamentos, respostas jurídicas, qualquer coisa irreversível).

Separe também credenciais por função, e não use a senha de uma pessoa para um agente operar. Guias de autorização, como o do OWASP, tratam justamente de verificar permissões em cada requisição e negar por padrão.

Há um segundo risco: conteúdo malicioso que tenta manipular o agente, como uma mensagem de cliente com instruções escondidas. Limites rígidos de ação são a melhor defesa, porque funcionam mesmo quando o texto convence o modelo. Vale ler sobre como se proteger de prompt injection em agentes de IA antes de dar acesso a ferramentas.

Registre tudo o que o agente faz: o que recebeu, o que decidiu, qual ação executou. Sem log de decisão não há auditoria, e sem auditoria não há como ampliar a autonomia com segurança.

Como criar avaliações que sobrevivem à troca de modelo?

Modelos mudam rápido. O que não deveria mudar é a sua régua. Uma avaliação é um conjunto de situações reais, com a resposta ou o comportamento aceitável definido por você, que roda sempre que algo muda: o modelo, o texto de instrução, a base de conhecimento.

Se você tem isso, trocar de modelo vira um teste de uma tarde, não uma decisão de fé. Se não tem, cada novidade vira uma discussão de opiniões.

Monte o seu conjunto assim:

• Reúna conversas e casos reais já anonimizados, incluindo os difíceis e os que deram errado.
• Para cada caso, escreva o que seria uma boa resposta e o que seria inaceitável.
• Inclua casos em que o correto é recusar ou passar para uma pessoa.
• Rode o conjunto antes de qualquer mudança e compare com a rodada anterior.
• Revise o conjunto periodicamente, porque o negócio muda.

Teste também as ações, não só o texto. Um ambiente de simulação permite verificar o que o agente tentaria fazer sem tocar em sistemas reais, e há um passo a passo em como testar agente de IA com mocks e sandbox. A literatura de engenharia sobre avaliações de agentes, como a da Anthropic, e o framework de gestão de risco do NIST reforçam a mesma ideia: medir antes de confiar, e continuar medindo.

Onde manter a aprovação humana?

Aprovação humana não é um freio contra a tecnologia. É a forma de delegar com responsabilidade. A pergunta útil não é se uma pessoa deve revisar tudo, e sim quais decisões justificam revisão.

Um guia simples de decisão:

• Ação reversível e de baixo impacto, com regra clara: pode ser automática, com registro.
• Ação reversível, mas com cliente envolvido: automática com amostragem de revisão periódica.
• Ação difícil de desfazer, com dinheiro, saúde, direito ou reputação: aprovação humana antes de executar.
• Situação fora do padrão ou com baixa confiança: encaminhar para uma pessoa com o contexto já resumido.

Defina também quem aprova, em quanto tempo e o que acontece se ninguém responder. Aprovação sem dono vira fila parada, e a equipe passa a aprovar no automático, o que é pior que não ter controle.

Quando uma decisão automatizada afeta o titular de dados, a LGPD prevê o direito de pedir revisão. Vale entender o que diz o art. 20 sobre decisões automatizadas e desenhar o caminho de revisão humana desde o início, não depois de uma reclamação.

Qual é o plano passo a passo, e como fica na prática?

O método que usamos organiza esse trabalho em quatro movimentos: mapear, limitar, pilotar e transferir. Mapear é descrever o processo atual e medir uma linha de base. Limitar é definir dados, ferramentas e ações permitidas. Pilotar é rodar um único fluxo real, com logs e uma métrica de sucesso combinada de antemão. Transferir é entregar a operação documentada e decidir, com evidência, se expande, ajusta ou para.

Em passos:

• Escolha um processo com volume, regras razoavelmente claras e impacto limitado.
• Documente-o, incluindo as exceções e o responsável.
• Identifique as fontes de dados e corrija o que está desatualizado.
• Defina permissões mínimas e as ações que exigem aprovação.
• Monte o conjunto de avaliação com casos reais anonimizados.
• Rode um piloto restrito, com registro de decisões.
• Compare com a linha de base e decida: expandir, ajustar ou parar.

Cenário ilustrativo: uma distribuidora de materiais elétricos quer que um agente responda dúvidas de pedidos no WhatsApp. Antes de qualquer ferramenta, a equipe escreve como o status de um pedido é consultado, quem autoriza segunda via de nota e o que fazer com reclamação de entrega. O agente recebe acesso de leitura ao status dos pedidos, mas não altera nada. Pedidos de cancelamento vão para um atendente, com o histórico resumido. Seis meses depois, a empresa troca de modelo: roda o mesmo conjunto de casos, compara e decide em poucos dias. O ganho não veio do modelo, veio do que foi preparado ao redor dele.

Se quiser ver como esse trabalho costuma ser conduzido, há uma descrição em como Juan Carlo trabalha com empresas.

Perguntas frequentes

A superinteligência artificial vai mudar o que preciso fazer hoje? Provavelmente não o essencial. Processos claros, dados confiáveis, acessos limitados, avaliações e revisão humana continuam necessários se os sistemas ficarem só um pouco melhores, e se ficarem muito melhores, passam a ser ainda mais importantes.

Preciso contratar alguém ou comprar uma plataforma para começar? Não necessariamente. O primeiro trabalho é interno: escrever processos, nomear responsáveis e limpar fontes de informação. Ferramentas e apoio externo fazem mais sentido depois que você sabe qual fluxo quer pilotar e como vai medir o resultado.

Como saber se estou exagerando no controle humano? Observe se as aprovações estão sendo feitas com atenção ou no automático, e se a fila atrasa o cliente. Se quase tudo é aprovado sem alteração, talvez aquela classe de ação possa ser automática com amostragem. Se há erros que chegam ao cliente, o controle está de menos.

Por onde começar se minha empresa é pequena? Escolha um único processo repetitivo, como respostas a dúvidas frequentes ou triagem de pedidos, e faça os cinco preparativos em escala pequena. Uma página de processo, uma fonte de verdade, um acesso restrito, vinte casos de teste e uma regra de quando chamar uma pessoa já mudam bastante a segurança da operação.

Fontes

• NIST AI Risk Management Framework
• Anthropic: Demystifying evals for AI agents
• OWASP: Authorization Cheat Sheet
• Anthropic: Building effective agents