Perguntas do conselho sobre superinteligência e respostas honestas

Quando um conselho de administração discute superinteligência, quer saber três coisas: se essa tecnologia já está disponível para a empresa, quais riscos ela traz e o que a diretoria precisa decidir agora. A resposta honesta é que a superinteligência, entendida como sistemas que superariam pessoas na maioria das tarefas intelectuais, não é um produto que se contrata hoje, enquanto assistentes e agentes de IA que atendem clientes, resumem documentos e preenchem processos já existem e exigem governança própria. Este texto reúne as perguntas que conselheiros costumam fazer e responde a cada uma separando o que é concreto do que é hipótese.

Principais pontos

• Superinteligência é um conceito de debate, não um produto de prateleira. A decisão do conselho deve recair sobre os sistemas de IA que a empresa usa ou pretende usar.
• Os riscos concretos de hoje são vazamento de dados, respostas erradas com aparência de certeza, ações indevidas de agentes e dependência de fornecedores.
• A governança funciona por etapas: mapear o processo, limitar dados e ações, pilotar um fluxo real com registros e decidir entre expandir, ajustar ou parar.
• Perguntas de longo prazo devem virar rotina de monitoramento com revisão periódica, sem paralisar a operação.
• A pergunta mais útil para o conselho é quem responde pelas decisões tomadas com apoio de IA e como cada decisão fica registrada.

A superinteligência já existe na nossa empresa?

Não, e a distinção importa para a pauta. Um modelo de linguagem que escreve textos ou responde perguntas é uma ferramenta poderosa e limitada, que erra, depende do contexto que recebe e não tem objetivos próprios fora da tarefa. Quem quiser separar melhor esses conceitos pode ler ChatGPT é superinteligência? O que ele é e o que não é e Diferença entre AGI e superinteligência: o que sua empresa opera.

Na prática, o que a empresa opera hoje é um conjunto de sistemas com escopo definido: um agente que responde dúvidas de pedidos no WhatsApp, um classificador que organiza solicitações de suporte, um resumo automático de reuniões. Cada um tem entradas, saídas e pontos de falha conhecidos. Essa é a base correta para a conversa com o conselho, porque permite perguntar sobre um sistema específico em vez de discutir um cenário sem fronteiras.

Quais riscos são reais hoje e quais são hipóteses?

O erro mais comum em reuniões de conselho é tratar riscos de longo prazo como se fossem urgências de agora, ou o contrário, ignorar os riscos presentes porque parecem pequenos. Vale separar as duas listas.

Riscos concretos, que já aparecem em sistemas comuns:

• Dados pessoais enviados a ferramentas sem base legal, finalidade clara ou contrato adequado.
• Respostas incorretas dadas ao cliente com tom seguro, sem indicação de incerteza.
• Agentes com permissão para agir (reembolsar, alterar pedido, enviar mensagem) sem limite de valor ou aprovação humana.
• Injeção de instruções em textos recebidos pelo sistema, como e-mails ou mensagens de clientes que tentam mudar o comportamento do agente. O OWASP Top 10 for LLM Applications descreve esses riscos com detalhe.
• Dependência de um único fornecedor, sem plano para trocar de modelo ou suspender o serviço.

Hipóteses de longo prazo, que merecem acompanhamento e não decisão imediata: mudanças profundas no mercado de trabalho, concentração de poder em poucos fornecedores e sistemas capazes de superar a supervisão humana em domínios amplos. Essas questões são debatidas por governos e pesquisadores, mas nenhuma delas exige que a empresa mude hoje o processo de atendimento ou de faturamento.

Como a LGPD e a regulação entram nessa conversa?

A LGPD já se aplica a qualquer sistema de IA que trate dados pessoais de clientes, funcionários ou fornecedores, independentemente do tamanho do modelo. Isso significa que a pergunta do conselho deve ser objetiva: quais dados entram no sistema, para qual finalidade, onde são processados e por quanto tempo ficam guardados. A Autoridade Nacional de Proteção de Dados é a referência institucional para acompanhar o tema no Brasil.

Quando uma decisão automatizada afeta o cliente, como negar um pedido ou direcionar um atendimento com base em perfil, a empresa precisa ter como explicar o critério e oferecer revisão humana. Esse ponto está ligado ao direito de revisão de decisões automatizadas previsto na LGPD. Para o conselho, o trabalho é garantir que exista um responsável e um caminho de contestação, não se aprofundar no texto da lei.

Sobre o marco legal específico para inteligência artificial, o mais prudente é acompanhar a tramitação e avaliar o impacto nos sistemas que a empresa já opera. Um resumo prático está em Marco legal da IA no Brasil: o que sua empresa deve acompanhar. Para estruturar a gestão de risco, o NIST AI Risk Management Framework oferece um vocabulário útil e voluntário, e os Princípios de IA da OCDE reforçam transparência, responsabilidade e supervisão humana.

Que perguntas o conselho deve fazer à diretoria?

Um conselho não precisa entender a arquitetura técnica para fazer boas perguntas. Um guia de decisão simples ajuda a transformar a discussão em ação:

• Quais processos da empresa usam IA hoje, e quem é o dono de cada um?
• Quais dados esses processos acessam, e há base legal e registro disso?
• Quais ações o sistema pode executar sem aprovação humana, e qual é o limite?
• Como um erro é detectado, registrado e corrigido, e em quanto tempo?
• Existe um teste que mostre o comportamento esperado antes de cada mudança?
• Se o fornecedor mudar de modelo ou encerrar o serviço, quanto tempo a operação suporta?
• Qual métrica define que o piloto deu certo, e quem decide expandir, ajustar ou parar?

Respostas vagas a essas perguntas são o sinal mais útil de que a empresa ainda não está pronta para ampliar o uso, independentemente de qualquer debate sobre o futuro da tecnologia.

Um caminho em quatro etapas para sair da discussão abstrata

A forma mais segura de responder ao conselho é transformar a pauta em um plano com etapas e critérios de saída. Na nossa experiência de trabalho com empresas, e como método de trabalho, seguimos quatro movimentos: mapear, limitar, pilotar e transferir.

• Mapear: descrever o processo atual, o volume de atendimentos ou pedidos, os erros mais comuns e a linha de base antes de qualquer automação.
• Limitar: definir quais dados o sistema pode ver, quais ações pode executar e em quais situações ele precisa passar para uma pessoa.
• Pilotar: escolher um fluxo real, com registro de todas as decisões e uma métrica de sucesso combinada antes de começar.
• Transferir: entregar o fluxo com documentação, responsáveis definidos e a decisão formal de expandir, ajustar ou encerrar.

Esse método não depende de hipóteses sobre superinteligência. Ele serve igualmente para um agente de WhatsApp, um sistema de triagem ou um assistente interno, e é o que dá ao conselho dados para decidir. Quando a empresa quer delegar a operação contínua, a Be Human (be-human.ai) é a estrutura pela qual o acompanhamento gerido é feito.

Cenário ilustrativo: um agente que aprova compras sozinho

Cenário ilustrativo: uma distribuidora quer usar um agente para aprovar pedidos de reposição de estoque. Na apresentação ao conselho, a proposta parece eficiente, mas a equipe de operações pergunta o que acontece quando o fornecedor envia uma cotação com prazo alterado no meio do texto.

A resposta madura não é recusar o projeto nem aceitar tudo. O agente pode comparar cotações e preparar a recomendação, mas a aprovação acima de um valor definido continua com uma pessoa. Cada recomendação fica registrada com os dados usados e o motivo. O piloto começa em uma categoria de produtos apenas, com revisão semanal de erros. Se o conselho quiser ampliar, a decisão vem com o histórico do piloto, e não com uma expectativa.

Esse exemplo mostra que a pergunta do conselho deixa de ser "a superinteligência é perigosa?" e passa a ser "quais decisões este sistema pode tomar sozinho, e quem responde por elas?".

Perguntas frequentes

O conselho deve aprovar um plano específico sobre superinteligência? Não, a recomendação prática é aprovar uma política de uso de IA que cubra os sistemas em operação e os que estão em avaliação. Essa política define responsáveis, dados permitidos, ações que exigem aprovação humana e a rotina de revisão. Quando surgirem novidades sobre sistemas mais capazes, a política já tem o mecanismo para avaliá-las sem reabrir toda a discussão.

A superinteligência é uma ameaça imediata para o nosso negócio? Para a maioria das empresas, o risco imediato não é esse, e sim o uso desorganizado de ferramentas atuais, com dados sensíveis, respostas sem revisão e permissões excessivas. O debate sobre riscos de longo prazo é legítimo e pode ser acompanhado por leitura e monitoramento, mas não deve substituir a gestão do que já está em operação. Mitos sobre o tema e como eles distorcem decisões estão em Mitos sobre superinteligência que atrapalham decisões.

Como responder ao conselho sem prometer resultados? A resposta segura descreve o que será feito, quais são os critérios de sucesso e quais limites serão respeitados. Evite projeções de ganho ou prazos que não podem ser verificados. Um piloto com registro de decisões e uma métrica combinada permite ao conselho decidir com base em evidência, sem depender de promessas de fornecedor.

Qual é o primeiro passo se a empresa ainda não usa IA de forma organizada? O primeiro passo é um inventário simples: listar onde pessoas da equipe já usam ferramentas de IA, com quais dados e para quais tarefas. A partir desse levantamento, a diretoria escolhe um processo de baixo risco e alto volume para mapear e pilotar, e só então define a política de uso. Começar pelo que já acontece na operação costuma ser mais útil do que começar pelo debate sobre o futuro.

Fontes

• NIST AI Risk Management Framework
• OECD AI Principles
• OWASP Top 10 for LLM Applications