Glossário de superinteligência: AGI, ASI, alinhamento e agentes

Glossário de superinteligência: AGI, ASI, alinhamento e agentes

Um glossário de superinteligência reúne os termos que aparecem no debate sobre IA avançada: AGI (inteligência artificial geral), ASI (superinteligência artificial), alinhamento e agentes. Conhecer a diferença entre eles ajuda o gestor a separar o que é pesquisa e hipótese do que é ferramenta que a empresa já pode operar hoje, com limites e responsável definido.

Principais pontos

• Superinteligência é um conceito sobre sistemas que superariam humanos na maioria das tarefas cognitivas. Ainda é hipótese, não produto que se contrata.
• AGI e ASI descrevem níveis de capacidade teóricos. Agente de IA é algo prático: software que executa passos e usa ferramentas, e que a empresa já pode operar.
• Alinhamento trata de fazer o sistema perseguir o que as pessoas realmente querem. Na empresa, aparece como limites, permissões, revisão humana e registro de decisões.
• Quem entende os termos lê notícias com mais calma e faz perguntas melhores a fornecedores, ao time técnico e ao conselho.
• A decisão útil não depende de adivinhar o futuro: depende de mapear um processo, limitar dados e ações, pilotar e só então expandir.

O que significa superinteligência, em uma frase?

Superinteligência é a ideia de um sistema cuja capacidade intelectual superaria a das melhores pessoas em praticamente todas as áreas relevantes: raciocínio, planejamento, criatividade, ciência, negociação. O termo ficou conhecido no debate público a partir de trabalhos acadêmicos e livros. Para uma leitura de negócio sobre essa obra, veja o que gestores aproveitam do livro de Nick Bostrom.

O ponto de partida para quem decide é este: superinteligência é um conceito e uma hipótese de pesquisa. Não existe fornecedor que venda superinteligência para a sua operação. Quando um material comercial usa a palavra, vale perguntar o que, concretamente, o sistema faz, com quais dados e sob qual supervisão.

AGI e ASI: qual é a diferença?

As duas siglas costumam aparecer juntas, e a confusão entre elas é a mais comum em reuniões.

• AGI (inteligência artificial geral): um sistema capaz de aprender e executar uma ampla variedade de tarefas intelectuais em nível comparável ao de uma pessoa competente, sem ser treinado para cada tarefa isolada.
• ASI (superinteligência artificial): um sistema que ultrapassa o desempenho humano de forma ampla, não só em uma tarefa.
• IA estreita: sistema bom em uma função específica, como classificar mensagens, ler documentos ou sugerir respostas. É o que a maioria das empresas usa hoje.

Não há definição única e aceita por todos para AGI. Pesquisadores, empresas e jornalistas usam o termo com critérios diferentes. Por isso, a pergunta mais útil em uma conversa é: o que você quer dizer com AGI, e como saberíamos se isso foi atingido? Para um aprofundamento orientado à operação, vale ler a diferença entre AGI e superinteligência e o que sua empresa opera.

Uma pergunta frequente é se os assistentes de conversa atuais já são AGI ou ASI. A resposta prudente é que eles são sistemas poderosos e úteis, mas com falhas conhecidas, como erros de fato e dependência do contexto fornecido. Detalhamos isso em ChatGPT é superinteligência? O que ele é e o que não é.

O que é alinhamento e por que aparece tanto nas notícias?

Alinhamento é o esforço de garantir que um sistema de IA busque os objetivos que as pessoas realmente pretendem, respeitando valores e restrições, e não apenas a instrução literal. O exemplo clássico é o do sistema que cumpre a meta ao pé da letra, mas de um jeito que ninguém queria.

No debate sobre superinteligência, alinhamento é visto como o problema central: quanto mais capaz o sistema, mais importante que seus objetivos estejam corretos. Na rotina de uma empresa, o mesmo raciocínio aparece em escala menor e bem concreta:

• O agente sabe o que não pode fazer, como prometer prazo, conceder desconto ou alterar cadastro sem aprovação?
• Existe um ponto claro de passagem para um humano?
• As decisões ficam registradas para que alguém possa auditar depois?
• O sistema resiste a instruções maliciosas escondidas em mensagens ou documentos?

Essa última pergunta tem nome técnico: injeção de prompt. A lista OWASP Top 10 para aplicações com modelos de linguagem é uma boa referência para o time técnico revisar esse e outros riscos. Para a gestão de riscos em sentido mais amplo, o NIST AI Risk Management Framework oferece um vocabulário comum sobre governar, mapear, medir e gerenciar riscos de IA.

Alinhamento, portanto, não é só tema de laboratório. Na empresa, é o conjunto de decisões que mantém a IA dentro do que o negócio autorizou.

Agente, modelo, assistente e automação: como não confundir

Esses quatro termos aparecem misturados em apresentações e causam muita decisão mal formulada.

• Modelo: o motor de linguagem treinado, que recebe texto e devolve texto. Sozinho, não age no mundo.
• Assistente: interface em que uma pessoa conversa com o modelo, pede algo e revisa a resposta.
• Agente: sistema que usa um modelo para decidir passos, chamar ferramentas (consultar um CRM, abrir um chamado, enviar uma mensagem) e seguir até concluir uma tarefa, dentro de limites definidos.
• Automação: fluxo com regras fixas, previsível, em que cada passo é determinado de antemão. Pode incluir IA em etapas onde há julgamento.

A documentação da Anthropic sobre construção de agentes eficazes faz uma distinção útil entre fluxos de trabalho, em que o caminho é definido por código, e agentes, em que o modelo dirige o próprio processo. A recomendação geral é começar pela solução mais simples e só aumentar a autonomia quando houver motivo. Isso conversa com a pergunta prática de quando um único agente de IA basta.

Para o gestor, a consequência é direta: quanto maior a autonomia do agente, maior a necessidade de permissões restritas, testes e supervisão. Um agente que apenas rascunha respostas para revisão tem risco muito diferente de um que envia mensagens sozinho.

Outros termos que você vai ouvir nas reuniões

Além das siglas principais, alguns termos aparecem com frequência. Um mini glossário para consulta rápida:

• Alucinação: resposta que soa segura, mas contém informação inventada ou incorreta.
• Janela de contexto: quantidade de informação que o modelo consegue considerar de uma vez. Há mais detalhes em janela de contexto em IA: o que é e como não estourar.
• RAG (geração aumentada por recuperação): técnica em que o sistema busca trechos em documentos da empresa antes de responder, para se basear em fontes internas.
• Avaliação (eval): teste repetível que mede se o sistema se comporta como esperado em casos definidos.
• Humano no circuito: desenho em que uma pessoa aprova ou revisa ações de maior risco.
• Risco existencial: preocupação de que uma IA muito avançada e mal alinhada cause danos graves em escala global. É um tema de debate científico e político, separado do risco operacional do dia a dia.
• Governança: regras, responsáveis e registros que definem quem pode usar IA, para quê e com quais dados.
• Decisão automatizada: decisão tomada sem intervenção humana que afeta pessoas, tema que tem relação com a LGPD. Veja decisões automatizadas na LGPD e o direito de revisão.

Repare que alguns termos são técnicos e verificáveis (janela de contexto, RAG, avaliação), enquanto outros são conceituais e disputados (AGI, risco existencial). Misturar os dois tipos de termo na mesma frase é fonte frequente de mal-entendido.

Como usar este glossário antes de uma reunião ou de uma decisão

O glossário só é útil se mudar a qualidade da conversa. Um roteiro simples para preparar uma reunião sobre IA, seja com fornecedor, diretoria ou time interno:

• Classifique cada afirmação em três grupos: documentação oficial, experiência de implementação ou hipótese.
• Troque palavras amplas por perguntas concretas. Em vez de a IA vai resolver o atendimento, pergunte qual etapa do atendimento, com quais dados e qual limite de ação.
• Peça a fonte primária quando alguém fizer uma afirmação técnica, como a documentação do fabricante ou um artigo de pesquisa.
• Identifique quem é o responsável humano por cada ação que o sistema executar.
• Defina como saber se funcionou: uma métrica combinada antes, medida contra o processo atual.
• Decida o próximo passo menor possível, como um piloto em um fluxo, e não uma mudança ampla.

Cenário ilustrativo

Imagine uma empresa de serviços que lê uma notícia afirmando que a AGI está próxima e a diretoria pergunta se deve parar de contratar para o atendimento. Usando o glossário, a conversa muda. Primeiro, separa-se a manchete (hipótese sobre um sistema futuro) da necessidade real (reduzir demora na primeira resposta no WhatsApp). Depois, mapeia-se o fluxo atual, define-se que o agente só responde dúvidas de status e encaminha o restante para uma pessoa, e combina-se um critério de sucesso. A decisão deixa de ser sobre o futuro da inteligência artificial e passa a ser sobre um processo concreto. Este é apenas um exemplo ilustrativo, sem dados de empresa real.

Como o método mapear, limitar, pilotar e transferir se aplica

Os termos do glossário se traduzem em quatro ações práticas, que é como o trabalho de consultoria de Juan Carlo costuma ser organizado.

• Mapear: descrever o processo atual e registrar uma linha de base, para saber o que melhorar e como medir.
• Limitar: definir quais dados o sistema acessa e quais ações pode executar. É o alinhamento aplicado ao negócio, com permissões restritas e aprovação humana nos pontos sensíveis.
• Pilotar: rodar um fluxo real, com registros de decisão e uma métrica de sucesso acordada, antes de ampliar.
• Transferir: entregar a operação com documentação e responsáveis, e decidir com base nas evidências se expande, ajusta ou encerra.

Nada disso exige acreditar em uma previsão sobre AGI ou ASI. Funciona igualmente bem se os sistemas evoluírem rápido ou devagar, porque se apoia em controle, observabilidade e revisão. Quem quer olhar o quadro regulatório que acompanha o tema no país pode ler sobre o marco legal da IA no Brasil e o que sua empresa deve acompanhar. Como referência de princípios, os Princípios de IA da OCDE são um ponto de partida reconhecido internacionalmente para falar de IA confiável.

Perguntas frequentes

O que é superinteligência em termos simples? É a ideia de uma IA que superaria os humanos na maioria das tarefas intelectuais, e não só em uma. Hoje é um conceito discutido por pesquisadores e não um produto disponível. Para a empresa, o foco prático está nas ferramentas atuais, como agentes com limites claros.

AGI e ASI são a mesma coisa? Não. AGI descreve um sistema com capacidade geral comparável à humana, enquanto ASI descreve um sistema que supera os humanos de forma ampla. Como não há definição única aceita por todos, vale sempre pedir que quem usa a sigla explique o critério.

Alinhamento é um assunto só para pesquisadores? Não. Na pesquisa, é o problema de fazer sistemas muito capazes perseguirem objetivos humanos. Na empresa, aparece como permissões, limites de ação, revisão humana, testes e registro de decisões, e é algo que o gestor consegue exigir de qualquer projeto de IA.

Preciso esperar a definição de AGI para investir em IA? Não. Os ganhos e riscos mais relevantes hoje vêm de processos específicos, como atendimento, agenda e documentos, onde dá para medir antes e depois. Comece por um fluxo, com dados limitados, métrica combinada e responsável definido, e revise a decisão conforme a evidência.

Fontes

• NIST: AI Risk Management Framework
• Anthropic: Building effective agents
• OWASP: Top 10 for LLM Applications
• OECD: AI Principles