IA forte, IA fraca e onde entra a superinteligência

A diferença entre IA forte e IA fraca é sobre o que a máquina é, não só sobre o que ela faz. IA fraca é a visão de que computadores podem simular comportamento inteligente e ser ferramentas úteis, sem que isso signifique que entendem alguma coisa. IA forte é a tese de que um computador com o programa certo teria de fato mente e compreensão, como uma pessoa. A distinção foi formulada pelo filósofo John Searle em 1980. Toda IA usada hoje, inclusive os modelos de linguagem mais avançados, é tratada como IA fraca nesse sentido, e superinteligência é outra discussão: sobre o nível de capacidade, não sobre ter mente.

Principais pontos

• IA fraca: sistemas que simulam inteligência e resolvem tarefas. Não se afirma que entendem ou têm mente.
• IA forte: a tese filosófica de que um programa adequado teria compreensão e estados mentais reais.
• A distinção é de John Searle (1980), que a apresentou junto com o argumento do quarto chinês.
• No uso popular, IA forte virou sinônimo de AGI, uma IA de capacidade geral. São ideias próximas, mas não iguais.
• Superinteligência fala de capacidade acima da humana em quase tudo. Um sistema poderia ser superinteligente sem ser IA forte no sentido de Searle.
• Para a empresa, o que conta é o comportamento verificável do sistema no seu processo, não a pergunta sobre a mente.

De onde vêm os termos IA forte e IA fraca?

Em 1980, John Searle publicou o artigo Minds, Brains, and Programs. Nele, separou duas posições. A da IA fraca diz que o computador é uma ferramenta poderosa para estudar a mente e executar tarefas. A da IA forte diz que um computador corretamente programado não apenas simula uma mente: ele é uma mente e entende o que processa.

Para criticar a IA forte, Searle propôs o argumento do quarto chinês. Imagine uma pessoa que não fala chinês trancada numa sala com um manual de regras. Ela recebe perguntas em chinês, segue as regras para combinar símbolos e devolve respostas corretas. Quem está fora acha que a sala entende chinês, mas a pessoa lá dentro não entende nada. Para Searle, um programa que só manipula símbolos estaria na mesma situação. O argumento é debatido até hoje, e a Stanford Encyclopedia of Philosophy resume as principais respostas a ele.

IA forte é a mesma coisa que AGI?

Não exatamente, embora sejam usadas como sinônimos no dia a dia. AGI, inteligência artificial geral, é um conceito de engenharia: um sistema capaz de realizar a maioria das tarefas cognitivas no nível de pessoas competentes. IA forte é um conceito de filosofia da mente: diz respeito a ter compreensão e estados mentais reais.

Um sistema poderia ser AGI, no sentido de fazer quase tudo que uma pessoa faz, e ainda assim ser considerado IA fraca por quem segue Searle, porque estaria apenas manipulando símbolos. O texto diferença entre AGI e superinteligência: o que sua empresa opera compara AGI, ASI e agentes de IA do ponto de vista operacional.

Onde a superinteligência entra nessa conversa?

Superinteligência descreve capacidade: uma IA que superaria os melhores humanos em praticamente todas as áreas intelectuais. A pergunta da IA forte é outra: se a máquina entende e tem mente. As duas perguntas são independentes.

• Um sistema superinteligente poderia ser IA fraca: desempenho acima do humano sem compreensão no sentido de Searle.
• Um sistema com algum tipo de compreensão real, se isso for possível, não precisaria ser superinteligente.

Essa separação evita uma confusão comum: achar que, para ser perigosa ou transformadora, uma IA precisaria ter consciência. Os riscos discutidos por pesquisadores de segurança vêm de capacidade e objetivos mal especificados, não de a máquina "sentir" algo. O glossário de superinteligência organiza esses termos, e o texto superinteligência tem consciência? aprofunda a questão da mente.

Os modelos de linguagem atuais são IA forte?

Pela definição de Searle, não há consenso de que sejam, e a maioria dos pesquisadores não afirma que eles entendem como pessoas. Eles produzem respostas fluentes aprendendo padrões em grandes volumes de texto, o que lembra bastante o quarto chinês. Há quem argumente que algum tipo de compreensão emerge desse processo. É um debate aberto em filosofia e ciência cognitiva.

Para a operação, esse debate tem uma consequência prática simples: não confie em um sistema porque ele parece entender. Confie no que você testou. O texto ChatGPT é superinteligência? o que ele é e o que não é mostra como avaliar o que esses modelos fazem bem e onde falham.

Cenário ilustrativo: "mas ele entende o contrato?"

Cenário ilustrativo: num escritório de contabilidade, a equipe testa um assistente que lê contratos de prestação de serviço e aponta cláusulas de reajuste. Na reunião de avaliação, uma sócia pergunta se o sistema "entende de verdade" o contrato. A discussão poderia durar horas.

O coordenador de operações muda a pergunta: em quarenta contratos já revisados por pessoas, quantas cláusulas de reajuste o assistente encontrou e quantas errou? O teste mostra boa taxa de acerto em contratos padrão e falhas em contratos com anexos escaneados. A decisão é usar o assistente como primeira leitura em contratos padrão, com revisão humana sempre, e manter os escaneados no processo antigo. Ninguém precisou resolver o problema de Searle para tomar uma boa decisão.

Como o método mapear, limitar, pilotar e transferir se aplica aqui?

No meu trabalho, a pergunta filosófica fica fora do caminho crítico. Mapear é descrever o processo e medir o ponto de partida. Limitar é definir o que o agente lê, o que pode fazer e onde uma pessoa aprova. Pilotar é testar em casos reais com registro de cada decisão. Transferir é deixar a equipe operando, com critérios de avaliação para repetir o teste quando o modelo mudar.

Não vendo IA forte, AGI nem superinteligência. O que faço é ajudar empresas a usar bem a IA que existe hoje, que é IA fraca no sentido de Searle e já resolve muito trabalho quando bem limitada. Para conhecer o formato, veja como Juan Carlo trabalha com empresas.

Perguntas frequentes

Qual a diferença entre IA forte e IA fraca? IA fraca simula comportamento inteligente e resolve tarefas sem que se afirme que entende algo. IA forte é a tese de que um programa adequado teria compreensão e mente de verdade.

Existe IA forte hoje? Não há consenso de que exista. Os sistemas atuais, inclusive os modelos de linguagem, são em geral classificados como IA fraca nesse sentido filosófico.

Quem criou os termos IA forte e IA fraca? O filósofo John Searle, no artigo Minds, Brains, and Programs, de 1980, onde também apresentou o argumento do quarto chinês.

IA forte e superinteligência são a mesma coisa? Não. IA forte trata de ter mente e compreensão. Superinteligência trata de capacidade acima da humana em quase todas as tarefas. Uma não implica a outra.

Fontes

• Stanford Encyclopedia of Philosophy: The Chinese Room Argument
• Nick Bostrom: Superintelligence (Oxford University Press, 2014)
• NIST AI Risk Management Framework