Programador na era da superinteligência: o que estudar agora

Programador na era da superinteligência: o que estudar agora

Quais competências de engenharia continuam valendo quando os modelos de IA ficam mais capazes, e por onde começar o estudo com foco em operação real.

•

Quer aplicar isso na sua empresa?

Agendar conversa com o Juan →

Programador que quer se preparar para modelos cada vez mais capazes deve estudar menos a ferramenta da semana e mais engenharia de sistemas. As competências que seguem valendo são definir o problema com precisão, separar o que deve ser determinístico do que exige julgamento, validar resultados com testes e registros, proteger dados e operar software em produção com observação e possibilidade de reverter. Quando escrever código fica barato, o valor se desloca para quem decide o que construir, como saber se o resultado está certo e quem responde por ele.

Principais pontos

  • Definir o problema, as regras de negócio e o critério de sucesso antes de pedir qualquer código ou automação.
  • Desenhar fronteiras claras: o que o sistema pode ler, o que pode escrever, o que pode decidir e o que exige aprovação humana.
  • Validar com casos reais, testes e registros, e não apenas com a impressão de que a resposta pareceu boa.
  • Dominar dados, integrações e segurança, com permissões mínimas e proteção contra instruções maliciosas embutidas em textos.
  • Operar e observar: monitorar custo, erros e transferências para humanos, revisar decisões e saber desligar ou reverter.

Por que escrever código deixa de ser o gargalo

Em muitas equipes, produzir uma função, um componente ou um script já não é a etapa mais cara do trabalho. O custo se concentra na leitura crítica, na revisão, na integração com sistemas que já existem e na manutenção depois que o software entra em uso. Isso não torna o programador dispensável, mas muda o centro da função.

Há um risco específico que vale estudar com atenção: o código plausível e errado. Um resultado que roda e parece correto pode falhar nas bordas, como um feriado não previsto, um campo vazio, um pedido duplicado ou uma resposta que contradiz a política da empresa. Por isso, a habilidade de ler código alheio, identificar premissas escondidas e formular hipóteses para depurar continua central. Como hipótese de trabalho, e não como previsão, esperamos que essa competência ganhe peso à medida que a geração de código se torne mais comum.

Como escrever uma especificação que pessoas e modelos entendam

Uma especificação útil reduz a ambiguidade antes de qualquer linha ser escrita. Ela não precisa ser longa, mas precisa responder a perguntas que um sistema automatizado não consegue adivinhar sozinho:

  • Qual decisão o sistema toma sozinho e qual ele apenas sugere para uma pessoa.
  • Quais dados ele pode consultar e quais informações nunca deve receber.
  • O que acontece quando a informação chega incompleta ou contraditória.
  • Em que momento um humano assume a conversa ou aprova a ação.
  • Como alguém vai verificar, em uma amostra de casos reais, que o resultado é aceitável.

O hábito de escrever essas respostas é uma das competências mais transferíveis que um programador pode desenvolver. Ele serve para um agente de atendimento, para um pipeline de dados e para uma automação interna. Se você quer separar o que existe hoje em agentes do que pertence ao debate sobre cenários futuros, a leitura sobre diferença entre AGI e superinteligência ajuda a manter a discussão no nível operacional.

Arquitetura: o que deve ser determinístico e o que pode ser probabilístico

Um erro comum em projetos com modelos é colocar tudo dentro do modelo. Cálculo de valor, conflito de agenda, regra de estoque, cobrança e permissão de acesso devem ser código determinístico, testável e auditável. O modelo costuma ser útil para interpretar linguagem confusa, classificar a intenção de uma mensagem, resumir um histórico ou sugerir o próximo passo, sempre dentro de limites definidos pelo sistema.

Integrações exigem o mesmo rigor de sempre. Em pagamentos e notificações, é preciso entender idempotência, para que uma repetição não gere cobranças duplicadas, e verificação de webhooks, para que um evento falso não dispare uma ação. Esses conceitos não são novidade, mas ganham importância quando um agente pode disparar ações em cadeia. Para entender como essa separação se aplica a empresas que já estão olhando para modelos mais capazes, vale ler sobre como preparar a empresa para modelos mais capazes.

Também vale estudar padrões de composição de agentes. A documentação de engenharia da Anthropic sobre agentes efetivos distingue fluxos de trabalho com passos predefinidos de agentes que decidem dinamicamente os próprios passos, e defende começar pela solução mais simples que resolve o problema. Esse critério é útil para qualquer programador, independentemente do modelo usado.

Como validar sem depender da impressão de acerto

Avaliar um sistema com modelo é diferente de testar uma função com entrada e saída fixas, porque a saída pode variar. A resposta prática é combinar três coisas: um conjunto de casos reais com resultado esperado, incluindo os casos difíceis; testes para as ações que alteram dados, rodados em ambiente simulado antes de qualquer uso real; e registros suficientes para reconstruir cada decisão. Ferramentas de avaliação, como os guias de evals da OpenAI, existem para organizar esse trabalho, mas o conteúdo dos casos continua dependendo de quem conhece o processo.

A lista abaixo serve como verificação mínima antes de colocar um agente para atender pessoas:

  • Um conjunto de casos reais, anotados, com a resposta esperada e os casos em que o sistema deve transferir para um humano.
  • Testes para cada ação que altera dados, executados em sandbox ou com ferramentas simuladas. O tema é tratado em detalhe em como testar agente de IA com mocks e sandbox.
  • Critério de aceite definido antes do piloto, e não depois de ver os resultados.
  • Registro de cada decisão com entrada, ferramentas usadas e saída produzida.
  • Reavaliação sempre que mudarem o modelo, o prompt, a fonte de dados ou as regras do processo.

Cenário ilustrativo: uma equipe de duas pessoas recebe a tarefa de automatizar a triagem de pedidos de orçamento que chegam pelo WhatsApp. Em vez de começar pelo prompt, eles primeiro levantam trezentas mensagens reais anonimizadas, marcam o que cada uma pede e onde ocorre a dúvida, e só então escrevem o fluxo. Os testes revelam que o agente confunde pedidos de manutenção com pedidos de instalação, e a correção vem das regras de classificação, não de um ajuste cosmético no texto. Esse tipo de achado só aparece quando a avaliação é feita com dados reais.

Segurança, dados pessoais e LGPD

Quem trabalha com agentes precisa tratar segurança como parte do desenho. O primeiro princípio é o da menor permissão: o agente acessa apenas os dados e as ferramentas de que precisa para uma tarefa específica, e nada além disso. Em seguida vem a minimização de dados pessoais, que na prática significa não enviar ao modelo o que ele não precisa para responder, e definir com clareza a finalidade e a base legal do tratamento, como exige a LGPD. A ANPD é a referência nacional para orientações sobre esse tema e vale acompanhar suas publicações.

Há também a ameaça específica de injeção de instruções. Um texto recebido por e-mail, um documento anexado ou uma mensagem de cliente pode conter comandos disfarçados que tentam alterar o comportamento do agente. A OWASP mantém listas de riscos para aplicações com LLM e guias de prevenção que todo programador deveria conhecer. A defesa não está em confiar que o modelo vai ignorar o texto malicioso, e sim em limitar o que o agente consegue fazer mesmo quando é enganado.

Se a operação envolve transferência de dados para serviços hospedados fora do país, a questão ganha uma camada jurídica própria, e o guia sobre transferência internacional de dados com IA apresenta o que a lei exige antes de qualquer piloto.

Observabilidade: saber o que o sistema fez e por quê

Sem observabilidade, um agente em produção é uma caixa-preta com responsabilidade real. O mínimo é registrar eventos de cada interação, incluindo a versão do prompt, as ferramentas chamadas, o tempo de resposta, o custo aproximado da tarefa, os erros e os casos transferidos para um humano. A taxa de transferência e os motivos das transferências costumam ser os sinais mais úteis para decidir se o fluxo deve ser ajustado, ampliado ou interrompido.

O OpenTelemetry, que é o padrão aberto de telemetria, publica convenções semânticas para operações de IA generativa, com nomes comuns para atributos como modelo utilizado e uso de tokens. Usar um vocabulário padrão evita que cada equipe invente o próprio formato de log, o que facilita comparar versões e investigar incidentes. Esse é um bom assunto para estudar cedo, porque a observabilidade é o que transforma um protótipo em algo que pode ser mantido.

Plano de estudo para os próximos passos

Se você já programa e quer se preparar para um cenário em que modelos fazem parte do dia a dia do software, um caminho razoável é este:

  • Revise fundamentos de APIs, autenticação, banco de dados e filas, porque todo agente acaba lendo e escrevendo em sistemas reais.
  • Construa um fluxo pequeno com dados anonimizados, uma única ferramenta, registros completos e um caminho claro de transferência para humanos.
  • Escreva casos de teste antes de alterar o prompt, e compare versões com o mesmo conjunto.
  • Estude segurança de aplicações com modelos, incluindo injeção de instruções e permissões mínimas.
  • Pratique revisão de código gerado por modelos e registre os erros que encontrar, porque eles mostram onde a revisão falha.
  • Leia o contexto regulatório e de risco do seu setor antes de automatizar decisões que afetam pessoas.

Na nossa forma de trabalhar, a sequência é mapear o processo atual e a linha de base, limitar dados e ações, pilotar um fluxo real com registros e uma métrica de sucesso combinada de antemão, e então transferir a operação e decidir se o fluxo deve ser expandido, ajustado ou encerrado. Esse ciclo também funciona como roteiro de estudo: cada etapa exige uma competência de engenharia que continua útil independentemente do modelo que estiver em uso.

Perguntas frequentes

Vale a pena começar a estudar agora ou esperar os modelos amadurecerem? Vale começar agora, focando nos fundamentos que mudam pouco, como especificação, dados, testes e operação. Ferramentas e interfaces mudam rápido, e esperar não cria a experiência de operar sistemas com incerteza, que só se constrói praticando em escala pequena. O ideal é aprender com um fluxo real e controlado, e não com demonstrações isoladas.

A superinteligência vai substituir o programador? Não há base para afirmar um calendário ou um desfecho específico, e discursos definitivos sobre isso costumam ser mais opinião do que evidência. A pergunta prática é como as tarefas se redistribuem, com mais peso em especificação, revisão, testes e responsabilidade pelo resultado. Quem sabe julgar a saída de um sistema e explicar suas falhas tende a continuar com função relevante.

Preciso aprender a treinar modelos para trabalhar com IA? Para a maioria das equipes de software e operação, não é preciso treinar modelos do zero. É mais útil entender quando recuperar informação de documentos resolve o problema, quando um fluxo determinístico basta, e quando algum tipo de ajuste específico faria sentido. Treinamento de modelos é uma especialização própria, e pode ser estudada depois de os fundamentos estarem firmes.

Por onde começar se já programo, mas nunca montei um agente? Comece por um fluxo pequeno, com uma única ferramenta, dados de teste e registros completos. Peça revisão de outra pessoa para cada decisão importante e documente os erros que aparecerem. A progressão natural é ampliar permissões somente depois que os testes e os registros mostrarem comportamento previsível.

Fontes

carreira em programaçãosuperinteligênciaengenharia de softwareagentes de IAformação técnica