Superinteligência em órgãos públicos: limites, registro e revisão humana

Superinteligência em órgãos públicos: limites, registro e revisão humana

Como usar IA no atendimento ao cidadão em órgãos públicos com limites claros, registro das interações, transparência e revisão humana das decisões.

•

Quer aplicar isso na sua empresa?

Agendar conversa com o Juan →

Superinteligência, no sentido de uma IA que supere a capacidade humana e decida sozinha, não é uma ferramenta disponível para compra por um órgão público. O que pode ser usado com responsabilidade são sistemas de IA estreitos, limitados a tarefas de atendimento como triagem de pedidos, orientação sobre serviços e encaminhamento ao setor certo. O uso seguro depende de limites explícitos sobre o que a IA pode responder, registro de cada interação, aviso claro ao cidadão e revisão humana para qualquer decisão que afete direitos.

Principais pontos

  • Superinteligência é um conceito de referência, não um produto de prateleira. Na prática, o órgão lida com IA estreita, configurada para tarefas definidas.
  • A IA pode informar, triar e encaminhar, mas não deve conceder, negar ou sancionar nada sem revisão de uma pessoa responsável.
  • Cada atendimento automatizado precisa de registro: o que foi perguntado, o que foi respondido, qual fonte oficial sustentou a resposta e quem assumiu o caso.
  • Transparência começa no aviso ao cidadão: ele precisa saber que está falando com um sistema automatizado e como chegar a um servidor.
  • Um piloto em um único serviço, com métrica combinada antes e regra de parada definida, é mais seguro do que um lançamento amplo.

Por que o termo superinteligência atrapalha a decisão

Na imprensa e em apresentações comerciais, a palavra aparece para descrever tudo o que parece avançado, o que confunde quem precisa comprar, autorizar ou fiscalizar. Um diretor que ouve superinteligência tende a imaginar um sistema que pensa pelo órgão, e isso leva a expectativas erradas sobre autonomia, custo de manutenção e responsabilidade. O mais útil é trocar a pergunta: em vez de perguntar quão inteligente é o sistema, pergunte o que ele pode ler, o que pode responder, o que pode executar e quem responde pelo erro.

Se a equipe ainda usa os termos de forma solta, vale alinhar o vocabulário antes de qualquer contratação. O glossário de superinteligência para a diretoria ajuda a separar conceito, produto e promessa.

O que a IA pode fazer no atendimento ao cidadão

Em um balcão público, há um conjunto grande de perguntas repetitivas que não envolvem julgamento: horário de funcionamento, lista de documentos publicada em texto oficial, prazo informado em norma, situação de um protocolo consultada em sistema existente e o canal correto para cada tipo de demanda. Esses são os casos em que um agente de IA costuma ser útil, desde que responda apenas a partir de fontes oficiais atualizadas e cite de onde veio a informação.

O limite técnico mais importante é o de fonte. O agente não deve completar lacunas com conhecimento geral. Se a resposta não está no material aprovado pelo órgão, a saída correta é dizer que não sabe e encaminhar para um servidor. Isso parece óbvio, mas é justamente o tipo de falha que aparece quando o sistema é configurado sem um escopo escrito.

O que a IA não deve decidir

A regra prática é separar informar de decidir. Informar sobre um requisito é diferente de dizer se o cidadão cumpre o requisito. Explicar um procedimento é diferente de aplicar uma exceção. O quadro abaixo serve como ponto de partida para o comitê responsável definir o escopo de cada serviço:

  • Concessão ou negativa de benefício, isenção, autorização ou licença deve ter decisão humana registrada.
  • Interpretação de exceções, casos fora da norma e pedidos de revisão ficam com servidor.
  • Aplicação de multa, sanção ou cobrança nunca deve ser feita de forma automática.
  • Qualquer menção a urgência de saúde, risco à integridade ou situação de violência deve encaminhar imediatamente para atendimento humano e canal de emergência indicado pelo órgão.
  • Pedidos sensíveis, como denúncias e solicitações com dados pessoais de terceiros, devem ser recebidos e encaminhados sem análise de mérito pelo agente.
  • Negativas de acesso a informação precisam de justificativa redigida e conferida por pessoa com competência para isso.

Quando a decisão afeta o cidadão de forma relevante e é tomada ou apoiada por sistema automatizado, a LGPD prevê direito à revisão. O tema está detalhado no artigo sobre decisões automatizadas na LGPD, que vale ler com o jurídico do órgão antes de desenhar o fluxo.

Registro e transparência: o que guardar

Transparência sem registro vira promessa vazia. Se o órgão não consegue reconstruir o que o sistema disse a um cidadão, não consegue corrigir erros, responder a uma reclamação nem comprovar que a revisão humana aconteceu. O registro, portanto, precisa existir desde o primeiro dia do piloto, e ele serve tanto à operação quanto ao controle.

  • Identificação do canal e da data e hora de cada interação.
  • Texto da pergunta e texto da resposta, com indicação de que a resposta foi automatizada.
  • Fonte oficial usada, com versão ou data do documento consultado.
  • Motivo do encaminhamento para humano, quando houver, em uma frase objetiva.
  • Nome ou setor do servidor que assumiu o caso e o momento em que assumiu.
  • Desfecho registrado pelo servidor, incluindo se a resposta da IA foi corrigida.
  • Política de acesso aos registros e prazo de guarda definidos pelo próprio órgão, conforme suas regras internas e a legislação aplicável.

Além disso, o aviso ao cidadão deve estar no início da conversa e ser simples: informa que é um sistema automatizado, diz o que ele consegue fazer e mostra como falar com uma pessoa. Quem trabalha com WhatsApp deve observar também as regras da plataforma, como explicado no artigo sobre janela de 24 horas no WhatsApp API, porque elas afetam o que o agente pode enviar depois de um tempo sem resposta do cidadão.

Cenário ilustrativo: triagem de protocolos em uma prefeitura

Cenário ilustrativo, não corresponde a um órgão real. Uma secretaria municipal quer reduzir a fila de perguntas repetidas sobre documentos e andamento de pedidos. O piloto cobre apenas dois serviços, com textos oficiais publicados no site da prefeitura. O agente responde dúvidas sobre documentos exigidos e consulta a situação do protocolo em sistema já existente, sem acesso de escrita. Quando o cidadão pede exceção, relata urgência ou contesta uma decisão, o agente cria um resumo do caso e o envia à equipe, informando ao cidadão o prazo de retorno que o próprio setor definiu.

Ao fim de um período combinado, a equipe revisa uma amostra das conversas, verifica se as respostas citaram a fonte correta, confere os encaminhamentos e decide entre expandir, ajustar ou parar. A decisão não depende de impressão geral, e sim do que está nos registros. Um cenário parecido, com triagem e prazos, é tratado no artigo sobre superinteligência em cartórios.

Como montar um piloto com limites

O método que usamos segue quatro verbos: mapear, limitar, pilotar e transferir. Ele não é uma fórmula especial para o setor público, mas costuma funcionar porque obriga a equipe a fazer as perguntas certas antes de configurar qualquer coisa.

  • Mapear o fluxo atual, medindo o volume de cada tipo de pergunta e quem responde hoje.
  • Limitar: escrever o que a IA pode responder, o que só informa com fonte, o que encaminha e o que nunca faz.
  • Definir o responsável pelo conteúdo oficial e o responsável pela operação, com nomes e funções.
  • Pilotar um único serviço, com registro completo e uma métrica de sucesso combinada antes do início, como tempo até o encaminhamento correto ou taxa de respostas revisadas com erro.
  • Transferir para a equipe, com manual de operação, revisão periódica e regra clara para expandir, ajustar ou parar.

Na prática, o piloto precisa de um ambiente de teste sem acesso a dados reais de cidadãos, e as respostas do agente devem ser avaliadas com um conjunto de perguntas conhecido antes de entrar em produção.

Governança e referências para o gestor

Não é preciso começar do zero. O NIST publicou um framework de gestão de riscos de IA, com foco em governar, mapear, medir e gerenciar riscos ao longo do ciclo de vida do sistema. Os princípios da OCDE para IA tratam de transparência, responsabilização e supervisão humana como pontos centrais. No Brasil, a Autoridade Nacional de Proteção de Dados publica orientações sobre o tratamento de dados pessoais, que devem orientar o desenho de qualquer fluxo com informações de cidadãos. Esses documentos não substituem a análise jurídica do caso, mas dão ao gestor um vocabulário e uma lista de verificações que a área de controle reconhece.

Também vale lembrar que um agente de atendimento é uma parte do serviço público, não um substituto dele. Os canais de atendimento de um órgão já têm regras de acessibilidade, idioma e prazo, e o agente deve respeitar essas regras. O artigo sobre SAC com IA traz uma discussão útil sobre o que automatizar e o que manter com pessoas, que se aplica bem a serviços públicos.

Perguntas frequentes

Superinteligência pode ser usada hoje para atender cidadãos? Não como uma entidade que decide sozinha, e nenhum órgão deveria planejar nesses termos. O que existe são sistemas de IA estreitos, configurados para tarefas de orientação, triagem e encaminhamento. O uso responsável começa pela definição do que o sistema pode responder e termina na revisão humana de tudo o que afete direitos.

O agente de IA pode negar um pedido de forma automática? Não deve. Negativas, indeferimentos e exceções envolvem interpretação de norma e responsabilidade administrativa, o que exige decisão de servidor competente. O agente pode explicar o procedimento, informar o prazo e registrar o pedido para análise humana.

Como garantir transparência sem tornar a conversa burocrática? O aviso deve ser curto e aparecer logo no início: informa que é um sistema automatizado, o que ele faz e como falar com uma pessoa. Por trás da conversa, o registro completo de perguntas, respostas, fontes e encaminhamentos permite prestar contas sem exigir do cidadão nenhum passo extra.

Por onde começar um projeto desse tipo em um órgão? Comece por um serviço com volume alto de perguntas repetidas e fontes oficiais bem definidas, em vez de tentar cobrir todo o atendimento de uma vez. Antes de qualquer configuração, escreva os limites, defina responsáveis e combine a métrica de avaliação. Depois, rode um piloto com registro completo e decida, com base nos dados, se a operação deve ser expandida, ajustada ou interrompida.

Fontes

IA no setor públicotransparênciaLGPDrevisão humanaatendimento ao cidadão