Superinteligência na saúde pública: limites para o SUS e o setor

Superinteligência na saúde pública: limites para o SUS e o setor

Superinteligência na saúde pública ainda é hipótese. Veja os limites práticos para o SUS e o setor: governança, dados protegidos e decisão clínica humana.

•

Quer aplicar isso na sua empresa?

Agendar conversa com o Juan →

Superinteligência, entendida como sistemas que superariam a capacidade humana em praticamente todas as áreas, ainda não existe e não há consenso sobre quando ou se existirá. Para a saúde pública, a pergunta útil hoje é outra: quais limites de governança, dados e decisão clínica humana devem valer para qualquer IA avançada usada no SUS, em operadoras ou em clínicas. A resposta prática é tratar modelos poderosos como ferramentas de apoio sob controle, nunca como autoridade sobre diagnóstico, tratamento ou acesso ao cuidado.

Principais pontos

  • Superinteligência é um conceito especulativo. Decisões de saúde pública devem se apoiar em sistemas que existem, com desempenho medido e responsável definido.
  • A decisão clínica continua com profissional habilitado, com revisão identificável e caminho claro para o paciente contestar.
  • Dados de saúde são sensíveis. Finalidade declarada, minimização e controle de acesso vêm antes de qualquer integração.
  • Nenhuma ampliação sem piloto com registros, métrica de sucesso acordada antes do início e critério para parar.
  • Um agente conversacional pode orientar fluxos administrativos, como agendamento e documentos, mas não deve interpretar sintomas nem dar orientação clínica.

O que a palavra superinteligência significa e o que não significa aqui

Na imprensa, o termo aparece para descrever desde chatbots populares até cenários de ficção científica. Essa mistura atrapalha a decisão. Um gestor de saúde precisa saber qual ferramenta está em uso, o que ela faz, quais dados recebe e quem responde pelo resultado. Modelos de linguagem atuais são sistemas estreitos ou de propósito geral com comportamento irregular: acertam muito em alguns contextos e erram de forma convincente em outros. Tratar essa tecnologia como se já fosse uma inteligência superior leva a dois erros comuns, o de delegar demais e o de rejeitar tudo por medo abstrato. Para distinguir os conceitos com calma, vale ler ChatGPT é superinteligência? O que ele é e o que não é.

Por que a saúde pública exige limites mais rígidos

Um erro em um sistema de saúde não afeta uma pessoa isolada na mesma proporção que um erro em um cadastro de clientes. Ele pode atingir uma fila inteira, uma região ou um grupo que já tem menos acesso a atendimento. Além disso, a população atendida inclui pessoas em situação de vulnerabilidade, com baixa alfabetização digital ou pouca possibilidade de contestar uma recusa. Esses fatores pedem limites antes da tecnologia, não depois. Quanto maior a escala e menor a capacidade de revisão individual, mais importante é desenhar o processo para que um humano consiga perceber e corrigir falhas a tempo.

Governança: quem responde quando a IA erra

A primeira pergunta não é técnica. Antes de qualquer piloto, a instituição precisa saber quem é o responsável pelo uso, quem aprova mudanças e quem responde a um paciente ou a um órgão de controle. O framework de gestão de risco do NIST organiza esse trabalho em funções de governar, mapear, medir e gerenciar riscos ao longo do ciclo de vida do sistema. Para um gestor, isso se traduz em uma lista simples de controles:

  • Inventário de todos os usos de IA, inclusive os que equipes adotaram por conta própria.
  • Uma classificação de risco por uso, separando o que é administrativo do que toca em decisão sobre pessoas.
  • Um responsável nomeado por sistema, com poder de suspender o uso.
  • Registro de decisões, versões de instruções e incidentes, guardado por prazo definido.
  • Revisão periódica com amostras de conversas e decisões, feita por alguém fora da equipe que operou o sistema.

Esse último ponto é o que costuma faltar. Sem amostragem independente, a instituição descobre o problema pela reclamação, não pela medição.

Dados: o que pode entrar no sistema e o que não pode

Dados de saúde estão entre as categorias sensíveis tratadas pela LGPD, o que exige cuidado redobrado com finalidade, base legal, segurança e compartilhamento. Na prática, o princípio mais útil é perguntar, para cada campo, se o agente realmente precisa dele para cumprir a tarefa. Um agente que confirma consultas não precisa do histórico clínico completo. Um agente que orienta sobre documentos não precisa do diagnóstico. Também convém separar o que pode ser usado em treinamento, o que pode apenas ser consultado em tempo de atendimento e o que nunca deve sair do ambiente da instituição. Quando houver fornecedor estrangeiro envolvido, a análise de transferência internacional entra na conta, como detalhado em Transferência internacional de dados com IA: o que a LGPD exige. A ANPD mantém orientações e publicações que devem ser consultadas antes de decisões desse tipo.

Decisão clínica humana: o limite que não se negocia

Há uma diferença importante entre apoiar uma decisão e tomá-la. Um sistema pode resumir prontuários autorizados para um profissional, organizar filas, lembrar exames pendentes, preparar material educativo revisado ou sinalizar casos que merecem atenção urgente de um enfermeiro. Já diagnosticar, prescrever, classificar risco clínico como definitivo ou recusar atendimento com base em um score automático ultrapassa o limite. A Lei Geral de Proteção de Dados trata de decisões automatizadas e do direito de revisão, tema explicado em Decisões automatizadas na LGPD: art. 20 e o direito de revisão. As diretrizes da OCDE para IA reforçam a ideia de supervisão humana e de responsabilização, princípios que servem de referência para qualquer desenho institucional.

Um sinal de alerta: quando a equipe começa a aceitar a recomendação do sistema sem ler o caso porque "o sistema costuma acertar", o limite já foi cruzado, mesmo que nenhuma regra formal tenha mudado.

Cenário ilustrativo: agendamento e orientação em uma unidade de saúde

Cenário ilustrativo, não é caso real: imagine uma unidade básica com fila de retornos e muitas dúvidas repetidas por WhatsApp sobre horários, documentos e cancelamentos. Um agente de IA responde apenas essas perguntas, usando uma lista aprovada pela coordenação. Quando a mensagem contém sinais de urgência, como dor forte no peito, falta de ar ou sangramento intenso, o agente não tenta avaliar nada. Ele orienta a procurar atendimento imediato e transfere a conversa para um profissional humano, registrando o momento e o motivo. Cada conversa fica registrada, com revisão semanal de uma amostra por alguém da equipe de qualidade. O piloto só avança se a fila de retornos diminuir sem aumento de reclamações e sem nenhuma resposta que tenha ultrapassado o escopo definido.

O ponto do cenário não é a eficiência do agente. É o desenho: escopo fechado, saída de emergência para humano e medição feita por quem não operou o sistema.

Plano por etapas para começar com segurança

A sequência abaixo serve para órgãos públicos, clínicas e operadoras que querem testar IA sem assumir riscos desnecessários:

  • Mapear o processo atual e a linha de base: quanto tempo leva, quem faz, onde falha.
  • Limitar dados e ações: o que o sistema lê, o que pode responder e o que nunca faz.
  • Pilotar um fluxo real com registros, métrica acordada e critério de parada.
  • Transferir a operação com responsáveis nomeados, procedimentos de incidente e revisão periódica.
  • Decidir com base nos registros: ampliar, ajustar ou encerrar.

No método que aplicamos em projetos de consultoria, a lógica é essa mesma: mapear antes de automatizar, restringir dados e ações antes de integrar, pilotar um fluxo só e transferir com documentação. Em saúde, o último passo pesa mais. Encerrar um piloto que não entrega segurança é uma decisão legítima, não um fracasso.

Perguntas frequentes

Superinteligência já é usada na saúde pública? Não. O termo descreve um tipo de sistema que ainda não existe. O que está disponível hoje são modelos de linguagem e ferramentas de análise com desempenho irregular, que exigem governança, medição e supervisão humana antes de qualquer uso sensível.

Uma IA pode fazer triagem no SUS? Pode organizar a fila administrativa e sinalizar sinais de urgência para um profissional, desde que o sistema não classifique risco clínico nem recuse atendimento. A decisão de triagem clínica deve permanecer com a equipe de saúde, com registro e possibilidade de revisão.

Quais dados nunca devem ir para um modelo externo? Dados identificáveis de saúde, prontuários, laudos e informações de pacientes sem base legal e contrato adequado não devem ser enviados sem análise prévia. Antes de qualquer integração, a instituição deve verificar finalidade, minimização, localização do processamento e as orientações da ANPD.

Por onde começar em uma secretaria municipal ou em uma clínica? Comece por um processo administrativo de baixo risco, como confirmação de consultas ou envio de orientações de documentos. Defina responsáveis, limite o escopo, meça com registros e só amplie se os resultados forem verificados por alguém fora da operação.

Fontes

saúde públicaSUSgovernança de IALGPDdecisão clínica