Superinteligência em clínicas: como se preparar sem risco

Superinteligência em clínicas: como se preparar sem risco

Superinteligência em clínicas ainda não é algo que se contrata: é uma hipótese sobre sistemas muito mais capazes que os atuais. O que a clínica pode fazer agora é se preparar para agentes de IA mais competentes, mantendo prontuário e decisão clínica fora do agente e tratando dados de saúde como dados sensíveis pela LGPD. Quem define essas fronteiras antes troca de modelo depois sem refazer o processo.

Principais pontos

• Superinteligência é hipótese. O que a clínica opera hoje são agentes com escopo limitado, e é isso que se governa.
• Prontuário e decisão clínica ficam fora do agente: ele não escreve, não altera e não decide diagnóstico, conduta ou prescrição.
• Dados de saúde são dados pessoais sensíveis na LGPD. Isso pede finalidade clara, mínimo necessário, registro de acessos e cuidado com fornecedores e transferência para fora do Brasil.
• Capacidade do modelo pode subir, mas permissões só sobem por decisão humana, documentada e testada.
• O caminho seguro é mapear, limitar, pilotar um fluxo administrativo e só então decidir se expande, ajusta ou para.

O que significa superinteligência para uma clínica hoje?

O termo vem do debate sobre sistemas que superariam pessoas na maioria das tarefas intelectuais. Não existe produto assim para comprar, e nenhuma clínica deveria planejar a operação em cima de uma promessa. A diferença entre os conceitos está em Diferença entre AGI e superinteligência. O ponto prático é que a clínica opera agentes que leem mensagens, consultam sistemas e executam tarefas delimitadas.

É razoável esperar que esses agentes fiquem melhores em entender pedidos ambíguos, resumir históricos, redigir respostas e usar ferramentas. Isso é hipótese, não fato. Por isso o preparo não depende de acertar a previsão. Depende de uma arquitetura em que a capacidade do modelo possa aumentar sem que o poder dele sobre dados e decisões aumente junto.

Pense assim: um profissional muito competente contratado para a recepção continua sem acesso ao prontuário e sem autoridade para decidir conduta. A competência dele melhora o atendimento, não muda quem responde clinicamente. O mesmo vale para o agente.

O que muda no atendimento quando o agente fica mais capaz?

Na prática, a mudança mais visível está na recepção e no relacionamento, não na sala de consulta. Um agente mais capaz tende a lidar melhor com mensagens soltas no WhatsApp, como "preciso adiantar aquele retorno, mas só consigo de manhã", e a transformar isso em uma ação organizada: verificar a agenda, propor horários, confirmar e registrar.

O que pode melhorar com cuidado:

• Agendamento, remarcação e confirmação, com regras claras de antecedência e encaixe.
• Orientações administrativas: endereço, preparo logístico, documentos a levar, formas de pagamento aceitas.
• Triagem de assunto: separar o que é administrativo, o que é financeiro e o que precisa de profissional.
• Resumo da conversa para a equipe, para que ninguém peça a mesma informação duas vezes.
• Lembretes e mensagens de retorno, desde que haja permissão do paciente para contato ativo.

O que não muda, por mais capaz que o modelo seja: urgência e sintomas vão para uma pessoa. O agente deve reconhecer sinais de que a conversa saiu do administrativo e entregar para a equipe com o contexto resumido, sem tentar orientar clinicamente. Para o desenho de agenda e lembretes em um consultório sensível, vale ler IA para psicólogos: agenda e lembretes sem expor sessões, que trata do cuidado com o que aparece na mensagem.

O que deve ficar fora do agente: prontuário e decisão clínica?

A regra de desenho é simples: o prontuário é o registro do profissional, e a decisão clínica é do profissional. O agente não é a fonte da verdade sobre nenhum dos dois.

Na prática, isso significa:

• Sem escrita no prontuário. O agente não cria, edita nem apaga registros clínicos.
• Sem leitura ampla. Se o agente precisa de uma informação, como o horário de um retorno, ele consulta uma ferramenta que devolve apenas aquele campo, e não o histórico do paciente.
• Sem conduta. O agente não interpreta exame, não sugere diagnóstico, não orienta dose, não diz se um sintoma é grave ou não.
• Sem decisão sobre acesso a informações. Pedidos de laudos, atestados e cópia de prontuário seguem o fluxo e a validação da clínica.
• Sem memória clínica própria. Se o sistema guarda histórico de conversa, ele guarda o necessário para o atendimento administrativo e tem prazo de descarte definido.

Quando a clínica quiser usar IA para apoiar o profissional, por exemplo resumindo uma consulta ou sugerindo uma redação, esse é outro projeto, com outro nível de risco. Ele deve ser tratado como ferramenta do profissional, que revisa e assina, em um ambiente separado do agente de atendimento. Confira as normas do conselho profissional e peça orientação jurídica antes de começar.

Vale lembrar também que uma mensagem recebida pode carregar instruções maliciosas ou simplesmente confusas. Quanto menos o agente enxerga e pode fazer, menor o estrago. O guia da OWASP sobre os riscos de aplicações com modelos de linguagem é uma boa referência para a equipe técnica, e o nosso texto sobre prompt injection detalha o problema.

Como a LGPD entra quando os dados são de saúde?

Na LGPD, dado sobre saúde é dado pessoal sensível, com regras mais exigentes de tratamento. Isso vale para o que o paciente escreve no WhatsApp, para o que fica na agenda e para qualquer registro que o agente toque. O ponto de partida é entender a finalidade de cada dado e a base legal aplicável, com apoio jurídico, porque a base correta depende do caso.

Os cuidados que costumam aparecer em qualquer projeto:

• Finalidade e necessidade: coletar e usar só o que o fluxo exige. Para confirmar consulta, não é preciso o motivo da consulta.
• Transparência: o paciente deve saber que fala com um atendimento automatizado e como pedir uma pessoa.
• Segurança: controle de acesso, registro de quem acessou o quê e proteção das integrações.
• Fornecedores: saber onde os dados são processados, em quais condições e se há retenção ou uso para treinamento. Se o processamento ocorre fora do país, leia Transferência internacional de dados com IA: o que a LGPD exige.
• Direitos do titular: acesso, correção, eliminação quando cabível e revisão de decisões automatizadas. O texto sobre decisões automatizadas na LGPD explica o direito de revisão.
• Documentação: registro das operações de tratamento e, quando o caso pedir, avaliação de impacto. A ANPD publica orientações oficiais que a clínica deve acompanhar.

Uma consequência de projeto: quanto menos dado de saúde o agente recebe, menos a clínica precisa proteger e justificar. Minimizar não é detalhe técnico, é a principal decisão de conformidade.

Como preparar a clínica em cinco passos?

O método que usamos nesse tipo de projeto é mapear, limitar, pilotar e transferir. Aplicado a uma clínica, fica assim:

• Passo 1, mapear: descreva o fluxo atual da recepção e do pós-atendimento. Quem recebe a mensagem, em que sistema olha a agenda, quanto tempo leva, onde ocorrem erros. Defina uma linha de base antes de qualquer IA, para saber depois se algo melhorou.
• Passo 2, limitar dados e ações: liste exatamente quais campos o agente pode ler e quais ações pode executar. Tudo fora da lista é negado por padrão. Prontuário e conduta ficam de fora.
• Passo 3, definir transferência para humano: gatilhos como sintoma, urgência, reclamação, pedido de laudo, dúvida sobre cobrança e qualquer insegurança do agente. Defina quem recebe, em quanto tempo e com qual resumo.
• Passo 4, pilotar um fluxo real: por exemplo, só confirmação e remarcação de consultas. Com registro de decisões, uma métrica de sucesso combinada antes e revisão periódica das conversas por uma pessoa da equipe.
• Passo 5, transferir e decidir: entregar documentação, permissões e rotina de monitoramento à clínica e decidir se expande, ajusta ou encerra. Parar também é um resultado válido.

Para estruturar a avaliação de risco do projeto, o NIST AI Risk Management Framework oferece um vocabulário útil para governar, mapear, medir e gerenciar riscos, sem ser específico de saúde. A pergunta que ele ajuda a manter viva é: o que acontece quando o agente erra?

Quando o modelo for trocado por um mais capaz, repita o passo 4 em escala pequena. Rode as mesmas conversas de teste, compare as respostas e só então libere. Permissões não sobem por serem possíveis.

Cenário ilustrativo: recepção de uma clínica de especialidades

Este é um cenário ilustrativo, sem relação com nenhum caso real. Uma clínica com vários profissionais recebe mensagens no WhatsApp o dia todo. A recepção gasta boa parte do tempo confirmando consultas e remarcando horários, e às vezes as mensagens misturam pedidos administrativos com relatos de sintomas.

A clínica mapeia o fluxo e decide começar só por confirmação e remarcação. O agente consulta uma ferramenta que retorna horários livres por profissional e cria ou altera um agendamento, nada mais. Ele não vê o prontuário, não vê o motivo da consulta e não responde perguntas clínicas.

Um paciente escreve: "Preciso remarcar, estou com muita dor desde ontem e queria saber se posso esperar até semana que vem". O agente remarca se o paciente pedir, mas reconhece o relato de dor, não opina sobre esperar e encaminha a conversa para a recepção com um resumo e prioridade. Uma pessoa liga ou responde. A decisão sobre o que fazer é clínica e fica com a equipe.

Um guia rápido de decisão para qualquer mensagem nesse fluxo:

• Pedido puramente administrativo com dados já disponíveis na agenda: o agente resolve e registra.
• Pedido administrativo que exige exceção, como encaixe fora da regra: o agente prepara e a recepção aprova.
• Menção a sintoma, medicamento, exame ou urgência: o agente não orienta e transfere imediatamente.
• Pedido de laudo, atestado ou prontuário: transferência para o fluxo formal da clínica.
• Mensagem fora do padrão, com instruções estranhas ou tentativa de obter dados de outra pessoa: o agente recusa e sinaliza para revisão.

Se a clínica quiser enviar lembretes ativos, vale checar permissão e regras do canal antes, como mostra Mensagens ativas no WhatsApp: templates, opt-in e boas práticas.

Perguntas frequentes

Superinteligência já pode ser usada em clínicas? Não há evidência de que sistemas superinteligentes existam para uso comercial. O que existe são agentes de IA com capacidades crescentes, que a clínica pode usar em tarefas administrativas bem delimitadas. O preparo certo vale para qualquer nível de capacidade futura.

O agente de IA pode acessar o prontuário do paciente? O desenho mais seguro é que não acesse. Se alguma consulta for indispensável, ela deve devolver apenas um dado específico, com permissão mínima, registro de acesso e aprovação da responsável pela clínica. Escrita e alteração de prontuário ficam fora do agente.

O que a LGPD muda para quem atende pacientes pelo WhatsApp com IA? Dado de saúde é sensível, então a clínica precisa de finalidade clara, coleta mínima, segurança, transparência com o paciente e controle sobre fornecedores. Também precisa saber onde os dados são processados e oferecer caminho para falar com uma pessoa. Peça orientação jurídica para definir base legal e documentação do seu caso.

Por onde começar sem comprometer a operação? Comece por um fluxo administrativo de baixo risco, como confirmação e remarcação, com linha de base medida, métrica combinada e registro das decisões do agente. Depois de um período de piloto, revise as conversas e decida se expande, ajusta ou encerra. Se a clínica quiser apoio para estruturar isso, o trabalho segue as etapas de mapear, limitar, pilotar e transferir.

Fontes

• ANPD: Autoridade Nacional de Proteção de Dados
• NIST AI Risk Management Framework
• OWASP Top 10 for LLM Applications
• Anthropic: Building effective agents