Superinteligência em casas de repouso: informar familiares sem expor saúde

Superinteligência, no sentido em que o termo aparece em debates sobre o futuro da IA, não é uma ferramenta que uma casa de repouso compra ou configura. O que existe na prática é um assistente de IA com regras claras, que responde a familiares sobre rotina, horários de visita, documentos e canais de contato, sem acessar o prontuário e sem opinar sobre o quadro clínico. A regra que sustenta o projeto é simples: a IA informa o que é operacional e público, e a equipe de cuidado decide e comunica o que é de saúde.

Principais pontos

• Familiares precisam de previsibilidade sobre rotina e visitas, e isso pode ser respondido sem tocar em nenhum dado clínico.
• Dados de saúde são dados pessoais sensíveis pela LGPD e exigem acesso restrito, finalidade clara e registro.
• O assistente responde o que é operacional e encaminha para uma pessoa tudo que envolva saúde, queixa ou urgência.
• Quem pode receber informação sobre cada residente precisa estar definido antes da primeira mensagem.
• O início deve ser um piloto pequeno, com registro das conversas, revisão humana e um critério de sucesso combinado.

Por que informar familiares é uma tarefa delicada

Na coordenação de uma casa de repouso, parte do tempo da recepção e da enfermagem vai para ligações e mensagens que perguntam o básico: a visita pode ser no domingo? Qual o horário do banho de sol? Precisa levar roupa de cama? Um assistente bem configurado tira essa carga do caminho e dá ao familiar uma resposta imediata, o que reduz a ansiedade de quem está longe. Para entender a diferença entre o que essas ferramentas fazem e o que o termo superinteligência sugere, vale ler ChatGPT é superinteligência? O que ele é e o que não é.

O risco aparece na mesma linha de mensagem. A pergunta "ele comeu bem hoje?" é legítima, mas a resposta envolve informação clínica. Se o assistente tenta responder de improviso, pode transmitir uma tranquilidade sem base ou, pior, orientar sobre medicação e sintomas. Por isso, o desenho começa pelo que o sistema não deve responder, e não pelo que ele consegue responder.

Há ainda uma questão de identidade. Quem escreve pelo WhatsApp pode ser filho, neto, cuidador contratado, vizinho ou alguém que apenas tem o número. Sem uma lista de contatos autorizados, o assistente não tem como saber se está falando com a pessoa certa.

O que o assistente pode informar e o que deve encaminhar

Esta é a fronteira mais importante do projeto. Ela precisa estar escrita e aprovada pela coordenação antes de qualquer teste. O assistente pode responder com segurança a temas como:

• Horários de visita, regras de entrada e documentos necessários, quando a casa trabalha com agendamento.
• Calendário publicado de atividades, passeios, oficinas e datas de eventos.
• Endereço, canais de atendimento, horário da recepção e prazos administrativos já publicados pela casa.

Já as perguntas abaixo devem ser encaminhadas para a equipe, sem tentativa de resposta pelo assistente:

• Qualquer pergunta sobre saúde, medicação, exames, evolução, sono, alimentação específica ou comportamento do residente.
• Relatos de queda, febre, falta de ar, dor, recusa de alimentação, agitação ou qualquer situação que pareça urgência.
• Pedidos de mudança de quarto, alta, troca de cuidador ou qualquer decisão sobre tratamento.
• Reclamações sobre o cuidado, que exigem registro formal e resposta humana.

Em casos de urgência, a mensagem automática deve orientar o familiar a acionar imediatamente o plantão da casa e, quando for emergência, o serviço de urgência da região. O assistente não deve tranquilizar nem minimizar o relato. A conversa precisa ser registrada e encaminhada com horário e resumo.

Como separar dado de saúde de dado operacional

A LGPD trata dados de saúde como dados pessoais sensíveis, com exigências mais rigorosas de finalidade, necessidade e segurança. Para o assistente, isso tem uma consequência prática: ele não deve receber prontuário, laudos, anotações de enfermagem ou histórico clínico como contexto. Se o dado não está disponível para o modelo, ele não pode revelá-lo nem inventá-lo com base nele. Esse princípio de minimização vale mais do que qualquer instrução bem escrita.

Até o nome do residente já é dado pessoal, e deve ser exibido apenas para contatos autorizados e apenas quando a conversa exigir. A Autoridade Nacional de Proteção de Dados (ANPD) publica orientações sobre o tratamento de dados pessoais, e vale consultá-las antes de definir o fluxo com o jurídico da casa. Também é preciso verificar onde o modelo e o armazenamento das conversas são hospedados, porque isso altera as obrigações sobre transferência de dados.

Familiares e terceiros também podem tentar induzir o assistente a revelar informações que não deveria. O OWASP descreve esse tipo de risco, chamado injeção de prompt, em sua lista de riscos para aplicações com modelos de linguagem. A defesa mais eficaz é técnica: o assistente não tem acesso ao que não deve revelar.

Plano em cinco passos para um piloto

Um piloto bem desenhado cabe em poucas semanas de trabalho com a coordenação. A sequência abaixo serve de roteiro:

• Mapear as perguntas reais que chegam por telefone e WhatsApp, agrupadas por tema, com apoio da recepção e da enfermagem.
• Classificar cada tema em três faixas: responder diretamente, responder com revisão humana ou encaminhar sempre.
• Definir, por residente, quem são os contatos autorizados, com registro no cadastro e um caminho simples para revogar a autorização.
• Configurar o assistente apenas com o conteúdo publicado pela casa, sem acesso ao prontuário, com mensagem padrão de encaminhamento para uma pessoa.
• Testar com cenários simulados antes de qualquer uso com famílias reais, como descrito em como testar agente de IA com mocks e sandbox sem risco, registrar cada conversa e revisar o material semanalmente com a coordenação.

O NIST AI Risk Management Framework organiza a gestão de riscos de IA em funções de governança, mapeamento, medição e gestão. Ele pode servir de referência para o grupo que aprova o piloto, sobretudo para decidir quem responde pelos erros e como eles são corrigidos.

Cenário ilustrativo: a pergunta sobre a medicação

Cenário ilustrativo: uma familiar envia mensagem perguntando se o pai tomou o remédio da pressão naquela manhã. O assistente identifica que o tema é de saúde e não responde sobre a medicação. Informa que a equipe de enfermagem será avisada, pede o nome do residente e o vínculo da pessoa com ele, e abre um registro com horário e resumo. A enfermagem responde pelo canal institucional. Em nenhum momento o assistente afirmou algo sobre a medicação, e a familiar recebeu a confirmação de que o contato foi registrado, com o prazo combinado pela coordenação.

O exemplo parece simples, mas exige três coisas que muitas vezes faltam: a lista de temas proibidos, o registro da conversa e uma pessoa com responsabilidade definida para o retorno.

Quem pode receber informação: um guia de decisão

Antes de ligar o assistente, a coordenação precisa responder algumas perguntas para cada residente:

• Existe um responsável legal ou familiar indicado no cadastro da casa?
• Essa pessoa foi formalmente autorizada a receber informações de rotina?
• Quais temas ela pode receber: visitas, atividades, avisos gerais ou apenas comunicações administrativas?
• Como a autorização é revogada e quem tem poder para fazer isso?
• Se o número não estiver na lista, a conversa vai para a recepção, sem confirmar nenhum dado do residente.

A última pergunta é a mais esquecida. Para um número não autorizado, a própria confirmação de que alguém está internado na casa já é uma informação sensível. Por isso, a resposta padrão deve ser genérica e sem confirmação.

As mensagens enviadas pela casa para familiares, como avisos de evento, também seguem regras de canal e de consentimento. Para o caso do WhatsApp, o texto sobre a janela de 24 horas no WhatsApp API explica quando o agente pode responder livremente e quando precisa de um modelo aprovado.

Como o método de Juan se aplica

O trabalho segue quatro etapas: mapear o processo atual e a linha de base, limitar dados e ações, pilotar um fluxo real com registro e métrica combinada, e então transferir para a equipe e decidir entre ampliar, ajustar ou parar. Em casas de repouso, faz sentido começar por temas de baixo risco, como visitas e avisos de atividades, para observar como o canal se comporta antes de qualquer assunto clínico. A métrica de sucesso é definida com a coordenação, de acordo com o que a casa precisa melhorar, e não é assumida de antemão.

Perguntas frequentes

Superinteligência é a mesma coisa que um assistente de IA em casa de repouso? Não. Superinteligência é um conceito de debate sobre sistemas muito superiores à inteligência humana. Em uma casa de repouso, o que se usa é um assistente configurado com regras, conteúdo publicado e encaminhamento para pessoas, e a sua utilidade depende mais do desenho do processo do que de qualquer capacidade abstrata.

A IA pode responder se o familiar perguntar sobre a saúde do residente? Não deve. Perguntas sobre saúde, medicação, exames, quedas ou qualquer intercorrência precisam ser encaminhadas para a equipe de enfermagem ou para o plantão, com registro da conversa. O assistente também não deve dar sinais de tranquilidade sobre o quadro, porque isso pode ser interpretado como informação clínica.

Como saber se o familiar tem direito de receber informações? Essa decisão não deve ser tomada pelo assistente nem pela recepção sozinha. A casa precisa manter um cadastro de contatos autorizados por residente, com a finalidade de cada autorização e uma forma clara de revogá-la. Sem esse registro, o assistente deve responder de forma genérica e encaminhar a conversa.

Vale começar com o número oficial da casa no WhatsApp? Pode valer, desde que o início seja pequeno e controlado. Antes de ligar o assistente, é preciso definir o escopo, testar com cenários simulados, registrar as conversas e ter uma pessoa responsável pela revisão. Se o piloto mostrar que os temas são bem tratados, a casa decide se amplia, ajusta ou interrompe o uso.

Fontes

• Autoridade Nacional de Proteção de Dados (ANPD)
• NIST AI Risk Management Framework
• OWASP Top 10 for LLM Applications