Quem responde quando a IA da empresa erra? CDC e LGPD

Quem responde quando a IA da empresa erra? CDC e LGPD

Quando a IA da empresa erra com um cliente, quem costuma responder perante ele é a própria empresa, e não o fornecedor da ferramenta. O Código de Defesa do Consumidor trata o atendimento como parte do serviço prestado, e a LGPD atribui responsabilidade a quem decide sobre o uso dos dados. O contrato com o fornecedor e o processo interno não afastam essa responsabilidade diante do cliente, mas definem quanto dela você consegue dividir depois e quão provável é o erro.

Este texto é informativo e não substitui a opinião de um advogado. Ele separa o que está na lei, o que costuma ocorrer na prática de implementação e o que é hipótese a validar com seu jurídico.

Principais pontos

• Perante o consumidor, a empresa que oferece o serviço responde pelo que seu atendimento disser ou fizer, inclusive quando quem respondeu foi uma IA.
• A LGPD separa controlador e operador, mas ambos podem responder por dano causado a titulares de dados, e o direito de regresso existe entre eles.
• Contrato com o fornecedor de IA divide a conta entre as partes, mas não retira da empresa a obrigação de reparar o cliente.
• A maior redução de exposição vem do processo: limites claros, revisão humana em temas sensíveis e registro do que a IA respondeu e por quê.
• Quem não consegue mostrar o que a IA fez tem dificuldade de se defender, então log e rastreabilidade são parte da defesa jurídica.

O que o Código de Defesa do Consumidor diz sobre erro de IA?

O CDC não menciona inteligência artificial, e não precisa. O ponto de partida é que o fornecedor responde, independentemente de culpa, pela reparação de danos causados por defeitos na prestação do serviço e por informações insuficientes ou inadequadas (art. 14). Se o seu agente no WhatsApp informa um prazo errado, promete algo que a empresa não oferece ou orienta mal um procedimento, o cliente enxerga um único fornecedor: você.

Há outros dispositivos que costumam aparecer em disputas desse tipo:

• A oferta suficientemente precisa vincula o fornecedor (art. 30). Se a IA apresenta uma condição de forma clara, o cliente pode exigir o cumprimento dela.
• O fornecedor responde pelos atos de seus prepostos ou representantes (art. 34). Na prática, um atendente automatizado tende a ser tratado como extensão da empresa.
• Havendo mais de um responsável pela ofensa, a responsabilidade é solidária (art. 7º, parágrafo único, e art. 25). Isso permite que o cliente cobre de quem estiver mais à mão, normalmente quem vendeu para ele.
• O juiz pode inverter o ônus da prova quando a alegação for verossímil ou o consumidor for hipossuficiente (art. 6º, VIII). Se o cliente mostra um print da conversa e a empresa não tem registro próprio, a defesa fica fragilizada.
• É vedada cláusula contratual que impossibilite, exonere ou atenue a obrigação de indenizar na relação de consumo (art. 25). Um aviso do tipo "nossa IA pode errar" ajuda na transparência, mas dificilmente funciona como isenção.

O CDC prevê excludentes, como inexistência do defeito, culpa exclusiva do consumidor ou de terceiro (art. 14, §3º). Dizer que "foi a IA" ou "foi o fornecedor do modelo" não costuma ser lido como culpa exclusiva de terceiro quando a empresa escolheu, configurou e colocou a ferramenta para atender o público. Essa leitura é uma tendência de interpretação, não garantia: cada caso depende dos fatos e do juízo que o analisa.

E a LGPD: quando o erro envolve dados pessoais?

A LGPD entra quando o erro envolve dados pessoais: a IA expõe informação de outro cliente, usa um dado para finalidade diferente da informada, toma uma decisão sobre alguém com base em dado incorreto ou vaza conteúdo de conversa. O texto da lei está disponível no portal do Planalto, e a ANPD publica orientações oficiais.

O desenho básico é este:

• O controlador é quem decide sobre o tratamento. Em geral, é a sua empresa.
• O operador trata dados em nome do controlador, seguindo as instruções dele. Um fornecedor de plataforma de atendimento ou de modelo pode ocupar esse papel, a depender de como o serviço funciona.
• Quem causa dano patrimonial, moral, individual ou coletivo em razão do tratamento de dados pessoais é obrigado a repará-lo (art. 42).
• O operador responde solidariamente quando descumpre obrigações da lei ou age contra instruções lícitas do controlador. Já os controladores diretamente envolvidos no tratamento também respondem solidariamente (art. 42, §1º).
• Quem repara o dano tem direito de regresso contra os demais responsáveis, na medida da participação de cada um (art. 42, §4º).

A lei também prevê situações em que o agente não responde, como provar que não realizou o tratamento ou que não houve violação (art. 43). Ao mesmo tempo, exige medidas de segurança e boas práticas (art. 46) e a comunicação de incidentes relevantes à ANPD e ao titular (art. 48). Se a IA decide algo que afeta o interesse do titular, o direito de pedir revisão está detalhado em decisões automatizadas na LGPD e o art. 20.

Para entender como cada papel aparece no contrato, vale ler também operador e controlador na LGPD em contratos de IA.

O fornecedor da IA responde por mim?

Perante o cliente final, em regra não é ele quem você coloca na frente. Entre você e o fornecedor, a relação é contratual, e é ali que a divisão de risco acontece. Dois movimentos são comuns depois de uma condenação ou acordo: a empresa que pagou busca o regresso contra o fornecedor, e a discussão passa a ser o que o contrato diz.

Por isso os contratos de IA merecem atenção em pontos que muita gente deixa para depois. Em relações entre empresas, limites de responsabilidade costumam ser negociáveis, e o que está escrito importa muito. O que verificar:

• Papel das partes na LGPD: quem é controlador, quem é operador, para quais finalidades.
• Limite de responsabilidade do fornecedor e exceções (por exemplo, incidentes de segurança e violação de confidencialidade).
• Uso dos dados da sua empresa para treinar modelos, retenção e exclusão.
• Subcontratados e localização do tratamento, incluindo transferência internacional.
• Prazo e forma de notificação de incidentes.
• Direito de auditoria ou, ao menos, acesso a relatórios de segurança.
• Suporte e correção quando o comportamento do serviço muda sem aviso.
• Obrigação de manter logs que permitam reconstituir o que aconteceu.

Uma hipótese prática: fornecedores de modelo de linguagem em geral fornecem termos padronizados, com pouca margem de negociação para empresas pequenas. Nesse caso, o que sobra para você é escolher bem, limitar o que a IA pode fazer e documentar seus controles. Confirme as condições vigentes diretamente nos termos de cada fornecedor.

Cenário ilustrativo: um erro no WhatsApp

Imagine, como cenário ilustrativo, uma loja que usa um agente de IA no WhatsApp para responder sobre trocas. Um cliente pergunta se pode trocar um produto fora do prazo, e o agente, sem a política atualizada no contexto, responde que sim, sem custo. O cliente vai à loja com a conversa no celular.

O que costuma acontecer em uma situação assim:

• A loja dificilmente se defende dizendo que foi um erro da IA, porque a resposta saiu pelo canal oficial.
• Se a conversa está registrada, a empresa consegue ver exatamente o que foi dito e decidir de forma consciente se honra a oferta.
• Se a política estava correta na base do agente e ele ignorou, o problema é de configuração e teste, e a conversa com o fornecedor passa a ser outra.
• Se o agente tivesse regra de nunca prometer exceções e encaminhar para uma pessoa, o erro provavelmente nem teria ocorrido.

O mesmo cenário com dado pessoal seria mais grave: se o agente tivesse mostrado o pedido de outra pessoa por confundir telefones, entraria a LGPD, com possível comunicação de incidente. A diferença entre os dois casos mostra que a gravidade depende do que a IA pode acessar e fazer, não só do que ela fala.

Como reduzir exposição por contrato?

Contrato é a camada que define a divisão de risco entre empresas. Use esta lista como roteiro de conversa com seu jurídico:

• Mapeie todos os fornecedores envolvidos: plataforma de atendimento, provedor de modelo, API do WhatsApp, ferramentas de integração.
• Defina em documento quem é controlador e quem é operador em cada tratamento.
• Exija cláusula de tratamento de dados com finalidade limitada, instruções documentadas, confidencialidade e exclusão ao fim do contrato.
• Negocie notificação de incidente com prazo que permita à sua empresa cumprir as obrigações com a ANPD e com os titulares.
• Peça informações sobre subcontratados e transferência internacional.
• Alinhe o que o fornecedor registra em log e por quanto tempo, e como você acessa esses registros.
• Reveja os termos do cliente final: avisos de uso de IA, canal para falar com uma pessoa e política de privacidade coerente com o que o agente realmente faz.

Na relação com o consumidor, lembre que cláusulas de exoneração tendem a ser inválidas. O papel dos termos para o cliente é informar com clareza, não eximir.

Como reduzir exposição por processo?

Processo é onde o risco real cai. Um plano em etapas:

• Defina o escopo: quais perguntas a IA responde sozinha e quais ela deve encaminhar. Temas como reembolso, condições comerciais, saúde, jurídico e cobrança merecem atenção redobrada. O texto sobre o que não delegar à IA na empresa ajuda nessa fronteira.
• Limite os dados: a IA só deve acessar o que precisa para aquela conversa, e idealmente só dados do próprio cliente identificado.
• Limite as ações: começar apenas com leitura e rascunho, e exigir aprovação humana para qualquer coisa que gere obrigação, como desconto, estorno ou agendamento com custo.
• Coloque barreiras na saída: verificações antes de enviar, como no guia de guardrails em agentes de IA, e regras de recusa para o que está fora do escopo.
• Garanta a passagem para uma pessoa: o cliente precisa conseguir pedir atendimento humano, e a conversa precisa chegar com o histórico.
• Registre decisões: mensagem recebida, contexto usado, resposta enviada, ação executada e quem aprovou. Esses registros servem à defesa e à melhoria do sistema.
• Teste antes e depois de mudanças: perguntas difíceis, tentativas de manipulação do agente e casos de borda. A OWASP mantém uma lista de riscos específicos de aplicações com modelos de linguagem no OWASP Top 10 para LLM.
• Tenha um plano de incidente: quem decide, quem comunica o cliente, quem avalia se é caso de comunicar a ANPD e como pausar o agente rapidamente.
• Revise periodicamente: amostras de conversas, reclamações e mudanças na política da empresa.

A gestão de risco como disciplina contínua é descrita de forma estruturada no NIST AI Risk Management Framework, que serve de referência para organizar mapeamento, medição e gestão, mesmo para empresas pequenas que usem apenas parte dele.

Como o método se aplica

O método que usamos para projetos de IA segue quatro movimentos que conversam diretamente com essa discussão jurídica. Mapear: entender o processo atual, quem decide o quê e quais dados circulam. Limitar: restringir dados, ferramentas e ações do agente, com passagem para pessoa em temas sensíveis. Pilotar: rodar um fluxo real com logs e uma métrica de sucesso combinada antes de ampliar. Transferir: entregar a operação com documentação e decidir se expande, ajusta ou para.

Nada disso substitui parecer jurídico, mas reduz tanto a chance do erro quanto a dificuldade de explicá-lo depois. Para acompanhar a regulação em discussão no país, veja também o marco legal da IA no Brasil para empresas.

Perguntas frequentes

A empresa pode alegar que o erro foi culpa do fornecedor da IA? Perante o consumidor, a alegação isolada costuma ter pouca força, porque a empresa escolheu e colocou a ferramenta no atendimento. A discussão com o fornecedor acontece depois, pelo contrato e pelo direito de regresso, quando houver base para isso.

Um aviso dizendo que o atendimento é feito por IA e pode errar protege a empresa? O aviso é uma boa prática de transparência e ajuda o cliente a entender com quem fala. Ele não costuma funcionar como isenção na relação de consumo, porque o CDC veda cláusulas que exonerem ou atenuem o dever de indenizar.

Quando o erro da IA vira um problema de LGPD? Quando envolve dados pessoais, por exemplo exposição de informação a quem não deveria ver, uso para finalidade diferente da informada ou decisão automatizada baseada em dado incorreto. Nesses casos, a empresa deve avaliar o incidente, registrar a análise e verificar a necessidade de comunicação à ANPD e aos titulares, com apoio jurídico.

Por onde começar para reduzir o risco sem travar o projeto? Escolha um fluxo de baixo risco, defina o que a IA não pode prometer, ative registro das conversas e garanta a passagem para uma pessoa. Depois, revise contrato e termos com o jurídico antes de ampliar o escopo, tratando o piloto como a etapa em que você aprende onde o agente erra.

Fontes

• Planalto: Código de Defesa do Consumidor (Lei 8.078)
• Planalto: Lei Geral de Proteção de Dados (Lei 13.709)
• ANPD: Autoridade Nacional de Proteção de Dados
• NIST AI Risk Management Framework