IA na saúde: quem responde por erros e uso indevido de dados?

Luciano Teixeira – São Paulo

O uso de inteligência artificial em diagnósticos, prescrições, triagens e prontuários não transfere a decisão clínica para a máquina. Quando um paciente sofre dano, a responsabilidade pode alcançar o médico, o hospital, a clínica e a empresa responsável pelo sistema. A divisão dependerá da origem do erro, da participação de cada agente e das medidas adotadas para evitar o problema.

A mesma lógica vale para os dados usados pelas ferramentas. Informações sobre doenças, exames, medicamentos e tratamentos são consideradas sensíveis pela Lei Geral de Proteção de Dados, a LGPD. Seu uso exige uma finalidade definida, uma base legal válida, segurança e transparência. A existência do dado em um prontuário não autoriza seu envio a qualquer plataforma nem seu aproveitamento irrestrito para treinar algoritmos.

Leia também: CFM proíbe PMMA em preenchimentos e pressiona Anvisa por banimento

A inteligência artificial não assume responsabilidade jurídica

Um sistema de IA não possui personalidade jurídica e não responde sozinho perante o paciente ou a Justiça. A responsabilidade recai sobre as pessoas e empresas que desenvolveram, contrataram, configuraram ou utilizaram a ferramenta.

“Todos os envolvidos respondem, mas cada um conforme a natureza de sua obrigação e o grau de intervenção no processo decisório. A responsabilidade é compartilhada e escalonada”, afirma Marcos Poliszezuk, sócio fundador do Poliszezuk Advogados e especialista em inteligência artificial.

Isso não significa que médico, hospital e fornecedor serão condenados automaticamente. Será necessário identificar o defeito, o dano e a relação entre ambos. Também será preciso verificar quem tinha condições de conhecer, evitar ou corrigir a falha.

O erro pode nascer em diferentes pontos. O sistema pode ter sido treinado com dados pouco representativos da população brasileira. A instituição pode ter comprado um programa sem validação suficiente. O médico pode ter aceitado uma recomendação incompatível com o quadro do paciente. Também pode haver uma combinação dessas falhas.

“A responsabilidade deve ser distribuída, mas nunca diluída. O paciente não pode ser obrigado a descobrir em qual etapa da cadeia tecnológica ocorreu a falha”, afirma Antonio Carlos Matos da Silva, estrategista de sistemas de saúde e conselheiro de companhias em gestão, governança e políticas de acesso.

Nas relações de consumo, o paciente pode acionar os fornecedores envolvidos e pedir que a Justiça esclareça a participação de cada um. Contratos entre hospital e empresa de tecnologia podem distribuir custos e prever direito de reembolso, mas não podem retirar direitos do paciente.

Médico continua responsável pela decisão clínica

A responsabilidade pessoal do médico é, em regra, subjetiva. Isso significa que sua condenação depende da demonstração de culpa, como negligência, imprudência ou falta de conhecimento técnico adequado. Essa regra aparece no artigo 14, parágrafo 4º, do Código de Defesa do Consumidor.

A obrigação médica costuma ser de meio. O profissional deve empregar os recursos adequados e agir conforme os conhecimentos disponíveis, mas geralmente não garante a cura. Há situações específicas em que o enquadramento pode ser diferente, conforme o serviço prometido e as circunstâncias do atendimento.

O uso de IA não altera esse ponto central. Se o profissional recebe um alerta incorreto e o aceita sem conferir sua coerência com sintomas, exames e histórico clínico, poderá responder por ter abandonado o julgamento crítico. Esse comportamento é chamado de viés de automação, quando uma pessoa confia excessivamente na resposta produzida pelo sistema.

A situação muda quando o defeito é oculto, imprevisível e impossível de ser identificado por um médico diligente. Nesse caso, o profissional não deve ser responsabilizado por uma falha exclusivamente tecnológica. A apuração precisará considerar as informações fornecidas pelo fabricante, o grau de transparência do programa e as condições de uso.

A Resolução CFM nº 2.454/2026 reforça que a IA deve atuar como apoio. O médico permanece responsável pelos atos que efetivamente pratica, deve avaliar criticamente as recomendações e registrar no prontuário o uso da ferramenta. Ao mesmo tempo, a norma protege o profissional contra responsabilização indevida por falhas exclusivas do sistema, desde que ele tenha agido de forma diligente, crítica e ética.

Publicada em 27 de fevereiro, a resolução prevê entrada em vigor após 180 dias. Até o fim desse período de adaptação, hospitais, clínicas e médicos precisam revisar contratos, protocolos e sistemas. A norma do CFM regula a atividade médica. Outros profissionais da saúde continuam submetidos às leis gerais e às regras de seus respectivos conselhos.

Hospitais respondem pela tecnologia que colocam no atendimento

Hospitais, laboratórios e clínicas têm o dever de selecionar ferramentas adequadas, verificar autorizações regulatórias, treinar equipes e acompanhar o desempenho dos sistemas. A responsabilidade da instituição pode ser objetiva quando o dano decorrer de uma falha do serviço oferecido ao paciente. Nesse regime, não é necessário provar culpa administrativa, mas continuam necessários o dano, o defeito e a ligação entre eles.

A instituição pode responder se contratar um sistema sem evidências suficientes, ignorar alertas de segurança, deixar de atualizar o programa ou permitir seu uso por profissionais sem treinamento. A ausência de protocolo para revisar resultados também pode indicar falha de governança.

A responsabilidade do hospital por um ato estritamente médico exige análise mais cuidadosa. O vínculo entre o profissional e a instituição, a natureza do serviço e a origem do dano influenciam a decisão. Uma clínica não responde de forma idêntica por um sistema próprio, por um médico empregado e por um profissional independente que apenas utiliza suas instalações.

A resolução do CFM determina avaliação preliminar do risco antes do uso da IA e monitoramento contínuo. Instituições que adotarem sistemas próprios deverão criar uma Comissão de IA e Telemedicina, subordinada à diretoria técnica e coordenada por médico. O objetivo é organizar auditorias, regras de acesso, controle de versões, comunicação de incidentes e revisão de resultados.

Fornecedor pode responder por defeito ou informação incompleta

A empresa desenvolvedora pode ser responsabilizada quando o dano decorrer de erro de programação, baixa qualidade dos dados de treinamento, viés evitável, falha de segurança ou desempenho diferente do anunciado. Também pode haver responsabilidade se o fornecedor omitir limitações relevantes ou entregar documentação insuficiente para o uso seguro.

O enquadramento jurídico dependerá da forma como a tecnologia é oferecida. Se for tratada como produto, podem incidir as regras do artigo 12 do Código de Defesa do Consumidor. Se o fornecimento tiver natureza de serviço, ganha importância o artigo 14. O Código Civil também pode ser aplicado quando a relação não for de consumo.

O fornecedor poderá demonstrar que o sistema não tinha defeito, que o dano não foi causado pela ferramenta ou que houve uso contrário às instruções. Por outro lado, não basta incluir no contrato uma cláusula genérica dizendo que toda responsabilidade pertence ao médico. Uma disposição desse tipo pode ser considerada abusiva se tentar excluir deveres de segurança, qualidade e informação da empresa.

Alguns softwares com finalidade de diagnóstico, prevenção, tratamento ou monitoramento podem ser classificados como dispositivos médicos. Nesses casos, a regularização deve observar a RDC nº 657/2022 da Anvisa. Uma ferramenta de uso administrativo ou um modelo de linguagem de finalidade geral não entra automaticamente nessa categoria. O que define o enquadramento é a finalidade indicada e a influência clínica do programa.

Dados de saúde não são matéria-prima livre

A LGPD oferece proteção reforçada a informações médicas porque seu vazamento ou uso indevido pode causar discriminação, exposição da intimidade e prejuízos sociais ou econômicos. O tratamento desses dados precisa estar ligado a uma finalidade legítima e informada.

O consentimento é uma das bases legais possíveis, mas não é a única. A LGPD também autoriza o tratamento de dados sensíveis para tutela da saúde, proteção da vida, cumprimento de obrigação legal, exercício de direitos e determinadas pesquisas realizadas por órgãos habilitados.

A execução de contrato, isoladamente, não funciona como autorização genérica para tratar dados sensíveis. Também não se deve usar a tutela da saúde como justificativa automática para alimentar um produto comercial que será oferecido a outros clientes. A base jurídica depende da finalidade, do agente envolvido e da necessidade real do tratamento.

No atendimento, um hospital pode processar dados essenciais ao diagnóstico com base na tutela da saúde. Isso não significa que possa repassar todo o prontuário ao fornecedor para aprimorar um modelo de uso geral. O treinamento de uma nova tecnologia constitui uma finalidade diferente e precisa de análise jurídica própria.

Se o consentimento for utilizado, ele deve ser específico, informado e ligado a finalidades determinadas. O paciente precisa saber quais dados serão usados, por quanto tempo, com quem serão compartilhados e como poderá revogar a autorização. Permissões genéricas inseridas em formulários extensos podem ser contestadas.

“O dever de sigilo é absoluto e não é afastado pela tecnologia”, diz Poliszezuk.

Anonimização e pseudonimização são diferentes

A anonimização busca impedir que uma pessoa seja identificada por meios técnicos razoáveis. Quando o processo é efetivo e não pode ser revertido com esforços razoáveis, a informação deixa de ser considerada dado pessoal para os fins da LGPD.

Excluir nomes e números de documentos, porém, pode ser insuficiente. Exames raros, datas, localizações e históricos clínicos podem permitir que uma pessoa seja reconhecida pelo cruzamento com outras bases. A ANPD orienta que a anonimização seja tratada como processo contínuo baseado em risco.

Na pseudonimização, o nome é substituído por um código, enquanto uma chave permite recuperar a identidade. O risco é menor, mas o dado continua protegido pela LGPD. Por isso, ainda são necessários base legal, acesso restrito, criptografia e registro das operações realizadas.

Contratos devem impedir o uso oculto dos prontuários

A contratação de uma ferramenta de IA deve definir quem decide sobre os dados, quem executa o tratamento e quais empresas terceirizadas terão acesso às informações. A LGPD chama esses participantes de controlador e operador.

O contrato precisa limitar a finalidade, proibir o treinamento não autorizado de modelos gerais e fixar regras de conservação e exclusão dos dados. Também deve prever auditoria, comunicação de falhas, responsabilidade por prestadores terceirizados e devolução das informações após o encerramento do serviço.

Se os dados forem armazenados fora do Brasil, entram em cena as regras de transferência internacional da LGPD. O hospital precisa conhecer o país de destino, as empresas que receberão as informações e as garantias contratuais adotadas.

Informações identificáveis de pacientes não devem ser inseridas em ferramentas públicas ou contas pessoais sem aprovação institucional. Além do risco de quebra de sigilo, o conteúdo pode ser armazenado, reutilizado ou acessado por terceiros fora do controle do serviço de saúde.

Em caso de incidente capaz de gerar risco ou dano relevante, o controlador deve avaliar a comunicação à ANPD e aos titulares afetados. A instituição também precisa preservar registros para identificar quais dados foram expostos, por quanto tempo e quais providências foram tomadas.

Paciente tem direito de saber que a IA foi usada

A resolução do CFM determina que o uso de IA seja comunicado e explicado ao paciente. A pessoa também poderá recusar o emprego da ferramenta, sem que o médico delegue ao sistema a comunicação de diagnóstico, prognóstico ou tratamento.

O artigo 20 da LGPD assegura o direito de solicitar revisão de decisões tomadas unicamente por tratamento automatizado que afetem os interesses do titular. Também prevê informações claras sobre critérios e procedimentos utilizados, respeitados os segredos comercial e industrial.

Quando há participação humana efetiva, a decisão pode deixar de ser exclusivamente automatizada. Isso não elimina o dever de transparência. A intervenção precisa ser real, com capacidade de questionar e modificar a recomendação, e não uma simples confirmação formal da resposta da máquina.

A explicação não exige, em todos os casos, a entrega do código-fonte. O paciente deve receber informações compreensíveis sobre o papel da ferramenta, os dados considerados, as limitações conhecidas e a forma de pedir revisão. O prontuário precisa mostrar que a decisão final foi fundamentada pelo profissional.

Marco Legal da IA ainda não está em vigor

O Projeto de Lei nº 2.338/2023 foi aprovado pelo Senado, mas continuava aguardando parecer na comissão especial da Câmara em julho de 2026. Portanto, suas regras ainda não podem ser tratadas como lei vigente. A tramitação pode ser acompanhada na Câmara.

O texto em discussão prevê direitos de explicação e contestação, supervisão humana e avaliação de impacto para sistemas de alto risco. Também preserva a aplicação do Código de Defesa do Consumidor e do Código Civil aos pedidos de indenização. Soluções capazes de causar riscos significativos à saúde poderão receber obrigações reforçadas de documentação, teste e monitoramento.

Enquanto o projeto não for aprovado, a proteção já encontra base na LGPD, no Código de Defesa do Consumidor, no Código Civil, nas normas da Anvisa, no Código de Ética Médica e, após o período de adaptação, na Resolução CFM nº 2.454/2026.

Veja também: Remédio no carrinho do mercado: nova lei amplia acesso e desafia Anvisa a manter rigor sanitário

A inteligência artificial pode melhorar diagnósticos e reduzir tarefas repetitivas, mas não cria uma área sem responsáveis. A segurança jurídica depende de supervisão clínica verdadeira, contratos claros, fornecedores auditáveis e controle sobre os dados. Quando esses elementos faltam, a tecnologia deixa de ser apoio e passa a ampliar um risco que já existia no atendimento.