A aplicação da IA ​​na medicina produz práticas de saúde mais confiáveis, precisas e eficientes do que a medicina tradicional, auxiliando parcial ou totalmente a tomada de decisão médica, como o uso de aprendizagem profunda em imagens de diagnóstico, desenhando planos de tratamento ou diagnóstico preliminar. No entanto, a maioria destes sistemas de IA são puras black-box: o profissional de saúde compreende os inputs e outputs do sistema, mas não pode ter acesso ao que acontece “dentro” do mesmo, e não pode oferecer uma explicação, criando um processo opaco que culmina numa “lacuna da confiança” em dois níveis: entre os pacientes e os especialistas médicos e entre o especialista médico e o próprio processo médico. 

Para analisar os prós e contras será realizada a palestra Black-Box Medicine: An Ethical Analysis, no dia 5 de dezembro, das 10h30 às 12h, na Sala Alfredo Bosi do Instituto de Estudos Avançados (IEA) da USP. O convidado é o pesquisador Steven Gouveia, que lidera um projeto de seis anos sobre Ética da IA na Medicina no MLAG, Instituto de Filosofia da Universidade do Porto. Organizado pelo Understanding Artificial Intelligence (UAI), o evento conta com a coordenação e mediação da professora Veridiana Domingos Cordeiro (IEA e Faculdade de Filosofia, Letras e Ciências Humanas da USP) e debate de João Figueiredo Nobre Brito Cortese (Instituto de Biociências da USP e UAI-IEA/USP). O evento é gratuito e aberto ao público, sem necessidade de inscrição. Haverá transmissão ao vivo pelo canal do IEA. 

A palestra vai debater a criação dessa black-box medicine, uma vez que o profissional deve confiar (epistemicamente) nesses sistemas de IA que são mais precisos, rápidos e eficientes do que qualquer especialista ou grupo de especialistas humanos, mas não são transparentes (epistemicamente) e não oferecem qualquer tipo de explicação. Serão analisados os aspectos positivos e negativos de cada uma das três abordagens que tentam oferecer uma resposta convincente à “lacuna da confiança”, e assim diagnosticar e identificar os principais aspetos relevantes que devem ser considerados entre a confiança e os processos algorítmicos em saúde.

Black-Box Medicine: An Ethical Analysis
Data: 5 de dezembro, das 10h30 às 12h
Local: Sala Alfredo Bosi do IEA/USP
Endereço: Rua da Praça do Relógio, 109, térreo, Cidade Universitária, Butantã, São Paulo
Transmissão ao vivo pelo site
Evento público e gratuito, sem necessidade de inscrição
Mais informações na página do IEA