Inteligência artificial pode atrapalhar precisão de diagnósticos

Muito se discute sobre o papel da inteligência artificial na área da saúde, mas um estudo publicado na JAMA na última terça-feira (19) apontou que essa grande novidade da tecnologia pode atrapalhar os médicos no momento de chegar a um diagnóstico. Segundo o artigo, a equipe médica pode ter dificuldade em detectar quando o sistema dá conselhos tendenciosos, o que pode distorcer a forma como diagnosticam os pacientes.

• IA escuta 10 segundos da sua voz e "diagnostica" diabetes tipo 2
• IA usa radiografia para diagnosticar doenças do coração

Na ocasião, os cientistas testaram um sistema específico de IA projetado para ajudar os médicos a chegar a um diagnóstico. A tecnologia realmente ajudou os médicos a diagnosticar os pacientes com mais precisão, e quando explicava como as decisões foram tomadas, a precisão aumentava ainda mais. 

Em contrapartida, quando os investigadores testaram uma IA que foi programada para ser intencionalmente tendenciosa no sentido de fornecer diagnósticos específicos, a utilização diminuiu a precisão dos médicos.

Para o estudo, os pesquisadores criaram um questionário online que foi apresentado a profissionais da área da saúde, com descrições realistas de pacientes que foram hospitalizados. As descrições incluíam os sintomas e exames de cada paciente fictício.

Durante a pesquisa, cada clínico diagnosticou dois pacientes sem ajuda de IA e seis pacientes com a ajuda da tecnologia, que classificou cada diagnóstico potencial com uma pontuação de certeza que ia de zero a 100. 

IA tendenciosa atrapalha diagnósticos

Assim, o time de cientistas analisou respostas de 457 médicos que diagnosticaram pelo menos um paciente fictício. Sem o auxílio de IA, os diagnósticos dos médicos foram precisos em cerca de 73% das vezes. Com a IA padrão e imparcial, esse percentual saltou para 75,9%.

No entanto, a IA tendenciosa diminuiu a precisão dos médicos para 61,7%, além de afetar a seleção dos tratamentos corretos pelos médicos. Os médicos prescreveram o tratamento correto apenas 55,1% das vezes quando mostraram previsões geradas pelo algoritmo tendencioso. A precisão deles sem IA foi de 70,3%.

IA na saúde

Já vimos diversos exemplos de uma boa relação entre a inteligência artificial e a saúde, como no diagnóstico de autismo ou na previsão de acidente vascular cerebral. No entanto, estudos também já destacaram que é necessário tomar cuidado com esse recurso.

No início deste mês, um estudo da Long Island University destacou que o ChatGPT pode fornecer informações erradas sobre remédios e, por conta disso, oferecer riscos aos usuários.

Fonte: JAMA