OMS alerta para os riscos e os benefícios da IA generativa na saúde

Com a popularização da Inteligência Artificial (IA) generativa através do ChatGPT e do Bard, a Organização Mundial da Saúde (OMS) se posiciona sobre o uso das novas tecnologias na medicina. A entidade é favorável à inovação, desde que traga respostas seguras dentro do universo médico e consiga ampliar o acesso à saúde.

• O que é IA generativa?
• Como o chatGPT trata assuntos pesados? Nós testamos e essas foram as respostas

"A sua difusão pública meteórica e o seu crescente uso experimental [da IA generativa] para fins relacionados à saúde estão gerando um entusiasmo significativo em torno do potencial de atender às necessidades das pessoas na área da saúde”, afirma a OMS. Apesar do entusiasmo, o entendimento é de que, hoje, o momento ainda seja de cautela em relação ao seu uso.

Uso da IA generativa na medicina

No momento, alguns experimentos já medem o impacto associado ao uso da IA generativa dentro da saúde e algumas ferramentas são aperfeiçoadas para atender melhor esse público.

Por exemplo, nos Estados Unidos, um estudo da UC San Diego descobriu que o ChatGPT, da OpenAI, é mais empático que os próprios médicos na hora de responder dúvidas dos pacientes. Mais recentemente, a Microsoft e a Nuance lançaram uma IA baseada no ChatGPT que consegue transcrever prontuários médicos.

OMS defende mais testes com a IA generativa

Neste ponto, a revolução já provocada pela IA generativa é irreversível. Sem negar o movimento, a OMS defende, na verdade, uma postura mais desconfiada. “É imperativo que os riscos sejam examinados cuidadosamente ao usar ferramentas de modelo de linguagem para melhorar o acesso a informações de saúde, como uma ferramenta de apoio à decisão ou mesmo para aumentar a capacidade de diagnóstico em ambientes com poucos recursos para proteger a saúde das pessoas e reduzir a desigualdade”, orienta.

Caso o movimento de avaliação de riscos não seja feito antes da implementação massiva, inúmeras complicações poderão ser provocadas. Na visão da OMS, entre os riscos da “adoção precipitada de sistemas não testados”, estão:

• Erros de diagnóstico e de tratamento por parte dos profissionais de saúde;
• Danos à saúde dos pacientes;
• Perda de confiança na IA generativa;
• Atrasar o acesso aos potenciais benefícios que a tecnologia pode proporcionar, especialmente na área da saúde.

Cuidados necessários no uso da IA generativa

Saindo da relação direta entre os pacientes, os médicos e a IA generativa, a OMS também levanta alguns pontos que devem ser considerados no treinamento e no desenvolvimento dos modelos de linguagem. Por exemplo, as interações devem ser confidenciais quando o assunto é saúde, já que o diagnóstico cabe apenas a pessoa envolvida.

Além disso, é fundamental se atentar a qual base de dados será usada no treinamento de uma IA. Se alimentada por informações enganosas ou imprecisas, a ferramenta irá gerar conteúdos incorretos. Aqui, é preciso incluir um risco adicional: como as respostas geradas parecem confiáveis, o usuário final pode ser enganado, o que implica em riscos à saúde.

Considerando essas questões e a manipulação dos sistemas envolvidos, a IA generativa também pode ser usada para “gerar e disseminar desinformação altamente convincente na forma de conteúdo de texto, áudio ou vídeo”, causando confusão.

Diante desse cenário, "a OMS propõe que essas preocupações sejam abordadas e que as evidências claras de benefícios sejam medidas antes de seu uso generalizado em cuidados de saúde e na medicina de rotina — seja por indivíduos, prestadores de cuidados, administradores de sistemas de saúde e formuladores de políticas”, completa.

Fonte: OMS