OMS soa alarme sobre integração da IA na saúde

De acordo com a Organização Mundial da Saúde (OMS), a aplicação da inteligência artificial (IA) neste sector pode gerar orientações incorrectas, violação de dados pessoais e desinformação, ameaçando o bem-estar humano e a saúde pública.

Em um comunicado divulgado na última semana, a entidade refere, citando especialistas internos, que a difusão de ferramentas como o ChatGPT, Bard, Bert e outras, e a sua crescente adopção no sector saúde, não está a ser acompanhada por mecanismos de controlo. Por isso, a entidade pede cautela na adopção destas plataformas dada a falta de garantias do seu uso seguro e ético no sector da saúde.

A organização sugere que essas preocupações sejam abordadas com base em evidências. No mesmo sentido, uma análise de riscos e benefícios deve preceder a utilização generalizada das ferramentas em cuidados de saúde e medicina de rotina, seja por indivíduos, prestadores de serviços e formuladores de políticas

A OMS reconhece que o uso apropriado de tecnologias, incluindo ferramentas de modelo de linguagem, pode contribuir para apoiar profissionais de saúde, pacientes, pesquisadores e cientistas. Podendo, igualmente, servir de ferramenta de apoio às decisões médicas e ajudar a aumentar a capacidade de diagnóstico em ambientes com poucos recursos.

No entanto, a entidade observa que a adopção precipitada destas ferramentas pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes e minar a confiança na inteligência artificial e em outras tecnologias futuras.

Algumas das principais preocupações da OMS com a IA incluem:

• A capacidade destas ferramentas gerarem respostas que podem parecer confiáveis ​​e plausíveis para o utilizador final, quando na verdade podem estar completamente incorrectas ou conter erros graves, especialmente para temas relacionados à saúde;

• O risco de serem treinadas em dados para os quais o consentimento pode não ter sido fornecido anteriormente e os desafios com a protecção dos dados fornecidos pelo utilizador para gerar uma resposta;

• A possibilidade das mesmas poderem ser utilizados para gerar e disseminar desinformação altamente convincente na forma de texto, áudio ou vídeo, tornando difícil para o público diferenciar o conteúdo falso do verdadeiro.

Já assistiu aos nossos vídeos no YouTube? Inscreva-se no nosso canal clicando aqui  !!!