A Organização Mundial da Saúde (OMS) lançou uma nova publicação que lista as principais considerações regulamentares sobre Inteligência artificial (IA) para a saúde. A publicação enfatiza a importância de estabelecer a segurança e a eficácia dos sistemas de IA, disponibilizando rapidamente sistemas apropriados para aqueles que precisam deles e promovendo o diálogo entre as partes interessadas, incluindo desenvolvedores, reguladores, fabricantes, profissionais de saúde e pacientes.
Com a crescente disponibilidade de dados sobre cuidados de saúde e o rápido progresso das técnicas analíticas – quer sejam de aprendizagem automática, baseadas em lógica ou estatísticas-as ferramentas de IA podem transformar o sector da saúde. A OMS reconhece o potencial da IA para melhorar os resultados de saúde, reforçando os ensaios clínicos; melhorando o diagnóstico médico, o tratamento, o autocuidado e os cuidados centrados na pessoa; e complementando os conhecimentos, as competências e as competências dos profissionais de saúde. Por exemplo, a IA pode ser benéfica em ambientes com falta de especialistas médicos, por exemplo. na interpretação de exames de retina e imagens de Radiologia, entre muitos outros.
No entanto, as tecnologias de IA – incluindo grandes modelos linguísticos – estão a ser rapidamente implantadas, por vezes sem uma compreensão completa do seu desempenho, o que pode beneficiar ou prejudicar os utilizadores finais, incluindo os profissionais de saúde e os doentes. Ao utilizar dados de saúde, os sistemas de IA podem ter acesso a informações pessoais sensíveis, necessitando de quadros legais e regulamentares robustos para salvaguardar a privacidade, a segurança e a integridade, que esta publicação pretende ajudar a criar e manter.
Promessa e desafios para a saúde
“A inteligência Artificial é uma grande promessa para a saúde, mas também traz sérios desafios, incluindo coleta de dados antiéticos, ameaças à segurança cibernética e amplificação de preconceitos ou desinformação”, disse o Dr. Tedros Adhanom Ghebreyesus, Diretor-Geral da OMS. “Esta nova orientação apoiará os países a regular a IA de forma eficaz, a aproveitar o seu potencial, seja no tratamento do cancro ou na detecção da tuberculose, minimizando os riscos.”
Em resposta às crescentes necessidades dos países de gerir de forma responsável o rápido aumento das tecnologias de saúde da IA, a publicação descreve seis áreas para a regulamentação da IA para a saúde.
Para promover a confiança, a publicação salienta a importância da transparência e da documentação, nomeadamente através da documentação de todo o ciclo de vida do produto e do acompanhamento dos processos de desenvolvimento.
Para a gestão dos riscos, questões como a utilização prevista, a aprendizagem contínua, as intervenções humanas, os modelos de formação e as ameaças à cibersegurança devem ser abordadas de forma abrangente, com modelos o mais simples possível.
Validar externamente os dados e ser claro sobre o uso pretendido da IA ajuda a garantir a segurança e facilitar a regulamentação.
Um compromisso com a qualidade dos dados, por exemplo, através de uma avaliação rigorosa dos sistemas de pré-lançamento, é vital para garantir que os sistemas não amplifiquem vieses e erros.
Os desafios colocados por regulamentações importantes e complexas – como o Regulamento Geral de proteção de dados (GDPR) na Europa e a Lei de portabilidade e responsabilidade de seguros de saúde (HIPAA) nos Estados Unidos da América-são abordados com ênfase na compreensão do escopo dos Requisitos de jurisdição e consentimento, a serviço da privacidade e da proteção de dados.
Promover a colaboração entre órgãos reguladores, pacientes, profissionais de saúde, representantes do setor e parceiros governamentais pode ajudar a garantir que os produtos e serviços permaneçam em conformidade com a regulamentação ao longo de seus ciclos de vida.
Os sistemas de IA são complexos e dependem não apenas do código com o qual são construídos, mas também dos dados em que são treinados, que vêm de ambientes clínicos e interações do usuário – por exemplo. Uma melhor regulamentação pode ajudar a gerir os riscos de vieses de amplificação da IA nos dados de formação.
Por exemplo, pode ser difícil para os modelos de IA representarem com precisão a diversidade das populações, levando a vieses, imprecisões ou mesmo falhas. Para ajudar a atenuar estes riscos, podem ser utilizados regulamentos para garantir que os atributos – como género, raça e etnia – das pessoas incluídas nos dados de formação sejam comunicados e que os conjuntos de dados sejam intencionalmente tornados representativos.
A nova publicação da OMS Visa delinear princípios – chave que os governos e as autoridades reguladoras podem seguir para desenvolver novas orientações ou adaptar as orientações existentes sobre IA a nível nacional ou regional.