Agência da ONU propõe diretrizes éticas para Grandes Modelos Multimodais na saúde, destacando benefícios e riscos; recomendações incluem padrões, agência reguladora, auditorias e envolvimento colaborativo para garantir saúde global transparente e ética
Buscando uma governança global para o futuro da inteligência artificial na saúde, a Organização Mundial da Saúde, OMS, lançou diretrizes sobre ética e governança de Grandes Modelos Multimodais, LMMs na sigla em inglês.
Essa tecnologia de inteligência artificial generativa, que está crescendo rapidamente, está mudando a abordagem na área da saúde, sendo capaz de processar diversos tipos de solicitações, como texto, vídeos e imagens, para gerar resultados e imitar a comunicação humana.
Usos benéficos
Os LMMs, conhecidos por sua capacidade de realizar tarefas não programadas explicitamente, têm conquistado a atenção do mundo mais rápido do que qualquer outra aplicação na história.
Plataformas proeminentes, como ChatGPT, Bard e Bert, entraram para a consciência pública em 2023, marcando um avanço significativo nessa era de inovação. As novas orientações da OMS refletem a importância de direcionar e regulamentar o uso desses modelos para garantir benefícios éticos e eficazes na saúde global.
Assim, a OMS traz mais de 40 recomendações a serem consideradas por governos, empresas de tecnologia e prestadores de serviços de saúde para garantir o uso adequado da ferramenta para promover e proteger a saúde das populações.
Para o cientista-chefe da OMS, Jeremy Farrar, as tecnologias de IA generativa têm o potencial de melhorar os cuidados com a saúde, mas somente se riscos associados forem totalmente considerados. Ele avalia que para obter bons resultados e superar as desigualdades no setor, as informações e políticas precisam ser transparentes.
Benefícios e riscos potenciais
A OMS descreve cinco campos de aplicação para LMMs na área da saúde: diagnóstico e atendimento clínico, uso orientado pelo paciente, investigação de sintomas e tratamentos, tarefas administrativas e resumo de visitas em registros eletrônicos de saúde, educação médica e de enfermagem, bem como pesquisa científica e desenvolvimento de medicamentos.
No entanto, a agência alerta para riscos em produzir declarações falsas, imprecisas, tendenciosas ou incompletas, o que poderia prejudicar as pessoas que usam essas informações para tomar decisões de saúde. Além disso, os LMMs podem ser treinados com dados de baixa qualidade ou tendenciosos, seja por raça, etnia, ascendência, sexo, identidade de gênero ou idade.
A agência recomenda aos governos definam padrões para o desenvolvimento e implantação de LMMs na assistência médica. Isso inclui fornecer infraestrutura pública, exigir ética dos usuários em troca de acesso a conjuntos de dados públicos e utilizar leis para garantir a conformidade ética e de direitos humanos na aplicação de LMMs em medicina.
A proposta sugere a criação de uma agência reguladora para avaliação e aprovação de LMMs, além da implementação de auditorias pós-lançamento e avaliações de impacto conduzidas por terceiros independentes, com resultados publicados e desagregados por características dos usuários.
Desenvolvimento colaborativo
A OMS destaca a importância de envolver usuários potenciais e partes interessadas, como provedores médicos, pesquisadores e pacientes, desde os estágios iniciais do desenvolvimento de IA.
A medida deve ocorrer em um processo estruturado, inclusivo e transparente, permitindo que levantem questões éticas, expressem preocupações e forneçam ideias ao aplicativo de IA em consideração.
Os Grandes Modelos Multimodais são projetados para tarefas específicas, visando aprimorar a capacidade dos sistemas de saúde e atender aos interesses dos pacientes, enquanto os desenvolvedores devem antecipar e compreender possíveis resultados secundários.