Inteligencia artificial generativa (IA): la OMS publica nuevas orientaciones sobre la gobernanza de los LMM

OMS ha publicado nuevas orientaciones sobre la ética y la gobernanza de grandes modelos multimodales (LMM) para su uso adecuado para promover y proteger la salud de las poblaciones. Los LMM son un tipo de generativo de rápido crecimiento. inteligencia artificial (IA) tecnología que tiene cinco amplias aplicaciones para la salud in 

1. Diagnóstico y atención clínica, como responder a las consultas escritas de los pacientes; 

2. Uso guiado por el paciente, como para investigar síntomas y tratamientos; 

3. Tareas administrativas y de oficina, como documentar y resumir las visitas de pacientes dentro de registros médicos electrónicos; 

4. Educación médica y de enfermería, incluido proporcionar a los alumnos encuentros simulados con pacientes, y; 

5. Investigación científica y desarrollo de fármacos, incluida la identificación de nuevos compuestos. 

Sin embargo, estas aplicaciones en el sector sanitario corren el riesgo de producir declaraciones falsas, inexactas, sesgadas o incompletas, lo que podría perjudicar a las personas que utilizan dicha información para tomar decisiones de salud. Además, los LMM pueden estar entrenados con datos de mala calidad o sesgados, ya sea por raza, etnia, ascendencia, sexo, identidad de género o edad. También existen riesgos más amplios para los sistemas de salud, como la accesibilidad y asequibilidad de los LMM de mejor rendimiento. Los LMM también pueden fomentar un "sesgo de automatización" por parte de los profesionales de la salud y los pacientes, mediante el cual se pasan por alto errores que de otro modo se habrían identificado o se delegan incorrectamente decisiones difíciles a un LMM. Los LMM, al igual que otras formas de AI, también son vulnerables a riesgos de ciberseguridad que podrían poner en peligro la información del paciente o la confiabilidad de estos algoritmos y la prestación de atención médica en general. 

Por lo tanto, para crear LMM seguros y eficaces, la OMS ha hecho recomendaciones a los gobiernos y desarrolladores de LMM. 

Los gobiernos tienen la responsabilidad principal de establecer estándares para el desarrollo y despliegue de LMM, y su integración y uso con fines médicos y de salud pública. Los gobiernos deben invertir o proporcionar infraestructura pública o sin fines de lucro, incluida potencia informática y conjuntos de datos públicos, accesibles a los desarrolladores de los sectores público, privado y sin fines de lucro, que requiera que los usuarios se adhieran a principios y valores éticos en intercambio por acceso. 

· Utilizar leyes, políticas y regulaciones para garantizar que los LMM y las aplicaciones utilizadas en el cuidado de la salud y la medicina, independientemente del riesgo o beneficio asociado con el AI tecnología, cumplir obligaciones éticas y estándares de derechos humanos que afectan, por ejemplo, la dignidad, la autonomía o la privacidad de una persona. 

· Asignar una agencia reguladora existente o nueva para evaluar y aprobar LMM y aplicaciones destinadas a su uso en atención médica o medicina, según lo permitan los recursos. 

· Introducir auditorías posteriores a la liberación y evaluaciones de impacto obligatorias, incluso para la protección de datos y los derechos humanos, por parte de terceros independientes cuando un LMM se implemente a gran escala. Las auditorías y las evaluaciones de impacto deben publicarse. 

y debe incluir resultados e impactos desglosados ​​por tipo de usuario, incluyendo, por ejemplo, por edad, raza o discapacidad. 

· Los LMM no sólo están diseñados por científicos e ingenieros. Los usuarios potenciales y todas las partes interesadas directas e indirectas, incluidos los proveedores médicos, los investigadores científicos, los profesionales de la salud y los pacientes, deben participar desde las primeras etapas del proceso. AI desarrollo en un diseño estructurado, inclusivo y transparente y oportunidades para plantear cuestiones éticas, expresar inquietudes y brindar aportes para la AI solicitud bajo consideración. 

Los LMM están diseñados para realizar tareas bien definidas con la precisión y confiabilidad necesarias para mejorar la capacidad de los sistemas de salud y promover los intereses de los pacientes. Los desarrolladores también deberían poder predecir y comprender posibles resultados secundarios. 

*** 

Fuente: 

OMS 2024. Ética y gobernanza de la inteligencia artificial para la salud: orientación sobre grandes modelos multimodales. Disponible en https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y 

***