Antes de que la Administración de Drogas y Alimentos de los EE. UU. (FDA) apruebe un medicamento, debe demostrar tanto seguridad como eficacia. Sin embargo, la FDA no exige comprender el mecanismo de acción de un medicamento para su aprobación. Esta aceptación de resultados sin explicación plantea la cuestión de si el proceso de toma de decisiones de «caja negra» de un modelo de inteligencia artificial seguro y eficaz debe explicarse completamente para garantizar la aprobación de la FDA.
Este tema fue uno de los muchos puntos de discusión abordados el lunes 4 de diciembre durante la Conferencia de Política Reguladora de Salud y Inteligencia Artificial de la Clínica Abdul Latif Jameel del MIT para el Aprendizaje Automático en Salud (Clínica Jameel), que desató una serie de discusiones y debates entre los profesores; reguladores de Estados Unidos, la UE y Nigeria; y expertos de la industria sobre la regulación de la IA en la salud.
A medida que el aprendizaje automático continúa evolucionando rápidamente, persiste la incertidumbre sobre si los reguladores pueden mantenerse al día y aun así reducir la probabilidad de un impacto dañino al tiempo que garantizan que sus respectivos países sigan siendo competitivos en innovación. Para promover un ambiente de discusión franca y abierta, la asistencia al evento de la Clínica Jameel fue altamente seleccionada para una audiencia de 100 asistentes que debatieron sobre la aplicación de la Regla de Chatham House, para permitir a los oradores el anonimato para discutir opiniones y argumentos controvertidos sin ser identificados como la fuente. .
En lugar de organizar un evento para generar rumores sobre la IA en la salud, el objetivo de la Clínica Jameel era crear un espacio para mantener informados a los reguladores sobre los avances más vanguardistas en IA, al tiempo que permitía a los profesores y expertos de la industria proponer enfoques nuevos o diferentes para la regulación. marcos para la IA en la salud, especialmente para su uso en entornos clínicos y en el desarrollo de fármacos.
El papel de la IA en la medicina es más relevante que nunca, mientras la industria lucha contra la escasez de mano de obra posterior a la pandemia, el aumento de los costos (“No es un problema salarial, a pesar de la creencia común”, dijo un orador), así como altas tasas de agotamiento y renuncias. entre los profesionales de la salud. Un orador sugirió que las prioridades para el despliegue de la IA clínica deberían centrarse más en las herramientas operativas que en el diagnóstico y tratamiento de los pacientes.
Un asistente señaló una “clara falta de educación entre todos los electores, no solo entre las comunidades de desarrolladores y los sistemas de atención médica, sino también entre los pacientes y los reguladores”. Dado que los médicos suelen ser los principales usuarios de las herramientas clínicas de IA, varios de los médicos presentes pidieron a los reguladores que los consultaran antes de tomar medidas.
La disponibilidad de datos fue una cuestión clave para la mayoría de los investigadores de IA presentes. Lamentaron la falta de datos para que sus herramientas de inteligencia artificial funcionen de manera efectiva. Muchos enfrentaron barreras como la propiedad intelectual que impedía el acceso o simplemente la escasez de conjuntos de datos grandes y de alta calidad. «Los desarrolladores no pueden gastar miles de millones en la creación de datos, pero la FDA sí puede», señaló un orador durante el evento. «Existe una incertidumbre sobre los precios que podría llevar a una inversión insuficiente en IA». Los oradores de la UE promocionaron el desarrollo de un sistema que obligue a los gobiernos a poner datos de salud a disposición de los investigadores de IA.
Al final del evento de un día de duración, muchos de los asistentes sugirieron prolongar el debate y elogiaron la curaduría selectiva y el entorno cerrado, que crearon un espacio único propicio para debates abiertos y productivos sobre la regulación de la IA en la salud. Una vez que se confirmen futuros eventos de seguimiento, la Clínica Jameel desarrollará talleres adicionales de naturaleza similar para mantener el impulso y mantener a los reguladores informados sobre los últimos avances en el campo.
“La estrella polar de cualquier sistema regulatorio es la seguridad”, reconoció un asistente. «El pensamiento generacional surge de ahí y luego trabaja en sentido descendente».