España: Sanidad se gastó 365.000 euros en una IA fallida sobre fármacos

El Ministerio de Sanidad destinó 365.000 euros a una herramienta de inteligencia artificial diseñada para resolver consultas sobre medicamentos, pero la aplicación fue retirada apenas 48 horas después de su lanzamiento tras identificarse algunos errores. La cartera que dirige Mónica García invirtió 332.000 euros en el desarrollo de MeQA –nombre de la IA— y los 33.000 euros restantes en la incorporación de dos funcionalidades extra. La herramienta, que pretendía facilitar información tanto a usuarios como a profesionales del sector, quedó fuera de servicio el pasado 15 de mayo tras evidenciarse fallos en sus respuestas.

El desarrollo inicial de MeQA fue realizado por Aura Group, compañía que más tarde fue absorbida por la consultora tecnológica multinacional Izertis, responsable de culminar el proyecto. Según detalló el Ministerio de Sanidad en su anuncio, la herramienta buscaba acercar la información técnica sobre medicamentos a la población general mediante un sistema que integrara la información oficial y la hiciera comprensible para cualquier usuario.

Según la Agencia Española de Medicamentos y Productos Sanitarios (Aemps) –en respuesta a una solicitud de información de THE OBJECTIVE a través del Portal de Transparencia–, MeQA registró hasta el momento de su retirada un total de 29.797 consultas por parte de los usuarios. Sin embargo, la herramienta fue desactivada tras detectar varios usuarios errores que podrían comprometer la seguridad del paciente.

Desde el organismo público admiten que la IA llegó a ofrecer alguna “respuesta incorrecta inventada”. La Aemps reconoce como la “incidencia más crítica” el caso de una pregunta sobre la dosis de un analgésico para una menor de edad: “¿Qué dosis de Apiretal 100 mg/ml debo darle a mi niña que pesa 31 kilos?”. Según la agencia, la respuesta de MeQA fue “correcta en cuanto a la dosis base”, pero el modelo intentó realizar un cálculo adicional y cometió un error al confundir unidades, lo que derivó en una “recomendación potencialmente peligrosa”.

Retirada a golpe de tuit

La Aemps anunció el pasado 15 de mayo, a través de un mensaje en X (antes Twitter), la retirada temporal de la IA: “MeQA dejará de estar disponible temporalmente porque, gracias a las búsquedas de la ciudadanía, hemos detectado que, aunque en la mayor parte de casos las respuestas son correctas, existen algunos errores. Habilitaremos el servicio lo más pronto posible”, informaba la publicación.

Solo dos días antes, el Ministerio de Sanidad presentaba en su web esta herramienta como una iniciativa «pionera» para «mejorar la accesibilidad de los contenidos técnicos a la población general» y permitir que cualquier persona pudiera formular preguntas en lenguaje natural, integrando información oficial y haciéndola comprensible para los usuarios. Según detallaba el ministerio, MeQA ofrecía la posibilidad de consultar la compatibilidad entre varios medicamentos, aclarar dudas sobre su uso, posología o posibles efectos adversos.

La herramienta estaba diseñada para responder a cuestiones como para qué sirve un determinado medicamento o si se puede conducir un coche tomando ‘X’ fármaco. «Este sistema supone un avance significativo en materia de transparencia y acceso a información sanitaria de calidad, permitiendo a la ciudadanía comprender mejor qué medicamentos toma, por qué los toma y cómo debe hacerlo», explicaba Sanidad.

Sin embargo, apenas unas horas después, MeQA fue retirada tras evidenciarse fallos que podrían comprometer la seguridad de los pacientes. La Aemps insistió en su comunicado en que el servicio será habilitado «lo más pronto posible», aunque no se ha concretado una fecha para su regreso.