Dos días después del lanzamiento, Sanidad se vio obligada a desconectarla por errores graves en sus respuestas. Todo ello tras haber destinado 365.000 euros de dinero público al proyecto.

La IA del Gobierno es retirada en 48 horas

De esa inversión, 332.000 euros fueron dirigidos al desarrollo principal de la herramienta, mientras que los 33.000 euros restantes se destinaron a añadir dos funcionalidades extra. El desarrollo corrió inicialmente a cargo de Aura Group, una empresa que fue posteriormente absorbida por la consultora tecnológica Izertis, encargada de completar el proyecto. Según el Ministerio de Sanidad, MeQA fue concebida para facilitar el acceso a información oficial sobre medicamentos, haciéndola más comprensible para cualquier persona gracias a un modelo de lenguaje natural, según afirma la propia web de la AEMPS.

En la práctica, la IA acumuló casi 30.000 consultas en sus dos días de funcionamiento, lo que revela el interés que generó entre los ciudadanos, según los datos que pudo obtener The Objective, cifras que no han sido revelas oficialmente. Sin embargo, ese volumen de actividad también permitió detectar fallos que podrían haber puesto en riesgo la salud de los usuarios. Uno de los casos más preocupantes fue una respuesta errónea sobre la dosis de Apiretal para una niña de 31 kilos. Aunque la IA ofreció una dosis base correcta, al intentar realizar un cálculo adicional cometió un error de unidades que daba lugar a una recomendación peligrosa.

La herramienta fue lanzada el pasado 13 de mayo, y el 15 de mayo, apenas dos días después de su estreno, la Agencia Española de Medicamentos y Productos Sanitarios, comunicó la retirada del servicio a través de un mensaje en la red social X, anteriormente conocida como Twitter, como se aprecia a continuación:

En el tuit, el organismo explicaba que “aunque en la mayor parte de los casos las respuestas son correctas, existen algunos errores” y aseguraba que MeQA volvería a estar disponible “lo más pronto posible”. Desde entonces, no se ha concretado una fecha para su regreso ni se han ofrecido detalles sobre cómo se abordarán los fallos detectados.

La retirada del servicio resulta especialmente significativa porque mientras el Ministerio de Sanidad presentaba en su web la IA como una herramienta pionera para ofrecernos una manera totalmente accesible y cómoda de hacer consultas sobre los medicamentos, el propio sistema estaba ofreciendo recomendaciones incorrectas. Entre sus funciones destacaban la posibilidad de consultar la compatibilidad entre fármacos, aclarar dudas sobre los efectos adversos o saber si un medicamento impedía conducir. El objetivo era muy ambicioso, pero la realidad ha terminado empañando el discurso institucional.

¿Por qué falló MeQa?

Según la Aemps, la intención nunca fue reemplazar a los farmacéuticos, sino ofrecer una ayuda adicional al ciudadano con respuestas basadas en información oficial. Pero el problema de fondo está en la confianza, ya que si una IA patrocinada por el Estado falla en algo tan sensible como las dosis de medicamentos para menores, el margen de error no solo es inadmisible, sino peligroso. Y es precisamente eso lo que ha obligado a la retirada urgente del servicio.

Este paso en falso no es el primero. Como antecedente, el Gobierno ya invirtió dos millones de euros en una IA pública plurilingüe que ya en su lanzamiento era una herramienta obsoleta y dejó la duda entre la ciudadanía: ¿estamos invirtiendo en tecnología eficaz o se está haciendo solo por acaparar titulares?

Importante: Información sobre medicamentos

Cualquier duda sobre las dosis, compatibilidad o efectos de un medicamento debe ser consultada siempre con un médico o farmacéutico. No confíe en herramientas de IA no certificadas para decisiones sobre su salud. Las fuentes oficiales y seguras son:

• CIMA: El Centro de Información online de Medicamentos de la AEMPS. Acceder aquí.
• App aempsCIMA: Aplicación oficial para móviles.

Fuente: The Objective  | adslzone

• Inteligencia Artificial