Por: Mtro. Rodolfo Guerrero Martínez

 

Durante años, regular la inteligencia artificial en el sector sanitario se entendió como un ejercicio de aprobación: un algoritmo se validaba, se autorizaba y, a partir de ahí, quedaba fuera del radar normativo. Bastaba con superar el filtro inicial para que la tecnología operara sin más escrutinio que el de su propio fabricante.

Esa lógica, heredada del expediente clásico de dispositivos médicos, muestra ya sus límites frente a sistemas que aprenden y modifican su comportamiento después de haber sido puestos en producción, porque lo que fue seguro en el banco de pruebas no necesariamente lo sigue siendo seis meses después, cuando el modelo procesa poblaciones distintas a las que lo entrenaron.

Precisamente la literatura más actual como El Arab et al., (2026) coincide en un diagnóstico que conviene tener en primera instancia: la confiabilidad de la inteligencia artificial clínica no es un logro puntual certificado una sola vez, sino una propiedad que debe sostenerse a lo largo de todo el ciclo de vida del sistema, desde la formulación del problema hasta su eventual retiro.

Dicho de otro modo, la pregunta relevante ya no es si un algoritmo mereció autorización en su momento, sino si continúa mereciéndola cada día que permanece en uso. Ese desplazamiento —de la autorización como punto final a la vigilancia como proceso continuo— es el hilo que atraviesa los próximos cinco puntos, cada uno de los cuales aborda una pieza distinta de ese engranaje regulatorio todavía en construcción.

Estándares técnicos internacionales del ciclo de vida

El consenso técnico internacional ya se pronunció en ese sentido, y lo hizo desde ángulos complementarios que conviene distinguir antes de tratarlos como sinónimos. Precisamente, la guía FUTURE-AI, resultado de un consorcio de más de un centenar de especialistas, articula treinta buenas prácticas alrededor de seis principios —equidad, universalidad, trazabilidad, usabilidad, robustez y explicabilidad— que cubren el diseño, el desarrollo, la validación, la regulación, el despliegue y el monitoreo posterior de las herramientas sanitarias como enfatizan Lekadir et al., (2025).

Su aporte central no es la lista de principios en sí, sino la insistencia en que ninguno de ellos puede verificarse de una vez y darse por satisfecho; cada uno exige revisión periódica, porque la explicabilidad que hoy convence a un comité de bioética puede resultar insuficiente cuando el sistema se actualiza. En paralelo, y desde una tradición regulatoria distinta, el Foro Internacional de Reguladores de Dispositivos Médicos formalizó diez principios de buenas prácticas de aprendizaje automático que exigen comprensión del uso previsto y participación multidisciplinaria durante todo el ciclo total del producto, no solo en la etapa de diseño (International Medical Device Regulators Forum, 2025).

A diferencia de FUTURE-AI, que nace del ámbito académico, este documento proviene de reguladores que después traducen sus principios en requisitos exigibles a los fabricantes, lo que le otorga un peso distinto a la hora de anticipar hacia dónde se moverán las autorizaciones sanitarias. Dicha arquitectura reaparece, adaptada a los sistemas generativos —los más difíciles de fiscalizar por su naturaleza no determinista—, en la propuesta de un ciclo total armonizado que distingue una fase previa a la comercialización centrada en gobernanza de datos y mitigación de sesgos, un tramo regulatorio de control de cambios mediante planes predeterminados, y una etapa poscomercialización de vigilancia con supervisión humana permanente (Armoundas & Singh, 2026).

Lo relevante de esta última propuesta es que reconoce, sin rodeos, que un modelo generativo nunca termina de desarrollarse: cada actualización relevante reabre, en los hechos, el ciclo entero.

Modelos institucionales de gobernanza y madurez

Sobre esa base técnica se han levantado modelos institucionales que buscan hacerla operable, lo cual significa, que intentan responder a la interrogante práctica de quién, dentro de un hospital o una secretaría de salud, debe encargarse de vigilar cada fase. El modelo de madurez HAIRA (Healthcare AI Governance Readiness Assessment), propuesto por Hussein et al., (2026), yace de la revisión sistemática de treinta y cinco marcos publicados entre 2019 y 2024, ofrece cinco niveles de gobernanza para que instituciones con distintos recursos —no solo los grandes sistemas hospitalarios con departamentos dedicados— tracen una ruta realista de avance.

Esta gradualidad importa particularmente para sistemas de salud latinoamericanos, donde exigir de entrada el nivel más sofisticado de gobernanza equivaldría, en la práctica, a excluir a la mayoría de las instituciones públicas de la posibilidad de adoptar estas tecnologías con algún control. El marco FAIR-AI (A practical Framework for Appropriate Implementation and Review of Artificial Intelligence), construido a partir de entrevistas con pacientes y personal clínico, aporta plantillas concretas de evaluación previa y monitoreo posterior a la implementación (Wells et al., 2025), lo que traduce el principio abstracto de supervisión continua en documentos que un comité hospitalario puede efectivamente llenar y archivar.

Y la propuesta de un formulario hospitalario de inteligencia artificial traslada al ámbito algorítmico una lógica ya familiar en farmacia clínica: registrar cada sistema, documentarlo mediante una monografía estandarizada y someterlo a compuertas de decisión que permiten prescribirlo, restringirlo o retirarlo según la evidencia acumulada, en vez de tratarlo como una simple compra tecnológica (Epelde, 2026).

La comparación con la farmacovigilancia no es casualidad, puesto que ambas disciplinas comparten el problema de vigilar un producto cuyo comportamiento en la población general puede diferir del observado en el ensayo que motivó su aprobación. Desde una perspectiva jurídica más detallada, se reconoce la llamada aproximación del verdadero ciclo de vida —desarrollada a partir de la experiencia regulatoria del Golfo Pérsico— insistiendo en que ninguno de esos modelos basta si no incorpora, en cada etapa, los principios clásicos del derecho sanitario tales como consentimiento informado, responsabilidad profesional y derechos del paciente, no solo controles de riesgo técnico (Solaiman et al., 2025).

Esta advertencia funciona como contrapeso necesario frente a la tentación de reducir la gobernanza algorítmica a un ejercicio puramente técnico, cuando en realidad su legitimidad depende, en última instancia, de categorías jurídicas que preceden por mucho a la inteligencia artificial.

III. Sesgo algorítmico y degradación del desempeño

Ese énfasis en la vigilancia continua no desea ser un ejercicio retórico, debido a que la evidencia empírica lo confirma con cierta contundencia. Por ejemplo, el desempeño observado en condiciones controladas no garantiza resultados equivalentes en la práctica real, y el sesgo algorítmico no se resuelve con una auditoría inicial: exige vigilancia sociotécnica sostenida, pues los sistemas pueden amplificar inequidades presentes en los datos de entrenamiento si nadie revisa su comportamiento tras el despliegue como señalan Altamirano et al. (2025).

Conviene subrayar el matiz sociotécnico de ese hallazgo, porque desplaza el problema del sesgo fuera del terreno exclusivamente estadístico, donde un algoritmo puede ser impecable en sus métricas de precisión y, aun así, perpetuar una brecha de acceso si su diseño ignoró cómo se distribuyen realmente los servicios de salud entre distintas regiones o grupos socioeconómicos.

A ese riesgo se suma un fenómeno distinto, aunque igualmente insidioso, el cual es la degradación progresiva —el denominado data drift (derivada de datos)—, que obliga a distinguir entre actualizaciones de software convencionales y modelos adaptativos de aprendizaje continuo, cada uno con exigencias distintas de control de versiones y revalidación (Guan et al., 2025). Mientras el sesgo suele originarse en el diseño y persistir de forma más o menos estable, el drift aparece con el tiempo y sin previo aviso, lo que exige mecanismos de detección activa y no solo controles documentales previos a la implementación. Juntos, ambos fenómenos ilustran por qué ningún marco de gobernanza que se limite a la etapa de autorización puede considerarse completo.

El Lineamiento mexicano: gobernanza por ciclo de vida completo

México no ha permanecido al margen de esta tendencia, aunque su desarrollo normativo avanza por dos vías que todavía no convergen del todo y que conviene examinar por separado. Inicialmente es administrativa, comprendiendo el Lineamiento para la Implementación de Sistemas de Soporte a la Decisión Clínica, emitido por la Secretaría de Salud, lo cual adopta un enfoque de gobernanza basado en el ciclo de vida completo, articulado en seis fases —desarrollo, validación, autorización, implementación, monitoreo continuo y retiro— y sostenido por el principio rector de humano al mando, conforme al cual las salidas de cualquier sistema algorítmico conservan un carácter auxiliar y no vinculante frente al juicio clínico (Secretaría de Salud, 2026).

La inclusión explícita de una fase de retiro merece destacarse, porque muchos marcos regulatorios se concentran en la entrada de la tecnología al mercado y descuidan las condiciones de su salida ordenada, dejando sin resolver qué ocurre con los pacientes que dependían de un sistema discontinuado.

El instrumento exige, además, que cada institución del Sistema Nacional de Salud cuente con una instancia multidisciplinaria capaz de autorizar, supervisar y, en su caso, recomendar la suspensión de estas tecnologías, y que los datos de entrenamiento reflejen la diversidad poblacional del país para evitar la pérdida de precisión de modelos entrenados en contextos ajenos (Secretaría de Salud, 2026).

Esta última exigencia responde a un problema muy concreto para un país como México: buena parte de los modelos de IA disponibles comercialmente se entrenaron con datos de poblaciones extranjeras, y trasladarlos sin ajuste a la práctica clínica nacional puede introducir errores sistemáticos que ninguna validación inicial detectaría si no se contrasta específicamente con la población mexicana.

La iniciativa legislativa ante el Congreso y la protección de datos

La segunda vía es legislativa y sigue en trámite ante la Cámara de Diputados, lo que le confiere un estatus distinto al del Lineamiento, es decir, mientras este ya rige como instrumento administrativo, la iniciativa aún depende de un proceso parlamentario cuyo desenlace no está garantizado. La iniciativa que adicionaría a la Ley General de Salud disposiciones específicas sobre inteligencia artificial aplicada a la salud propone que estos sistemas operen únicamente como herramienta de apoyo sujeta a decisión final del profesional sanitario, que su uso requiera consentimiento informado del paciente —incluido el derecho a rechazarlo sin perder acceso a alternativas terapéuticas— y que solo puedan emplearse sistemas previamente autorizados por la Secretaría de Salud, sometidos a auditorías periódicas orientadas a detectar sesgos y errores de desempeño (Ramírez Barba, 2025).

El derecho a rechazar la asistencia algorítmica sin penalización en el acceso a la atención es, quizá, la disposición más garantista del proyecto, porque reconoce que la aceptación tecnológica no puede convertirse en condición implícita para recibir un servicio de salud. El proyecto distribuye, además, responsabilidades diferenciadas entre profesionales, prestadores de servicios y desarrolladores, y faculta a la autoridad sanitaria para ordenar la suspensión o cancelación de un sistema riesgoso (Ramírez Barba, 2025). Esa distribución tripartita de responsabilidades resulta coherente con la complejidad real de la cadena de valor de estos sistemas, en la que ningún actor controla, por sí solo, todos los factores que determinan un resultado clínico.

Ambos instrumentos coinciden, sin haberlo planeado en conjunto, en un punto que la literatura internacional ya había anticipado: los datos sensibles usados para entrenar estos sistemas exigen anonimización, finalidad acotada y eliminación una vez agotada su utilidad, en armonía con el marco vigente de protección de datos personales (Ramírez Barba, 2025; Secretaría de Salud, 2026). Dicha coincidencia no planeada sugiere que, más allá de sus diferencias de origen y jerarquía normativa, ambos textos responden a una misma intuición regulatoria que empieza a consolidarse en el país.

Leídos en conjunto, estos cinco tópicos —los estándares técnicos internacionales, los modelos institucionales de madurez, el desafío persistente del sesgo y la degradación, y el doble movimiento normativo mexicano— dibujan un consenso que trasciende fronteras y que conviene enunciar con precisión: la legitimidad de la inteligencia artificial en salud ya no se juega en el momento de su aprobación, sino en la capacidad institucional de acompañarla, corregirla y, cuando corresponda, retirarla mientras opera.

Esa conclusión, sencilla de formular, resulta mucho más compleja de instrumentar, porque exige capacidades técnicas, presupuestales y de gobernanza que no todas las instituciones de salud poseen en igual medida. Como se ha señalado en espacios académicos internacionales como el Diálogo Internacional de Juristas organizado por la Sociedad Civil Coffee Law, esa tarea no puede recaer solo en la ingeniería ni solo en la norma; exige una gobernanza ética y multidisciplinaria capaz de traducir los avances científicos en marcos jurídicos lo bastante flexibles para no quedar rebasados por la velocidad de la innovación (Parejo Guzmán, 2025).

El reto para el derecho digital mexicano no es, pues, redactar una norma más, sino tender el puente entre el lenguaje técnico del ciclo de vida algorítmico y las categorías clásicas de responsabilidad, consentimiento y rectoría clínica que han sostenido, durante décadas, la confianza del paciente en el sistema de salud. Ese puente, en última instancia, es tarea de juristas tanto como de ingenieros.

Referencias

Altamirano, S., Vreeken, A., & Ghebreab, S. (2025). Machine learning and public health: Identifying and mitigating algorithmic bias through a systematic review. arXiv. https://arxiv.org/abs/2510.14669

Armoundas, A. A., & Singh, J. P. (2026). Total product lifecycle regulatory considerations and recommendations for generative AI-enabled medical devices. European Heart Journal – Digital Health, 7(3), ztag019. https://doi.org/10.1093/ehjdh/ztag019

El Arab, R. A., Mustafa, M. H., Almagharbeh, W. T., Saleem, N. H., Al Abdulmohsen, S., Boathab, R., & Bu Washl, M. (2026). Beyond model development in healthcare AI: Post-development robustness, post-deployment monitoring, and lifecycle governance—A scoping review of reviews. Healthcare, 14(11), 1459. https://doi.org/10.3390/healthcare14111459

Epelde, F. (2026). The AI hospital formulary: A practical governance framework for prescribing, monitoring, and deprescribing artificial intelligence in hospitals. Hospitals, 3(3), 15. https://doi.org/10.3390/hospitals3030015

Guan, H., Bates, D., & Zhou, L. (2025). Keeping medical AI healthy and trustworthy: A review of detection and correction methods for system degradation. arXiv. https://arxiv.org/abs/2506.17442

Hussein, R., Zink, A., Ramadan, B., Howard, F. M., Hightower, M., Shah, S., & Beaulieu-Jones, B. K. (2026). Advancing healthcare AI governance through a comprehensive maturity model based on systematic review. npj Digital Medicine, 9, 236. https://doi.org/10.1038/s41746-026-02418-7

International Medical Device Regulators Forum. (2025). Good machine learning practice for medical device development: Guiding principles (IMDRF/AIML WG/N88 Final).

Lekadir, K., Frangi, A. F., Porras, A. R., Glocker, B., Cintas, C., Langlotz, C. P., Weicken, E., Asselbergs, F. W., Prior, F., Collins, G. S., Kaissis, G., Tsakou, G., Buvat, I., Kalpathy-Cramer, J., Mongan, J., Schnabel, J. A., Kushibar, K., Riklund, K., Marias, K., … Starmans, M. P. A. (2025). FUTURE-AI: International consensus guideline for trustworthy and deployable artificial intelligence in healthcare. BMJ, 388, e081554. https://doi.org/10.1136/bmj-2024-081554

Parejo Guzmán, M. J. (2025, 6 de noviembre). Inteligencia artificial y derecho a la salud: reconfiguración del marco legal y ético [Ponencia]. Sexto Diálogo Internacional de Juristas, CoffeeLaw.

Ramírez Barba, É. J. (2025). Iniciativa que adiciona diversas disposiciones de la Ley General de Salud, en materia de inteligencia artificial aplicada a la salud. Cámara de Diputados, LXVI Legislatura del H. Congreso de la Unión.

Secretaría de Salud. (2026). Lineamiento para la implementación de sistemas de soporte a la decisión clínica y tecnologías de inteligencia artificial en el Sistema Nacional de Salud. Dirección General de Modernización del Sector Salud.

Solaiman, B., Mekki, Y. M., Qadir, J., Ghaly, M., Abdelkareem, M., & Al-Ansari, A. (2025). A «true lifecycle approach» towards governing healthcare AI with the GCC as a global governance model. npj Digital Medicine, 8, 337. https://doi.org/10.1038/s41746-025-01614-1

Wells, B. J., Nguyen, H. M., McWilliams, A., Pallini, M., Bovi, A., Kuzma, A., Kramer, J., Chou, S.-H., Hetherington, T., Corn, P., Taylor, Y. J., Cuison, A., Gagen, M., Isreal, M., & FAIR-AI Consortium. (2025). A practical framework for appropriate implementation and review of artificial intelligence (FAIR-AI) in healthcare. npj Digital Medicine, 8, 514. https://doi.org/10.1038/s41746-025-01900-y