La inteligencia artificial ya forma parte de la atención médica en ámbitos que van desde el análisis de imágenes y la predicción de riesgos hasta el apoyo a la documentación y los sistemas de chat para pacientes. La cuestión ética no radica simplemente en si la IA es «buena» o «mala», sino en si un sistema en particular mejora la atención sin generar riesgos inaceptables para los pacientes, los profesionales sanitarios o la comunidad.
Para quienes se inician en el tema, el enfoque más útil es seguir el proceso de toma de decisiones en orden: comprender el funcionamiento del sistema, identificar a quiénes puede afectar, verificar la evidencia y los datos que lo respaldan, definir el rol humano y decidir cómo se detectarán y corregirán los problemas. Este artículo explica dicho proceso sin presuponer conocimientos técnicos.
La inteligencia artificial (IA) es un término amplio que engloba sistemas informáticos que realizan tareas asociadas al razonamiento humano, el reconocimiento de patrones, la predicción o la generación de contenido. El aprendizaje automático es un subconjunto de la IA en el que un modelo aprende patrones a partir de datos, en lugar de seguir únicamente reglas predefinidas. La IA generativa produce contenido nuevo, como texto, imágenes o resúmenes. En medicina, un sistema generativo podría redactar una nota clínica, responder a la pregunta de un paciente o resumir un historial clínico.
Estas categorías son importantes porque el riesgo ético depende de la tarea. Un sistema que formatea notas de citas no representa el mismo peligro que un modelo que influye en la detección del cáncer, la clasificación de pacientes, la dosificación de medicamentos o el acceso a la atención médica. Del mismo modo, la palabra «IA» no significa que un sistema sea autónomo. Muchas herramientas están diseñadas para apoyar al médico, no para reemplazarlo.
La guía fundamental de la Organización Mundial de la Salud (OMS ) de 2021 sobre ética y gobernanza de la IA para la salud hace hincapié en la autonomía humana, la seguridad, la transparencia, la rendición de cuentas, la inclusión, la equidad y el uso sostenible. Posteriormente, en marzo de 2025, la OMS publicó una guía sobre modelos multimodales a gran escala , lo que refleja el auge de los sistemas generativos capaces de procesar diversos tipos de información sanitaria.
Antes de preguntarse si una herramienta de IA es ética, describa su uso previsto en una sola frase. Por ejemplo: «Este sistema clasifica radiografías de tórax para su revisión por radiólogos» es mucho más útil que «Esta es una plataforma de radiología con IA». El uso previsto indica qué tipo de error es relevante, a quién afecta y cuánta supervisión humana se requiere.
| Pregunta para responder | Por qué es importante | Cómo se ve una respuesta más contundente |
|---|---|---|
| ¿Qué decisión influye el sistema? | El riesgo aumenta cuando el resultado afecta al diagnóstico, al tratamiento, a la clasificación de pacientes o al acceso a los servicios. | Un caso de uso específico, documentado y con límites claros. |
| ¿Quiénes estuvieron representados en los datos de desarrollo y pruebas? | El rendimiento puede variar según la edad, el sexo, la raza, la ubicación geográfica, la gravedad de la enfermedad, los dispositivos utilizados o los entornos de atención médica. | La evidencia incluye subgrupos clínicamente relevantes y validación externa. |
| ¿Qué ocurre cuando la IA se equivoca? | Un pequeño margen de error puede ser importante cuando las consecuencias son graves. | Se definieron los procedimientos de revisión humana, escalamiento y medidas alternativas. |
| ¿Qué datos entran o salen del sistema? | Los datos de salud pueden revelar información altamente sensible. | Minimización de datos, controles de acceso, reglas de retención y responsabilidades claras para los proveedores. |
| ¿Puede cambiar el rendimiento después de la implementación? | Los modelos, los flujos de trabajo, las poblaciones de pacientes y la práctica clínica pueden variar con el tiempo. | Control de versiones, monitorización, revalidación y gestión de cambios. |
Un modelo puede ser estadísticamente impresionante y aun así resultar inseguro en un flujo de trabajo específico. Un falso negativo puede retrasar el tratamiento; un falso positivo puede provocar ansiedad, pruebas invasivas o costes innecesarios. Por lo tanto, la métrica adecuada depende del propósito clínico. La mera «precisión» puede ocultar importantes compensaciones entre sensibilidad, especificidad, calibración y rendimiento en subgrupos.
Una regla básica útil es preguntarse cuál es el peor error posible y cómo se detectaría. Si la respuesta es "el médico lo notará", la siguiente pregunta es si el flujo de trabajo realmente le proporciona al médico suficiente información y tiempo para detectarlo.
El sesgo algorítmico es un patrón sistemático que produce diferencias injustas o clínicamente inapropiadas entre grupos. Este sesgo puede introducirse a través de datos de entrenamiento no representativos, desigualdades históricas, diferencias en las mediciones o la elección de una variable objetivo.
Un ejemplo conocido proviene de un estudio publicado en 2019 en la revista Science sobre un algoritmo de salud pública ampliamente utilizado . Los investigadores detectaron sesgos raciales debido a que el sistema utilizaba el gasto sanitario como indicador indirecto de las necesidades de salud. Dado que el acceso desigual puede conllevar un menor gasto incluso cuando la enfermedad es grave, este indicador distorsionaba la identificación de quienes recibían atención adicional. La lección va más allá de este algoritmo: un objetivo conveniente puede encubrir la inequidad existente, incluso cuando la raza no se incluye explícitamente como variable de entrada.
Antes de su implementación, pregunte si la herramienta ha sido evaluada en la población y el entorno donde se utilizará. Tras su implementación, compare los resultados entre grupos clínicamente relevantes en lugar de asumir que un único indicador de rendimiento general es suficiente.
Los sistemas de IA suelen mejorar al recibir más datos, pero la ética sanitaria no considera la recopilación máxima de datos como algo automáticamente beneficioso. La privacidad está ligada a la dignidad, la autonomía, la confianza y la posibilidad de sufrir daños por el acceso no autorizado o el uso indebido.
En Estados Unidos, la Regla de Seguridad de HIPAA se aplica a la información sanitaria electrónica protegida que poseen las entidades cubiertas y los socios comerciales, pero no todas las aplicaciones de salud ni los servicios de IA para el consumidor están sujetos a HIPAA. La Regla de Notificación de Violaciones de Seguridad Sanitaria de la FTC puede aplicarse a ciertos proveedores de registros médicos personales y entidades relacionadas que no están sujetas a HIPAA. Esta distinción es importante al decidir si se puede incorporar información confidencial del paciente en una herramienta de IA para el consumidor.
Para una verificación práctica, identifique qué información se envía al proveedor del modelo, dónde se almacena, cuánto tiempo se conserva, si se utiliza para mejorar los modelos, quién puede acceder a ella y qué sucede si el servicio cambia de propietario o de política.
La explicabilidad implica proporcionar información que ayude a comprender por qué un sistema produjo un resultado o cómo debe interpretarse dicho resultado. No todos los modelos pueden ofrecer una explicación causal sencilla, y una explicación fluida generada a posteriori no prueba que refleje el razonamiento real del modelo.
Por lo tanto, el objetivo ético no es «lograr que cada modelo sea totalmente explicable», sino proporcionar la transparencia suficiente para que las personas afectadas puedan usar el sistema de forma segura. Los profesionales clínicos pueden necesitar información sobre el uso previsto, los datos de entrada, las limitaciones, el nivel de confianza, la población de validación y los modos de fallo conocidos. Los pacientes pueden necesitar una explicación clara de cómo la IA influyó en una decisión importante y quién sigue siendo responsable de su atención.
La autonomía es la capacidad del paciente para tomar decisiones informadas sobre su atención médica. La IA complica la autonomía porque su función puede ser invisible. Un paciente puede preocuparse, con razón, de si un diagnóstico, una recomendación de tratamiento o una decisión de priorización se vieron influenciados por un algoritmo, especialmente cuando el sistema utiliza datos sensibles o introduce una incertidumbre significativa.
No todas las funciones del software en segundo plano requieren un formulario de consentimiento independiente. El umbral ético depende de la relevancia del rol de la IA, la legislación local, las políticas institucionales y la naturaleza del riesgo. Un principio útil es que la divulgación debe reforzarse a medida que el sistema adquiere mayor influencia en las decisiones que afectan al paciente.
Si una recomendación de IA causa daño, puede resultar difícil determinar la responsabilidad entre el desarrollador, el hospital, el médico, el proveedor de datos y la organización que configuró la herramienta. Decir que “hay un humano involucrado” no resuelve este problema si ese humano carece de autoridad, capacitación, tiempo o información para cuestionar el resultado.
La rendición de cuentas debe diseñarse antes de la implementación. La organización debe saber quién aprueba el sistema, quién puede anularlo, quién investiga los incidentes, quién se comunica con el proveedor, quién decide si se suspende su uso y quién se comunica con los pacientes afectados.
El sesgo de automatización es la tendencia a confiar demasiado en una sugerencia automatizada. En el ámbito sanitario, esto puede significar pasar por alto síntomas contradictorios, aceptar una nota generada sin verificarla o considerar una lista clasificada como una verdad objetiva.
La IA generativa plantea otro desafío: puede producir afirmaciones seguras pero sin fundamento. Esto hace que la verificación sea esencial para resúmenes médicos, mensajes a pacientes, sugerencias de codificación o sistemas de apoyo a la toma de decisiones. La revisión humana es más útil cuando los revisores pueden ver los datos originales y se espera que discrepen cuando sea necesario.
La IA puede ampliar el acceso ayudando a especialistas escasos, traduciendo información o automatizando tareas rutinarias. Sin embargo, también puede aumentar las desigualdades si los sistemas de salud con mayores recursos reciben herramientas más seguras y mejor validadas, mientras que las clínicas más pequeñas reciben productos de menor calidad o no pueden costear la infraestructura necesaria para su monitorización.
Por lo tanto, la equidad abarca más que el sesgo del modelo. También incluye quién tiene acceso a la tecnología, qué idioma se admite, si se tienen en cuenta las necesidades de las personas con discapacidad, si el sistema funciona con equipos antiguos y si los pacientes sin conexión a internet fiable o teléfonos inteligentes se ven perjudicados.
No es necesario reproducir las fórmulas matemáticas del modelo para formular buenas preguntas. Comience con evidencia que vincule la herramienta con su uso clínico previsto. Busque validación en entornos similares al suyo, resultados de subgrupos que coincidan con su población de pacientes y una descripción clara de para qué no debe utilizarse la herramienta.
Luego, examine el flujo de trabajo. ¿Dónde aparece el resultado? ¿Es una recomendación o activa automáticamente una acción? ¿Puede un médico descartarlo? ¿Se registran las anulaciones? ¿Qué sucede durante el tiempo de inactividad? Un modelo técnicamente sólido puede volverse inseguro al integrarse en un proceso mal diseñado.
A continuación, conviene revisar el control de cambios. Los sistemas de IA pueden evolucionar. En Estados Unidos, la FDA ha publicado una guía definitiva sobre planes de control de cambios predeterminados para las funciones de software de dispositivos con IA , donde se explica cómo describir y evaluar ciertas modificaciones planificadas en una solicitud de registro. Incluso fuera del ámbito de los dispositivos regulados, la lección ética subyacente resulta útil: las organizaciones deben saber cuándo cambia un modelo y qué evidencia se requiere antes de utilizar la nueva versión.
Una implementación responsable debe ofrecer algo más que un resultado prometedor. Debe demostrar que el sistema funciona en un entorno real, que no se perjudica sistemáticamente a subgrupos importantes, que los profesionales sanitarios saben cuándo recurrir a él y que los pacientes siguen teniendo acceso a una atención humana y a explicaciones claras.
Entre los aspectos positivos se incluyen un rendimiento estable tras la implementación, un seguimiento claro de las versiones, una revisión documentada de los incidentes, rutas de escalamiento explícitas, monitorización de subgrupos y la posibilidad de detener o revertir el sistema. Otro buen indicador es que el personal puede describir las limitaciones de la herramienta sin necesidad de consultar un folleto de marketing.
Es necesario cambiar de rumbo cuando el rendimiento del modelo se desvía, los patrones de error se concentran en un subgrupo, los usuarios empiezan a considerar las recomendaciones como obligatorias, el proveedor modifica el modelo sin previo aviso o la organización no puede explicar el destino de los datos de los pacientes. Un sistema que no se puede supervisar es difícil de gestionar de forma responsable.
La regulación puede responder preguntas importantes sobre seguridad, eficacia, acceso al mercado y obligaciones legales, pero la evaluación ética es más amplia. En Estados Unidos, la FDA mantiene una lista pública de dispositivos médicos con inteligencia artificial autorizados para su comercialización . La FDA también publicó y reeditó su guía final sobre software de apoyo a la toma de decisiones clínicas en enero de 2026 , aclarando cuándo ciertas funciones de apoyo a la toma de decisiones pueden quedar fuera de la definición de dispositivo médico y cuándo se aplican las políticas existentes sobre dispositivos.
En la Unión Europea, la Ley de IA utiliza un marco basado en el riesgo . A partir de septiembre de 2026, la mayor parte de la Ley es aplicable, si bien la Comisión Europea indica que las normas de alto riesgo para los sistemas de IA integrados en productos regulados tendrán una fecha de aplicación posterior, el 2 de agosto de 2028, tras las modificaciones de simplificación de 2026. Dado que la clasificación depende de la finalidad prevista y de la normativa aplicable al producto, las organizaciones no deben asumir que todos los sistemas de IA para el sector sanitario tienen las mismas obligaciones.
El cumplimiento normativo es un requisito mínimo, no un veredicto ético definitivo. Una herramienta legalmente comercializable puede, sin embargo, no ser adecuada para un hospital, una población de pacientes o un flujo de trabajo específicos.
El principal desafío ético de la IA en la atención médica no radica en si las máquinas pueden hacer predicciones útiles, sino en si las personas pueden implementar esas predicciones de manera que se preserve la seguridad, la equidad, la privacidad, la autonomía y la responsabilidad.
Para quienes se inician en este campo, el mejor punto de partida es lo concreto: definir la decisión que se está influyendo, verificar la evidencia, analizar quién está representado en los datos, mapear el flujo de datos, diseñar una supervisión humana eficaz y decidir de antemano qué evidencia justificaría detener o interrumpir el sistema. Este enfoque no elimina todos los dilemas éticos, pero transforma los principios abstractos en cuestiones que pueden someterse a prueba, documentarse y mejorarse.
Este artículo tiene fines educativos y no sustituye el asesoramiento clínico, legal, normativo o institucional para un sistema de IA específico.
Vea cómo las fábricas escalan los sistemas autónomos en robótica, robots móviles autónomos (AMR), inteligencia artificial (IA), sistemas digitales, seguridad y ciberseguridad a través de un ejemplo hipotético de una planta claramente identificada.
Compara los principales programas de grado en BCI, neuroingeniería y neurotecnología, desde la licenciatura hasta el doctorado, y descubre qué estudiar antes de presentar tu solicitud.
Cómo el UTM puede hacer que las operaciones con drones a baja altitud sean más seguras y escalables, desde el intercambio de datos y la autorización hasta la gestión de conflictos y la integración con el ATM.
Un plan práctico de desintoxicación tecnológica para reducir la sobrecarga digital, proteger el sueño y la concentración, y desarrollar hábitos de uso de pantallas más saludables sin renunciar a la tecnología útil.
La realidad aumentada y la realidad virtual vuelven a cobrar fuerza en 2026, pero no en su formato de metaverso tradicional. Descubre dónde encajan la realidad mixta, la computación espacial y las gafas con inteligencia artificial.
Comprender los dilemas éticos de la IA en la atención médica, incluidos los sesgos, la privacidad, el consentimiento, la transparencia, la rendición de cuentas y la supervisión humana.
Descubre cómo la Web3 está transformando la economía digital en 2026 a través de la tokenización, las stablecoins, los contratos inteligentes, la regulación y la adopción en el mundo real.
Crea tu primer asistente de IA personalizado con Python: instrucciones claras, una herramienta segura, gestión de memoria, pruebas y guía de implementación para principiantes.
A calm, practical guide to the cybersecurity threats shaping fall 2026, with clear outcomes, warning signs, escalation points, and limits for each defense.
Priorice los termostatos inteligentes, los sensores de fugas, las alarmas de monóxido de carbono, los monitores de humedad y la conectividad fiable antes del invierno, con señales claras de que cada actualización funciona correctamente.
