Los dilemas éticos de la IA en la atención médica: una guía para principiantes sobre el uso responsable.

La inteligencia artificial ya forma parte de la atención médica en ámbitos que van desde el análisis de imágenes y la predicción de riesgos hasta el apoyo a la documentación y los sistemas de chat para pacientes. La cuestión ética no radica simplemente en si la IA es «buena» o «mala», sino en si un sistema en particular mejora la atención sin generar riesgos inaceptables para los pacientes, los profesionales sanitarios o la comunidad.

Para quienes se inician en el tema, el enfoque más útil es seguir el proceso de toma de decisiones en orden: comprender el funcionamiento del sistema, identificar a quiénes puede afectar, verificar la evidencia y los datos que lo respaldan, definir el rol humano y decidir cómo se detectarán y corregirán los problemas. Este artículo explica dicho proceso sin presuponer conocimientos técnicos.

Un médico analiza una imagen médica generada por inteligencia artificial con un paciente mayor durante una consulta clínica.
Un médico revisa una imagen médica obtenida mediante inteligencia artificial con un paciente, lo que ilustra por qué la explicación, el juicio humano y la participación del paciente siguen siendo fundamentales cuando los algoritmos influyen en la atención médica.

Primero, es importante saber qué significa realmente “IA en la atención médica”.

La inteligencia artificial (IA) es un término amplio que engloba sistemas informáticos que realizan tareas asociadas al razonamiento humano, el reconocimiento de patrones, la predicción o la generación de contenido. El aprendizaje automático es un subconjunto de la IA en el que un modelo aprende patrones a partir de datos, en lugar de seguir únicamente reglas predefinidas. La IA generativa produce contenido nuevo, como texto, imágenes o resúmenes. En medicina, un sistema generativo podría redactar una nota clínica, responder a la pregunta de un paciente o resumir un historial clínico.

Estas categorías son importantes porque el riesgo ético depende de la tarea. Un sistema que formatea notas de citas no representa el mismo peligro que un modelo que influye en la detección del cáncer, la clasificación de pacientes, la dosificación de medicamentos o el acceso a la atención médica. Del mismo modo, la palabra «IA» no significa que un sistema sea autónomo. Muchas herramientas están diseñadas para apoyar al médico, no para reemplazarlo.

La guía fundamental de la Organización Mundial de la Salud (OMS ) de 2021 sobre ética y gobernanza de la IA para la salud hace hincapié en la autonomía humana, la seguridad, la transparencia, la rendición de cuentas, la inclusión, la equidad y el uso sostenible. Posteriormente, en marzo de 2025, la OMS publicó una guía sobre modelos multimodales a gran escala , lo que refleja el auge de los sistemas generativos capaces de procesar diversos tipos de información sanitaria.

Qué preparar antes de evaluar o utilizar un sistema de IA para el cuidado de la salud.

Antes de preguntarse si una herramienta de IA es ética, describa su uso previsto en una sola frase. Por ejemplo: «Este sistema clasifica radiografías de tórax para su revisión por radiólogos» es mucho más útil que «Esta es una plataforma de radiología con IA». El uso previsto indica qué tipo de error es relevante, a quién afecta y cuánta supervisión humana se requiere.

Pregunta para responderPor qué es importanteCómo se ve una respuesta más contundente
¿Qué decisión influye el sistema?El riesgo aumenta cuando el resultado afecta al diagnóstico, al tratamiento, a la clasificación de pacientes o al acceso a los servicios.Un caso de uso específico, documentado y con límites claros.
¿Quiénes estuvieron representados en los datos de desarrollo y pruebas?El rendimiento puede variar según la edad, el sexo, la raza, la ubicación geográfica, la gravedad de la enfermedad, los dispositivos utilizados o los entornos de atención médica.La evidencia incluye subgrupos clínicamente relevantes y validación externa.
¿Qué ocurre cuando la IA se equivoca?Un pequeño margen de error puede ser importante cuando las consecuencias son graves.Se definieron los procedimientos de revisión humana, escalamiento y medidas alternativas.
¿Qué datos entran o salen del sistema?Los datos de salud pueden revelar información altamente sensible.Minimización de datos, controles de acceso, normas de retención y responsabilidades claras para los proveedores.
¿Puede cambiar el rendimiento después de la implementación?Los modelos, los flujos de trabajo, las poblaciones de pacientes y la práctica clínica pueden variar con el tiempo.Control de versiones, monitorización, revalidación y gestión de cambios.

Los dilemas éticos fundamentales

1. Precisión frente a daño

Un modelo puede ser estadísticamente impresionante y aun así resultar inseguro en un flujo de trabajo específico. Un falso negativo puede retrasar el tratamiento; un falso positivo puede provocar ansiedad, pruebas invasivas o costes innecesarios. Por lo tanto, la métrica adecuada depende del propósito clínico. La mera «precisión» puede ocultar importantes compensaciones entre sensibilidad, especificidad, calibración y rendimiento en subgrupos.

Una regla básica útil es preguntarse cuál es el peor error posible y cómo se detectaría. Si la respuesta es "el médico lo notará", la siguiente pregunta es si el flujo de trabajo realmente le proporciona al médico suficiente información y tiempo para detectarlo.

2. Sesgo y resultados desiguales

El sesgo algorítmico es un patrón sistemático que produce diferencias injustas o clínicamente inapropiadas entre grupos. Este sesgo puede introducirse a través de datos de entrenamiento no representativos, desigualdades históricas, diferencias en las mediciones o la elección de una variable objetivo.

Un ejemplo conocido proviene de un estudio publicado en 2019 en la revista Science sobre un algoritmo de salud pública ampliamente utilizado . Los investigadores detectaron sesgos raciales debido a que el sistema utilizaba el gasto sanitario como indicador indirecto de las necesidades de salud. Dado que el acceso desigual puede conllevar un menor gasto incluso cuando la enfermedad es grave, este indicador distorsionaba la identificación de quienes recibían atención adicional. La lección va más allá de este algoritmo: un objetivo conveniente puede encubrir la inequidad existente, incluso cuando la raza no se incluye explícitamente como variable de entrada.

Antes de su implementación, pregunte si la herramienta ha sido evaluada en la población y el entorno donde se utilizará. Tras su implementación, compare los resultados entre grupos clínicamente relevantes en lugar de asumir que un único indicador de rendimiento general es suficiente.

3. Privacidad frente a la necesidad de datos.

Los sistemas de IA suelen mejorar al recibir más datos, pero la ética sanitaria no considera la recopilación máxima de datos como algo automáticamente beneficioso. La privacidad está ligada a la dignidad, la autonomía, la confianza y la posibilidad de sufrir daños por el acceso no autorizado o el uso indebido.

En Estados Unidos, la Regla de Seguridad de HIPAA se aplica a la información sanitaria electrónica protegida que poseen las entidades cubiertas y los socios comerciales, pero no todas las aplicaciones de salud ni los servicios de IA para el consumidor están sujetos a HIPAA. La Regla de Notificación de Violaciones de Seguridad Sanitaria de la FTC puede aplicarse a ciertos proveedores de registros médicos personales y entidades relacionadas que no están sujetas a HIPAA. Esta distinción es importante al decidir si se puede incorporar información confidencial del paciente en una herramienta de IA para el consumidor.

Para una verificación práctica, identifique qué información se envía al proveedor del modelo, dónde se almacena, cuánto tiempo se conserva, si se utiliza para mejorar los modelos, quién puede acceder a ella y qué sucede si el servicio cambia de propietario o de política.

4. Explicabilidad frente a rendimiento

La explicabilidad implica proporcionar información que ayude a comprender por qué un sistema produjo un resultado o cómo debe interpretarse dicho resultado. No todos los modelos pueden ofrecer una explicación causal sencilla, y una explicación fluida generada a posteriori no prueba que refleje el razonamiento real del modelo.

Por lo tanto, el objetivo ético no es «lograr que cada modelo sea totalmente explicable», sino proporcionar la transparencia suficiente para que las personas afectadas puedan usar el sistema de forma segura. Los profesionales clínicos pueden necesitar información sobre el uso previsto, los datos de entrada, las limitaciones, el nivel de confianza, la población de validación y los modos de fallo conocidos. Los pacientes pueden necesitar una explicación clara de cómo la IA influyó en una decisión importante y quién sigue siendo responsable de su atención.

5. Consentimiento y autonomía del paciente

La autonomía es la capacidad del paciente para tomar decisiones informadas sobre su atención médica. La IA complica la autonomía porque su función puede ser invisible. Un paciente puede preocuparse, con razón, de si un diagnóstico, una recomendación de tratamiento o una decisión de priorización se vieron influenciados por un algoritmo, especialmente cuando el sistema utiliza datos sensibles o introduce una incertidumbre significativa.

No todas las funciones del software en segundo plano requieren un formulario de consentimiento independiente. El umbral ético depende de la relevancia del rol de la IA, la legislación local, las políticas institucionales y la naturaleza del riesgo. Un principio útil es que la divulgación debe reforzarse a medida que el sistema adquiere mayor influencia en las decisiones que afectan al paciente.

6. Responsabilidad cuando humanos y máquinas comparten un flujo de trabajo

Si una recomendación de IA causa daño, puede resultar difícil determinar la responsabilidad entre el desarrollador, el hospital, el médico, el proveedor de datos y la organización que configuró la herramienta. Decir que “hay un humano involucrado” no resuelve este problema si ese humano carece de autoridad, capacitación, tiempo o información para cuestionar el resultado.

La rendición de cuentas debe diseñarse antes de la implementación. La organización debe saber quién aprueba el sistema, quién puede anularlo, quién investiga los incidentes, quién se comunica con el proveedor, quién decide si se suspende su uso y quién se comunica con los pacientes afectados.

7. Sesgo de automatización y dependencia excesiva

El sesgo de automatización es la tendencia a confiar demasiado en una sugerencia automatizada. En el ámbito sanitario, esto puede significar pasar por alto síntomas contradictorios, aceptar una nota generada sin verificarla o considerar una lista clasificada como una verdad objetiva.

La IA generativa plantea otro desafío: puede producir afirmaciones seguras pero sin fundamento. Esto hace que la verificación sea esencial para resúmenes médicos, mensajes a pacientes, sugerencias de codificación o sistemas de apoyo a la toma de decisiones. La revisión humana es más útil cuando los revisores pueden ver los datos originales y se espera que discrepen cuando sea necesario.

8. Acceso y el riesgo de una nueva brecha digital.

La IA puede ampliar el acceso ayudando a especialistas escasos, traduciendo información o automatizando tareas rutinarias. Sin embargo, también puede aumentar las desigualdades si los sistemas de salud con mayores recursos reciben herramientas más seguras y mejor validadas, mientras que las clínicas más pequeñas reciben productos de menor calidad o no pueden costear la infraestructura necesaria para su monitorización.

Por lo tanto, la equidad abarca más que el sesgo del modelo. También incluye quién tiene acceso a la tecnología, qué idioma se admite, si se tienen en cuenta las necesidades de las personas con discapacidad, si el sistema funciona con equipos antiguos y si los pacientes sin conexión a internet fiable o teléfonos inteligentes se ven perjudicados.

Cómo evaluar un sistema sin convertirse en especialista en IA.

No es necesario reproducir las fórmulas matemáticas del modelo para formular buenas preguntas. Comience con evidencia que vincule la herramienta con su uso clínico previsto. Busque validación en entornos similares al suyo, resultados de subgrupos que coincidan con su población de pacientes y una descripción clara de para qué no debe utilizarse la herramienta.

Luego, examine el flujo de trabajo. ¿Dónde aparece el resultado? ¿Es una recomendación o activa automáticamente una acción? ¿Puede un médico descartarlo? ¿Se registran las anulaciones? ¿Qué sucede durante el tiempo de inactividad? Un modelo técnicamente sólido puede volverse inseguro al integrarse en un proceso mal diseñado.

A continuación, conviene revisar el control de cambios. Los sistemas de IA pueden evolucionar. En Estados Unidos, la FDA ha publicado una guía definitiva sobre planes de control de cambios predeterminados para las funciones de software de dispositivos con IA , donde se explica cómo describir y evaluar ciertas modificaciones planificadas en una solicitud de registro. Incluso fuera del ámbito de los dispositivos regulados, la lección ética subyacente resulta útil: las organizaciones deben saber cuándo cambia un modelo y qué evidencia se requiere antes de utilizar la nueva versión.

Cómo saber si el resultado es suficientemente bueno

Una implementación responsable debe ofrecer algo más que un resultado prometedor. Debe demostrar que el sistema funciona en un entorno real, que no se perjudica sistemáticamente a subgrupos importantes, que los profesionales sanitarios saben cuándo recurrir a él y que los pacientes siguen teniendo acceso a una atención humana y a explicaciones claras.

Entre los aspectos positivos se incluyen un rendimiento estable tras la implementación, un seguimiento claro de las versiones, una revisión documentada de los incidentes, rutas de escalamiento explícitas, monitorización de subgrupos y la posibilidad de detener o revertir el sistema. Otro buen indicador es que el personal puede describir las limitaciones de la herramienta sin necesidad de consultar un folleto de marketing.

Es necesario cambiar de rumbo cuando el rendimiento del modelo se desvía, los patrones de error se concentran en un subgrupo, los usuarios empiezan a considerar las recomendaciones como obligatorias, el proveedor modifica el modelo sin previo aviso o la organización no puede explicar el destino de los datos de los pacientes. Un sistema que no se puede supervisar es difícil de gestionar de forma responsable.

La aprobación regulatoria no es lo mismo que la adecuación ética.

La regulación puede responder preguntas importantes sobre seguridad, eficacia, acceso al mercado y obligaciones legales, pero la evaluación ética es más amplia. En Estados Unidos, la FDA mantiene una lista pública de dispositivos médicos con inteligencia artificial autorizados para su comercialización . La FDA también publicó y reeditó su guía final sobre software de apoyo a la toma de decisiones clínicas en enero de 2026 , aclarando cuándo ciertas funciones de apoyo a la toma de decisiones pueden quedar fuera de la definición de dispositivo médico y cuándo se aplican las políticas existentes sobre dispositivos.

En la Unión Europea, la Ley de IA utiliza un marco basado en el riesgo . A partir de septiembre de 2026, la mayor parte de la Ley es aplicable, si bien la Comisión Europea indica que las normas de alto riesgo para los sistemas de IA integrados en productos regulados tendrán una fecha de aplicación posterior, el 2 de agosto de 2028, tras las modificaciones de simplificación de 2026. Dado que la clasificación depende de la finalidad prevista y de la normativa aplicable al producto, las organizaciones no deben asumir que todos los sistemas de IA para el sector sanitario tienen las mismas obligaciones.

El cumplimiento normativo es un requisito mínimo, no un veredicto ético definitivo. Una herramienta legalmente comercializable puede no ser adecuada para un hospital, una población de pacientes o un flujo de trabajo específicos.

Errores comunes que se deben evitar

  • Considerar un alto índice de precisión como prueba de seguridad. Pregúntese qué errores importan y para quién.
  • Se asume que eliminar los nombres elimina los riesgos de los datos. Sin embargo, la información confidencial sobre la salud puede seguir siendo reveladora incluso después de eliminar los identificadores obvios.
  • Decir que un modelo es “explicable” porque genera un párrafo persuasivo no es una explicación fluida. Una explicación clara no es automáticamente una descripción fiel del razonamiento del modelo.
  • Pruebas realizadas únicamente antes del lanzamiento. La práctica clínica, las fuentes de datos, los dispositivos y las poblaciones de pacientes cambian.
  • Depende de un revisor humano nominal. La supervisión requiere autoridad, tiempo, información y un procedimiento claro para anular el sistema.
  • Partiendo de la base de que el proveedor asume toda la responsabilidad. Las organizaciones sanitarias también toman decisiones éticas al seleccionar, configurar, supervisar y utilizar una herramienta.

Un resultado práctico

El principal desafío ético de la IA en la atención médica no radica en si las máquinas pueden hacer predicciones útiles, sino en si las personas pueden implementar esas predicciones de manera que se preserve la seguridad, la equidad, la privacidad, la autonomía y la responsabilidad.

Para quienes se inician en este campo, el mejor punto de partida es lo concreto: definir la decisión que se está influyendo, verificar la evidencia, analizar quién está representado en los datos, mapear el flujo de datos, diseñar una supervisión humana eficaz y decidir de antemano qué evidencia justificaría detener o interrumpir el sistema. Este enfoque no elimina todos los dilemas éticos, pero transforma los principios abstractos en cuestiones que pueden someterse a prueba, documentarse y mejorarse.

Este artículo tiene fines educativos y no sustituye el asesoramiento clínico, legal, normativo o institucional para un sistema de IA específico.

Dejar un comentario

Compara ownCloud Infinite Scale y Nextcloud 28 sin conjeturas.

Descubre por qué varían las cantidades de RAM, compara ambas plataformas con una carga de trabajo justa e identifica si el almacenamiento, la caché, los procesos de trabajo o las tareas en segundo plano provocan ralentizaciones.

Collabora Online vs ONLYOFFICE: Medición de la RAM y la latencia de edición.

Compare Collabora Online y ONLYOFFICE Docs en el mismo servidor mediante una prueba repetible que mida el uso de memoria, el tiempo de apertura de documentos y el retraso en la edición colaborativa.

ONLYOFFICE Docs vs Microsoft 365 Web: ¿Cuál conserva el formato?

Compara el comportamiento de los documentos, las hojas de cálculo y el diseño en ONLYOFFICE Docs y las aplicaciones web de Microsoft 365, y luego usa una prueba rápida para elegir el editor más seguro para tus archivos.

¿Por qué cambia una fórmula de hoja de cálculo entre ONLYOFFICE y Excel?

¿Por qué cambia una fórmula de hoja de cálculo entre ONLYOFFICE y Excel?

Localice las discrepancias en las fórmulas en la sintaxis, los separadores regionales, el recálculo, los sistemas de fechas o las funciones no compatibles, y luego verifique el libro de trabajo antes de compartirlo.

ONLYOFFICE vs LibreOffice: ¿Qué muestran las pruebas de rendimiento?

ONLYOFFICE vs LibreOffice: ¿Qué muestran las pruebas de rendimiento?

Vea qué pueden demostrar (y qué no pueden demostrar) los datos de las versiones recientes, y luego compare ambas suites ofimáticas con los mismos archivos y en el mismo ordenador.

Calc VLOOKUP vs XLOOKUP: Elige la fórmula de búsqueda correcta

Compare coincidencias exactas, búsquedas en el lado izquierdo, manejo de valores faltantes y compatibilidad con versiones para que pueda elegir una fórmula de Calc confiable.

Numeración de páginas en Writer vs. Word: estilos, secciones y reinicios

Numeración de páginas en Writer vs. Word: estilos, secciones y reinicios

Aprende cómo los estilos de página de Writer y los enlaces de sección de Word afectan a las portadas, los números romanos y el reinicio de la numeración al mover un documento.

¿Pardus Software Center o APT? Elegir la herramienta adecuada

¿Pardus Software Center o APT? Elegir la herramienta adecuada

Compara Pardus Software Center con los comandos APT para buscar, instalar, eliminar y actualizar paquetes utilizando el método que mejor se adapte a tu tarea.

Pardus 25.2 XFCE vs GNOME: Una comparación justa de RAM

Pardus 25.2 XFCE vs GNOME: Una comparación justa de RAM

Consulta qué significan los requisitos de RAM publicados por Pardus y, a continuación, compara XFCE y GNOME en el mismo PC con lecturas repetibles de MemAvailable.

¿Puede el sistema operativo HamoniKR satisfacer las necesidades de los equipos de escritorio empresariales?

¿Puede el sistema operativo HamoniKR satisfacer las necesidades de los equipos de escritorio empresariales?

Descubre dónde encaja HamoniKR 8.0 en un plan de escritorio empresarial, qué funciones admite para el público coreano y qué debes verificar antes de un lanzamiento más amplio.