La incorporación de la inteligencia artificial (IA) a la atención sanitaria plantea nuevos desafíos para los profesionales de la salud. Aunque estas herramientas pueden apoyar diferentes procesos clínicos, su utilización exige criterios claros para proteger la información de los pacientes, evaluar los resultados y determinar quién responde ante posibles errores.
El avance de la inteligencia artificial en medicina está transformando la manera en que se procesa la información y se apoyan las decisiones clínicas. Sin embargo, su implementación también abre interrogantes sobre la responsabilidad profesional, la privacidad de los datos y los límites de la automatización en escenarios donde una decisión puede tener consecuencias directas sobre la salud.
En un artículo publicado por IntraMed, Daniel Sokol presenta seis reglas para orientar el uso de estas tecnologías en la práctica médica. La propuesta, basada en un trabajo del British Medical Journal (BMJ), destaca que incorporar IA no significa transferirle la responsabilidad de las decisiones, sino utilizarla con conocimiento, supervisión y criterios de seguridad.
La responsabilidad médica frente a las decisiones asistidas por IA
Uno de los principales desafíos consiste en establecer qué ocurre cuando una herramienta de inteligencia artificial contribuye a un error o a un daño durante la atención. La responsabilidad puede depender de las circunstancias, el funcionamiento del sistema, la forma en que se utilizó y las decisiones tomadas por los profesionales y las instituciones involucradas.
El análisis de Sokol parte del contexto regulatorio del Reino Unido, donde los sistemas de IA no pueden ser demandados como si fueran personas. En determinadas circunstancias, las responsabilidades podrían recaer en el médico, el centro sanitario o los desarrolladores y fabricantes de la tecnología.
Este escenario plantea una cuestión relevante para la práctica clínica: el uso de inteligencia artificial no elimina la responsabilidad del profesional sanitario. Por ello, seleccionar una herramienta adecuada, comprender sus limitaciones y evaluar sus recomendaciones son aspectos esenciales antes de incorporarla a una decisión médica.
Las consideraciones legales descritas corresponden al contexto británico y no deben interpretarse como obligaciones jurídicas uniformes para todos los países de Latinoamérica.
1. Conocer la herramienta y sus limitaciones
Antes de utilizar un sistema de IA, el médico necesita comprender para qué fue diseñado, qué tipo de resultados ofrece y cuáles son sus restricciones. Una herramienta desarrollada para identificar una enfermedad específica no necesariamente tiene la capacidad de reconocer otras condiciones clínicas.
También es importante verificar que el sistema esté autorizado para su uso en la institución, seguir los protocolos correspondientes y contar con la capacitación necesaria para interpretar sus resultados. La familiaridad con estas tecnologías permite determinar cuándo sus recomendaciones pueden ser útiles y en qué situaciones requieren una revisión adicional.
2. Proteger la confidencialidad de los datos
La privacidad de la información clínica es otro de los pilares del uso responsable de la IA. Introducir datos identificables de pacientes en plataformas públicas o no autorizadas puede exponer información sensible y comprometer la confidencialidad. Eliminar el nombre o el número de identificación no siempre garantiza el anonimato. La combinación de antecedentes médicos, características personales y otros detalles podría permitir reconocer a una persona.
Por esta razón, cuando sea necesario utilizar información clínica, se deben priorizar las herramientas autorizadas por la institución y las medidas de protección de datos aplicables. La precaución también debe extenderse a la información transferida automáticamente desde otros registros.
3. Verificar los datos y las respuestas antes de tomar decisiones
La calidad de una recomendación generada por IA depende, entre otros factores, de la información que recibe. Si los datos de entrada son incorrectos o incompletos, el resultado puede conducir a interpretaciones equivocadas, incluso cuando se utiliza un sistema confiable.
Por ello, el médico debe contrastar las respuestas con la historia clínica, los hallazgos del examen físico y las pruebas complementarias disponibles. Cuando una recomendación contradice el juicio clínico, es necesario revisar la información, considerar otras fuentes o consultar a otro profesional. La decisión final debe sustentarse en razones clínicas que puedan explicarse y documentarse, no únicamente en la respuesta producida por un algoritmo.
4. Informar al paciente cuando el uso de IA sea relevante
La comunicación con el paciente adquiere especial importancia cuando una herramienta de inteligencia artificial puede influir de manera significativa en el diagnóstico, el pronóstico o el tratamiento.
En estos escenarios, conversar sobre el uso de la tecnología, sus limitaciones, las incertidumbres y las alternativas disponibles puede contribuir a una atención más transparente y a una mejor comprensión del proceso clínico.
Esto no significa que cada utilización de IA deba comunicarse de manera individual. El criterio propuesto destaca la importancia de informar cuando su intervención pueda tener consecuencias relevantes para la atención. Si el paciente expresa su desacuerdo con el uso de estas herramientas, el profesional debe explorar sus inquietudes y valorar si existe una alternativa razonable y segura.
5. Documentar la influencia de la IA en las decisiones médicas
Cuando una recomendación generada por IA contribuye de manera importante a una conducta clínica, dejar constancia de esa intervención permite reconstruir cómo se tomó la decisión.
El registro también es útil cuando el médico decide apartarse de la recomendación del sistema. Documentar los motivos de esa decisión facilita que otros profesionales comprendan el razonamiento clínico y den continuidad a la atención. La trazabilidad de estas intervenciones es especialmente relevante en un entorno donde las herramientas digitales comienzan a participar en diferentes etapas del proceso asistencial.
6. Actuar ante resultados inseguros o incidentes
Si un sistema produce un resultado potencialmente peligroso o se identifica un incidente relacionado con su uso, la prioridad debe ser proteger al paciente y atender las consecuencias clínicas.
Además, se recomienda reportar el problema mediante los canales disponibles, conservar los registros pertinentes e identificar el producto y su versión cuando sea posible. Esta información puede ayudar a determinar si se trata de un error aislado o de una falla que requiere una evaluación más amplia. Comunicar estos incidentes a los responsables de supervisar la tecnología permite valorar la necesidad de auditar el sistema, limitar su utilización o adoptar medidas correctivas.
¿Podría convertirse en un problema no utilizar la IA?
El debate no se limita a los riesgos de utilizar una herramienta inadecuada. También contempla la posibilidad de que, en el futuro, prescindir de una tecnología con beneficios clínicos bien establecidos pueda generar cuestionamientos profesionales.
Este escenario dependerá de la evidencia disponible, las recomendaciones de las organizaciones médicas, la accesibilidad, los costos y las prácticas habituales de cada especialidad. No obstante, la propuesta no establece una obligación general de utilizar inteligencia artificial en todas las decisiones médicas. El punto central es evaluar cada herramienta según su utilidad demostrada, sus riesgos y el contexto en el que se pretende incorporar. La adopción tecnológica requiere una valoración crítica, no una implementación automática.
La integración de la IA en medicina exige encontrar un equilibrio entre aprovechar sus posibilidades y reconocer sus limitaciones. Adoptar cada innovación sin evaluar su funcionamiento puede generar riesgos, pero rechazarla de manera sistemática también puede impedir el aprovechamiento de herramientas con beneficios demostrados.
Las seis reglas propuestas por Sokol ofrecen un marco para orientar esa integración: conocer el sistema, proteger los datos, comprobar los resultados, comunicarse con el paciente, documentar las decisiones y reportar los incidentes.
Desde una perspectiva médico-científica, el desafío no consiste únicamente en incorporar nuevas tecnologías, sino en garantizar que su uso responda a criterios de seguridad del paciente, responsabilidad profesional y calidad asistencial. La inteligencia artificial puede contribuir a la práctica clínica, pero su valor depende de una implementación adecuada y de la capacidad del médico para interpretar sus resultados y mantener el juicio clínico como parte esencial de la atención.
