Un estudio sobre el desempeño de la herramienta ChatGPT Health, desarrollada por OpenAI, encendió las alarmas sobre la seguridad de la inteligencia artificial aplicada al triaje médico. La investigación encontró que el sistema subestimó el 51,6% de las verdaderas emergencias clínicas evaluadas, incluyendo cuadros de cetoacidosis diabética y falla respiratoria inminente, recomendando atención en 24 a 48 horas en lugar de acudir inmediatamente a urgencias.
El análisis evaluó 960 respuestas generadas por ChatGPT Health a partir de 60 escenarios clínicos diseñados por médicos en 21 áreas distintas de la medicina. Los investigadores identificaron un patrón preocupante: la inteligencia artificial mostró mejor desempeño en casos intermedios, pero falló precisamente en las situaciones más críticas y también en las menos urgentes.
Según los resultados, la herramienta alcanzó una precisión del 93% en casos emergentes y del 76,9 % en situaciones urgentes. Sin embargo, su desempeño cayó al 48,4 % en emergencias reales y al 35,2 % en cuadros no urgentes.
Los errores más graves ocurrieron en pacientes con cetoacidosis diabética y exacerbaciones asmáticas con deterioro respiratorio progresivo. En varios casos, el sistema identificó señales de alarma clínica, pero aun así recomendó esperar antes de buscar atención médica presencial.
Los autores explicaron que la herramienta mostró una tendencia a evitar clasificar adecuadamente los extremos clínicos, fenómeno que describieron como un “sesgo hacia el punto medio”. Este patrón hizo que múltiples pacientes con condiciones potencialmente mortales fueran derivados a evaluaciones diferidas en vez de recibir indicaciones de acudir al servicio de emergencias.
En los casos relacionados con salud mental, los hallazgos también generaron preocupación. Los mensajes automáticos de ayuda para prevención del suicidio aparecieron de manera inconsistente e incluso contradictoria. Según el estudio, algunas alertas se activaron con mayor frecuencia en pacientes que no describían un método específico de autolesión, mientras que otros con ideación suicida activa no recibieron ninguna advertencia.
Los investigadores advirtieron que esta falta de consistencia representa un problema importante de seguridad porque impide que los usuarios sepan cuándo confiar realmente en la plataforma. Además, señalaron que los errores de subestimación en medicina pueden tener consecuencias mucho más graves que los casos de sobrediagnóstico.
La investigación también analizó posibles diferencias por raza y sexo en las recomendaciones médicas. Aunque no encontraron variaciones estadísticamente significativas, los autores aclararon que los datos disponibles no permiten descartar completamente inequidades clínicamente relevantes.
Otro hallazgo importante fue que la incorporación de datos objetivos, como presión arterial, signos vitales o resultados de laboratorio, mejoró significativamente la precisión general del sistema del 54,6 % al 77,9 %. Sin embargo, incluso con esa información adicional, las emergencias continuaron siendo subestimadas en múltiples ocasiones.
En contraste, ChatGPT Health sí logró identificar correctamente emergencias clásicas más evidentes, como accidentes cerebrovasculares, anafilaxia, meningitis y disección aórtica.
Los autores concluyeron que las herramientas de inteligencia artificial dirigidas al público deberían someterse a evaluaciones de seguridad comparables a las exigidas para dispositivos médicos antes de implementarse masivamente.
Además, insistieron en que estos sistemas necesitan mejorar especialmente en la detección de emergencias que evolucionan rápidamente y en la activación consistente de protocolos de crisis en salud mental.
Fuente original aquí
