El paciente digital y las recetas de un algoritmo
Hola a todos.
Qué gusto encontrarnos nuevamente en este espacio para pensar juntos sobre la gestión, la tecnología y el rumbo de nuestro sistema de salud.
En mis años de experiencia como administrador y apasionado de la transformación digital, he visto cómo las innovaciones nos facilitan la vida. Sin embargo, también abren debates que no podemos esquivar.
Hoy quiero vamos a conversar sobre un tema incómodo pero urgente: la seguridad del paciente frente a los algoritmos.
Imaginen a un usuario que, sintiendo un fuerte dolor de pecho a las tres de la mañana, prefiere consultar a un asistente virtual antes de ir a una clínica. El chatbot, programado para ser empático y rápido, minimiza el síntoma y sugiere un antiácido.
Horas después, el paciente ingresa a emergencias por un infarto agudo de miocardio. ¿Quién asume las consecuencias de ese mal consejo? Este escenario ya no pertenece a la ciencia ficción; es una realidad latente.
¿De quién es la culpa cuando el código falla?
El debate sobre la responsabilidad legal de la IA está ganando terreno a nivel global. Como se explica en un reciente análisis de El Ecosistema Startup, determinar la culpa cuando un chatbot tecnológico comete un error es un laberinto normativo.
En el ámbito corporativo o comercial, una mala recomendación puede costar dinero o la pérdida de un cliente. Pero en nuestro sector, el sector salud, una mala recomendación cuesta vidas.
Desde la gestión de servicios de salud, veo tres frentes complejos en este problema:
- El desarrollador de software: ¿Creó el algoritmo bajo estándares médicos validados o priorizó la rapidez de respuesta?
- La institución de salud: Si un hospital decide implementar estas herramientas para descongestionar el triaje, ¿asume el riesgo legal por los fallos del software?
- El profesional médico: ¿Hasta qué punto el personal de salud puede confiar en los datos sugeridos por una pantalla antes de tomar una decisión clínica?
"La tecnología puede optimizar procesos y agilizar la atención, pero jamás podrá delegar la responsabilidad ética del acto médico. El software es un soporte; el criterio final sigue siendo netamente humano."
Reflexión: Preparando a la salud peruana para el mañana
En mi rol como profesional en el sector salud, suelo repetir a los estudiantes, amigos que la Inteligencia Artificial no viene a reemplazar al médico ni al administrador, sino a potenciar su labor.
Sin embargo, esta adopción requiere un marco preventivo sólido. En el Perú, donde el sistema sanitario ya afronta desafíos estructurales severos, la llegada de tecnologías de autodiagnóstico sin regulación clara podría agravar la vulnerabilidad de los pacientes.
Nuestra normativa actual, regulada por entidades como SUSALUD y el Ministerio de Salud, aún no cuenta con lineamientos específicos para la acreditación de herramientas de IA de uso diagnóstico directo al usuario.
No podemos esperar a que ocurra una desgracia para empezar a redactar las reglas de juego. Necesitamos formar profesionales de la salud que no solo sepan usar la tecnología, sino que también entiendan sus límites éticos, la protección de los datos personales y los mecanismos de control de calidad de cada algoritmo que recomiendan.
Si una clínica u hospital en nuestro país decide implementar un asistente virtual inteligente para interactuar con pacientes, mi recomendación técnica es clara: estos sistemas deben limitarse estrictamente a tareas administrativas (como el agendamiento de citas) o actuar únicamente como soporte interno para el personal de salud calificado, nunca como reemplazo de la consulta médica directa.
Si un chatbot en tu clínica u hospital de confianza cometiera un error de diagnóstico que afectara tu salud, ¿a quién señalarías primero: al programador que diseñó el código, a la clínica que compró el software o al médico que validó la plataforma? Me encantaría leer sus opiniones en los comentarios.