Agradecemos a los profesores Lazcoz Moratinos y de Miguel Beriain sus comentarios1. Entendiendo su preocupación sobre la «caja negra» tanto científica como jurídica que supone el empleo de la inteligencia artificial en la asistencia al paciente crítico, queremos hacer algunas consideraciones al respecto.
La toma de decisiones asistenciales que realiza el intensivista se basa también en un proceso de aprendizaje por experiencia parecido al que realiza un algoritmo, y el concepto de «intuición» que aplicamos en nuestro quehacer podrían en realidad también ser interpretadas como no fundamentadas o no explicables, aunque en realidad se basan en un proceso muy parecido al que utiliza la inteligencia artificial. Estos procesos de decisión subjetivos no están regulados jurídicamente, aunque los clínicos somos, en cierto modo, «inteligencia artificial natural».
Cuando un médico utiliza un antibiótico, es posible que no entienda completamente los mecanismos moleculares que hacen que el fármaco destruya las bacterias. Aunque es deseable que exista un conocimiento de su mecanismo de acción y una «plausibilidad biológica», si los estudios clínicos con suficiente número de pacientes demuestran que el empleo del antibiótico mejora el pronóstico del paciente, estará justificado su empleo. Fleming no sabía cómo funcionaba la penicilina cuando empezó a utilizarla. Además, los antibióticos pueden producir efectos secundarios e incluso la muerte en casos muy aislados. ¿Debemos pues dejar de usarlos?
La aplicación excesivamente rigurosa del marco regulatorio sobre tratamiento de datos en investigación médica está teniendo consecuencias negativas en el progreso en enfermedades como el Alzheimer o la diabetes2. Un marco regulatorio razonable mantendría una consideración hacia la inteligencia artificial similar a la que existe con los antibióticos y otros fármacos, exigiendo los mismos procedimientos de comprobación de su seguridad y eficacia en ensayos clínicos. Pero si el empleo de un algoritmo basado en inteligencia artificial para el manejo del shock en un paciente séptico mejorara fuera de duda en ensayos clínicos la mortalidad con menos efectos secundarios, ¿deberíamos dejar de utilizarlo porque el clínico no entienda exactamente cómo funciona? Ese grado de exigencia no es aplicado a otras terapias novedosas, máxime asumiendo el coste humano asociado en prescindir de estas nuevas armas terapéuticas.
Además, se están haciendo progresos en la comprensión del proceso de «razonamiento» de las herramientas basadas en la inteligencia artificial3 (similares alegóricamente a los que se realizaron para conseguir entender que la penicilina rompía la pared bacteriana), que pueden hacer que en unos años comprendamos el motivo por el que los algoritmos toman determinadas decisiones.
La inteligencia artificial puede ser una herramienta muy útil en un futuro cercano, mejorando nuestro manejo del paciente crítico que, de hecho, ya está siendo utilizada en otras especialidades4. Recomendamos encarecidamente no cortarnos nuestras propias alas con argumentos jurídicos extremos que pretenden proteger a un paciente al que probablemente estemos perjudicando al privarle de oportunidades terapéuticas derivadas del empleo de la inteligencia artificial. Con un marco regulatorio exageradamente exigente estaríamos todavía muriendo de neumonía por no poder utilizar la penicilina.
