La Capacidad de Reconocer la Ignorancia en la Medicina y la Inteligencia Artificial

La expresión “no lo sé” tiene un inmenso valor en el ámbito médico, especialmente cuando se trata de evitar errores potencialmente graves. Un residente de primer año en medicina fue confrontado con la tarea de explicar el aumento de creatinina en un paciente. Su honesta respuesta de admitir desconocimiento llevó al equipo a explorar más a fondo los factores de riesgo y los medicamentos antes de solicitar la opinión de un nefrólogo.

Por otro lado, un sistema de inteligencia artificial al enfrentarse al mismo caso, recopiló una serie de artículos relevantes, pero ofreció una respuesta con total seguridad, sin cuestionar las evidencias contradictorias y las posibles repercusiones en el paciente. Mientras los médicos, con sus años de experiencia, se consultan mutuamente y analizan casos en foros y reuniones, la inteligencia artificial aún tiene dificultades para admitir sus limitaciones.

Un estudio sobre Grandes Modelos de Lenguaje reveló que, frente a 300 casos clínicos diseñados con síntomas ficticios, estos modelos no solo aceptaron las falsedades, sino que las ampliaron en un 50 % a 82 % de los casos, sin poder responder con “no lo sé”. Esto destaca la importancia del pensamiento crítico humano, que permite a los médicos evitar conclusiones apresuradas.

En palabras recientes de Bill Gates, la inteligencia artificial tal como la conocemos está en camino de ser reemplazada por una nueva generación de IA metacognitiva, capaz de aprender y razonar de manera similar a los humanos. Aunque esto representa un avance potencialmente positivo, nunca podrá sustituir el pensamiento crítico, la empatía y la compasión que caracterizan a los médicos humanos. Estos atributos son esenciales y no pueden ser replicados por ninguna plataforma tecnológica.