La IA que sabe cuándo callarse: por qué la abstención es una feature, no un fallo

Casi todos los demos de IA médica que se ven en una feria muestran lo mismo: una imagen, un cuadro rojo, un diagnóstico seguro. Es vistoso. También es la parte más peligrosa de vender IA a un entorno clínico, porque un modelo entrenado para «siempre responder algo» acaba inventando hallazgos cuando la imagen es ambigua, está mal encuadrada, o simplemente no se parece a nada que haya visto en su entrenamiento.

En Dental Brain, la pregunta de diseño no fue solo «¿cómo hacemos que acierte más?». Fue, sobre todo, «¿cómo hacemos que sepa cuándo no está seguro?».

Tres formas en que el sistema se abstiene

Por confianza del hallazgo. Cada sugerencia de la IA lleva asociado un nivel de certeza. Solo los hallazgos de confianza alta se auto-aplican, y únicamente en el escenario más controlado (primera visita, sin historial previo). Todo lo demás queda como propuesta pendiente de revisión humana.

Por modo de paciente. El sistema evalúa antes de analizar si el caso encaja en el perfil para el que está validado —por ejemplo, edad del paciente y si ya existe un odontograma previo con datos—. Si no encaja, entra en un modo de «solo diagnóstico», sin proponer cambios automáticos a la historia clínica.

Por gate de revisión. Aunque un hallazgo esté auto-aplicado, el sistema lo marca como «IA sin revisar» y bloquea con un control expreso que se genere un presupuesto o un plan de tratamiento a partir de datos que ningún profesional ha comprobado todavía. Si un doctor intenta saltarse ese paso, el sistema se lo impide y queda auditado.

Por qué esto importa más que la precisión bruta

Un porcentaje de acierto alto en una demo controlada no dice nada sobre cómo se comporta el sistema con la radiografía número 4.000, la que viene mal posicionada, con un artefacto de movimiento o de un paciente con anatomía atípica. Lo que sí garantiza seguridad clínica real es que, ante la duda, el sistema no finja certeza.

Esto tiene una implicación directa en el expediente técnico de cumplimiento normativo (CE/MDR) del producto: cualquier cambio al mecanismo de abstención o a los umbrales de auto-aplicación no es un simple ajuste de parámetros, es un cambio a un control de riesgo declarado, y se documenta como tal antes de tocarlo, no después.

Lo que significa para quien firma la historia clínica

El profesional que revisa una sugerencia de IA sigue siendo el único responsable legal de lo que queda escrito en la ficha del paciente. Dental Brain no busca diluir esa responsabilidad detrás de un algoritmo: busca darle al doctor una herramienta que reduzca el trabajo mecánico sin pedirle que confíe a ciegas. La diferencia entre «asistente» y «sustituto» se decide, literalmente, en cómo se diseña el botón de «no estoy seguro».