Límites de la inteligencia artificial en la documentación de una consulta
Para aprovechar la asistencia tecnológica, es indispensable comprender sus fronteras. Detallamos las limitaciones inherentes a los modelos estadísticos de lenguaje, su incapacidad perceptual y los riesgos de la sobreconfianza automatizada.
La transparencia tecnológica como premisa
En la aplicación de nuevas tecnologías al entorno sanitario, la gestión realista de las expectativas es crucial. Las herramientas de asistencia documental no poseen inteligencia en el sentido humano, ni funcionan como asesores clínicos; son modelos matemáticos avanzados entrenados para predecir la secuencia más probable de palabras basándose en patrones estadísticos.
Conocer las vulnerabilidades y fronteras técnicas de estos sistemas es la principal medida de seguridad con la que cuenta el profesional para evitar que las limitaciones del software se trasladen a la historia clínica del paciente.
La barrera de la información no verbal
La observación visual constituye una parte fundamental del acto médico. La palidez cutánea, el patrón de marcha al entrar en la consulta, la higiene personal o la expresión de dolor ante la palpación son elementos de información crítica que el facultativo capta sin necesidad de articular palabra.
Un sistema basado solo en audio no recibe los hallazgos visuales o táctiles que no se describen en voz alta.
En consecuencia, el software registrará exclusivamente lo que se verbalice en la sala. Si un médico detecta asimetría facial pero no lo comenta en voz alta, el modelo no tendrá base alguna para incluirlo en el borrador. Esto obliga al usuario a documentar este tipo de información de forma manual durante la revisión o a alterar su dinámica de consulta para locutar continuamente sus observaciones.
Carencia de razonamiento y "alucinaciones"
Ausencia de comprensión semántica real
Un modelo generativo de lenguaje no comprende la fisiología ni la fisiopatología. Su función es identificar correlaciones léxicas. Si un diálogo presenta ambigüedades o silencios, el algoritmo puede intentar resolver la frase basándose en probabilidades estadísticas, dando lugar a inexactitudes o falsedades plausibles (fenómeno conocido en el ámbito informático como "alucinación").
- Asunciones de lateralidad: Completar estadísticamente que un dolor referido genéricamente se encuentra en el lado derecho.
- Extrapolación de tratamientos: Asumir que un diagnóstico mencionado lleva aparejada su medicación de primera línea más frecuente, incluyéndola en el plan sin que el médico lo haya ordenado explícitamente.
- Confusión de interlocutores: Atribuir síntomas relatados por un acompañante al propio paciente.
La variabilidad del lenguaje espontáneo
Los sistemas de procesamiento enfrentan dificultades ante la enorme diversidad del habla humana. El rendimiento de la captura y clasificación puede disminuir de forma considerable en presencia de variables que se alejan de los conjuntos de datos estándar sobre los que se entrenaron.
El uso de localismos muy específicos, dialectos, acentos marcados, o la mezcla constante de idiomas (como el spanglish) añade ruido estadístico al procesamiento. Asimismo, si un paciente presenta disartria u otras condiciones que afectan a la dicción, la transcripción inicial será significativamente menos robusta.
En casos de alta superposición de voces —cuando médico, paciente y familiares hablan al mismo tiempo— la diarización acústica suele fallar, dificultando la asignación correcta de cada afirmación a su emisor.
El riesgo de la sobreconfianza automatizada
A nivel de factores humanos, uno de los mayores peligros del uso a largo plazo de herramientas tecnológicas funcionales es el desarrollo de exceso de confianza. Si un profesional utiliza la asistencia en cincuenta consultas y los borradores resultan ser de alta utilidad sin errores evidentes, la tendencia natural es disminuir el nivel de vigilancia en la consulta cincuenta y uno.
Esta relajación en el escrutinio puede permitir que una inexactitud generada estadísticamente quede consolidada en un documento permanente. Mantener un nivel constante de escepticismo frente al texto automatizado es una disciplina profesional que requiere esfuerzo consciente.
Establecer una rutina estable de verificación —por ejemplo, contrastar siempre medicación, alergias, cifras y lateralidad— puede reducir la dependencia de una lectura improvisada.
El juicio clínico en el centro
La tecnología asiste en labores administrativas y puede facilitar la estructuración de la información, pero carece de la empatía, el contexto histórico y la capacidad de síntesis que caracterizan al acto médico.
Las normativas éticas relativas a la tecnología en salud coinciden en señalar la supervisión humana como principio rector irrenunciable. Ninguna sugerencia de texto generada algorítmicamente sustituye el deber de emitir, revisar y responsabilizarse del juicio clínico documentado.
Estrategias operativas de control
- Acostumbrarse a verbalizar hallazgos físicos determinantes durante su exploración.
- Aplicar rutinas estrictas para la verificación cruzada de dosis y tratamientos.
- Asumir siempre la presencia potencial de descontextualizaciones estadísticas en el borrador inicial.
Fuentes oficiales
Información general; no constituye asesoramiento jurídico ni clínico personalizado.