Private Health Journal

Glosario

Glosario: inteligencia artificial en medicina

El conjunto mínimo de conceptos para seguir la inteligencia artificial en medicina.

Una edición compacta. Los términos no se duplican: variantes de escritura, abreviaturas y sinónimos se recogen en una sola entrada.

52 · 5 · 2026-08-25

Fundamentos · Aplicaciones clínicas · Datos e interoperabilidad · Evaluación y seguridad · RegulaciónConsolidado 33 · Emergente 9 · Regulatorio 10

Mostrando 52 de 52 conceptos.

Artificial IntelligenceAIConsolidado

Inteligencia artificial

Sistemas computacionales que realizan tareas que normalmente requerirían cognición humana, como la percepción, la inferencia y el uso del lenguaje.

Computational systems that perform tasks normally requiring human cognition, such as perception, inference and language use.

El término paraguas que aparece en todos los textos normativos y guías clínicas; precisamente por su amplitud, los términos más estrechos de abajo pesan más en la práctica.

FundamentosTérminos relacionados: Machine Learning, Deep Learning, Foundation ModelFuente: Regulation (EU) 2024/1689 (AI Act), Art. 3(1)

Machine LearningMLConsolidado

Aprendizaje automático

Métodos que derivan un modelo a partir de datos en lugar de reglas escritas explícitamente.

Methods that derive a model from data rather than from explicitly written rules.

Casi toda la IA clínica es aprendizaje automático; la distinción frente a los motores de reglas decide cómo hay que validar y vigilar un sistema.

FundamentosTérminos relacionados: Deep Learning, Model Calibration, Model DriftFuente: ISO/IEC 22989:2022

Deep LearningDLConsolidado

Aprendizaje profundo

Aprendizaje automático con redes neuronales de varias capas que aprenden por sí mismas sus representaciones de características.

Machine learning using multi-layer neural networks that learn their own feature representations.

La base del análisis de imagen médica y de todos los modelos de lenguaje actuales en sanidad.

FundamentosTérminos relacionados: Medical Imaging AI, Foundation ModelFuente: ISO/IEC 22989:2022

Foundation ModelConsolidado

Modelo fundacional

Un modelo grande preentrenado con datos amplios y adaptado a muchas tareas posteriores en lugar de construido para una sola.

A large model pre-trained on broad data and adapted to many downstream tasks rather than built for one.

Traslada la validación de un modelo por tarea a un modelo reutilizado en muchas tareas, algo que los reguladores tratan como un perfil de riesgo propio.

FundamentosTérminos relacionados: Large Language Model, Medical Large Language Model, Multimodal AIFuente: Regulation (EU) 2024/1689 (AI Act), Art. 3(63) general-purpose AI model

Large Language ModelLLMConsolidado

Modelo grande de lenguaje

Un modelo fundacional entrenado para predecir texto, capaz de producir e interpretar lenguaje natural.

A foundation model trained to predict text, producing and interpreting natural language.

Está detrás de los asistentes de documentación, los resúmenes y los chats con pacientes; y también es el origen del riesgo de alucinación en el entorno clínico.

FundamentosTérminos relacionados: Medical Large Language Model, Retrieval-Augmented Generation, Hallucination, GroundingFuente: Regulation (EU) 2024/1689 (AI Act), Recital 99

Medical Large Language ModelEmergente

Modelo grande de lenguaje médico

Un modelo de lenguaje adaptado al texto clínico, la terminología clínica y las tareas de razonamiento clínico mediante entrenamiento o ajuste de dominio.

A language model adapted to clinical text, terminology and reasoning tasks through domain training or tuning.

La adaptación al dominio mejora el manejo de la terminología, pero por sí sola no acredita seguridad clínica; la evaluación sigue siendo específica de cada tarea.

Aplicaciones clínicasTérminos relacionados: Large Language Model, Clinical Natural Language Processing, Hallucination, Clinical ValidationFuente: npj Digital Medicine, reviews of clinical language models — fuente pendiente de verificar

Multimodal AIEmergente

IA multimodal

Un modelo que admite más de un tipo de entrada —por ejemplo imágenes, texto y señales— dentro de un mismo sistema.

A model that takes in more than one kind of input — for example images, text and signals — within a single system.

Se ajusta a cómo razona realmente la clínica, que lee junto un informe, una imagen y una medición en lugar de uno solo.

FundamentosTérminos relacionados: Foundation Model, Medical Imaging AIFuente: Nature Medicine, reviews of multimodal clinical models — fuente pendiente de verificar

Software as a Medical DeviceSaMDRegulatorio

Software como producto sanitario

Software con una finalidad médica que cumple esa finalidad sin formar parte de un producto sanitario físico.

Software intended for a medical purpose that performs that purpose without being part of a hardware medical device.

La clasificación de mayor consecuencia en el software sanitario: determina la evaluación de la conformidad, la evidencia clínica y las obligaciones tras la comercialización.

RegulaciónTérminos relacionados: AI-enabled Medical Device, Intended Purpose, Clinical Decision Support System, Post-Market SurveillanceFuente: IMDRF/SaMD WG/N12; MDCG 2019-11 Rev.1

Intended PurposeRegulatorio

Finalidad prevista

El uso al que se destina un producto según los datos facilitados por el fabricante en el etiquetado, las instrucciones o el material promocional.

The use for which a product is intended according to the data supplied by the manufacturer in labelling, instructions or promotional material.

La clasificación sigue lo que declara el fabricante, incluso en un sitio web; una advertencia legal no deshace una finalidad médica declarada.

RegulaciónTérminos relacionados: Software as a Medical Device, AI-enabled Medical DeviceFuente: Regulation (EU) 2017/745 (MDR), Art. 2(12); CJEU C-329/16

AI-enabled Medical DeviceRegulatorio

Producto sanitario con IA

Un producto sanitario cuya función depende total o parcialmente de un modelo de aprendizaje automático.

A medical device whose function depends wholly or partly on a machine-learning model.

Añade obligaciones que el software estático no tiene: gobernanza de los datos, control de cambios y vigilancia del rendimiento tras la puesta en el mercado.

RegulaciónTérminos relacionados: Software as a Medical Device, Predetermined Change Control Plan, Post-Market Surveillance, Model DriftFuente: FDA, Artificial Intelligence-Enabled Device Software Functions guidance

Predetermined Change Control PlanPCCPRegulatorio

Plan de control de cambios predeterminados

Una descripción acordada de cómo puede modificarse un modelo tras la autorización sin una nueva presentación, y cómo se verificará cada cambio.

An agreed description of how a model may be modified after authorisation without a new submission, and how each change will be verified.

El mecanismo que permite actualizar legalmente un sistema que aprende, en lugar de congelarlo en la versión aprobada.

RegulaciónTérminos relacionados: AI-enabled Medical Device, Model Drift, Post-Market SurveillanceFuente: FDA, Marketing Submission Recommendations for a Predetermined Change Control Plan

Post-Market SurveillancePMSRegulatorio

Vigilancia poscomercialización

Recogida y revisión sistemáticas del rendimiento real de un producto una vez puesto en el mercado.

Systematic collection and review of a device's real-world performance after it is placed on the market.

En los sistemas que aprenden es donde se detecta el deterioro: un modelo que superó la validación puede fallar en silencio en una población nueva.

RegulaciónTérminos relacionados: Model Drift, Dataset Shift, AI-enabled Medical DeviceFuente: Regulation (EU) 2017/745 (MDR), Art. 83–86

Clinical Decision Support SystemCDSSConsolidado

Sistema de apoyo a la decisión clínica

Software que ofrece a los profesionales información o recomendaciones sobre un paciente concreto para fundamentar una decisión.

Software that provides clinicians with patient-specific information or recommendations to inform a decision.

La línea que convierte un sistema en producto regulado pasa por dejar de mostrar material de consulta y empezar a trabajar con los datos de una persona concreta.

Aplicaciones clínicasTérminos relacionados: Software as a Medical Device, Automation Bias, Human OversightFuente: MDCG 2019-11 Rev.1; FDA Clinical Decision Support Software guidance

Ambient Clinical IntelligenceACIEmergente

Inteligencia clínica ambiental

Sistemas que escuchan la consulta y elaboran a partir de ella la documentación, sin que nadie tenga que escribirla.

Systems that listen to a clinical encounter and produce documentation from it without the clinician typing.

La categoría de IA clínica que más rápido se adopta, y aquella en la que se concentran las preguntas sobre consentimiento, grabación y exactitud del historial.

Aplicaciones clínicasTérminos relacionados: AI Medical Scribe, Clinical Natural Language Processing, HallucinationFuente: npj Digital Medicine, evaluations of ambient documentation — fuente pendiente de verificar

AI Medical ScribeEmergente

Escriba médico con IA

Una herramienta que redacta un borrador de nota clínica a partir del audio de una consulta para que el profesional lo revise y lo firme.

A tool that drafts a clinical note from the audio of a consultation for the clinician to review and sign.

El patrón de borrador y confirmación es lo que, en la mayoría de las lecturas, lo mantiene fuera de la clasificación como producto sanitario; quitar el paso de revisión cambia eso.

Aplicaciones clínicasTérminos relacionados: Ambient Clinical Intelligence, Human Oversight, HallucinationFuente: npj Digital Medicine, evaluations of ambient documentation — fuente pendiente de verificar

Medical Imaging AIConsolidado

IA en imagen médica

Modelos que clasifican, detectan, segmentan o registran hallazgos en imágenes radiológicas y otras imágenes médicas.

Models that classify, detect, segment or register findings in radiological and other medical images.

La mayor categoría de productos sanitarios con IA autorizados y el origen de casi toda la evidencia publicada sobre su rendimiento clínico.

Aplicaciones clínicasTérminos relacionados: Radiomics, Computational Pathology, DICOM, Deep LearningFuente: FDA, list of AI-enabled device software functions

RadiomicsConsolidado

Radiómica

Extracción de un gran número de características cuantitativas de imágenes médicas para usarlas como entradas de un modelo.

Extraction of large numbers of quantitative features from medical images for use as model inputs.

Convierte una imagen en una tabla, y eso la hace analizable, a la vez que sitúa la reproducibilidad entre equipos como el problema central.

Aplicaciones clínicasTérminos relacionados: Medical Imaging AI, Dataset ShiftFuente: MeSH descriptor: Radiomics

Computational PathologyConsolidado

Patología computacional

Análisis mediante modelos computacionales de imágenes digitalizadas de preparaciones de tejido completas.

Analysis of digitised whole-slide tissue images by computational models.

La digitalización de las preparaciones es la condición previa; sin ella la disciplina no tiene entrada, por eso su adopción sigue al despliegue de escáneres.

Aplicaciones clínicasTérminos relacionados: Medical Imaging AI, Deep LearningFuente: The Lancet Digital Health, reviews of computational pathology — fuente pendiente de verificar

Clinical Natural Language Processingclinical NLPConsolidado

Procesamiento del lenguaje clínico

Extracción de significado estructurado a partir de documentos clínicos en texto libre, como notas, informes y altas.

Extraction of structured meaning from free-text clinical documents such as notes, reports and discharge summaries.

La mayor parte de un historial es texto corrido; casi todo análisis posterior depende de convertir antes ese texto en códigos y valores.

Aplicaciones clínicasTérminos relacionados: SNOMED CT, Medical Large Language Model, Electronic Health RecordFuente: NLM, clinical NLP resources

Digital BiomarkerEmergente

Biomarcador digital

Una medida fisiológica o conductual recogida por un dispositivo digital y usada como indicador de un estado de salud.

A physiological or behavioural measure collected by a digital device and used as an indicator of a health state.

Convierte los datos continuos de dispositivos de consumo en algo utilizable por un estudio, siempre que la propia medida esté validada.

Aplicaciones clínicasTérminos relacionados: Remote Patient Monitoring, Clinical ValidationFuente: FDA-NIH BEST (Biomarkers, EndpointS, and other Tools) resource

Remote Patient MonitoringRPMConsolidado

Monitorización remota del paciente

Recogida de mediciones de salud fuera del entorno asistencial y su revisión por un equipo de atención.

Collection of health measurements outside a care setting and their review by a care team.

Genera el flujo continuo de datos cuya existencia dan por supuesta la mayoría de los modelos predictivos en enfermedad crónica.

Aplicaciones clínicasTérminos relacionados: Digital Biomarker, Clinical Prediction ModelFuente: WHO, guideline on digital interventions for health system strengthening

Precision MedicineConsolidado

Medicina de precisión

Adaptar la prevención y el tratamiento a la variabilidad individual de genes, entorno y estilo de vida.

Tailoring prevention and treatment to individual variability in genes, environment and lifestyle.

El objetivo clínico con el que se justifica la mayor parte del modelado predictivo en sanidad, y la razón por la que los datos genómicos entran en los modelos.

Aplicaciones clínicasTérminos relacionados: Risk Stratification, Clinical Prediction ModelFuente: MeSH descriptor: Precision Medicine

Risk StratificationConsolidado

Estratificación del riesgo

Clasificar una población en grupos según la probabilidad estimada de un desenlace, para dirigir la atención o los recursos.

Sorting a population into groups by estimated probability of an outcome, to direct attention or resources.

Donde el sesgo algorítmico causa el daño más directo, porque el resultado reparte asistencia en lugar de limitarse a describir.

Aplicaciones clínicasTérminos relacionados: Clinical Prediction Model, Algorithmic Bias, Model CalibrationFuente: MeSH descriptor: Risk Assessment

Clinical Prediction ModelConsolidado

Modelo de predicción clínica

Un modelo que estima para una persona la probabilidad de que un diagnóstico esté presente o de que ocurra un desenlace.

A model estimating the probability of a diagnosis being present or an outcome occurring for an individual.

La forma dominante de IA clínica; las normas de publicación existen precisamente porque la mayoría de los modelos publicados no eran utilizables.

Evaluación y seguridadTérminos relacionados: Model Calibration, TRIPOD+AI, Clinical Validation, Risk StratificationFuente: TRIPOD+AI statement, BMJ 2024

Electronic Health RecordEHRConsolidado

Historia clínica electrónica

El registro longitudinal de la atención de un paciente que mantiene una organización sanitaria.

The longitudinal record of a patient's care held by a healthcare provider organisation.

La principal fuente de datos de entrenamiento e inferencia de la IA clínica, y la principal razón de que esos datos tengan la forma de la institución y no la de la persona.

Datos e interoperabilidadTérminos relacionados: Fast Healthcare Interoperability Resources, Clinical Natural Language Processing, Health Data InteroperabilityFuente: MeSH descriptor: Electronic Health Records

Fast Healthcare Interoperability ResourcesFHIRConsolidado

FHIR

Un estándar de HL7 que define los datos de salud como recursos modulares intercambiados mediante interfaces web.

An HL7 standard defining health data as modular resources exchanged over web APIs.

La interfaz práctica entre un sistema de IA y los datos clínicos reales; nombrarla es lo que hace comprobable una afirmación de interoperabilidad.

Datos e interoperabilidadTérminos relacionados: Electronic Health Record, Health Data Interoperability, International Patient SummaryFuente: HL7 FHIR Release 4 specification

International Patient SummaryIPSConsolidado

Resumen internacional del paciente

Un conjunto mínimo de datos de salud, independiente de la especialidad, pensado para la atención transfronteriza no planificada.

A minimal, specialty-agnostic set of health data intended to support unplanned cross-border care.

El objetivo concreto para un historial portátil y el perfil con el que deberían medirse la mayoría de las promesas de exportación.

Datos e interoperabilidadTérminos relacionados: Fast Healthcare Interoperability Resources, Health Data Interoperability, European Health Data SpaceFuente: HL7 International Patient Summary implementation guide; EN 17269

SNOMED CTConsolidado

SNOMED CT

Una terminología clínica que aporta conceptos codificados y sus relaciones para registrar el significado clínico.

A clinical terminology providing coded concepts and their relationships for recording clinical meaning.

Da al modelo algo estable a lo que anclar un hallazgo; las etiquetas en texto libre no sobreviven al paso entre sistemas.

Datos e interoperabilidadTérminos relacionados: Medical Ontology, Clinical Natural Language Processing, Fast Healthcare Interoperability ResourcesFuente: SNOMED International, SNOMED CT

Medical OntologyConsolidado

Ontología médica

Una estructura formal de conceptos y relaciones de un dominio médico que permite razonar sobre su significado.

A formal structure of concepts and relations in a medical domain, allowing meaning to be reasoned over.

La diferencia entre casar cadenas de texto y casar significados; sin ella, el tratamiento de sinónimos falla en silencio.

Datos e interoperabilidadTérminos relacionados: SNOMED CT, Knowledge Graph, Health Data InteroperabilityFuente: NLM Unified Medical Language System (UMLS)

Knowledge GraphKGConsolidado

Grafo de conocimiento

Un grafo de entidades y relaciones tipadas usado como representación consultable de un dominio.

A graph of entities and typed relationships used as a queryable representation of a domain.

Se usa para anclar la generación en hechos registrados en lugar de en la memoria del modelo, y para rastrear por qué se produjo una salida.

Datos e interoperabilidadTérminos relacionados: Medical Ontology, Retrieval-Augmented Generation, GroundingFuente: IEEE / ACM literature on knowledge graphs — fuente pendiente de verificar

Health Data InteroperabilityConsolidado

Interoperabilidad de datos de salud

La capacidad de los sistemas de intercambiar datos de salud y usarlos conservando su significado.

The ability of systems to exchange health data and use it with its meaning preserved.

Intercambiar sin significado compartido produce datos que llegan pero en los que no se puede confiar; la segunda mitad es la difícil.

Datos e interoperabilidadTérminos relacionados: Fast Healthcare Interoperability Resources, SNOMED CT, European Health Data Space, International Patient SummaryFuente: HL7; ISO/TC 215 health informatics standards

European Health Data SpaceEHDSRegulatorio

Espacio Europeo de Datos Sanitarios

Un marco de la UE que regula el acceso a los datos sanitarios electrónicos y su intercambio para la asistencia y para el uso secundario.

An EU framework governing access to and exchange of electronic health data for care and for secondary use.

Fija obligaciones con fecha para los sistemas de historia clínica y define un régimen de etiquetado que alcanza también a las aplicaciones de bienestar, no solo a los productos sanitarios.

RegulaciónTérminos relacionados: Health Data Interoperability, International Patient Summary, Special Category Health DataFuente: Regulation (EU) 2025/327 (European Health Data Space)

Special Category Health DataRegulatorio

Datos de salud de categoría especial

Datos personales relativos a la salud cuyo tratamiento está prohibido salvo que se cumpla una condición específica.

Personal data concerning health, whose processing is prohibited unless a specific condition applies.

Determina la base jurídica de todo conjunto de entrenamiento, y es la razón por la que la anonimización y el diseño del consentimiento preceden al diseño del modelo.

RegulaciónTérminos relacionados: De-identification, Synthetic Health Data, European Health Data SpaceFuente: Regulation (EU) 2016/679 (GDPR), Art. 9

Federated LearningFLConsolidado

Aprendizaje federado

Entrenar un modelo común entre instituciones intercambiando actualizaciones del modelo en lugar de mover los datos.

Training a shared model across institutions by exchanging model updates instead of moving the data.

La respuesta principal para los hospitales que no pueden juntar sus historiales, aunque las propias actualizaciones pueden filtrar información y necesitan su propia protección.

Datos e interoperabilidadTérminos relacionados: Privacy-Preserving Machine Learning, Synthetic Health DataFuente: npj Digital Medicine, federated learning in healthcare reviews — fuente pendiente de verificar

Privacy-Preserving Machine LearningPPMLEmergente

Aprendizaje automático que preserva la privacidad

Técnicas que limitan lo que puede inferirse sobre personas concretas a partir de un modelo o de su entrenamiento.

Techniques that limit what can be inferred about individuals from a model or its training process.

Distingue una garantía de arquitectura de una promesa de política, que es justo la distinción por la que pregunta una compra pública.

Datos e interoperabilidadTérminos relacionados: Federated Learning, De-identification, Synthetic Health DataFuente: ISO/IEC 27559:2022 privacy-enhancing data de-identification framework

De-identificationRegulatorio

Anonimización

Eliminar o transformar identificadores para que un registro deje de poder atribuirse a una persona sin información adicional.

Removing or transforming identifiers so that a record can no longer be attributed to a person without additional information.

En el derecho de la UE los datos seudonimizados siguen siendo datos personales; confundir ambos es el error de cumplimiento más frecuente en proyectos de IA.

Datos e interoperabilidadTérminos relacionados: Special Category Health Data, Synthetic Health Data, Privacy-Preserving Machine LearningFuente: Regulation (EU) 2016/679 (GDPR), Art. 4(5) and Recital 26; ISO/IEC 27559:2022

Synthetic Health DataEmergente

Datos de salud sintéticos

Registros generados artificialmente que reproducen la estructura estadística de datos de salud reales sin corresponder a personas reales.

Artificially generated records that reproduce the statistical structure of real health data without corresponding to real people.

Útiles para desarrollo y pruebas; por sí solos no eliminan el riesgo para la privacidad, ya que los generadores pueden memorizar su conjunto de entrenamiento.

Datos e interoperabilidadTérminos relacionados: De-identification, Privacy-Preserving Machine LearningFuente: npj Digital Medicine, evaluations of synthetic health data — fuente pendiente de verificar

Retrieval-Augmented GenerationRAGConsolidado

Generación aumentada por recuperación

Recuperar pasajes de origen en el momento de la consulta y condicionar la generación con ellos en vez de solo con la memoria del modelo.

Retrieving source passages at query time and conditioning generation on them rather than on model memory alone.

La mitigación habitual de la alucinación en respuestas médicas y el mecanismo que hace comprobable una cita.

Evaluación y seguridadTérminos relacionados: Grounding, Hallucination, Knowledge Graph, Large Language ModelFuente: ACM / IEEE literature on retrieval-augmented generation — fuente pendiente de verificar

GroundingEmergente

Anclaje en la fuente

Vincular una afirmación generada a una fuente concreta y localizable que la respalde.

Tying a generated statement to a specific retrievable source that supports it.

Sin él, una respuesta correcta y otra inventada son indistinguibles para quien lee, y en uso clínico ahí está todo el problema.

Evaluación y seguridadTérminos relacionados: Retrieval-Augmented Generation, Hallucination, Explainable AIFuente: ACM / IEEE literature on grounded generation — fuente pendiente de verificar

HallucinationConsolidado

Alucinación

Una respuesta que suena fluida y convincente pero no se apoya ni en los datos aportados ni en ninguna fuente real.

Output that is fluent and plausible but not supported by the input or by any real source.

En medicina el fallo es asimétrico: una dosis o una cita inventadas se leen exactamente igual que las correctas.

Evaluación y seguridadTérminos relacionados: Grounding, Retrieval-Augmented Generation, Uncertainty Estimation, Human OversightFuente: Nature Medicine and npj Digital Medicine, evaluations of clinical LLM outputs — fuente pendiente de verificar

Clinical ValidationRegulatorio

Validación clínica

Demostración de que la salida de un sistema logra el efecto clínico previsto en la población y el entorno previstos.

Demonstration that a system's output achieves the intended clinical effect in the intended population and setting.

Distinta de la exactitud técnica: un modelo puede puntuar bien en un conjunto reservado y aun así no cambiar nada en la práctica, o causar daño.

Evaluación y seguridadTérminos relacionados: Clinical Prediction Model, TRIPOD+AI, Model Calibration, Dataset ShiftFuente: Regulation (EU) 2017/745 (MDR), Annex XIV; MDCG 2020-1

Model CalibrationConsolidado

Calibración del modelo

La concordancia entre las probabilidades predichas y las frecuencias observadas del desenlace.

The agreement between predicted probabilities and observed frequencies of the outcome.

Un modelo que discrimina bien pero está mal calibrado da el orden correcto y el número equivocado, lo que es inseguro cuando la decisión se toma por el número.

Evaluación y seguridadTérminos relacionados: Clinical Prediction Model, Uncertainty Estimation, TRIPOD+AIFuente: TRIPOD+AI statement, BMJ 2024

Model DriftConsolidado

Deriva del modelo

Degradación con el tiempo del rendimiento de un modelo en uso, a medida que las condiciones se alejan de aquellas con las que se entrenó.

Degradation of a deployed model's performance over time as conditions move away from those it was trained on.

La razón por la que una autorización única no basta y la vigilancia es una obligación normativa, no una buena práctica.

Evaluación y seguridadTérminos relacionados: Dataset Shift, Post-Market Surveillance, Predetermined Change Control PlanFuente: ISO/IEC 23053:2022; FDA AI-enabled device guidance

Dataset ShiftConsolidado

Cambio de distribución

Una diferencia entre la distribución de datos con la que se entrenó un modelo y aquella a la que se aplica.

A change between the data distribution a model was trained on and the one it is applied to.

Explica por qué un modelo validado en un hospital falla en el siguiente: otros equipos, otros hábitos de codificación, otra casuística.

Evaluación y seguridadTérminos relacionados: Model Drift, Clinical Validation, Algorithmic BiasFuente: IEEE / ACM machine-learning literature — fuente pendiente de verificar

Algorithmic BiasConsolidado

Sesgo algorítmico

Diferencia sistemática en el rendimiento o el efecto de un modelo entre grupos, originada en los datos, el diseño o el despliegue.

Systematic difference in a model's performance or effect across groups, arising from data, design or deployment.

En sanidad el daño se acumula: un grupo infrarrepresentado en los datos recibe un resultado menos preciso y, a partir de ahí, menos asistencia.

Evaluación y seguridadTérminos relacionados: Fairness, Dataset Shift, Risk StratificationFuente: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

FairnessConsolidado

Equidad

Un criterio declarado sobre cómo deben repartirse entre grupos los errores o los beneficios de un modelo.

A stated criterion for how a model's errors or benefits should be distributed across groups.

Los criterios de equidad se contradicen matemáticamente; elegir uno es una decisión clínica y ética, no un ajuste técnico por defecto.

Evaluación y seguridadTérminos relacionados: Algorithmic Bias, Human OversightFuente: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

Explainable AIXAIConsolidado

IA explicable

Métodos que hacen comprensible para una persona el comportamiento de un modelo o una salida concreta.

Methods that make a model's behaviour or a specific output understandable to a person.

Una explicación verosímil pero infiel a lo que hace el modelo puede reforzar la confianza equivocada en lugar de reducirla.

Evaluación y seguridadTérminos relacionados: Grounding, Human Oversight, Automation BiasFuente: ISO/IEC TS 6254 (AI explainability); WHO (2021)

Uncertainty EstimationEmergente

Estimación de la incertidumbre

Cuantificar cuánta confianza merece una predicción concreta de un modelo.

Quantifying how much confidence a model's individual prediction warrants.

Habilita el comportamiento más seguro que tiene la IA clínica —negarse a responder—, y un sistema sin ella no puede hacerlo.

Evaluación y seguridadTérminos relacionados: Model Calibration, Human Oversight, HallucinationFuente: IEEE / ACM machine-learning literature — fuente pendiente de verificar

Human OversightRegulatorio

Supervisión humana

El requisito de que una persona pueda comprender, vigilar y anular el funcionamiento de un sistema de IA.

A requirement that a person can understand, monitor and override an AI system's operation.

Una obligación legal para los sistemas de alto riesgo y el mecanismo que mantiene lícito un flujo de borrador y confirmación.

RegulaciónTérminos relacionados: Automation Bias, Clinical Decision Support System, AI Medical ScribeFuente: Regulation (EU) 2024/1689 (AI Act), Art. 14

Automation BiasConsolidado

Sesgo de automatización

La tendencia a aceptar una recomendación automatizada y a restar peso a los indicios que la contradicen.

The tendency to accept an automated recommendation and to under-weigh contradicting evidence.

La razón por la que la supervisión humana hay que diseñarla y no darla por hecha: un paso de revisión que la gente firma sin leer no es supervisión.

Evaluación y seguridadTérminos relacionados: Human Oversight, Clinical Decision Support System, Explainable AIFuente: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

TRIPOD+AIConsolidado

TRIPOD+AI

Una guía de publicación para estudios que desarrollan o evalúan modelos de predicción clínica, incluidos los basados en aprendizaje automático.

A reporting guideline for studies developing or evaluating clinical prediction models, including those using machine learning.

Ofrece una lista concreta con la que juzgar si una afirmación publicada sobre un modelo puede evaluarse siquiera.

Evaluación y seguridadTérminos relacionados: Clinical Prediction Model, Clinical Validation, Model CalibrationFuente: TRIPOD+AI statement, BMJ 2024

DICOMConsolidado

DICOM

El estándar para almacenar y transmitir imágenes médicas junto con los metadatos de su adquisición.

The standard for storing and transmitting medical images together with their acquisition metadata.

Los metadatos son lo que hace analizable una imagen y también lo que la hace identificable; en una cadena de IA importan las dos cosas.

Datos e interoperabilidadTérminos relacionados: Medical Imaging AI, De-identification, Health Data InteroperabilityFuente: NEMA PS3 / ISO 12052, DICOM standard