Private Health Journal

Glossar

Glossar: künstliche Intelligenz in der Medizin

Der kleinste Satz an Begriffen, um künstliche Intelligenz in der Medizin verfolgen zu können.

Eine kompakte Ausgabe. Begriffe stehen nur einmal: Schreibvarianten, Abkürzungen und Synonyme sind in einem Eintrag zusammengefasst.

52 · 5 · 2026-08-25

Grundlagen · Klinische Anwendungen · Daten und Interoperabilität · Bewertung und Sicherheit · RegulierungEtabliert 33 · Aufkommend 9 · Regulatorisch 10

52 von 52 Begriffen angezeigt.

Artificial IntelligenceAIEtabliert

Künstliche Intelligenz

Rechensysteme, die Aufgaben ausführen, für die sonst menschliche Kognition nötig wäre — Wahrnehmung, Schlussfolgern und Sprachgebrauch.

Computational systems that perform tasks normally requiring human cognition, such as perception, inference and language use.

Der Oberbegriff, der in jedem Rechtstext und jeder klinischen Leitlinie vorkommt; gerade seine Weite ist der Grund, warum die engeren Begriffe unten praktisch mehr wiegen.

GrundlagenVerwandte Begriffe: Machine Learning, Deep Learning, Foundation ModelQuelle: Regulation (EU) 2024/1689 (AI Act), Art. 3(1)

Machine LearningMLEtabliert

Maschinelles Lernen

Verfahren, die ein Modell aus Daten ableiten statt aus ausdrücklich geschriebenen Regeln.

Methods that derive a model from data rather than from explicitly written rules.

Fast die gesamte klinische KI ist maschinelles Lernen; die Abgrenzung zu Regelwerken entscheidet darüber, wie ein System validiert und überwacht werden muss.

GrundlagenVerwandte Begriffe: Deep Learning, Model Calibration, Model DriftQuelle: ISO/IEC 22989:2022

Deep LearningDLEtabliert

Tiefes Lernen

Maschinelles Lernen mit mehrschichtigen neuronalen Netzen, die ihre Merkmalsdarstellungen selbst erlernen.

Machine learning using multi-layer neural networks that learn their own feature representations.

Die Grundlage der medizinischen Bildanalyse und aller heutigen Sprachmodelle im Gesundheitswesen.

GrundlagenVerwandte Begriffe: Medical Imaging AI, Foundation ModelQuelle: ISO/IEC 22989:2022

Foundation ModelEtabliert

Basismodell

Ein großes Modell, das auf breiten Daten vortrainiert und für viele nachgelagerte Aufgaben angepasst wird, statt für eine einzige gebaut zu sein.

A large model pre-trained on broad data and adapted to many downstream tasks rather than built for one.

Verlagert die Validierung von einem Modell je Aufgabe auf ein Modell für viele Aufgaben, was Aufsichtsbehörden als eigenes Risikoprofil behandeln.

GrundlagenVerwandte Begriffe: Large Language Model, Medical Large Language Model, Multimodal AIQuelle: Regulation (EU) 2024/1689 (AI Act), Art. 3(63) general-purpose AI model

Large Language ModelLLMEtabliert

Großes Sprachmodell

Ein Basismodell, das darauf trainiert ist, Text vorherzusagen, und dadurch natürliche Sprache erzeugt und deutet.

A foundation model trained to predict text, producing and interpreting natural language.

Steht hinter Dokumentationsassistenten, Zusammenfassungen und Chats für Patientinnen und Patienten — und ist zugleich die Quelle des Halluzinationsrisikos im klinischen Einsatz.

GrundlagenVerwandte Begriffe: Medical Large Language Model, Retrieval-Augmented Generation, Hallucination, GroundingQuelle: Regulation (EU) 2024/1689 (AI Act), Recital 99

Medical Large Language ModelAufkommend

Medizinisches großes Sprachmodell

Ein Sprachmodell, das durch Fachtraining oder Feinabstimmung an klinischen Text, klinische Terminologie und klinische Aufgaben angepasst wurde.

A language model adapted to clinical text, terminology and reasoning tasks through domain training or tuning.

Die Anpassung an die Fachdomäne verbessert den Umgang mit Terminologie, belegt aber für sich genommen keine klinische Sicherheit; die Bewertung bleibt aufgabenbezogen.

Klinische AnwendungenVerwandte Begriffe: Large Language Model, Clinical Natural Language Processing, Hallucination, Clinical ValidationQuelle: npj Digital Medicine, reviews of clinical language models — Quelle noch zu prüfen

Multimodal AIAufkommend

Multimodale KI

Ein Modell, das mehr als eine Eingabeart — etwa Bilder, Text und Signale — in einem einzigen System verarbeitet.

A model that takes in more than one kind of input — for example images, text and signals — within a single system.

Entspricht dem tatsächlichen klinischen Denken, das Befund, Bild und Messwert zusammen liest statt nur eines davon.

GrundlagenVerwandte Begriffe: Foundation Model, Medical Imaging AIQuelle: Nature Medicine, reviews of multimodal clinical models — Quelle noch zu prüfen

Software as a Medical DeviceSaMDRegulatorisch

Software als Medizinprodukt

Software mit medizinischer Zweckbestimmung, die diesen Zweck erfüllt, ohne Teil eines Hardware-Medizinprodukts zu sein.

Software intended for a medical purpose that performs that purpose without being part of a hardware medical device.

Die folgenreichste Einstufung in der Gesundheitssoftware überhaupt: Sie bestimmt Konformitätsbewertung, klinische Evidenz und die Pflichten nach dem Inverkehrbringen.

RegulierungVerwandte Begriffe: AI-enabled Medical Device, Intended Purpose, Clinical Decision Support System, Post-Market SurveillanceQuelle: IMDRF/SaMD WG/N12; MDCG 2019-11 Rev.1

Intended PurposeRegulatorisch

Zweckbestimmung

Die Verwendung, für die ein Produkt nach den Angaben des Herstellers in Kennzeichnung, Gebrauchsanweisung oder Werbematerial bestimmt ist.

The use for which a product is intended according to the data supplied by the manufacturer in labelling, instructions or promotional material.

Die Einstufung richtet sich nach dem, was der Hersteller angibt — auch auf einer Website; ein Haftungsausschluss hebt eine erklärte medizinische Zweckbestimmung nicht auf.

RegulierungVerwandte Begriffe: Software as a Medical Device, AI-enabled Medical DeviceQuelle: Regulation (EU) 2017/745 (MDR), Art. 2(12); CJEU C-329/16

AI-enabled Medical DeviceRegulatorisch

Medizinprodukt mit KI

Ein Medizinprodukt, dessen Funktion ganz oder teilweise von einem Modell des maschinellen Lernens abhängt.

A medical device whose function depends wholly or partly on a machine-learning model.

Bringt Pflichten mit sich, die statische Software nicht kennt: Datenverwaltung, Änderungskontrolle und Leistungsüberwachung nach der Freigabe.

RegulierungVerwandte Begriffe: Software as a Medical Device, Predetermined Change Control Plan, Post-Market Surveillance, Model DriftQuelle: FDA, Artificial Intelligence-Enabled Device Software Functions guidance

Predetermined Change Control PlanPCCPRegulatorisch

Plan für vorab festgelegte Änderungen

Eine vereinbarte Beschreibung, wie ein Modell nach der Zulassung ohne neue Einreichung geändert werden darf und wie jede Änderung überprüft wird.

An agreed description of how a model may be modified after authorisation without a new submission, and how each change will be verified.

Der Mechanismus, mit dem ein lernendes System rechtmäßig aktualisiert werden darf, statt es auf der zugelassenen Version einzufrieren.

RegulierungVerwandte Begriffe: AI-enabled Medical Device, Model Drift, Post-Market SurveillanceQuelle: FDA, Marketing Submission Recommendations for a Predetermined Change Control Plan

Post-Market SurveillancePMSRegulatorisch

Überwachung nach dem Inverkehrbringen

Systematische Erhebung und Auswertung der tatsächlichen Leistung eines Produkts, nachdem es auf dem Markt ist.

Systematic collection and review of a device's real-world performance after it is placed on the market.

Bei lernenden Systemen wird hier die Verschlechterung entdeckt: Ein validiertes Modell kann in einer neuen Population still versagen.

RegulierungVerwandte Begriffe: Model Drift, Dataset Shift, AI-enabled Medical DeviceQuelle: Regulation (EU) 2017/745 (MDR), Art. 83–86

Clinical Decision Support SystemCDSSEtabliert

System zur klinischen Entscheidungsunterstützung

Software, die Behandelnden patientenbezogene Informationen oder Empfehlungen als Grundlage einer Entscheidung liefert.

Software that provides clinicians with patient-specific information or recommendations to inform a decision.

Die Grenze zum regulierten Produkt verläuft dort, wo ein System nicht mehr nur Nachschlagematerial zeigt, sondern mit den Daten einer bestimmten Person arbeitet.

Klinische AnwendungenVerwandte Begriffe: Software as a Medical Device, Automation Bias, Human OversightQuelle: MDCG 2019-11 Rev.1; FDA Clinical Decision Support Software guidance

Ambient Clinical IntelligenceACIAufkommend

Umgebungsbasierte klinische Intelligenz

Systeme, die dem Gespräch in der Sprechstunde zuhören und daraus die Dokumentation erstellen, ohne dass jemand tippen muss.

Systems that listen to a clinical encounter and produce documentation from it without the clinician typing.

Die am schnellsten übernommene Kategorie klinischer KI — und die, in der sich Fragen von Einwilligung, Tonaufnahme und Richtigkeit der Dokumentation bündeln.

Klinische AnwendungenVerwandte Begriffe: AI Medical Scribe, Clinical Natural Language Processing, HallucinationQuelle: npj Digital Medicine, evaluations of ambient documentation — Quelle noch zu prüfen

AI Medical ScribeAufkommend

KI-Dokumentationsassistent

Ein Werkzeug, das aus der Tonaufnahme einer Konsultation einen Notizentwurf erstellt, den die behandelnde Person prüft und freigibt.

A tool that drafts a clinical note from the audio of a consultation for the clinician to review and sign.

Das Muster „erst Entwurf, dann Bestätigung“ hält es nach den meisten Lesarten außerhalb der Produkteinstufung; fällt der Prüfschritt weg, ändert sich das.

Klinische AnwendungenVerwandte Begriffe: Ambient Clinical Intelligence, Human Oversight, HallucinationQuelle: npj Digital Medicine, evaluations of ambient documentation — Quelle noch zu prüfen

Medical Imaging AIEtabliert

KI in der medizinischen Bildgebung

Modelle, die Befunde in radiologischen und anderen medizinischen Bildern klassifizieren, erkennen, segmentieren oder überlagern.

Models that classify, detect, segment or register findings in radiological and other medical images.

Die größte Gruppe zugelassener KI-Medizinprodukte und die Quelle der meisten veröffentlichten Belege zur klinischen Leistung.

Klinische AnwendungenVerwandte Begriffe: Radiomics, Computational Pathology, DICOM, Deep LearningQuelle: FDA, list of AI-enabled device software functions

RadiomicsEtabliert

Radiomik

Gewinnung einer großen Zahl quantitativer Merkmale aus medizinischen Bildern zur Verwendung als Modelleingaben.

Extraction of large numbers of quantitative features from medical images for use as model inputs.

Macht aus einem Bild eine Tabelle und damit etwas Auswertbares — und rückt die Reproduzierbarkeit zwischen Geräten ins Zentrum.

Klinische AnwendungenVerwandte Begriffe: Medical Imaging AI, Dataset ShiftQuelle: MeSH descriptor: Radiomics

Computational PathologyEtabliert

Computergestützte Pathologie

Analyse digitalisierter Gewebeschnitte durch rechnergestützte Modelle.

Analysis of digitised whole-slide tissue images by computational models.

Die Digitalisierung der Schnitte ist die Voraussetzung; ohne sie hat das Fach keine Eingabe, weshalb die Verbreitung der Scanner-Ausstattung folgt.

Klinische AnwendungenVerwandte Begriffe: Medical Imaging AI, Deep LearningQuelle: The Lancet Digital Health, reviews of computational pathology — Quelle noch zu prüfen

Clinical Natural Language Processingclinical NLPEtabliert

Klinische Sprachverarbeitung

Gewinnung strukturierter Bedeutung aus klinischen Freitexten wie Notizen, Befunden und Entlassbriefen.

Extraction of structured meaning from free-text clinical documents such as notes, reports and discharge summaries.

Der größte Teil einer Akte ist Fließtext; fast jede weitere Auswertung setzt voraus, dass daraus zuerst Codes und Werte werden.

Klinische AnwendungenVerwandte Begriffe: SNOMED CT, Medical Large Language Model, Electronic Health RecordQuelle: NLM, clinical NLP resources

Digital BiomarkerAufkommend

Digitaler Biomarker

Eine physiologische oder verhaltensbezogene Messgröße, die ein digitales Gerät erhebt und die als Anzeiger eines Gesundheitszustands dient.

A physiological or behavioural measure collected by a digital device and used as an indicator of a health state.

Macht die laufenden Daten von Verbrauchergeräten für Studien nutzbar — vorausgesetzt, das Maß selbst ist validiert.

Klinische AnwendungenVerwandte Begriffe: Remote Patient Monitoring, Clinical ValidationQuelle: FDA-NIH BEST (Biomarkers, EndpointS, and other Tools) resource

Remote Patient MonitoringRPMEtabliert

Telemonitoring

Erhebung von Gesundheitswerten außerhalb einer Einrichtung und deren Auswertung durch ein Behandlungsteam.

Collection of health measurements outside a care setting and their review by a care team.

Erzeugt jenen fortlaufenden Datenstrom, den die meisten Vorhersagemodelle in der chronischen Versorgung als gegeben annehmen.

Klinische AnwendungenVerwandte Begriffe: Digital Biomarker, Clinical Prediction ModelQuelle: WHO, guideline on digital interventions for health system strengthening

Precision MedicineEtabliert

Präzisionsmedizin

Anpassung von Vorbeugung und Behandlung an die individuelle Variabilität von Genen, Umwelt und Lebensweise.

Tailoring prevention and treatment to individual variability in genes, environment and lifestyle.

Das klinische Ziel, mit dem der größte Teil der Vorhersagemodellierung begründet wird, und der Grund, warum genomische Daten in die Modelleingabe gelangen.

Klinische AnwendungenVerwandte Begriffe: Risk Stratification, Clinical Prediction ModelQuelle: MeSH descriptor: Precision Medicine

Risk StratificationEtabliert

Risikostratifizierung

Einteilung einer Population in Gruppen nach geschätzter Wahrscheinlichkeit eines Ereignisses, um Aufmerksamkeit oder Mittel zu lenken.

Sorting a population into groups by estimated probability of an outcome, to direct attention or resources.

Hier richtet algorithmische Verzerrung den unmittelbarsten Schaden an, denn das Ergebnis verteilt Versorgung, statt einen Zustand nur zu beschreiben.

Klinische AnwendungenVerwandte Begriffe: Clinical Prediction Model, Algorithmic Bias, Model CalibrationQuelle: MeSH descriptor: Risk Assessment

Clinical Prediction ModelEtabliert

Klinisches Vorhersagemodell

Ein Modell, das für eine einzelne Person die Wahrscheinlichkeit einer vorliegenden Diagnose oder eines eintretenden Ereignisses schätzt.

A model estimating the probability of a diagnosis being present or an outcome occurring for an individual.

Die häufigste Form klinischer KI; Berichtsstandards entstanden gerade deshalb, weil die meisten veröffentlichten Modelle nicht nutzbar waren.

Bewertung und SicherheitVerwandte Begriffe: Model Calibration, TRIPOD+AI, Clinical Validation, Risk StratificationQuelle: TRIPOD+AI statement, BMJ 2024

Electronic Health RecordEHREtabliert

Elektronische Patientenakte

Die fortlaufende Aufzeichnung der Versorgung einer Person, geführt von einer Einrichtung des Gesundheitswesens.

The longitudinal record of a patient's care held by a healthcare provider organisation.

Die Hauptquelle der Trainings- und Inferenzdaten klinischer KI — und der Hauptgrund, warum diese Daten der Einrichtung folgen und nicht der Person.

Daten und InteroperabilitätVerwandte Begriffe: Fast Healthcare Interoperability Resources, Clinical Natural Language Processing, Health Data InteroperabilityQuelle: MeSH descriptor: Electronic Health Records

Fast Healthcare Interoperability ResourcesFHIREtabliert

FHIR

Ein HL7-Standard, der Gesundheitsdaten als modulare Ressourcen beschreibt, die über Web-Schnittstellen ausgetauscht werden.

An HL7 standard defining health data as modular resources exchanged over web APIs.

Die praktische Schnittstelle zwischen einem KI-System und echten klinischen Daten; sie zu benennen macht eine Interoperabilitätsaussage überprüfbar.

Daten und InteroperabilitätVerwandte Begriffe: Electronic Health Record, Health Data Interoperability, International Patient SummaryQuelle: HL7 FHIR Release 4 specification

International Patient SummaryIPSEtabliert

Internationale Patientenkurzakte

Ein minimaler, fachgebietsunabhängiger Datensatz zur Unterstützung ungeplanter grenzüberschreitender Versorgung.

A minimal, specialty-agnostic set of health data intended to support unplanned cross-border care.

Das konkrete Ziel für mitnehmbare Patientenakten und das Profil, an dem sich die meisten Exportversprechen messen lassen sollten.

Daten und InteroperabilitätVerwandte Begriffe: Fast Healthcare Interoperability Resources, Health Data Interoperability, European Health Data SpaceQuelle: HL7 International Patient Summary implementation guide; EN 17269

SNOMED CTEtabliert

SNOMED CT

Eine klinische Terminologie mit kodierten Begriffen und deren Beziehungen zur Erfassung klinischer Bedeutung.

A clinical terminology providing coded concepts and their relationships for recording clinical meaning.

Gibt einem Modell etwas Stabiles, woran ein Befund hängen kann; freie Textetiketten überstehen den Wechsel zwischen Systemen nicht.

Daten und InteroperabilitätVerwandte Begriffe: Medical Ontology, Clinical Natural Language Processing, Fast Healthcare Interoperability ResourcesQuelle: SNOMED International, SNOMED CT

Medical OntologyEtabliert

Medizinische Ontologie

Eine formale Struktur von Begriffen und Beziehungen eines medizinischen Bereichs, über die geschlussfolgert werden kann.

A formal structure of concepts and relations in a medical domain, allowing meaning to be reasoned over.

Der Unterschied zwischen dem Abgleich von Zeichenketten und dem Abgleich von Bedeutung; ohne sie scheitert die Behandlung von Synonymen unbemerkt.

Daten und InteroperabilitätVerwandte Begriffe: SNOMED CT, Knowledge Graph, Health Data InteroperabilityQuelle: NLM Unified Medical Language System (UMLS)

Knowledge GraphKGEtabliert

Wissensgraph

Ein Graph aus Entitäten und typisierten Beziehungen als abfragbare Darstellung eines Fachgebiets.

A graph of entities and typed relationships used as a queryable representation of a domain.

Wird genutzt, um Erzeugtes an festgehaltene Fakten statt an das Modellgedächtnis zu binden — und um nachzuvollziehen, warum eine Ausgabe entstand.

Daten und InteroperabilitätVerwandte Begriffe: Medical Ontology, Retrieval-Augmented Generation, GroundingQuelle: IEEE / ACM literature on knowledge graphs — Quelle noch zu prüfen

Health Data InteroperabilityEtabliert

Interoperabilität von Gesundheitsdaten

Die Fähigkeit von Systemen, Gesundheitsdaten auszutauschen und sie unter Erhalt ihrer Bedeutung zu nutzen.

The ability of systems to exchange health data and use it with its meaning preserved.

Austausch ohne gemeinsame Bedeutung liefert Daten, die ankommen, auf die man sich aber nicht verlassen kann; die zweite Hälfte ist die schwierige.

Daten und InteroperabilitätVerwandte Begriffe: Fast Healthcare Interoperability Resources, SNOMED CT, European Health Data Space, International Patient SummaryQuelle: HL7; ISO/TC 215 health informatics standards

European Health Data SpaceEHDSRegulatorisch

Europäischer Gesundheitsdatenraum

Ein EU-Rahmen für den Zugang zu elektronischen Gesundheitsdaten und deren Austausch für die Versorgung und für die Sekundärnutzung.

An EU framework governing access to and exchange of electronic health data for care and for secondary use.

Setzt datierte Pflichten für Aktensysteme und führt ein Kennzeichnungsregime ein, das nicht nur Produkte, sondern auch Wellness-Anwendungen erfasst.

RegulierungVerwandte Begriffe: Health Data Interoperability, International Patient Summary, Special Category Health DataQuelle: Regulation (EU) 2025/327 (European Health Data Space)

Special Category Health DataRegulatorisch

Gesundheitsdaten besonderer Kategorie

Personenbezogene Daten über die Gesundheit, deren Verarbeitung untersagt ist, sofern keine besondere Bedingung greift.

Personal data concerning health, whose processing is prohibited unless a specific condition applies.

Bestimmt die Rechtsgrundlage jedes Trainingsdatensatzes und ist der Grund, warum Anonymisierung und Einwilligungsgestaltung dem Modellentwurf vorausgehen.

RegulierungVerwandte Begriffe: De-identification, Synthetic Health Data, European Health Data SpaceQuelle: Regulation (EU) 2016/679 (GDPR), Art. 9

Federated LearningFLEtabliert

Föderiertes Lernen

Training eines gemeinsamen Modells über Einrichtungen hinweg durch Austausch von Modellaktualisierungen statt der Daten selbst.

Training a shared model across institutions by exchanging model updates instead of moving the data.

Die wichtigste Antwort für Kliniken, die ihre Akten nicht zusammenlegen können — wobei auch die Aktualisierungen selbst Informationen preisgeben können und eigenen Schutz brauchen.

Daten und InteroperabilitätVerwandte Begriffe: Privacy-Preserving Machine Learning, Synthetic Health DataQuelle: npj Digital Medicine, federated learning in healthcare reviews — Quelle noch zu prüfen

Privacy-Preserving Machine LearningPPMLAufkommend

Datenschutzwahrendes maschinelles Lernen

Verfahren, die begrenzen, was sich aus einem Modell oder seinem Training über einzelne Personen ableiten lässt.

Techniques that limit what can be inferred about individuals from a model or its training process.

Unterscheidet eine bauliche Garantie von einem Versprechen in einer Richtlinie — und genau danach fragt die Beschaffung.

Daten und InteroperabilitätVerwandte Begriffe: Federated Learning, De-identification, Synthetic Health DataQuelle: ISO/IEC 27559:2022 privacy-enhancing data de-identification framework

De-identificationRegulatorisch

Anonymisierung

Entfernen oder Verändern von Kennzeichen, sodass ein Datensatz ohne zusätzliche Informationen keiner Person mehr zugeordnet werden kann.

Removing or transforming identifiers so that a record can no longer be attributed to a person without additional information.

Pseudonymisierte Daten bleiben im EU-Recht personenbezogen; beides gleichzusetzen ist der häufigste Compliance-Fehler in KI-Vorhaben.

Daten und InteroperabilitätVerwandte Begriffe: Special Category Health Data, Synthetic Health Data, Privacy-Preserving Machine LearningQuelle: Regulation (EU) 2016/679 (GDPR), Art. 4(5) and Recital 26; ISO/IEC 27559:2022

Synthetic Health DataAufkommend

Synthetische Gesundheitsdaten

Künstlich erzeugte Datensätze, die die statistische Struktur echter Gesundheitsdaten nachbilden, ohne realen Personen zu entsprechen.

Artificially generated records that reproduce the statistical structure of real health data without corresponding to real people.

Nützlich für Entwicklung und Test; das Datenschutzrisiko nehmen sie für sich genommen nicht, denn Generatoren können ihren Trainingsbestand auswendig lernen.

Daten und InteroperabilitätVerwandte Begriffe: De-identification, Privacy-Preserving Machine LearningQuelle: npj Digital Medicine, evaluations of synthetic health data — Quelle noch zu prüfen

Retrieval-Augmented GenerationRAGEtabliert

Abrufgestützte Generierung

Quelltexte werden zur Anfragezeit abgerufen, und die Erzeugung stützt sich auf sie statt allein auf das Gedächtnis des Modells.

Retrieving source passages at query time and conditioning generation on them rather than on model memory alone.

Die übliche Gegenmaßnahme gegen Halluzinationen bei medizinischen Fragen und der Mechanismus, der eine Quellenangabe überprüfbar macht.

Bewertung und SicherheitVerwandte Begriffe: Grounding, Hallucination, Knowledge Graph, Large Language ModelQuelle: ACM / IEEE literature on retrieval-augmented generation — Quelle noch zu prüfen

GroundingAufkommend

Quellenbindung

Die Bindung einer erzeugten Aussage an eine bestimmte auffindbare Quelle, die sie belegt.

Tying a generated statement to a specific retrievable source that supports it.

Ohne sie sind eine richtige und eine erfundene Antwort für die lesende Person nicht zu unterscheiden — und darin besteht im klinischen Einsatz das ganze Problem.

Bewertung und SicherheitVerwandte Begriffe: Retrieval-Augmented Generation, Hallucination, Explainable AIQuelle: ACM / IEEE literature on grounded generation — Quelle noch zu prüfen

HallucinationEtabliert

Halluzination

Eine Antwort, die flüssig und überzeugend klingt, sich aber weder auf die Eingabe noch auf eine reale Quelle stützt.

Output that is fluent and plausible but not supported by the input or by any real source.

In der Medizin ist dieses Versagen unsymmetrisch: Eine erfundene Dosis oder Quellenangabe liest sich genau wie eine richtige.

Bewertung und SicherheitVerwandte Begriffe: Grounding, Retrieval-Augmented Generation, Uncertainty Estimation, Human OversightQuelle: Nature Medicine and npj Digital Medicine, evaluations of clinical LLM outputs — Quelle noch zu prüfen

Clinical ValidationRegulatorisch

Klinische Validierung

Der Nachweis, dass die Ausgabe eines Systems in der vorgesehenen Population und Umgebung den beabsichtigten klinischen Nutzen erzielt.

Demonstration that a system's output achieves the intended clinical effect in the intended population and setting.

Etwas anderes als technische Genauigkeit: Ein Modell kann auf dem Testdatensatz gut abschneiden und in der Praxis dennoch nichts ändern oder schaden.

Bewertung und SicherheitVerwandte Begriffe: Clinical Prediction Model, TRIPOD+AI, Model Calibration, Dataset ShiftQuelle: Regulation (EU) 2017/745 (MDR), Annex XIV; MDCG 2020-1

Model CalibrationEtabliert

Kalibrierung

Die Übereinstimmung zwischen vorhergesagten Wahrscheinlichkeiten und den beobachteten Häufigkeiten des Ereignisses.

The agreement between predicted probabilities and observed frequencies of the outcome.

Ein gut trennendes, aber schlecht kalibriertes Modell liefert die richtige Reihenfolge und die falsche Zahl — unsicher, sobald die Zahl die Entscheidung trägt.

Bewertung und SicherheitVerwandte Begriffe: Clinical Prediction Model, Uncertainty Estimation, TRIPOD+AIQuelle: TRIPOD+AI statement, BMJ 2024

Model DriftEtabliert

Modelldrift

Nachlassende Leistung eines eingesetzten Modells über die Zeit, wenn sich die Bedingungen von den Trainingsbedingungen entfernen.

Degradation of a deployed model's performance over time as conditions move away from those it was trained on.

Der Grund, warum eine einmalige Zulassung nicht genügt und Überwachung eine rechtliche Pflicht ist und nicht bloß gute Praxis.

Bewertung und SicherheitVerwandte Begriffe: Dataset Shift, Post-Market Surveillance, Predetermined Change Control PlanQuelle: ISO/IEC 23053:2022; FDA AI-enabled device guidance

Dataset ShiftEtabliert

Verteilungsverschiebung

Ein Unterschied zwischen der Datenverteilung, auf der ein Modell trainiert wurde, und jener, auf die es angewendet wird.

A change between the data distribution a model was trained on and the one it is applied to.

Erklärt, warum ein in einem Krankenhaus validiertes Modell im nächsten versagt: andere Geräte, andere Kodiergewohnheiten, anderer Fallmix.

Bewertung und SicherheitVerwandte Begriffe: Model Drift, Clinical Validation, Algorithmic BiasQuelle: IEEE / ACM machine-learning literature — Quelle noch zu prüfen

Algorithmic BiasEtabliert

Algorithmische Verzerrung

Systematischer Unterschied in Leistung oder Wirkung eines Modells zwischen Gruppen, entstanden aus Daten, Entwurf oder Einsatz.

Systematic difference in a model's performance or effect across groups, arising from data, design or deployment.

Im Gesundheitswesen summiert sich der Schaden: Eine in den Daten unterrepräsentierte Gruppe erhält ungenauere Ergebnisse und daraufhin weniger Versorgung.

Bewertung und SicherheitVerwandte Begriffe: Fairness, Dataset Shift, Risk StratificationQuelle: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

FairnessEtabliert

Fairness

Ein ausdrücklich benanntes Kriterium dafür, wie Fehler oder Nutzen eines Modells über Gruppen verteilt sein sollen.

A stated criterion for how a model's errors or benefits should be distributed across groups.

Fairnesskriterien widersprechen einander mathematisch; sich für eines zu entscheiden ist eine klinische und ethische Entscheidung, keine technische Voreinstellung.

Bewertung und SicherheitVerwandte Begriffe: Algorithmic Bias, Human OversightQuelle: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

Explainable AIXAIEtabliert

Erklärbare KI

Verfahren, die das Verhalten eines Modells oder eine einzelne Ausgabe für einen Menschen nachvollziehbar machen.

Methods that make a model's behaviour or a specific output understandable to a person.

Eine Erklärung, die plausibel klingt, dem Modell aber nicht entspricht, kann falsches Vertrauen eher stärken als abbauen.

Bewertung und SicherheitVerwandte Begriffe: Grounding, Human Oversight, Automation BiasQuelle: ISO/IEC TS 6254 (AI explainability); WHO (2021)

Uncertainty EstimationAufkommend

Unsicherheitsschätzung

Die Quantifizierung dessen, wie viel Vertrauen eine einzelne Vorhersage eines Modells rechtfertigt.

Quantifying how much confidence a model's individual prediction warrants.

Ermöglicht das sicherste Verhalten, das klinische KI kennt — die Antwort zu verweigern; ein System ohne sie kann das nicht.

Bewertung und SicherheitVerwandte Begriffe: Model Calibration, Human Oversight, HallucinationQuelle: IEEE / ACM machine-learning literature — Quelle noch zu prüfen

Human OversightRegulatorisch

Menschliche Aufsicht

Die Anforderung, dass ein Mensch den Betrieb eines KI-Systems verstehen, überwachen und übersteuern kann.

A requirement that a person can understand, monitor and override an AI system's operation.

Eine Rechtspflicht für Hochrisikosysteme und der Mechanismus, der einen Ablauf aus Entwurf und Bestätigung rechtmäßig hält.

RegulierungVerwandte Begriffe: Automation Bias, Clinical Decision Support System, AI Medical ScribeQuelle: Regulation (EU) 2024/1689 (AI Act), Art. 14

Automation BiasEtabliert

Automatisierungsverzerrung

Die Neigung, eine automatisierte Empfehlung anzunehmen und widersprechende Hinweise zu gering zu gewichten.

The tendency to accept an automated recommendation and to under-weigh contradicting evidence.

Der Grund, warum menschliche Aufsicht gestaltet und nicht vorausgesetzt werden muss: Ein Prüfschritt, den Menschen blind abzeichnen, ist keine Aufsicht.

Bewertung und SicherheitVerwandte Begriffe: Human Oversight, Clinical Decision Support System, Explainable AIQuelle: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

TRIPOD+AIEtabliert

TRIPOD+AI

Eine Berichtsleitlinie für Studien, die klinische Vorhersagemodelle entwickeln oder bewerten, einschließlich solcher mit maschinellem Lernen.

A reporting guideline for studies developing or evaluating clinical prediction models, including those using machine learning.

Liefert eine konkrete Prüfliste, an der sich beurteilen lässt, ob eine veröffentlichte Modellaussage überhaupt bewertbar ist.

Bewertung und SicherheitVerwandte Begriffe: Clinical Prediction Model, Clinical Validation, Model CalibrationQuelle: TRIPOD+AI statement, BMJ 2024

DICOMEtabliert

DICOM

Der Standard zur Speicherung und Übertragung medizinischer Bilder samt ihrer Aufnahme-Metadaten.

The standard for storing and transmitting medical images together with their acquisition metadata.

Die Metadaten machen ein Bild auswertbar und zugleich identifizierend; für KI-Verarbeitungsketten zählt beides.

Daten und InteroperabilitätVerwandte Begriffe: Medical Imaging AI, De-identification, Health Data InteroperabilityQuelle: NEMA PS3 / ISO 12052, DICOM standard