Private Health Journal

Słownik

Słownik: sztuczna inteligencja w medycynie

Minimalny zestaw pojęć potrzebny, by orientować się w sztucznej inteligencji w medycynie.

Wydanie zwięzłe. Terminy nie powtarzają się: warianty zapisu, skróty i synonimy zebrano w jednym haśle.

52 · 5 · 2026-08-25

Podstawy · Zastosowania kliniczne · Dane i interoperacyjność · Ocena i bezpieczeństwo · RegulacjeUstalony 33 · Powstający 9 · Regulacyjny 10

Pokazano 52 z 52 pojęć.

Artificial IntelligenceAIUstalony

Sztuczna inteligencja

Systemy obliczeniowe wykonujące zadania, które zwykle wymagają ludzkiego poznania — postrzegania, wnioskowania i posługiwania się językiem.

Computational systems that perform tasks normally requiring human cognition, such as perception, inference and language use.

Termin parasolowy obecny w każdym akcie prawnym i każdych wytycznych klinicznych; właśnie z powodu jego szerokości węższe pojęcia poniżej znaczą w praktyce więcej.

PodstawyPojęcia powiązane: Machine Learning, Deep Learning, Foundation ModelŹródło: Regulation (EU) 2024/1689 (AI Act), Art. 3(1)

Machine LearningMLUstalony

Uczenie maszynowe

Metody wyprowadzające model z danych, a nie z jawnie zapisanych reguł.

Methods that derive a model from data rather than from explicitly written rules.

Niemal cała kliniczna SI to uczenie maszynowe; odróżnienie go od systemów regułowych przesądza o tym, jak system trzeba walidować i nadzorować.

PodstawyPojęcia powiązane: Deep Learning, Model Calibration, Model DriftŹródło: ISO/IEC 22989:2022

Deep LearningDLUstalony

Uczenie głębokie

Uczenie maszynowe z wykorzystaniem wielowarstwowych sieci neuronowych, które same uczą się reprezentacji cech.

Machine learning using multi-layer neural networks that learn their own feature representations.

Podstawa analizy obrazu medycznego i wszystkich dzisiejszych modeli językowych w ochronie zdrowia.

PodstawyPojęcia powiązane: Medical Imaging AI, Foundation ModelŹródło: ISO/IEC 22989:2022

Foundation ModelUstalony

Model bazowy

Duży model wstępnie wytrenowany na szerokich danych i dostosowywany do wielu zadań, zamiast budowany pod jedno.

A large model pre-trained on broad data and adapted to many downstream tasks rather than built for one.

Przenosi walidację z jednego modelu na zadanie na jeden model używany w wielu zadaniach, co regulatorzy traktują jako odrębny profil ryzyka.

PodstawyPojęcia powiązane: Large Language Model, Medical Large Language Model, Multimodal AIŹródło: Regulation (EU) 2024/1689 (AI Act), Art. 3(63) general-purpose AI model

Large Language ModelLLMUstalony

Duży model językowy

Model bazowy trenowany do przewidywania tekstu, dzięki czemu tworzy i interpretuje język naturalny.

A foundation model trained to predict text, producing and interpreting natural language.

Stoi za asystentami dokumentacji, streszczeniami i czatami dla pacjentów; jest też źródłem ryzyka halucynacji w warunkach klinicznych.

PodstawyPojęcia powiązane: Medical Large Language Model, Retrieval-Augmented Generation, Hallucination, GroundingŹródło: Regulation (EU) 2024/1689 (AI Act), Recital 99

Medical Large Language ModelPowstający

Medyczny duży model językowy

Model językowy dostosowany do tekstu klinicznego, terminologii i zadań rozumowania klinicznego przez trenowanie lub dostrajanie dziedzinowe.

A language model adapted to clinical text, terminology and reasoning tasks through domain training or tuning.

Dostosowanie do dziedziny poprawia obsługę terminologii, ale samo w sobie nie dowodzi bezpieczeństwa klinicznego; ocena pozostaje związana z konkretnym zadaniem.

Zastosowania klinicznePojęcia powiązane: Large Language Model, Clinical Natural Language Processing, Hallucination, Clinical ValidationŹródło: npj Digital Medicine, reviews of clinical language models — źródło do zweryfikowania

Multimodal AIPowstający

Wielomodalna SI

Model przyjmujący więcej niż jeden rodzaj danych wejściowych — na przykład obrazy, tekst i sygnały — w obrębie jednego systemu.

A model that takes in more than one kind of input — for example images, text and signals — within a single system.

Odpowiada temu, jak naprawdę przebiega rozumowanie kliniczne: opis, obraz i pomiar czyta się razem, a nie osobno.

PodstawyPojęcia powiązane: Foundation Model, Medical Imaging AIŹródło: Nature Medicine, reviews of multimodal clinical models — źródło do zweryfikowania

Software as a Medical DeviceSaMDRegulacyjny

Oprogramowanie jako wyrób medyczny

Oprogramowanie o przeznaczeniu medycznym, które realizuje ten cel, nie będąc częścią sprzętowego wyrobu medycznego.

Software intended for a medical purpose that performs that purpose without being part of a hardware medical device.

Najbardziej brzemienna w skutki klasyfikacja w oprogramowaniu medycznym: przesądza o ocenie zgodności, dowodach klinicznych i obowiązkach po wprowadzeniu do obrotu.

RegulacjePojęcia powiązane: AI-enabled Medical Device, Intended Purpose, Clinical Decision Support System, Post-Market SurveillanceŹródło: IMDRF/SaMD WG/N12; MDCG 2019-11 Rev.1

Intended PurposeRegulacyjny

Przewidziane zastosowanie

Zastosowanie, do jakiego produkt jest przeznaczony według danych podanych przez wytwórcę w oznakowaniu, instrukcji lub materiałach promocyjnych.

The use for which a product is intended according to the data supplied by the manufacturer in labelling, instructions or promotional material.

Klasyfikacja idzie za tym, co deklaruje wytwórca — również na stronie internetowej; zastrzeżenie nie unieważnia ogłoszonego przeznaczenia medycznego.

RegulacjePojęcia powiązane: Software as a Medical Device, AI-enabled Medical DeviceŹródło: Regulation (EU) 2017/745 (MDR), Art. 2(12); CJEU C-329/16

AI-enabled Medical DeviceRegulacyjny

Wyrób medyczny ze sztuczną inteligencją

Wyrób medyczny, którego działanie w całości lub częściowo zależy od modelu uczenia maszynowego.

A medical device whose function depends wholly or partly on a machine-learning model.

Dokłada obowiązki, których nie ma przy oprogramowaniu statycznym: nadzór nad danymi, kontrolę zmian i monitorowanie działania po wydaniu.

RegulacjePojęcia powiązane: Software as a Medical Device, Predetermined Change Control Plan, Post-Market Surveillance, Model DriftŹródło: FDA, Artificial Intelligence-Enabled Device Software Functions guidance

Predetermined Change Control PlanPCCPRegulacyjny

Plan z góry określonych zmian

Uzgodniony opis tego, jak model może być zmieniany po dopuszczeniu bez nowego zgłoszenia i jak każda zmiana zostanie zweryfikowana.

An agreed description of how a model may be modified after authorisation without a new submission, and how each change will be verified.

Mechanizm pozwalający legalnie aktualizować system, który się uczy, zamiast zamrażać go na zatwierdzonej wersji.

RegulacjePojęcia powiązane: AI-enabled Medical Device, Model Drift, Post-Market SurveillanceŹródło: FDA, Marketing Submission Recommendations for a Predetermined Change Control Plan

Post-Market SurveillancePMSRegulacyjny

Nadzór po wprowadzeniu do obrotu

Systematyczne zbieranie i analiza rzeczywistych wyników działania wyrobu po jego wprowadzeniu na rynek.

Systematic collection and review of a device's real-world performance after it is placed on the market.

W systemach uczących się to tutaj wychwytuje się pogorszenie: model, który przeszedł walidację, może po cichu zawieść w nowej populacji.

RegulacjePojęcia powiązane: Model Drift, Dataset Shift, AI-enabled Medical DeviceŹródło: Regulation (EU) 2017/745 (MDR), Art. 83–86

Clinical Decision Support SystemCDSSUstalony

System wspomagania decyzji klinicznych

Oprogramowanie dostarczające personelowi informacji lub zaleceń dotyczących konkretnego pacjenta jako podstawy decyzji.

Software that provides clinicians with patient-specific information or recommendations to inform a decision.

Granica, za którą system staje się wyrobem regulowanym, przebiega tam, gdzie przestaje jedynie pokazywać materiał referencyjny, a zaczyna pracować na danych konkretnej osoby.

Zastosowania klinicznePojęcia powiązane: Software as a Medical Device, Automation Bias, Human OversightŹródło: MDCG 2019-11 Rev.1; FDA Clinical Decision Support Software guidance

Ambient Clinical IntelligenceACIPowstający

Otoczeniowa inteligencja kliniczna

Systemy, które słuchają przebiegu wizyty i na tej podstawie tworzą dokumentację, bez konieczności pisania jej przez człowieka.

Systems that listen to a clinical encounter and produce documentation from it without the clinician typing.

Najszybciej przyjmowana kategoria klinicznej SI i ta, w której skupiają się pytania o zgodę, nagrywanie i rzetelność dokumentacji.

Zastosowania klinicznePojęcia powiązane: AI Medical Scribe, Clinical Natural Language Processing, HallucinationŹródło: npj Digital Medicine, evaluations of ambient documentation — źródło do zweryfikowania

AI Medical ScribePowstający

Asystent dokumentacji SI

Narzędzie tworzące projekt notatki klinicznej z nagrania konsultacji, który lekarz sprawdza i podpisuje.

A tool that drafts a clinical note from the audio of a consultation for the clinician to review and sign.

Schemat „najpierw szkic, potem potwierdzenie” to właśnie to, co w większości interpretacji trzyma go poza klasyfikacją wyrobu medycznego; usunięcie kroku weryfikacji to zmienia.

Zastosowania klinicznePojęcia powiązane: Ambient Clinical Intelligence, Human Oversight, HallucinationŹródło: npj Digital Medicine, evaluations of ambient documentation — źródło do zweryfikowania

Medical Imaging AIUstalony

SI w obrazowaniu medycznym

Modele klasyfikujące, wykrywające, segmentujące lub nakładające zmiany widoczne w obrazach radiologicznych i innych obrazach medycznych.

Models that classify, detect, segment or register findings in radiological and other medical images.

Największa kategoria dopuszczonych wyrobów medycznych z SI i źródło większości opublikowanych dowodów na ich skuteczność kliniczną.

Zastosowania klinicznePojęcia powiązane: Radiomics, Computational Pathology, DICOM, Deep LearningŹródło: FDA, list of AI-enabled device software functions

RadiomicsUstalony

Radiomika

Wydobywanie dużej liczby cech ilościowych z obrazów medycznych do wykorzystania jako dane wejściowe modelu.

Extraction of large numbers of quantitative features from medical images for use as model inputs.

Zamienia obraz w tabelę, co czyni go analizowalnym — i stawia powtarzalność między aparatami w centrum problemu.

Zastosowania klinicznePojęcia powiązane: Medical Imaging AI, Dataset ShiftŹródło: MeSH descriptor: Radiomics

Computational PathologyUstalony

Patologia obliczeniowa

Analiza cyfrowych obrazów całych preparatów tkankowych za pomocą modeli obliczeniowych.

Analysis of digitised whole-slide tissue images by computational models.

Cyfryzacja preparatów jest warunkiem wstępnym; bez niej dziedzina nie ma danych wejściowych, dlatego jej rozwój idzie za wdrażaniem skanerów.

Zastosowania klinicznePojęcia powiązane: Medical Imaging AI, Deep LearningŹródło: The Lancet Digital Health, reviews of computational pathology — źródło do zweryfikowania

Clinical Natural Language Processingclinical NLPUstalony

Kliniczne przetwarzanie języka

Wydobywanie ustrukturyzowanego znaczenia z klinicznych dokumentów tekstowych, takich jak notatki, opisy i wypisy.

Extraction of structured meaning from free-text clinical documents such as notes, reports and discharge summaries.

Większość dokumentacji to tekst ciągły; niemal każda dalsza analiza wymaga wcześniejszej zamiany tego tekstu na kody i wartości.

Zastosowania klinicznePojęcia powiązane: SNOMED CT, Medical Large Language Model, Electronic Health RecordŹródło: NLM, clinical NLP resources

Digital BiomarkerPowstający

Cyfrowy biomarker

Miara fizjologiczna lub behawioralna zbierana przez urządzenie cyfrowe i używana jako wskaźnik stanu zdrowia.

A physiological or behavioural measure collected by a digital device and used as an indicator of a health state.

Zamienia ciągłe dane z urządzeń konsumenckich w coś, czego może użyć badanie — pod warunkiem, że sam wskaźnik został zwalidowany.

Zastosowania klinicznePojęcia powiązane: Remote Patient Monitoring, Clinical ValidationŹródło: FDA-NIH BEST (Biomarkers, EndpointS, and other Tools) resource

Remote Patient MonitoringRPMUstalony

Zdalne monitorowanie pacjenta

Zbieranie pomiarów zdrowotnych poza placówką i ich przegląd przez zespół opiekujący się pacjentem.

Collection of health measurements outside a care setting and their review by a care team.

Wytwarza ten ciągły strumień danych, którego istnienie zakłada większość modeli predykcyjnych w opiece nad chorobami przewlekłymi.

Zastosowania klinicznePojęcia powiązane: Digital Biomarker, Clinical Prediction ModelŹródło: WHO, guideline on digital interventions for health system strengthening

Precision MedicineUstalony

Medycyna precyzyjna

Dostosowanie profilaktyki i leczenia do indywidualnej zmienności genów, środowiska i stylu życia.

Tailoring prevention and treatment to individual variability in genes, environment and lifestyle.

Cel kliniczny, którym uzasadnia się większość modelowania predykcyjnego w medycynie, i powód, dla którego dane genomowe trafiają na wejście modeli.

Zastosowania klinicznePojęcia powiązane: Risk Stratification, Clinical Prediction ModelŹródło: MeSH descriptor: Precision Medicine

Risk StratificationUstalony

Stratyfikacja ryzyka

Podział populacji na grupy według szacowanego prawdopodobieństwa zdarzenia, aby skierować uwagę lub zasoby.

Sorting a population into groups by estimated probability of an outcome, to direct attention or resources.

Miejsce, w którym stronniczość algorytmu szkodzi najbardziej bezpośrednio, bo wynik rozdziela opiekę, a nie tylko opisuje stan.

Zastosowania klinicznePojęcia powiązane: Clinical Prediction Model, Algorithmic Bias, Model CalibrationŹródło: MeSH descriptor: Risk Assessment

Clinical Prediction ModelUstalony

Kliniczny model predykcyjny

Model szacujący dla pojedynczej osoby prawdopodobieństwo obecności rozpoznania lub wystąpienia zdarzenia.

A model estimating the probability of a diagnosis being present or an outcome occurring for an individual.

Dominująca postać klinicznej SI; standardy raportowania powstały właśnie dlatego, że większość publikowanych modeli nie nadawała się do użycia.

Ocena i bezpieczeństwoPojęcia powiązane: Model Calibration, TRIPOD+AI, Clinical Validation, Risk StratificationŹródło: TRIPOD+AI statement, BMJ 2024

Electronic Health RecordEHRUstalony

Elektroniczna dokumentacja medyczna

Ciągły zapis opieki nad pacjentem prowadzony przez podmiot leczniczy.

The longitudinal record of a patient's care held by a healthcare provider organisation.

Główne źródło danych do trenowania i działania klinicznej SI — i główny powód, dla którego dane te mają kształt instytucji, a nie człowieka.

Dane i interoperacyjnośćPojęcia powiązane: Fast Healthcare Interoperability Resources, Clinical Natural Language Processing, Health Data InteroperabilityŹródło: MeSH descriptor: Electronic Health Records

Fast Healthcare Interoperability ResourcesFHIRUstalony

FHIR

Standard HL7 opisujący dane zdrowotne jako modułowe zasoby wymieniane przez interfejsy sieciowe.

An HL7 standard defining health data as modular resources exchanged over web APIs.

Praktyczny interfejs między systemem SI a rzeczywistymi danymi klinicznymi; nazwanie go sprawia, że deklaracja interoperacyjności staje się sprawdzalna.

Dane i interoperacyjnośćPojęcia powiązane: Electronic Health Record, Health Data Interoperability, International Patient SummaryŹródło: HL7 FHIR Release 4 specification

International Patient SummaryIPSUstalony

Międzynarodowe podsumowanie pacjenta

Minimalny, niezależny od specjalizacji zestaw danych zdrowotnych wspierający nieplanowaną opiekę transgraniczną.

A minimal, specialty-agnostic set of health data intended to support unplanned cross-border care.

Konkretny cel dla przenośnej dokumentacji pacjenta i profil, wobec którego należałoby mierzyć większość obietnic eksportu.

Dane i interoperacyjnośćPojęcia powiązane: Fast Healthcare Interoperability Resources, Health Data Interoperability, European Health Data SpaceŹródło: HL7 International Patient Summary implementation guide; EN 17269

SNOMED CTUstalony

SNOMED CT

Terminologia kliniczna dostarczająca kodowanych pojęć i ich powiązań do zapisu znaczenia klinicznego.

A clinical terminology providing coded concepts and their relationships for recording clinical meaning.

Daje modelowi stabilny punkt zaczepienia dla znaleziska; etykiety w wolnym tekście nie przeżywają przejścia między systemami.

Dane i interoperacyjnośćPojęcia powiązane: Medical Ontology, Clinical Natural Language Processing, Fast Healthcare Interoperability ResourcesŹródło: SNOMED International, SNOMED CT

Medical OntologyUstalony

Ontologia medyczna

Formalna struktura pojęć i relacji w dziedzinie medycznej, pozwalająca wnioskować o ich znaczeniu.

A formal structure of concepts and relations in a medical domain, allowing meaning to be reasoned over.

Różnica między dopasowaniem ciągów znaków a dopasowaniem znaczeń; bez niej obsługa synonimów zawodzi po cichu.

Dane i interoperacyjnośćPojęcia powiązane: SNOMED CT, Knowledge Graph, Health Data InteroperabilityŹródło: NLM Unified Medical Language System (UMLS)

Knowledge GraphKGUstalony

Graf wiedzy

Graf encji i typowanych relacji używany jako odpytywalna reprezentacja dziedziny.

A graph of entities and typed relationships used as a queryable representation of a domain.

Używa się go, by opierać generowanie na zapisanych faktach zamiast na pamięci modelu i by prześledzić, dlaczego powstała dana odpowiedź.

Dane i interoperacyjnośćPojęcia powiązane: Medical Ontology, Retrieval-Augmented Generation, GroundingŹródło: IEEE / ACM literature on knowledge graphs — źródło do zweryfikowania

Health Data InteroperabilityUstalony

Interoperacyjność danych zdrowotnych

Zdolność systemów do wymiany danych zdrowotnych i korzystania z nich z zachowaniem ich znaczenia.

The ability of systems to exchange health data and use it with its meaning preserved.

Wymiana bez wspólnego znaczenia daje dane, które docierają, ale na których nie można polegać; trudniejsza jest właśnie druga połowa.

Dane i interoperacyjnośćPojęcia powiązane: Fast Healthcare Interoperability Resources, SNOMED CT, European Health Data Space, International Patient SummaryŹródło: HL7; ISO/TC 215 health informatics standards

European Health Data SpaceEHDSRegulacyjny

Europejska przestrzeń danych dotyczących zdrowia

Ramy UE regulujące dostęp do elektronicznych danych zdrowotnych i ich wymianę na potrzeby opieki oraz wykorzystania wtórnego.

An EU framework governing access to and exchange of electronic health data for care and for secondary use.

Nakłada obowiązki z konkretnymi terminami na systemy dokumentacji i wprowadza reżim oznakowania obejmujący nie tylko wyroby, lecz także aplikacje wellness.

RegulacjePojęcia powiązane: Health Data Interoperability, International Patient Summary, Special Category Health DataŹródło: Regulation (EU) 2025/327 (European Health Data Space)

Special Category Health DataRegulacyjny

Dane zdrowotne szczególnej kategorii

Dane osobowe dotyczące zdrowia, których przetwarzanie jest zabronione, o ile nie zachodzi określony warunek.

Personal data concerning health, whose processing is prohibited unless a specific condition applies.

Przesądza o podstawie prawnej każdego zbioru treningowego i jest powodem, dla którego anonimizacja i projekt zgody wyprzedzają projekt modelu.

RegulacjePojęcia powiązane: De-identification, Synthetic Health Data, European Health Data SpaceŹródło: Regulation (EU) 2016/679 (GDPR), Art. 9

Federated LearningFLUstalony

Uczenie federacyjne

Trenowanie wspólnego modelu przez wiele instytucji z wymianą aktualizacji modelu zamiast przenoszenia danych.

Training a shared model across institutions by exchanging model updates instead of moving the data.

Główna odpowiedź dla szpitali, które nie mogą połączyć dokumentacji, choć same aktualizacje również mogą ujawniać informacje i wymagają osobnej ochrony.

Dane i interoperacyjnośćPojęcia powiązane: Privacy-Preserving Machine Learning, Synthetic Health DataŹródło: npj Digital Medicine, federated learning in healthcare reviews — źródło do zweryfikowania

Privacy-Preserving Machine LearningPPMLPowstający

Uczenie maszynowe chroniące prywatność

Techniki ograniczające to, czego można dowiedzieć się o pojedynczych osobach z modelu lub procesu jego trenowania.

Techniques that limit what can be inferred about individuals from a model or its training process.

Odróżnia gwarancję wynikającą z architektury od obietnicy w polityce — a to właśnie o tę różnicę pyta zamawiający.

Dane i interoperacyjnośćPojęcia powiązane: Federated Learning, De-identification, Synthetic Health DataŹródło: ISO/IEC 27559:2022 privacy-enhancing data de-identification framework

De-identificationRegulacyjny

Anonimizacja

Usunięcie lub przekształcenie identyfikatorów tak, aby zapisu nie dało się przypisać osobie bez dodatkowych informacji.

Removing or transforming identifiers so that a record can no longer be attributed to a person without additional information.

W prawie UE dane spseudonimizowane pozostają danymi osobowymi; mylenie tych dwóch pojęć to najczęstszy błąd zgodności w projektach SI.

Dane i interoperacyjnośćPojęcia powiązane: Special Category Health Data, Synthetic Health Data, Privacy-Preserving Machine LearningŹródło: Regulation (EU) 2016/679 (GDPR), Art. 4(5) and Recital 26; ISO/IEC 27559:2022

Synthetic Health DataPowstający

Syntetyczne dane zdrowotne

Sztucznie wygenerowane rekordy odtwarzające strukturę statystyczną prawdziwych danych zdrowotnych, nieodpowiadające realnym osobom.

Artificially generated records that reproduce the statistical structure of real health data without corresponding to real people.

Przydatne w rozwoju i testach; same w sobie nie usuwają ryzyka dla prywatności, bo generator potrafi zapamiętać swój zbiór treningowy.

Dane i interoperacyjnośćPojęcia powiązane: De-identification, Privacy-Preserving Machine LearningŹródło: npj Digital Medicine, evaluations of synthetic health data — źródło do zweryfikowania

Retrieval-Augmented GenerationRAGUstalony

Generowanie wspomagane wyszukiwaniem

Pobieranie fragmentów źródłowych w chwili zapytania i opieranie na nich odpowiedzi, zamiast wyłącznie na pamięci modelu.

Retrieving source passages at query time and conditioning generation on them rather than on model memory alone.

Standardowy sposób ograniczania halucynacji w odpowiedziach medycznych i mechanizm, dzięki któremu przypis daje się sprawdzić.

Ocena i bezpieczeństwoPojęcia powiązane: Grounding, Hallucination, Knowledge Graph, Large Language ModelŹródło: ACM / IEEE literature on retrieval-augmented generation — źródło do zweryfikowania

GroundingPowstający

Osadzenie w źródle

Powiązanie wygenerowanego twierdzenia z konkretnym, możliwym do odnalezienia źródłem, które je potwierdza.

Tying a generated statement to a specific retrievable source that supports it.

Bez niego odpowiedź prawdziwa i zmyślona są dla czytającego nie do odróżnienia — a w zastosowaniu klinicznym na tym polega cały problem.

Ocena i bezpieczeństwoPojęcia powiązane: Retrieval-Augmented Generation, Hallucination, Explainable AIŹródło: ACM / IEEE literature on grounded generation — źródło do zweryfikowania

HallucinationUstalony

Halucynacja modelu

Odpowiedź, która brzmi płynnie i przekonująco, ale nie opiera się ani na podanych danych, ani na żadnym rzeczywistym źródle.

Output that is fluent and plausible but not supported by the input or by any real source.

W medycynie ta awaria jest niesymetryczna: zmyślona dawka albo zmyślony przypis czytają się dokładnie tak samo jak prawdziwe.

Ocena i bezpieczeństwoPojęcia powiązane: Grounding, Retrieval-Augmented Generation, Uncertainty Estimation, Human OversightŹródło: Nature Medicine and npj Digital Medicine, evaluations of clinical LLM outputs — źródło do zweryfikowania

Clinical ValidationRegulacyjny

Walidacja kliniczna

Wykazanie, że wynik działania systemu osiąga zamierzony efekt kliniczny w przewidzianej populacji i przewidzianych warunkach.

Demonstration that a system's output achieves the intended clinical effect in the intended population and setting.

To co innego niż dokładność techniczna: model może wypaść dobrze na zbiorze testowym i mimo to niczego nie zmienić w praktyce albo zaszkodzić.

Ocena i bezpieczeństwoPojęcia powiązane: Clinical Prediction Model, TRIPOD+AI, Model Calibration, Dataset ShiftŹródło: Regulation (EU) 2017/745 (MDR), Annex XIV; MDCG 2020-1

Model CalibrationUstalony

Kalibracja modelu

Zgodność między przewidywanymi prawdopodobieństwami a obserwowanymi częstościami zdarzenia.

The agreement between predicted probabilities and observed frequencies of the outcome.

Model dobrze różnicujący, lecz źle skalibrowany, daje właściwą kolejność i niewłaściwą liczbę — a to niebezpieczne, gdy decyzję podejmuje się po liczbie.

Ocena i bezpieczeństwoPojęcia powiązane: Clinical Prediction Model, Uncertainty Estimation, TRIPOD+AIŹródło: TRIPOD+AI statement, BMJ 2024

Model DriftUstalony

Dryf modelu

Pogarszanie się z czasem skuteczności wdrożonego modelu, gdy warunki oddalają się od tych, na których go trenowano.

Degradation of a deployed model's performance over time as conditions move away from those it was trained on.

Powód, dla którego jednorazowe dopuszczenie nie wystarcza, a monitorowanie jest obowiązkiem prawnym, nie dobrą praktyką.

Ocena i bezpieczeństwoPojęcia powiązane: Dataset Shift, Post-Market Surveillance, Predetermined Change Control PlanŹródło: ISO/IEC 23053:2022; FDA AI-enabled device guidance

Dataset ShiftUstalony

Przesunięcie rozkładu danych

Różnica między rozkładem danych, na którym model trenowano, a tym, do którego jest stosowany.

A change between the data distribution a model was trained on and the one it is applied to.

Wyjaśnia, dlaczego model zwalidowany w jednym szpitalu zawodzi w kolejnym: inne aparaty, inne nawyki kodowania, inny profil pacjentów.

Ocena i bezpieczeństwoPojęcia powiązane: Model Drift, Clinical Validation, Algorithmic BiasŹródło: IEEE / ACM machine-learning literature — źródło do zweryfikowania

Algorithmic BiasUstalony

Stronniczość algorytmiczna

Systematyczna różnica skuteczności lub skutków działania modelu pomiędzy grupami, wynikająca z danych, projektu lub wdrożenia.

Systematic difference in a model's performance or effect across groups, arising from data, design or deployment.

W ochronie zdrowia szkoda się kumuluje: grupa niedostatecznie reprezentowana w danych dostaje mniej dokładny wynik, a w ślad za tym mniej opieki.

Ocena i bezpieczeństwoPojęcia powiązane: Fairness, Dataset Shift, Risk StratificationŹródło: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

FairnessUstalony

Sprawiedliwość

Wyraźnie określone kryterium tego, jak błędy lub korzyści modelu mają rozkładać się między grupami.

A stated criterion for how a model's errors or benefits should be distributed across groups.

Kryteria sprawiedliwości są ze sobą matematycznie sprzeczne; wybór jednego z nich to decyzja kliniczna i etyczna, a nie techniczne ustawienie domyślne.

Ocena i bezpieczeństwoPojęcia powiązane: Algorithmic Bias, Human OversightŹródło: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

Explainable AIXAIUstalony

Wyjaśnialna SI

Metody czyniące zachowanie modelu lub konkretny wynik zrozumiałym dla człowieka.

Methods that make a model's behaviour or a specific output understandable to a person.

Wyjaśnienie brzmiące wiarygodnie, lecz niewierne temu, co robi model, potrafi raczej wzmocnić błędne zaufanie niż je osłabić.

Ocena i bezpieczeństwoPojęcia powiązane: Grounding, Human Oversight, Automation BiasŹródło: ISO/IEC TS 6254 (AI explainability); WHO (2021)

Uncertainty EstimationPowstający

Szacowanie niepewności

Ilościowe określenie, na ile uzasadnione jest zaufanie do pojedynczej predykcji modelu.

Quantifying how much confidence a model's individual prediction warrants.

Umożliwia najbezpieczniejsze zachowanie dostępne klinicznej SI — odmowę odpowiedzi; system bez niej tego nie potrafi.

Ocena i bezpieczeństwoPojęcia powiązane: Model Calibration, Human Oversight, HallucinationŹródło: IEEE / ACM machine-learning literature — źródło do zweryfikowania

Human OversightRegulacyjny

Nadzór człowieka

Wymóg, aby człowiek mógł rozumieć, monitorować i unieważnić działanie systemu SI.

A requirement that a person can understand, monitor and override an AI system's operation.

Obowiązek prawny dla systemów wysokiego ryzyka i mechanizm, który utrzymuje w granicach prawa schemat szkicu i potwierdzenia.

RegulacjePojęcia powiązane: Automation Bias, Clinical Decision Support System, AI Medical ScribeŹródło: Regulation (EU) 2024/1689 (AI Act), Art. 14

Automation BiasUstalony

Stronniczość automatyzacji

Skłonność do przyjmowania zautomatyzowanego zalecenia i niedoceniania przesłanek, które mu przeczą.

The tendency to accept an automated recommendation and to under-weigh contradicting evidence.

Powód, dla którego nadzór człowieka trzeba zaprojektować, a nie zakładać: krok weryfikacji podpisywany bez czytania nadzorem nie jest.

Ocena i bezpieczeństwoPojęcia powiązane: Human Oversight, Clinical Decision Support System, Explainable AIŹródło: WHO, Ethics and Governance of Artificial Intelligence for Health (2021)

TRIPOD+AIUstalony

TRIPOD+AI

Wytyczne raportowania badań opracowujących lub oceniających kliniczne modele predykcyjne, w tym oparte na uczeniu maszynowym.

A reporting guideline for studies developing or evaluating clinical prediction models, including those using machine learning.

Daje konkretną listę kontrolną, na podstawie której można ocenić, czy opublikowana deklaracja o modelu w ogóle nadaje się do oceny.

Ocena i bezpieczeństwoPojęcia powiązane: Clinical Prediction Model, Clinical Validation, Model CalibrationŹródło: TRIPOD+AI statement, BMJ 2024

DICOMUstalony

DICOM

Standard przechowywania i przesyłania obrazów medycznych wraz z metadanymi ich akwizycji.

The standard for storing and transmitting medical images together with their acquisition metadata.

Metadane są tym, co czyni obraz analizowalnym, i zarazem tym, co czyni go identyfikującym; w potokach SI liczy się jedno i drugie.

Dane i interoperacyjnośćPojęcia powiązane: Medical Imaging AI, De-identification, Health Data InteroperabilityŹródło: NEMA PS3 / ISO 12052, DICOM standard