Validierung von KI

Validierung von KI ist die gängige Kurzform für das Lebenszyklus-Management von KI-(Sub-)Systemen im GxP-Umfeld. Fachlich präzise wird nicht „die KI“ validiert: Validiert wird das computergestützte Gesamtsystem gegen seinen Intended Use; das KI-Modell (bzw. Subsystem) selbst wird gegen seine Spezifikation verifiziert und muss für seine Context of Use fit for purpose sein – fortlaufend, weil es sich über Daten, Training und Kontext verändert.

Erklärbarkeit und Qualität entstehen über die Lebenszyklusaktivitäten (Spezifikation, Training, Verifizierung, Betrieb, Monitoring) und deren Nachweise, nicht über einen einmaligen Freigabeakt.

Siehe auch: Validierung computergestützter Systeme, Computergestütztes System, KI-Modell, Verifizierung, Context of Use, Fit for Purpose.