EU GMP Annex 22.
Annex 22 ist der geplante KI-Anhang des EU-GMP-Leitfadens EudraLex Volume 4 - die erste eigenständige Regelung für KI-Modelle in computergestützten Systemen der Arzneimittelherstellung. Das computergestützte System wird weiterhin nach Annex 11 validiert; für das eingebettete KI-Modell gelten weitergehende Anforderungen. Noch ist der Text ein Entwurf. Doch das Vorgehen von Inspektoren kann jetzt schon von ihm beeinflusst werden.
Zehn Abschnitte - eine enge Grenze für kritische Anwendungen.
Der Entwurf gilt für computergestützte Systeme im GMP-Umfeld - von der Produktion bis zu Qualitätsprozessen wie z. B. dem Abweichungsmanagement -, in denen KI-Modelle in kritischen Anwendungen wirken: mit direktem Einfluss auf Patientensicherheit, Produktqualität oder Datenintegrität, etwa zur Klassifikation von Daten. Kritisch bemisst sich dabei nicht am direkten Einfluss allein: Auch wo Fehler schwer zu entdecken sind und der Automatisierungsgrad hoch ist, steigt die Kritikalität - so unsere Lesart der laufenden Diskussion. Erfasst sind Machine-Learning-Modelle, die ihre Funktion durch Training erhalten haben; die Grenze zieht der Text bewusst eng: In kritischen Anwendungen sind nur statische Modelle mit deterministischem Output vorgesehen. Wie sich das ins Gesamtbild der KI im GxP-Umfeld einfügt, zeigt der Blick auf die zehn Abschnitte.
Scope & Grundsätze · Abschnitte 1-2
Abschnitt 1 setzt den Geltungsbereich: kritische Anwendungen, statische Modelle mit deterministischem Output. Abschnitt 2 regelt die Arbeitsteilung: Prozess-SMEs, QA, Data Science und IT arbeiten eng zusammen; die Dokumentation liegt beim regulierten Anwender - auch bei Modellen vom Lieferanten, der Umfang folgt dem Risiko.
Intended Use · Abschnitt 3
Die Aufgabe des Modells wird detailliert beschrieben - Eingangsdaten (Input Sample Space), Grenzen, mögliche Verzerrungen; verantwortet vom Prozess-SME, freigegeben vor dem Test. Der Entwurf überträgt "Intended Use" auf das Modell - aus unserer Sicht kommt der Zweck aus dem Prozess; das Modell erfüllt darin eine Aufgabe.
Akzeptanzkriterien · Abschnitt 4
Testmetriken und Akzeptanzkriterien stehen vor dem Test fest. Die Modellleistung darf den Prozess, den das Modell ersetzt, nicht unterschreiten.
Testdaten · Abschnitte 5-6
Repräsentative, stratifizierte Testdaten - strikt von der Modell-Entwicklung getrennt, technisch wie personell: Zugriffskontrolle, Audit Trail, Vier-Augen-Prinzip.
Test & Explainability · Abschnitte 7-9
Freigegebener Testplan mit Nachweis der Generalisierung; Erklärbarkeit mit fachlichem Review - Techniken wie Feature-Attribution nennt der Entwurf nur illustrativ ("where applicable"); unsichere Ergebnisse gelten als "undecided" - und brauchen dann eine definierte Behandlung im Prozess.
Betrieb · Abschnitt 10
Change und Configuration Control vor der Inbetriebnahme; Monitoring von Modellleistung und Eingangsdaten auf Drift; Human Review nach definiertem Verfahren, wo er reduzierten Testaufwand kompensiert.
Zur Einordnung: Regelbasierte Automatisierung ohne Machine Learning bleibt ein reiner Annex-11-Fall. Statische ML-Modelle mit deterministischem Output sind das Terrain des Annex 22. Dynamische, probabilistische und generative Modelle sieht der Entwurf für kritische Anwendungen nicht vor - außerhalb davon bleiben sie einsetzbar, mit Risikobewertung und menschlicher Aufsicht.
Wo der Text heute steht.
Die öffentliche Konsultation hat das Interesse der Branche messbar gemacht: 1.359 Kommentare aus 79 Organisationen in 39 Ländern gingen ein. Der Weg zum finalen Text in fünf Stationen:
- 1Entwurf und Konsultation
Juli bis Oktober 2025: Die GMDP Inspectors Working Group der EMA stellt den ersten eigenständigen KI-Anhang des EU-GMP-Leitfadens zur Kommentierung - im Paket der EudraLex-Volume-4-Revision mit Chapter 4 (Dokumentation) und Annex 11.
- 2Auswertung der Kommentare
Die GMDP IWG wertet die Eingaben aus - nach EMA-Zusammenfassung mit klaren Schwerpunkten, allen voran dem Ruf nach einem risikobasierten Ansatz statt kategorischer Technologie-Ausschlüsse.
- 3Expertenworkshop
Ende Juni 2026: Die EMA erörtert mit verbandsnominierten Experten, ob risikobasierte Kontrollen Bias und Halluzination in kritischen Anwendungen beherrschbar machen.
- 4Überarbeiteter Entwurf
Erwartet als nächster Schritt: eine Fassung, die die Konsultations- und Workshop-Ergebnisse verarbeitet.
- 5Finalisierung
Veröffentlichung und Übergangsfristen stehen aus. Bis dahin gilt Annex 11 - ICH Q9(R1) gibt der risikobasierten Ausrichtung die Orientierung.
Bleiben generative KI und LLMs außen vor?
Der Entwurf sagt: ja. Auf generative KI und Large Language Models ist er nicht anwendbar, in kritischen GMP-Anwendungen sollen sie nicht eingesetzt werden; außerhalb kritischer Anwendungen bleibt ihr Einsatz möglich - stets mit menschlicher Prüfung der Ergebnisse (Human-in-the-Loop, HITL). Die Verantwortung für den Einsatz verbleibt beim regulierten Unternehmen. Genau hier setzen die von der EMA zusammengefassten Kommentar-Schwerpunkte der Konsultation an:
Unsere Lesart: Die Logik hinter dieser Kritik ist die des Qualitätsrisikomanagements - höheres Risiko bedeutet stärkere Kontrollen, kein pauschales Verbot. Ob der finale Text dieser Linie folgt, entscheidet die laufende Überarbeitung.
Der Entwurf zieht die Grenze deutlich.
"Following the above, the document does not apply to Generative AI and Large Language Models (LLM), and such models should not be used in critical GMP applications."
EU GMP Annex 22 (Artificial Intelligence), Entwurf zur Konsultation 2025, Abschnitt 1 "Scope".
Ob diese Grenze im finalen Text hält, ist offen. Die Nachweislogik dahinter gilt so oder so: Intended Use, unabhängige Testdaten, Monitoring - und eine Kritikalitätsbewertung, die neben dem direkten Einfluss auch die Entdeckbarkeit von Fehlern und den Automatisierungsgrad einbezieht. Wer sie heute etabliert, ist auf beide Ausgänge vorbereitet.
Vorbereitung braucht keinen finalen Text.
Der Entwurf ist eine Prüfliste in Rohform: Jede seiner Anforderungen lässt sich mit Annex 11 und ICH Q9(R1) schon heute etablieren, eingebettet in eine AI Governance mit belastbarem Human Oversight. Die Bausteine, die wir dabei prüfen und aufbauen:
Häufige Fragen zu Annex 22.
Ein Termin steht nicht fest. Die Konsultation endete im Oktober 2025, der Expertenworkshop der EMA fand Ende Juni 2026 statt; erwartet werden ein überarbeiteter Entwurf, danach Finalisierung und Übergangsfristen. Bis dahin wird das computergestützte System nach Annex 11 validiert; für die Nachweistiefe gibt das Qualitätsrisikomanagement nach ICH Q9(R1) die Orientierung.
Doch - gerade für sie trifft der Entwurf eine klare Aussage: In kritischen GMP-Anwendungen sollen sie nicht eingesetzt werden, und die Nachweis-Abschnitte gelten nur für statische Modelle mit deterministischem Output. Außerhalb kritischer Anwendungen bleibt der Einsatz möglich - stets mit menschlicher Prüfung der Ergebnisse; die Verantwortung verbleibt beim regulierten Unternehmen. Genau diese Grenze ist der zentrale Kritikpunkt der Konsultation - der finale Text kann hier anders aussehen.
Nein. Annex 22 ist als ergänzende Leitlinie zu Annex 11 angelegt: Das computergestützte System bleibt nach Annex 11 validiert; Annex 22 regelt zusätzlich den Nachweis für das eingebettete Modell - von Intended Use bis Betrieb.
Annex 22 konzentriert sich auf das Modell - Training, Prüfung und den Nachweis seiner Eignung. Wir fassen den Blick weiter: Ein KI-System bzw. KI-Subsystem integriert ein oder mehrere Modelle und weitere Funktionen, etwa Kontrollen (häufig "Guardrails" genannt), zu einer Systemkomponente. Leistung lässt sich so auf mehreren Ebenen messen - und damit die Eignung aller Subkomponenten und ihres Zusammenspiels prüfen.
Alles Wesentliche: KI-Anwendungen inventarisieren, Intended Use und Kritikalität dokumentieren, Testmetriken festlegen, unabhängige Testdaten sichern, Monitoring und Human Oversight etablieren. Jeder dieser Bausteine folgt aus Annex 11; ICH Q9(R1) gibt der Nachweistiefe die Orientierung - der Entwurf macht sie für KI-Modelle nur explizit.
Annex 22 braucht den Gesamtkontext.
Annex-22-Readiness beginnt vor dem finalen Text.
Im Erstgespräch klären wir, was Sie mit KI vorhaben, wo Ihre Anwendungen heute stehen und was Annex 22 für Sie bedeutet. Kostenfrei, etwa 30 Minuten.
Erstgespräch vereinbaren
