EU GMP Annex 22.
Annex 22 ist der geplante KI-Anhang des EU-GMP-Leitfadens EudraLex Volume 4 - die erste eigenständige Regelung für KI-Modelle in computergestützten Systemen der Arzneimittelherstellung. Das computergestützte System wird weiterhin nach Annex 11 validiert; für das eingebettete KI-Modell gelten weitergehende Anforderungen. Noch ist der Text ein Entwurf. Doch das Vorgehen von Inspektoren kann jetzt schon von ihm beeinflusst werden.
Zehn Abschnitte - eine enge Grenze für kritische Anwendungen.
Der Entwurf gilt für computergestützte Systeme im GMP-Umfeld - von der Produktion bis zu Qualitätsprozessen wie z. B. dem Abweichungsmanagement -, in denen KI-Modelle in kritischen Anwendungen wirken: mit direktem Einfluss auf Patientensicherheit, Produktqualität oder Datenintegrität, etwa zur Vorhersage oder Klassifikation von Daten. „Kritisch“ bemisst sich dabei nicht am direkten Einfluss allein: Auch wo Fehler schwer zu entdecken sind und der Automatisierungsgrad hoch ist, steigt die Kritikalität - so unsere Lesart der laufenden Diskussion. Erfasst sind Machine-Learning-Modelle, die ihre Funktion durch Training erhalten haben; die Grenze zieht der Text bewusst eng: In kritischen Anwendungen sind nur statische Modelle mit deterministischem Output vorgesehen. Wie sich das ins Gesamtbild der KI im GxP-Umfeld einfügt, zeigt der Blick auf die zehn Abschnitte.
Scope & Grundsätze · Abschnitte 1-2
Abschnitt 1 setzt den Geltungsbereich: kritische Anwendungen, statische Modelle mit deterministischem Output. Abschnitt 2 regelt die Arbeitsteilung: Prozess-SMEs, QA, Data Science und IT arbeiten eng zusammen; die Dokumentation liegt beim regulierten Anwender - auch bei Modellen vom Lieferanten, der Umfang folgt dem Risiko.
Intended Use · Abschnitt 3
Die Aufgabe des Modells wird detailliert beschrieben - Eingangsdaten (Input Sample Space), Grenzen, mögliche Verzerrungen; verantwortet vom Prozess-SME, freigegeben vor dem Test. Der Entwurf überträgt "Intended Use" auf das Modell - aus unserer Sicht kommt der Zweck aus dem Prozess; das Modell erfüllt darin eine Aufgabe.
Akzeptanzkriterien · Abschnitt 4
Testmetriken und Akzeptanzkriterien stehen vor dem Test fest. Die Modellleistung darf den Prozess, den das Modell ersetzt, nicht unterschreiten.
Testdaten · Abschnitte 5-6
Repräsentative, stratifizierte Testdaten - strikt von der Modell-Entwicklung getrennt, technisch wie personell: Zugriffskontrolle, Audit Trail, Vier-Augen-Prinzip.
Test & Explainability · Abschnitte 7-9
Freigegebener Testplan mit Nachweis der Generalisierung; Erklärbarkeit mit fachlichem Review - Techniken wie Feature-Attribution nennt der Entwurf nur illustrativ ("where applicable"); unsichere Ergebnisse kann das Modell als "undecided" ausweisen - die Behandlung definiert der Prozess.
Betrieb · Abschnitt 10
Change und Configuration Control vor der Inbetriebnahme; Monitoring von Modellleistung und Eingangsdaten auf Drift; Human Review nach definiertem Verfahren, wo er reduzierten Testaufwand kompensiert.
Der rote Faden dieser Abschnitte: Der Nachweis wechselt die Form - vom deterministischen Einzeltest zur statistischen Evidenz. Testdaten, die selbst Anforderungen unterliegen, und Metriken, die für Kontrolle und Effektivität tragen: Das ist die Denkweise der Data Scientists - und zugleich der Kern des Qualitätsrisikomanagements nach ICH Q9(R1): Entscheidung unter Unsicherheit. Kein Bruch mit der GxP-Logik, sondern ihre konsequente Anwendung.
Zur Einordnung: Regelbasierte Automatisierung ohne Machine Learning bleibt ein reiner Annex-11-Fall. Statische ML-Modelle mit deterministischem Output sind das Terrain des Annex 22. Dynamische, probabilistische und generative Modelle sieht der Entwurf für kritische Anwendungen nicht vor - außerhalb davon bleiben sie einsetzbar: mit Risikobewertung, wie sie der geltende Annex 11 für jedes computergestützte System verlangt, und aus unserer Sicht stets mit menschlicher Aufsicht - für generative KI und LLMs macht der Entwurf sie ausdrücklich zur Bedingung.
Wo der Text heute steht.
Die öffentliche Konsultation hat das Interesse der Branche messbar gemacht: 1.359 Kommentare aus 79 Organisationen in 39 Ländern gingen ein. Der Weg zum finalen Text in fünf Stationen:
- 1
Entwurf und Konsultation
Juli bis Oktober 2025: Die GMDP Inspectors Working Group der EMA stellt den ersten eigenständigen KI-Anhang des EU-GMP-Leitfadens zur Kommentierung - im Paket der EudraLex-Volume-4-Revision mit Chapter 4 (Dokumentation) und der Annex-11-Revision.
- 2
Auswertung der Kommentare
Die GMDP IWG wertet die Eingaben aus - nach EMA-Zusammenfassung mit klaren Schwerpunkten, allen voran dem Ruf nach einem risikobasierten Ansatz statt kategorischer Technologie-Ausschlüsse.
- 3
Expertenworkshop
30. Juni und 1. Juli 2026: Tag eins als offene Session, in der verbandsnominierte Experten Meinung und Evidenz vortragen; Tag zwei als geschlossene Session, in der die Annex-22-Drafting-Group der EMA die Beiträge auswertet. Sechs Themenfelder - von regulatorischen Wegen für adaptive Modelle über menschliche Aufsicht bis Cybersicherheit; Ziel: Evidenz für Kontrollmaßnahmen und Guardrails eines risikobasierten Ansatzes.
- 4
Report und überarbeiteter Entwurf
Angekündigt ist zunächst ein Report mit den Expertenbeiträgen; erwartet wird danach eine Fassung, die Konsultations- und Workshop-Ergebnisse verarbeitet.
- 5
Finalisierung
Veröffentlichung und Übergangsfristen stehen aus. Bis dahin gilt Annex 11 - ICH Q9(R1) gibt der risikobasierten Ausrichtung die Orientierung.
Bleiben generative KI und LLMs außen vor?
Der Entwurf sagt: ja. Auf generative KI und Large Language Models ist er nicht anwendbar, in kritischen GMP-Anwendungen sollen sie nicht eingesetzt werden; außerhalb kritischer Anwendungen bleibt ihr Einsatz möglich - stets mit menschlicher Prüfung der Ergebnisse (Human-in-the-Loop, HITL). Die Verantwortung für den Einsatz verbleibt beim regulierten Unternehmen. Genau hier setzen die von der EMA zusammengefassten Kommentar-Schwerpunkte der Konsultation an:
Unsere Lesart: Die Logik hinter dieser Kritik ist die des Qualitätsrisikomanagements - höheres Risiko bedeutet stärkere Kontrollen, kein pauschales Verbot. Die EMA selbst hat diese Richtung auf die Agenda ihres Expertenworkshops gesetzt: Das erste von sechs Themenfeldern ("Regulatory pathways for adaptive / probabilistic AI models in GMP") fragt wörtlich: "How could we accommodate adaptive and probabilistic models in Annex 22?" Verhandelt wird damit ein Weg für diese Modelle, nicht mehr nur ihr Ausschluss. Ob der finale Text dieser Linie folgt, entscheidet die laufende Überarbeitung.
Der Entwurf zieht die Grenze deutlich.
"Following the above, the document does not apply to Generative AI and Large Language Models (LLM), and such models should not be used in critical GMP applications."
EU GMP Annex 22 (Artificial Intelligence), Entwurf zur Konsultation 2025, Abschnitt 1 "Scope".
Ob diese Grenze im finalen Text hält, ist offen. Die Nachweislogik dahinter gilt so oder so: Intended Use, unabhängige Testdaten, Monitoring - und eine Kritikalitätsbewertung, die neben dem direkten Einfluss auch die Entdeckbarkeit von Fehlern und den Automatisierungsgrad einbezieht. Wer sie heute etabliert, ist auf beide Ausgänge vorbereitet.
Vorbereitung braucht keinen finalen Text.
Der Entwurf ist eine Prüfliste in Rohform: Jede seiner Anforderungen lässt sich mit Annex 11 und ICH Q9(R1) schon heute etablieren, eingebettet in eine AI Governance mit belastbarem Human Oversight. Die Bausteine, die wir dabei prüfen und aufbauen:
Häufige Fragen zu Annex 22.
Ein Termin steht nicht fest. Die Konsultation endete im Oktober 2025, der zweitägige Expertenworkshop der EMA fand am 30. Juni und 1. Juli 2026 statt; angekündigt ist ein Workshop-Report, erwartet werden danach ein überarbeiteter Entwurf, Finalisierung und Übergangsfristen. Bis dahin wird das computergestützte System nach Annex 11 validiert; für die Nachweistiefe gibt das Qualitätsrisikomanagement nach ICH Q9(R1) die Orientierung.
Formal fallen beide nicht in seinen Anwendungsbereich - doch gerade über sie trifft der Entwurf eine klare Aussage: In kritischen GMP-Anwendungen sollen sie nicht eingesetzt werden, und die Nachweis-Abschnitte gelten nur für statische Modelle mit deterministischem Output. Außerhalb kritischer Anwendungen bleibt der Einsatz möglich - stets mit menschlicher Prüfung der Ergebnisse; die Verantwortung verbleibt beim regulierten Unternehmen. Genau diese Grenze ist der zentrale Kritikpunkt der Konsultation - der finale Text kann hier anders aussehen.
Nein. Annex 22 ist als ergänzende Leitlinie zu Annex 11 angelegt: Das computergestützte System bleibt nach Annex 11 validiert; Annex 22 regelt zusätzlich den Nachweis für das eingebettete Modell - von Intended Use bis Betrieb.
Annex 22 konzentriert sich auf das Modell - Training, Prüfung und den Nachweis seiner Eignung. Wir fassen den Blick weiter: Ein KI-System bzw. KI-Subsystem integriert ein oder mehrere Modelle und weitere Funktionen, etwa Kontrollen (häufig "Guardrails" genannt), zu einer Systemkomponente. Leistung lässt sich so auf mehreren Ebenen messen - und damit die Eignung aller Subkomponenten und ihres Zusammenspiels prüfen.
Alles Wesentliche: KI-Anwendungen inventarisieren, Intended Use und Kritikalität dokumentieren, Testmetriken festlegen, unabhängige Testdaten sichern, Monitoring und Human Oversight etablieren. Jeder dieser Bausteine lässt sich mit dem geltenden Annex 11 schon heute umsetzen; ICH Q9(R1) gibt der Nachweistiefe die Orientierung - der Entwurf macht sie für KI-Modelle nur explizit.
Annex 22 braucht den Gesamtkontext.
Annex-22-Readiness beginnt vor dem finalen Text.
Im Erstgespräch klären wir, was Sie mit KI vorhaben, wo Ihre Anwendungen heute stehen und was Annex 22 für Sie bedeutet. Kostenfrei, etwa 30 Minuten.
Erstgespräch vereinbaren
