EU GMP Annex 22.
Annex 22 ist der geplante KI-Anhang des EU-GMP-Leitfadens EudraLex Volume 4 und die erste eigenständige Regelung für KI-Modelle in computergestützten Systemen der Arzneimittelherstellung. Das computergestützte System wird weiterhin nach Annex 11 validiert; für das eingebettete KI-Modell gelten weitergehende Anforderungen. Noch ist der Text ein Entwurf. Doch er kann das Vorgehen von Inspektoren schon heute prägen.
Zehn Abschnitte, eine enge Grenze für kritische Anwendungen.
Der Entwurf gilt für computergestützte Systeme im GMP-Umfeld, in denen KI-Modelle in kritischen Anwendungen wirken: mit direktem Einfluss auf Patientensicherheit, Produktqualität oder Datenintegrität, etwa zur Vorhersage oder Klassifikation von Daten. Der Anwendungsbereich reicht von der Produktion bis hin zu Qualitätsprozessen wie dem Abweichungsmanagement. „Kritisch“ bemisst sich dabei nicht am direkten Einfluss allein: Auch wo Fehler schwer zu entdecken sind und der Automatisierungsgrad hoch ist, steigt die Kritikalität. So lesen wir die laufende Diskussion. Erfasst sind Machine-Learning-Modelle, die ihre Funktion durch Training erhalten haben. Die Grenze zieht der Text bewusst eng: In kritischen Anwendungen sind nur statische Modelle mit deterministischem Output vorgesehen. Wie sich das ins Gesamtbild der KI im GxP-Umfeld einfügt, zeigt der Blick auf die zehn Abschnitte.
Scope & Grundsätze · Abschnitte 1-2
Abschnitt 1 setzt den Geltungsbereich: kritische Anwendungen, statische Modelle mit deterministischem Output. Abschnitt 2 regelt die Arbeitsteilung: Prozess-SMEs, QA, Data Science und IT arbeiten eng zusammen; die Dokumentation liegt beim regulierten Anwender, auch bei Modellen vom Lieferanten, und ihr Umfang folgt dem Risiko.
Intended Use · Abschnitt 3
Die Aufgabe des Modells wird detailliert beschrieben: Eingangsdaten (Input Sample Space), Grenzen, mögliche Verzerrungen. Verantwortlich ist der Prozess-SME, freigegeben wird die Beschreibung vor dem Test. Der Entwurf überträgt "Intended Use" auf das Modell. Aus unserer Sicht kommt der Zweck aus dem Prozess; das Modell erfüllt darin eine Aufgabe.
Akzeptanzkriterien · Abschnitt 4
Testmetriken und Akzeptanzkriterien stehen vor dem Test fest. Das Modell muss mindestens so gut abschneiden wie der Prozess, den es ersetzt.
Testdaten · Abschnitte 5-6
Repräsentative, stratifizierte Testdaten, technisch wie personell strikt von der Modell-Entwicklung getrennt: Zugriffskontrolle, Audit Trail, Vier-Augen-Prinzip.
Test & Explainability · Abschnitte 7-9
Freigegebener Testplan mit Nachweis der Generalisierung, dazu Erklärbarkeit mit fachlichem Review; Techniken wie Feature-Attribution nennt der Entwurf nur illustrativ ("where applicable"). Unsichere Ergebnisse kann das Modell als "undecided" ausweisen; die Behandlung definiert der Prozess.
Betrieb · Abschnitt 10
Change und Configuration Control vor der Inbetriebnahme; Monitoring von Modellleistung und Eingangsdaten auf Drift; Human Review nach definiertem Verfahren, wo dieses Review reduzierten Testaufwand kompensiert.
Der rote Faden dieser Abschnitte: Der Nachweis wechselt vom deterministischen Einzeltest zur statistischen Evidenz. Testdaten, die selbst Anforderungen unterliegen, und Metriken, die Aussagen zu Kontrolle und Effektivität tragen: So denken Data Scientists. Genau das ist der Kern des Qualitätsrisikomanagements nach ICH Q9(R1): Entscheidung unter Unsicherheit. Kein Bruch mit der GxP-Logik, sondern ihre konsequente Anwendung.
Zur Einordnung: Regelbasierte Automatisierung ohne Machine Learning bleibt ein reiner Annex-11-Fall. Statische ML-Modelle mit deterministischem Output sind das Terrain des Annex 22. Dynamische, probabilistische und generative Modelle sieht der Entwurf für kritische Anwendungen nicht vor. Außerhalb kritischer Anwendungen bleiben sie einsetzbar, mit der Risikobewertung, die der geltende Annex 11 für jedes computergestützte System verlangt, und aus unserer Sicht stets unter menschlicher Aufsicht. Für generative KI und LLMs macht der Entwurf diese Aufsicht ausdrücklich zur Bedingung.
Wo der Text heute steht.
Die öffentliche Konsultation hat das Interesse der Branche messbar gemacht: 1.359 Kommentare aus 79 Organisationen in 39 Ländern gingen ein. Der Weg zum finalen Text in fünf Stationen:
- 1
Entwurf und Konsultation
Juli bis Oktober 2025: Die GMDP Inspectors Working Group der EMA stellt den ersten eigenständigen KI-Anhang des EU-GMP-Leitfadens zur Kommentierung; er gehört zum Paket der EudraLex-Volume-4-Revision mit Chapter 4 (Dokumentation) und der Annex-11-Revision.
- 2
Auswertung der Kommentare
Die GMDP IWG wertet die Eingaben aus. Die EMA-Zusammenfassung zeigt klare Schwerpunkte, allen voran den Ruf nach einem risikobasierten Ansatz statt kategorischer Technologie-Ausschlüsse.
- 3
Expertenworkshop
30. Juni und 1. Juli 2026: Tag eins als offene Session, in der verbandsnominierte Experten Meinung und Evidenz vortragen; Tag zwei als geschlossene Session, in der die Annex-22-Drafting-Group der EMA die Beiträge auswertet. Die sechs Themenfelder reichen von regulatorischen Wegen für adaptive Modelle über menschliche Aufsicht bis hin zur Cybersicherheit. Ziel ist Evidenz für Kontrollmaßnahmen und Guardrails eines risikobasierten Ansatzes.
- 4
Report und überarbeiteter Entwurf
Angekündigt ist zunächst ein Report mit den Expertenbeiträgen; erwartet wird danach eine Fassung, die Konsultations- und Workshop-Ergebnisse verarbeitet. Wie deckungsgleich die Signale zum Annex-22-Entwurf aus Barcelona, Boston und dem EMA-Workshop schon heute ausfallen, zeigt unsere Zusammenschau Drei Signale, eine Linie.
- 5
Finalisierung
Veröffentlichung und Übergangsfristen stehen aus. Bis dahin gilt Annex 11; ICH Q9(R1) gibt der risikobasierten Ausrichtung die Orientierung.
Bleiben generative KI und LLMs außen vor?
Der Entwurf sagt: ja. Auf generative KI und Large Language Models ist er nicht anwendbar, in kritischen GMP-Anwendungen sollen sie nicht eingesetzt werden; außerhalb kritischer Anwendungen bleibt ihr Einsatz möglich, stets mit menschlicher Prüfung der Ergebnisse (Human-in-the-Loop, HITL). Die Verantwortung für den Einsatz verbleibt beim regulierten Unternehmen. Genau hier setzen die von der EMA zusammengefassten Kommentar-Schwerpunkte der Konsultation an:
Woran entscheidet sich der finale Text von Annex 22?
Konsultation und Expertenworkshop haben die Debatte auf drei Entscheidungsfragen verdichtet. An ihnen entscheidet sich, wie weit der finale Text vom Entwurf abweicht:
Risikoprinzip oder Modellklassen-Grenze?
Für kritische Anwendungen schließt der Entwurf dynamische, probabilistische und generative Modelle aus. Die Logik des Qualitätsrisikomanagements spricht für den umgekehrten Ansatz: Höheres Risiko bedeutet stärkere Kontrollen, kein pauschales Verbot. Die EMA selbst nannte das erste Themenfeld ihres Expertenworkshops "Regulatory Pathways for Adaptive/probabilistic AI models in GMP": Zur Debatte steht damit ein regulatorischer Weg für genau diese Modelle, nicht mehr nur ihre Grenze.
HITL-Mechanismus oder Human Oversight?
Der Entwurf verankert Human-in-the-Loop an drei Stellen: im Scope als Bedingung für generative Modelle außerhalb kritischer Anwendungen, in den Abschnitten 3.3 und 10.5 jeweils als Ausgleich für reduzierten Testaufwand. Die Konsultation hält dagegen: Aufsicht ist ein Konzept mit mehreren Formen, und welche Form angemessen ist, ergibt sich aus der Risikobewertung. Der Wechsel vom Mechanismus zum Konzept wäre eine der klarsten Weichenstellungen im finalen Text. Warum diese Weichenstellung bei der Verantwortung beginnt, begründet unser Beitrag zum GAMP D-A-CH Forum: Wer widerspricht, wenn das System spricht? Warum der Mensch im Loop allein noch keine Kontrolle herstellt, haben wir für ISPE iSpeak ausgeführt: Human-in-the-Loop as an Illusion of Control?
Welche Evidenz für Guardrails?
Der Workshop fragte ausdrücklich nach Evidenz: Wie wirksam sind Kontrollmaßnahmen und Guardrails, die einen risikobasierten Ansatz tragen sollen? Unsere Position: Eine Kontrolle, die das Risiko eines Modells senken soll, braucht einen eigenen Wirksamkeitsnachweis mit Metriken, Testansatz und Monitoring. Ohne ihn verschiebt sie das Risiko nur: vom Modell in die ungeprüfte Kontrolle.
Der Entwurf zieht die Grenze deutlich.
"Following the above, the document does not apply to Generative AI and Large Language Models (LLM), and such models should not be used in critical GMP applications."
EU GMP Annex 22 (Artificial Intelligence), Entwurf zur Konsultation 2025, Abschnitt 1 "Scope".
Ob diese Grenze im finalen Text hält, ist offen. Die Nachweislogik dahinter gilt so oder so: Intended Use, unabhängige Testdaten, Monitoring und eine Kritikalitätsbewertung, die neben dem direkten Einfluss auch die Entdeckbarkeit von Fehlern und den Automatisierungsgrad einbezieht. Wer sie heute etabliert, ist auf beide Ausgänge vorbereitet.
Vorbereitung braucht keinen finalen Text.
Der Entwurf ist eine Prüfliste in Rohform: Der Kern seiner Anforderungen lässt sich mit Annex 11 und ICH Q9(R1) schon heute etablieren, eingebettet in eine AI Governance mit Human Oversight. Die Bausteine, die wir dabei prüfen und aufbauen:
Häufige Fragen zu Annex 22.
Ein Termin steht nicht fest. Die Konsultation endete im Oktober 2025, der zweitägige Expertenworkshop der EMA fand am 30. Juni und 1. Juli 2026 statt. Angekündigt ist ein Workshop-Report; erwartet werden danach ein überarbeiteter Entwurf, Finalisierung und Übergangsfristen. Bis dahin wird das computergestützte System nach Annex 11 validiert; für die Nachweistiefe gibt das Qualitätsrisikomanagement nach ICH Q9(R1) die Orientierung.
Formal fallen generative KI und LLMs nicht in den Anwendungsbereich von Annex 22. Doch gerade über sie trifft der Entwurf eine klare Aussage: In kritischen GMP-Anwendungen sollen sie nicht eingesetzt werden, und die Nachweis-Abschnitte gelten nur für statische Modelle mit deterministischem Output. Außerhalb kritischer Anwendungen bleibt der Einsatz möglich, stets mit menschlicher Prüfung der Ergebnisse; die Verantwortung verbleibt beim regulierten Unternehmen. Genau diese Grenze ist der zentrale Kritikpunkt der Konsultation; der finale Text kann hier anders aussehen.
Nein. Annex 22 ist als ergänzende Leitlinie zu Annex 11 angelegt: Das computergestützte System bleibt nach Annex 11 validiert; Annex 22 regelt zusätzlich den Nachweis für das eingebettete Modell, von Intended Use bis Betrieb.
Annex 22 konzentriert sich auf das Modell: Training, Prüfung und den Nachweis seiner Eignung. Wir weiten den Blick: Ein KI-System bzw. KI-Subsystem integriert ein oder mehrere Modelle und weitere Funktionen, etwa Kontrollen (häufig "Guardrails" genannt), zu einer Systemkomponente. So lässt sich Leistung auf mehreren Ebenen messen und damit die Eignung aller Subkomponenten und ihres Zusammenspiels prüfen.
Abschnitt 2.1 des Entwurfs verlangt enge Zusammenarbeit aller Beteiligten, von der Algorithmus-Auswahl über Training, Validierung und Test bis zum Betrieb. Genannt sind Prozess-SMEs, QA, Data Science, IT und externe Berater, jeweils mit angemessener Qualifikation, definierten Verantwortlichkeiten und passenden Zugriffsrechten. Wo generative Modelle außerhalb kritischer Anwendungen laufen, bleibt qualifiziertes Personal dafür verantwortlich, dass die Ausgaben für den Intended Use geeignet sind. Diese Zusammenarbeit ist zugleich Knowledge Management im Sinne von ICH Q10, dort neben dem Qualitätsrisikomanagement einer der beiden Enabler des Qualitätssystems: Wissen über Modelle, Daten und ihre Grenzen bleibt in der Organisation, nicht bei Einzelnen.
Alles Wesentliche: KI-Anwendungen inventarisieren, Intended Use und Kritikalität dokumentieren, Testmetriken festlegen, unabhängige Testdaten sichern, Monitoring und Human Oversight etablieren. Jeder dieser Bausteine lässt sich mit dem geltenden Annex 11 schon heute umsetzen; wie tief der Nachweis gehen muss, zeigt ICH Q9(R1). Der Entwurf macht vieles davon für KI-Modelle explizit und verlangt an einzelnen Stellen mehr.
Stand:
Annex 22 braucht den Gesamtkontext.
Annex-22-Readiness beginnt vor dem finalen Text.
Im Erstgespräch klären wir, was Sie mit KI vorhaben, wo Ihre Anwendungen heute stehen und was Annex 22 für Sie bedeutet. Kostenfrei, etwa 30 Minuten.
Erstgespräch vereinbaren
