Agentenbasierte KI im GxP: SAP-Expertenworkshop

Nachlese zum SAP-Expertenworkshop zu KI in regulierten Pharma-Prozessen, Walldorf, 18. August 2026.

Am 18. August 2026 hat QFINITY, vertreten durch Oliver Herrmann, die Governance-Perspektive in einen Expertenworkshop von SAP zu KI in regulierten Pharma-Prozessen eingebracht. Der Workshop folgte einem Ökosystem-Format: Ausgewählte Organisationen vertraten jeweils ihre Rolle, SAP als Anbieter, Merck für die regulierte Industrie, dazu Spezialisten für Governance, Validierung und Guardrails. Sie arbeiten an denselben Fragen, weil keine von ihnen sie allein lösen kann, und diese Fragen betreffen jeden im regulierten Umfeld. Wer trägt die Verantwortung, wenn agentenbasierte KI in GxP-Prozessen eingesetzt wird? Woran erkennt man, dass die Antwort belastbar ist?

Was der Hersteller liefert und was beim Kunden bleibt

QFINITYs Beitrag folgte einem Grundsatz: Der Softwarehersteller liefert die technische Fähigkeit, eingebettet in eine GxP-geprägte Governance, die zu den Governance-Systemen der Anwender passt. Was kein Hersteller liefern kann, ist die regulatorische Verantwortung jedes einzelnen Kunden. Sie entsteht auf der Kundenseite: in der eigenen Governance, in der Validierung der Systeme im eigenen Prozess, in den eigenen Kontrollen.

Die strukturelle Herausforderung dahinter ist eine Asymmetrie. Eine Produkt-Governance trifft auf viele Governance-Systeme regulierter Anwender, und jeder dieser Anwender trägt seine GxP-Verantwortung selbst, auch für ausgelagerte Tätigkeiten, wie es Annex 11 im Abschnitt zu Lieferanten und Dienstleistern vorsieht. Diese Asymmetrie ist strukturell, und Harmonisierung allein löst sie nicht auf. Es braucht definierte Schnittstellen, an denen Evidenz die Grenze überquert: Modelländerungen, Herkunft der Trainingsdaten, Monitoring-Signale, Audit-Rechte bis in die Lieferkette der Modell-Provider.

Die Fähigkeit wird geliefert. Die Verantwortung nicht.

Der Mensch bleibt in der Verantwortung

Human Oversight heißt nicht, dass ein Mensch beteiligt ist. Die Prüffrage lautet: Kann er noch eingreifen und stoppen? Das gilt auf jeder Ebene, bis hin zu den Rollen, die persönlich verantworten, was freigegeben wird. Drei Fragen stellen wir deshalb an jedes agentenbasierte System, unabhängig vom konkreten Anbieter:

Ist jede Aktion eines Agenten im Audit Trail einer Instanz zuordenbar?
Wird eine Verhaltensänderung ohne Versionswechsel erkannt?
Gibt es definierte Wege für Stopp, Rollback und erneute Verifikation?

In unserem ISPE-iSpeak-Beitrag Human-in-the-Loop as an Illusion of Control? erläutern wir, warum die Beteiligung eines Menschen allein noch keine Kontrolle ist.

Die Messlatte heißt Patientensicherheit

Die eigentliche Messlatte unserer Industrie betrifft jede Aktivität: Patientensicherheit, Produktqualität und Datenintegrität. Audits sind dabei einer von vielen Kontrollbausteinen. Gute AI Governance ist wenig glamourös, geradezu unspannend. Statt eines dramatischen Stopps zeigt sie sich darin, dass Entscheidungen sorgfältig abgewogen wurden, bevor Risiken eintreten. Die Frage, die wir von einem Auditor erwarten, lautet deshalb nicht mehr, ob eine KI-Richtlinie existiert, sondern: „Zeigen Sie mir, an welcher Stelle Ihre AI Governance eine Entscheidung maßgeblich geprägt hat.“ Auf diese Frage muss die Architektur heute vorbereitet werden.

Warum wir hier mitreden

Diese Fragen sind für QFINITY nicht neu. Lieferantenverantwortung, Validierungsevidenz und menschliche Verantwortlichkeit sind seit 22 Jahren unser Tagesgeschäft, für 200 Kunden in über 20 Ländern, im Kernteam der GAMP 5 Second Edition und in den Autorenteams von GAMP Good Practice Guides, vom RDI-Guide zur Datenintegrität bis zum eClinical-Guide. Neu ist der Kontext, denn KI kommt jetzt in den regulierten Prozessen an. Unsere Rolle dabei ist die des Übersetzers zwischen den Erwartungen der regulierten Anwender und denen des Softwareherstellers.

Wie es weitergeht

Die Diskussion läuft weiter. Im Oktober tragen Oliver Herrmann und Martin Heitmann das Thema auf das ISPE Annual Meeting & Expo in Washington, D.C., mit ihrem Vortrag über Progressive QA für GxP-Prozesse mit KI-Einsatz am 21. Oktober. Im Dezember stehen QFINITY und Merck erneut gemeinsam auf der Bühne. Auf der 19. Offiziellen GAMP 5 Konferenz in Mannheim moderieren Oliver Herrmann und Alexander Kunz (Merck) die Diskussionsrunde „CSV am Wendepunkt: Ist unsere Validierung bereit für die digitale Realität?“

Wenn Sie sich fragen, welche Rolle Sie in diesem Netzwerk spielen und wie Ihre eigene Governance der Audit-Frage standhält, dann ist das ein Gespräch, das wir gern führen.