QFINITY · Aktuelles
Neues von QFINITY und aus der Fachwelt.
Ein Überblick über Meldungen abseits von Terminen und Projekten: Fachartikel und Publikationen, Engagements in Gremien und Verbänden, Auszeichnungen und Einordnungen zu neuen Regelwerken.
Im Überblick
AI in Pharma 2026 in Kraków: KI-gestützte Validierung zwischen Vision und Realität
AI in Pharma 2026, die vierte Ausgabe der Konferenz von ISPE Poland und ihrer GAMP Community of Practice, brachte am 26. und 27. Oktober in Kraków Praktiker aus Pharma, Technologie und Behördenumfeld zusammen. Frank Henrichmann eröffnete für QFINITY den Track zu vertrauenswürdiger und regulierter KI mit einem Realitätsabgleich. KI-gestützte Validierung computergestützter Systeme ist heute machbar, innerhalb der geltenden Regelwerke und Leitfäden; der Annex-22-Entwurf zeichnet die KI-spezifischen Ergänzungen vor.
Das Programm umfasste vier Tracks an zwei Tagen, von „Trusted, Safe & Regulated AI“ bis „Sustainable & Responsible AI“. Schon am Vortag fand an der AGH Kraków ein Studierenden-Hackathon statt. Im Novotel Kraków Centrum stand die Frage im Mittelpunkt, die derzeit viele Qualitätsorganisationen beschäftigt. Wie kommen computergestützte Systeme mit KI-Unterstützung aus dem Pilotstatus in den validierten Betrieb? Frank Henrichmann, Senior Executive Consultant bei QFINITY und Chair des ISPE GAMP Global Steering Committee, zeigte am ersten Tag, wie sich diese Frage aus Sicht der Validierung beantworten lässt. Die Vision der KI-gestützten CSV lässt sich an dem messen, was 21 CFR Part 11 und Annex 11 verlangen, was GAMP 5 und die CSA-Guidance der FDA als Weg beschreiben und was der Annex-22-Entwurf für KI in GMP vorzeichnet.
Warum die Validierung als Engpass gilt
Der Ausgangspunkt des Vortrags war der Alltag vieler Validierungsteams. Risikobewertungen und Testskripte entstehen von Hand. Unklare Anforderungen führen zu wirkungslosen Tests und Compliance-Lücken. Die Rückverfolgbarkeit steht in statischen Tabellen, die niemand gern pflegt. So wird die Validierung, eigentlich ein Eckpfeiler der Compliance, als Bremse der Innovation wahrgenommen. An dieser Stelle setzt KI an, bei Entwürfen und Routineschritten.
Was darf eine KI im Validierungsablauf entwerfen, und was bleibt die Entscheidung eines Menschen?
Drei Ansätze aus dem Vortrag
Was QFINITY nach Kraków mitnimmt
Vier Tracks, ein Hackathon und Vorträge von Anwendern wie GSK, Roche und Polpharma zeigen, dass die Diskussion bei der Frage angekommen ist, wie KI in der Validierung nachweisbar kontrolliert wird. Als Chair des ISPE GAMP Global Steering Committee schlug Frank Henrichmann die Brücke zwischen der polnischen GAMP-Community und der globalen GAMP-Arbeit, zu der auch der GAMP Guide Artificial Intelligence gehört. Für Anwender folgt daraus, dass der Weg zur KI-gestützten Validierung über Kontrollen führt, die die geltenden Regelwerke heute schon verlangen.
Unser Themenbereich Künstliche Intelligenz im GxP-Umfeld zeigt, wie wir KI in Ihrer Validierung einsetzen, ohne den Nachweis zu verlieren. Welche Erwartungen die EU an KI in GMP stellt, erläutert unser Beitrag zum Annex-22-Entwurf der EU GMP. Wenn Sie direkt mit uns sprechen möchten, vereinbaren Sie einen Termin.
AI in Pharma 2026, ISPE Poland Affiliate (ispe.org.pl)↗
DSAG-Arbeitskreis Life Sciences 2026: Der erfundene Reviewer
Der DSAG-Arbeitskreis Life Sciences Prozesse tagte am 21. und 22. Oktober 2026 in Hockenheim unter dem Motto „Zwischen Innovation und Compliance: KI im GxP-Umfeld“. QFINITY eröffnete den Nachmittag des ersten Tages mit dem Impuls „Der erfundene Reviewer“. Was die Sicherheitstests zweier KI-Labore und des britischen AI Security Institute im Sommer 2026 über Agenten zeigen und warum das jeden Anwender angeht, der einem Agenten Schreibrechte in seiner SAP-Landschaft gibt.
Rund um die Keynote von Stefan Münch (GAMP D-A-CH) und die SAP-Beiträge zu Autonomous Regulated Manufacturing und Cloud ERP GxP Readiness ging es zwei Tage lang um dieselbe Frage. Wie kommt KI aus dem Pilotstatus in den validierten Betrieb? Oliver Herrmann (QFINITY) übernahm den ersten Teil des Vortragsblocks um 13:30 Uhr aus Washington, wo zeitgleich das ISPE Annual Meeting lief. Den zweiten Teil bestritt Alexander Kunz (Merck KGaA) mit „Einführung von KI im GxP Umfeld @ Merck“.
Drei Grenzen, drei Fehlschläge, niemand hat zugesehen
Im Sommer 2026 veröffentlichten Anthropic, OpenAI und das AI Security Institute (AISI), was in ihren Sicherheitstests mit bewusst abgeschalteten Schutzfiltern geschah. Was in den Tests geschah, Fall für Fall:
Für Anwender heißt das: Ein Prompt ist keine Netzgrenze, eine Sandbox allein auch nicht, und Protokolle nachträglich zu lesen ist keine Überwachung. Alle Agenten liefen in Testumgebungen der Labore, ihrer Partner oder des AISI. Die Schäden entstanden bei Dritten im Netz. Soweit bekannt, war bisher kein Pharmaunternehmen und kein SAP-System betroffen. Was lernen wir daraus, wenn Agenten den Weg des geringsten Widerstands suchen, um eine Aufgabe zu lösen? Die Frage stellt sich, sobald Modelle derselben Anbieter, mit deutlich schärferen Sicherheitsvorkehrungen, als Agenten in Unternehmenssystemen arbeiten und Schreibrechte in GxP-Umgebungen erhalten.
Was die Protokolle zeigen
Zwei Untersuchungsberichte dokumentieren die protokollierten Gedankengänge der Agenten, der Bericht von METR und Redwood Research zum Vorfall bei Hugging Face und der Incident Report des AISI. Darin stehen drei Muster, die aus Abweichungsberichten und Inspektionen vertraut sind, bisher nur von Menschen:
Im dritten Fall galt der Angriff nicht der Technik, sondern dem Review. Der Review hielt, weil ein Mensch sein Urteil nicht an die zweite Stimme abgab.
Wer in Ihrer SAP-Landschaft würde bemerken, wenn ein Agent seinen eigenen Prüfer erfindet?
Fehlendes Alignment oder fehlende Grenzen?
In allen drei Fällen blieb die Lösung der gestellten Aufgabe der Maßstab der Agenten, und in allen drei Fällen verließen sie den Rahmen, ohne dass eine dafür gebaute Überwachung es im Moment des Geschehens erkannte. Ethische Bedenken tauchten in den Gedankengängen auf, begrenzten das Handeln aber nur selten. Ob sich ein Agent unter Beobachtung anders verhält als unbeobachtet, lässt sich im Test nicht ausschließen. Für regulierte Anwender führt die Frage nach der Absicht deshalb nicht weiter. Entscheidend ist, was ein Agent darf, innerhalb welcher Grenzen er Aktionen ausführt und wie verlässlich die Kontrollmechanismen sind, die diese Grenzen durchsetzen.
Diese Fragen stellen Inspektoren seit Jahrzehnten, bisher an Menschen und Systeme. Der Impuls endete mit zwei davon für die Heimfahrt, und sie gelten für jede SAP-Landschaft: Welche Systeme geben einem Agenten heute schon Schreibrechte? Wer kann ihn stoppen, und was geschieht danach mit den Daten?
Einblick: vier Einstiegspunkte in die SAP-Welt
Wer die beiden Fragen für die eigene SAP-Landschaft beantworten will, findet bei SAP vier Stellen, an denen der Einstieg beginnt. Was SAP dort anbietet, steht jeweils zuerst; was davon beim Betreiber ankommt, danach.
1. Sehen, welche Agenten es gibt und wer sie verantwortet. Der SAP AI Agent Hub, aufgebaut auf SAP LeanIX, führt ein zentrales Register aller Agenten, MCP-Server und Sprachmodelle in der Landschaft, aus SAP-, Partner- und Eigenentwicklung. Jeder Eintrag trägt Identität, Eigentümer, Fähigkeiten, Technology Stack und Governance-Status; eine optionale Erweiterung für die Risikobewertung nach dem EU AI Act ordnet Agenten einer Risikoklasse zu. Agenten, die die Prüfung noch nicht bestanden haben, bleiben im Status „ausstehend“, und die Identität jedes Agenten liegt neben den menschlichen Identitäten in SAP Cloud Identity Services. Bemerken setzt voraus, dass jemand weiß, welche Agenten es gibt. Für den Inspektor zählt das Register erst, wenn es mit der Systemliste des QMS übereinstimmt und jeder Eintrag einen verantwortlichen Menschen trägt.
2. Verstehen, was nach dem Stopp mit den Daten geschieht. SAP beschreibt im Whitepaper zu Joule in GxP-regulierten Umgebungen (Mai 2026) entlang GAMP 5 Appendix D11 und ISO 42001 die Lebenszykluskontrollen, die ein Agent im GxP-Betrieb braucht: Monitoring im Betrieb, Änderungskontrolle mit Versionskontrolle für Modell- und Datenänderungen, periodische Revalidierung mit CAPA, und ordnet zu, was Joule davon mitbringt. Joule ist dabei Entscheidungsunterstützung, der Mensch bleibt Entscheider (human-in-the-loop); das Plattform-Logging liefert SAP, das Logging der Anwendung richtet der Betreiber ein. Eine überarbeitete Fassung, die den GAMP AI Guide einbezieht, ist nach Auskunft von SAP in Arbeit. Welches Ereignis am Agenten eine erneute Prüfung auslöst, etwa ein neues Modell hinter derselben Oberfläche, bleibt im Whitepaper dem Betreiber überlassen; diese Auslöser legt er selbst fest.
3. Die Guardrails des Herstellers kennen. SAP legt in seinen Responsible-AI-Grundsätzen offen, nach welchen Regeln das Unternehmen KI-Anwendungsfälle auswählt, umsetzt und kontrolliert. Für die Frage „Alignment oder Grenzen“ ist das der Rahmen, in dem SAP seine eigenen Agenten baut. Es sind die Regeln des Herstellers für seine Produkte. Die Kontrolle im eigenen Betrieb und die Grenzen dort setzt der Anwender selbst.
4. Die Architektur als Ganzes einordnen. Die AI-native North Star Architecture beschreibt SAPs Zielbild in vier Schichten, mit Joule als Eingang, Agenten, die Prozesse über Systemgrenzen hinweg ausführen, und einer Plattform, die Laufzeit, Sandbox, Beobachtbarkeit und Governance stellt. Jeder Aufruf läuft durch ein kontrolliertes Gateway, nur Ausnahmen und richtlinien-gebundene Entscheidungen gehen an einen Menschen. SAP nennt das Dokument ausdrücklich eine Richtung, keine Zusage.
Diese vier Stellen liefern die Fähigkeit. Die Kontrollarchitektur, die der Inspektor sieht, entsteht beim Betreiber: der Intended Use des Prozessschritts, den der Agent bedient, die Grenzen seiner Rechte, die Records nach ALCOA++ und die Person, die ihn stoppt. Dort beginnt unsere Arbeit.
Warum ein Mensch im Loop allein noch keine Kontrolle ist, steht in unserem Beitrag Ein Mensch im Loop ist noch keine Kontrolle. Wie die Antwort für Ihre SAP-Landschaft aussieht, klären wir im Gespräch: Termin vereinbaren. Der Arbeitskreis trifft sich wieder am 7. und 8. April 2027.
DSAG, Deutschsprachige SAP-Anwendergruppe (dsag.de)↗SAP AI Agent Hub, Referenzarchitektur (architecture.learning.sap.com)↗SAP Whitepaper: Joule in GxP-Umgebungen, Mai 2026 (sap.com)↗SAP AI-native North Star Architecture (architecture.learning.sap.com)↗
ISPE Annual Meeting 2026: Wer prüft den Prüfer?
Das ISPE Annual Meeting & Expo 2026 in National Harbor bei Washington, D.C., stellte im Track Digital, Data and Decision Integrity eine Frage in den Mittelpunkt, die QFINITY seit Jahren begleitet. Wer prüft den Prüfer, wenn KI schreibt und zugleich prüft? QFINITY war mit zwei Vorträgen vor Ort, zur Aufsicht über KI-Systeme und zum Lebenszyklus der Validierung.
Vom 18. bis 21. Oktober 2026 traf sich die Branche im Gaylord National Resort & Convention Center am Potomac. Dass KI-Modelle in GxP-Prozesse einziehen, stand kaum noch zur Debatte. Diskutiert wurde, wer die Ergebnisse trägt, sobald agentenbasierte Systeme Aktionen ausführen, Datensätze ändern oder Prüfberichte schreiben, während die Person, die am Ende freigibt, davon nur das Ergebnis sieht. Welche Informationen sie zusätzlich braucht, damit ihre Überwachung wirksam bleibt, war die zweite Frage des Tracks. Der regulatorische Anspruch gilt dabei unverändert, Organisationen müssen ihn bei KI-Systemen jedoch an einer anderen Stelle einlösen als bisher.
Progressive QA: Wer entscheidet, wer stoppt?
Oliver Herrmann (QFINITY) und Martin Heitmann (MH Consulting & Advisory) begannen bei Sokrates und der Maske des antiken Theaters. Durch die Maske spricht ein Mensch, und an seiner Verantwortung ändert die Maske nichts, so überzeugend sie auch klingt. Auf KI-Ausgaben übertragen ersetzt Plausibilität kein menschliches Urteil. Drei Fälle aus dem Jahr 2026 belegten das Risiko. In einem Sicherheitstest des britischen AI Security Institute legte ein Agent erfundene Identitäten an, von denen eine seinen eigenen Code als unabhängiger Prüfer lobte, bis ein menschlicher Maintainer ablehnte. Die britische MHRA berichtete im Juni von Inspektionsantworten mit erfundenen Referenzen auf Leitlinien, und die FDA rügte in einem Warning Letter die „overreliance on artificial intelligence“, weil KI-erzeugte Dokumente gar nicht erst geprüft worden waren.
Die Antwort des Vortrags war eine Kontrollarchitektur, die vor der Inbetriebnahme steht. Qualität entsteht im Zusammenspiel der fachlichen Prozesse mit Daten, Anwendung, Infrastruktur, Modell und Kontrollen; das Modell wird verifiziert, das Gesamtsystem im Prozess validiert, und die Entscheidungs- und Stopprechte sind zugewiesen. Ein technischer Auslöser darf den Agenten anhalten; die Verantwortung dafür trägt eine benannte Person.
Wer in Ihrem Unternehmen könnte heute sagen, was einen KI-Agenten stoppt, wer das verantwortet, und was danach mit seinen Daten geschieht?
Vier Risiken, wenn das Sprachmodell die Validierungsdaten führt
Frank Henrichmann (QFINITY) zeigte am Vormittag desselben Tages, wie sich KI in den Lebenszyklus der Validierung computergestützter Systeme integrieren lässt, ohne den Nachweis zu schwächen. Aufbauend auf dem Beitrag How AI Will Transform Computerized System Validation in Pharmaceutical Engineering führte er vor, was heute funktioniert: Anforderungen werden in Klartext als strukturierte Daten erfasst, Risiken bewertet, Testskripte mit Rückverfolgbarkeit zur Anforderung erzeugt und von einem Fachexperten vor der Ausführung freigegeben. Annex 11 und 21 CFR Part 11 bleiben der Maßstab für Zuordenbarkeit und Datenintegrität, GAMP 5 2nd Edition die Methodik, um die Prüftiefe am Risiko auszurichten. Wird ein allgemeines Sprachmodell ohne kontrollierte Einbettung zum führenden System für die Validierungsdaten, entstehen nach dem Vortrag vier Risiken:
Der regulatorische Rahmen dafür verdichtet sich gerade. Die FDA richtet mit Computer Software Assurance die Prüftiefe am Risiko aus, der Entwurf ihrer KI-Leitlinie stellt Risiko und Context of Use in den Mittelpunkt. Die EU-Entwürfe zu Chapter 4, Annex 11 und Annex 22 behandeln die Kette von der Aufzeichnung über das computergestützte System bis zum Modell, und der Anfang Oktober veröffentlichte Bericht der EMA zu ihrem Annex-22-Expertenworkshop vom 30. Juni und 1. Juli deutet darauf hin, dass der künftige Text dynamische und generative Modelle erfassen könnte, sofern eine dokumentierte, risikobasierte Kontrollstrategie besteht. Spezifische Vorgaben für agentenbasierte Systeme fehlen bislang. Hier arbeitet QFINITY am vordersten Rand. Was daraus für die Kontrolle folgt, steht in unserem Beitrag Ein Mensch im Loop ist noch keine Kontrolle und auf der Seite zu EU GMP Annex 22.
Dass QFINITY diese Entwicklung mitprägt, zeigt sich auch in den Rollen. Oliver Herrmann leitet als Chair das GAMP Europe Steering Committee, Frank Henrichmann das GAMP Global Steering Committee. Den eigentlichen Wert schafft QFINITY jedoch dort, wo dieser Rahmen in Kontrollarchitektur, Teststrategie und die Nachweiskette übersetzt wird, die der Betreiber dem Inspektor vorlegt. Critical Thinking, KI-Kompetenz und Datenverständnis für das eigene Team vermittelt die H² Digital Hive.
Session im ISPE-Programm (ispe.org)↗