QFINITY · Neuigkeiten · Einblicke & Events
Was die regulierte Qualität von morgen bewegt.
Fachbeiträge und Einordnungen aus unserer Arbeit zu GxP, Pharma, Qualitätsmanagement, GAMP und KI - was sich im regulierten Umfeld ändert, was es praktisch bedeutet und was bei uns im Unternehmen passiert.
Aktuelle Beiträge
Frank Henrichmann im Interview: Vertrauen in KI bei der Computersystem-Validierung
Frank Henrichmann, Senior Executive Consultant bei QFINITY, hat mit Life Science Connect über den Einsatz von KI in der Computersystem-Validierung gesprochen. Das Interview ist am 4. September 2026 erschienen und wurde zeitgleich auf Pharmaceutical Online, Bioprocess Online und Biosimilar Development veröffentlicht.
Im Gespräch ordnet er ein, welche Aufgaben sich in der Validierung maschinell zuverlässig erledigen lassen. Dazu gehören Vollständigkeitsprüfungen, die Rückverfolgbarkeit zwischen Anforderung und Nachweis sowie Konsistenzabgleiche über Dokumente hinweg. Heikler wird es dort, wo bewertet werden muss, ob ein Nachweis angemessen ist oder wie eine Abweichung zu beurteilen ist. Solche Urteile bleiben beim Menschen.
Zwei Effekte beschreibt er als die eigentliche Gefahr: Automatisierungsbias und kognitive Leichtigkeit. Wer plausibel formulierte Vorschläge liest, prüft weniger streng, und genau deshalb genügt es nicht, einen Menschen in den Prozess zu setzen. Es braucht unabhängige technische Kontrollen, die auch dann greifen, wenn die menschliche Prüfung nachlässt. Als methodischen Rahmen nennt er die GAMP 5 Second Edition.
Das Interview führte Jon O’Connell (Life Science Connect). Sie finden es hier.
Wie wird agentenbasierte KI im GxP-Umfeld möglich? QFINITY bringt die Governance-Perspektive in einen SAP-Expertenworkshop ein
Nachlese zum SAP-Expertenworkshop zu KI in regulierten Pharma-Prozessen, Walldorf, 18. August 2026.
Am 18. August 2026 hat QFINITY, vertreten durch Oliver Herrmann, die Governance-Perspektive in einen Expertenworkshop von SAP zu KI in regulierten Pharma-Prozessen eingebracht. Der Workshop folgte einem Ökosystem-Format: Ausgewählte Organisationen vertraten jeweils ihre Rolle, SAP als Anbieter, Merck für die regulierte Industrie, dazu Spezialisten für Governance, Validierung und Guardrails. Sie arbeiten an denselben Fragen, weil keine von ihnen sie allein lösen kann, und diese Fragen betreffen jeden im regulierten Umfeld. Wer trägt die Verantwortung, wenn agentenbasierte KI in GxP-Prozessen eingesetzt wird? Woran erkennt man, dass die Antwort belastbar ist?
Was der Hersteller liefert und was beim Kunden bleibt
QFINITYs Beitrag folgte einem Grundsatz: Der Softwarehersteller liefert die technische Fähigkeit, eingebettet in eine GxP-geprägte Governance, die zu den Governance-Systemen der Anwender passt. Was kein Hersteller liefern kann, ist die regulatorische Verantwortung jedes einzelnen Kunden. Sie entsteht auf der Kundenseite: in der eigenen Governance, in der Validierung der Systeme im eigenen Prozess, in den eigenen Kontrollen.
Die strukturelle Herausforderung dahinter ist eine Asymmetrie. Eine Produkt-Governance trifft auf viele Governance-Systeme regulierter Anwender, und jeder dieser Anwender trägt seine GxP-Verantwortung selbst, auch für ausgelagerte Tätigkeiten, wie es Annex 11 im Abschnitt zu Lieferanten und Dienstleistern vorsieht. Diese Asymmetrie ist strukturell, und Harmonisierung allein löst sie nicht auf. Es braucht definierte Schnittstellen, an denen Evidenz die Grenze überquert: Modelländerungen, Herkunft der Trainingsdaten, Monitoring-Signale, Audit-Rechte bis in die Lieferkette der Modell-Provider.
Die Fähigkeit wird geliefert. Die Verantwortung nicht.
Der Mensch bleibt in der Verantwortung
Human Oversight heißt nicht, dass ein Mensch beteiligt ist. Die Prüffrage lautet: Kann er noch eingreifen und stoppen? Das gilt auf jeder Ebene, bis hin zu den Rollen, die persönlich verantworten, was freigegeben wird. Drei Fragen stellen wir deshalb an jedes agentenbasierte System, unabhängig vom konkreten Anbieter:
In unserem ISPE-iSpeak-Beitrag Human-in-the-Loop as an Illusion of Control? erläutern wir, warum die Beteiligung eines Menschen allein noch keine Kontrolle ist.
Die Messlatte heißt Patientensicherheit
Die eigentliche Messlatte unserer Industrie betrifft jede Aktivität: Patientensicherheit, Produktqualität und Datenintegrität. Audits sind dabei einer von vielen Kontrollbausteinen. Gute AI Governance ist wenig glamourös, geradezu unspannend. Statt eines dramatischen Stopps zeigt sie sich darin, dass Entscheidungen sorgfältig abgewogen wurden, bevor Risiken eintreten. Die Frage, die wir von einem Auditor erwarten, lautet deshalb nicht mehr, ob eine KI-Richtlinie existiert, sondern: „Zeigen Sie mir, an welcher Stelle Ihre AI Governance eine Entscheidung maßgeblich geprägt hat.“ Auf diese Frage muss die Architektur heute vorbereitet werden.
Warum wir hier mitreden
Diese Fragen sind für QFINITY nicht neu. Lieferantenverantwortung, Validierungsevidenz und menschliche Verantwortlichkeit sind seit 22 Jahren unser Tagesgeschäft, für 200 Kunden in über 20 Ländern, im Kernteam der GAMP 5 Second Edition und in den Autorenteams von GAMP Good Practice Guides, vom RDI-Guide zur Datenintegrität bis zum eClinical-Guide. Neu ist der Kontext, denn KI kommt jetzt in den regulierten Prozessen an. Unsere Rolle dabei ist die des Übersetzers zwischen den Erwartungen der regulierten Anwender und denen des Softwareherstellers.
Wie es weitergeht
Die Diskussion läuft weiter. Im Oktober tragen Oliver Herrmann und Martin Heitmann das Thema auf das ISPE Annual Meeting & Expo in Washington, D.C., mit ihrem Vortrag über Progressive QA für GxP-Prozesse mit KI-Einsatz am 21. Oktober. Im Dezember stehen QFINITY und Merck erneut gemeinsam auf der Bühne. Auf der 19. Offiziellen GAMP 5 Konferenz in Mannheim moderieren Oliver Herrmann und Alexander Kunz (Merck) die Diskussionsrunde „CSV am Wendepunkt: Ist unsere Validierung bereit für die digitale Realität?“
Wenn Sie sich fragen, welche Rolle Sie in diesem Netzwerk spielen und wie Ihre eigene Governance der Audit-Frage standhält, dann ist das ein Gespräch, das wir gern führen.
Wer widerspricht, wenn das System spricht?
Nachlese zum 47. GAMP D-A-CH Forum, Berlin, 11. März 2026.
Auf dem 47. GAMP D-A-CH Forum in Berlin haben Daniel Köpke und Oliver Herrmann im März 2026 gefragt, was Human Oversight bedeutet, wenn Systeme intelligenter, komplexer und überzeugender werden. Die Antwort beginnt für uns bei der Verantwortung: Die grösste Gefahr für die QA ist die schleichende Erosion sichtbarer Verantwortung, bis niemand mehr widerspricht. Wie real diese Frage inzwischen ist, hat in diesem Sommer ein Sicherheitsvorfall beim KI-Anbieter OpenAI gezeigt. Er ist der Anlass, die Position aus dem März jetzt nachzureichen: keine Voraussicht, eine Illustration. Dieser Beitrag legt die Position aus dem Vortrag dar, und er benennt, was Organisationen dagegen aufbauen können.
Warum kommt diese Nachlese jetzt?
Am 26. August 2026 hat OpenAI den technischen Bericht zu einem Vorfall aus dem Juli vorgelegt. In einem eigenen Sicherheitstest waren Agenten aus ihrer Testumgebung ausgebrochen und hatten reale Infrastruktur von Hugging Face kompromittiert. Ein wesentlicher Umstand war, dass die üblichen Schutzmechanismen in der Testumgebung zu Testzwecken abgeschaltet waren. Im produktiven Betrieb wären sie dagegen vorgesehen. Trotzdem bleibt der Vorfall ein anschauliches Experiment, das zeigt, wie weit die Fähigkeiten dieser Systeme inzwischen reichen. Ob Ausbruch oder Freilassung: Beides ist ein Versagen der Architektur, nicht einer einzelnen Kontrolle. Kontrollen, die nachträglich an ein System angebaut werden, halten mit dem Tempo dieser Systeme nicht Schritt. Kontrollierbarkeit muss angelegt sein, bevor das System spricht. Der Vorfall geschah weit ausserhalb der GxP-Welt. Die wichtige Botschaft hierbei: Diese KI-Fähigkeiten werden zunehmend auch in GxP-Systemlandschaften genutzt. Wer die damit verbundenen Risiken einschätzt, muss sowohl die Grenzen als auch die Möglichkeiten der Systeme verstehen.
Der Ausgangspunkt ist die Verantwortung
Jeder Mensch hat ein Gesicht und eine Stimme. Beides macht uns erkennbar, und beides macht uns verantwortlich: als QA-Fachleute und als Menschen, die zur Patientensicherheit beitragen. Ein Patient kennt unsere Systeme nicht. Er kennt keine SOPs, keine Validierungspläne, keine Modellarchitektur. Er vertraut darauf, dass am Ende ein Mensch hinter der Qualität steht.
Die Verbindung zur KI liegt im Übergang von Daten zu Entscheidungen. Ein KI-befähigtes System kann Daten analysieren, Muster erkennen, Testfälle generieren, Abweichungen klassifizieren und Entscheidungen vorbereiten. Und es klingt dabei plausibel, oft sogar sehr plausibel.
Alles dokumentiert, alles konform, und niemand versteht, warum
In Berlin haben wir mit einer Szene begonnen. Ein System empfiehlt die Freigabe. Ein zweites hat die Daten geprüft. Ein drittes hat die Anomalie als akzeptabel klassifiziert. Alles dokumentiert, alles nachvollziehbar, alles konform. Und kein Mensch hat wirklich verstanden, warum.
Diese Szene ist keine Zukunft, sie setzt sich aus dem heutigen Alltag zusammen. Ein System generiert 847 Testfälle, und der Tester prüft den Output. Aber wer prüft die Logik dahinter, und wer entscheidet, was nicht getestet wurde? Ein Chatbot klassifiziert die Abweichung als Minor und schlägt die CAPA gleich mit vor. Der QA-Mitarbeiter bestätigt, und irgendwann wird das Bestätigen zur Gewohnheit. Ein autonomes Monitoring meldet keinen Trend. Aber was ist mit dem Trend, der ausserhalb des Musters liegt, das das Modell kennt? Stille ist keine Aussage. Stille ist eine Annahme.
Plausibilität ist kein Beleg für eine Prüfung
Darin liegt das zentrale Risiko jedes Human-in-the-Loop-Aufbaus. Plausible Ausgaben entmutigen die gründliche Prüfung, die technische Korrektheit, regulatorische Belastbarkeit und GxP-Verantwortung tatsächlich verlangen. Plausibilität kann eine Prüfung auslösen. Ersetzen kann sie sie nicht, und Verantwortung macht sie nicht übertragbar. Plausibel heisst: Es könnte stimmen. Richtig heisst: Wir haben es geprüft und verstanden. Das ist kein kleiner Unterschied, das ist der Unterschied.
Ein System trägt keine regulatorische Verantwortung. Es kennt den GxP-Kontext nicht so, wie ein Mensch ihn kennt, es erkennt nicht, wann ein scheinbar korrektes Ergebnis in einem kritischen Prozess gefährlich wird, und es urteilt nicht unter Mehrdeutigkeit. All das bleibt beim Menschen. Technische Massnahmen wie Guardrails können Menschen dabei unterstützen, diese Verantwortung wahrzunehmen. Wer diesen Massnahmen blind vertraut, schreibt jedoch jene Design-Schwäche fort, die den Human-in-the-Loop-Aufbau angreifbar macht.
Die schleichende Erosion sichtbarer Verantwortung
Die Gefahr kommt leise. Klick für Klick, Bestätigung für Bestätigung, begraben unter immer mehr Entscheidungen, die zu treffen sind, bis niemand mehr wirklich widerspricht. Kein einzelner Schritt fällt auf, und am Ende steht eine QA, die formal alles dokumentiert hat und praktisch nichts mehr entscheidet.
Wenn das System spricht, bleibt die entscheidende Frage: Wer widerspricht?
Drei Regelwerke, eine Richtung
In Berlin haben wir diese Frage an Regelwerken gespiegelt, die unabhängig voneinander entstanden sind und dieselbe Erwartung tragen. Der EU AI Act beschreibt in Artikel 14 für Hochrisiko-Systeme, was Human Oversight heisst. Menschen müssen das System verstehen, überwachen und korrigieren können, nicht nur formal signiert haben. EU-GMP-Annex 11 verlangt seit jeher kontrollierbare, nachvollziehbare und prüfbare computergestützte Systeme. Er wurde vor generativer KI geschrieben, und er gilt trotzdem. Der Entwurf des EU-GMP-Annex 22 schlägt erstmals ein formales Korsett für KI im GxP-Umfeld vor, mit Intended Use, Performance-Monitoring und Change Control. In kritischen Anwendungen sieht er bislang nur statische Modelle mit deterministischem Output vor. Die Nachweise muss der regulierte Anwender selbst vorliegen haben und prüfen. Das gilt unabhängig davon, ob das Modell selbst entwickelt oder mit einem Dienstleister erstellt wurde. Auf der Industrieseite beschreibt GAMP 5 den Konsens, wie sich diese Erwartungen umsetzen lassen. Alle zeigen in dieselbe Richtung. Die Kontrolle bleibt beim Menschen.
Die Rolle der QA verschiebt sich
Eine QA, die diese Frage beantworten will, gestaltet die Bedingungen, unter denen menschliches Urteil wirksam bleibt. Im GxP heisst das: Human Oversight gehört in den Intended Use, in den Geschäftsprozess und in die risikobasierten Kontrollen eingebettet, mit Lebenszyklus-Nachweisen, die ihre Wirksamkeit belegen. Human Oversight ist eine Fähigkeit, die in der Architektur des Systems angelegt wird, nicht nachträglich in einem Prüfschritt.
In Berlin haben wir diese Rolle in vier Bildern beschrieben. Als Architektur-Designer sitzt die QA am Tisch, wenn Systemgrenzen gezogen werden, und entscheidet mit, welche Entscheidungen ein System autonom treffen darf und wo ein Mensch eingreifen können muss. Als Oversight-Architekt definiert sie die Kontrollpunkte selbst, statt sie der IT oder dem Anbieter zu überlassen: wo Monitoring stattfindet, was als Abweichung gilt, wann ein System pausiert wird. Als Eskalations-Designer entwirft sie die Detektionspfade für stille Fehler, denn Drift ist kein Absturz, er schleicht. Und als Transparenz-Hüter hält sie fest, dass eine Validierung unvollständig war, wenn im Audit niemand erklären kann, warum das Systemdesign so gewählt, die menschliche Aufsicht so definiert und die Entscheidung im Betrieb so getroffen wurde.
Der Satz, auf den der Vortrag zulief, gilt unverändert. Zukunftssichere QA validiert nicht nur Systeme. Sie validiert, dass der Mensch entscheidungsfähig bleibt.
Und sie braucht Menschen, die prüfen können. Vier Bedingungen entscheiden darüber, ob Widerspruch im Alltag vorkommt:
Organisationen müssen Human Oversight so gestalten, dass Verantwortung im Alltag ausgeübt wird und ihre Wirksamkeit nachweisbar bleibt. Und die Zuordnung gehört dokumentiert. Nicht das System hat entschieden. Ein Mensch hat die Entscheidung des Systems verantwortet, mit Name, Rolle, Qualifikation und (digitaler) Unterschrift. Im Audit gibt es keine Zeile für das Modell. Eine Verantwortung, die nur im Dokument existiert, schützt keinen Patienten.
Drei unterstützende Stimmen, ein gemeinsamer Kern
Seit dem Vortrag ist diese Position nicht allein geblieben. Der Rapporteur der Annex-22-Drafting-Group in Barcelona, ein National Expert der FDA in Boston und die Industrie im EMA-Expertenworkshop kamen unabhängig voneinander zu derselben Linie. Die Zusammenschau steht im Beitrag Drei Signale, eine Linie. Wie sich Human Oversight einrichten und prüfen lässt, beschreiben wir unter AI Governance und Human Oversight.
Eine KI-Strategie, die Human Oversight und sichtbare Verantwortung verankert, ist ein guter Startpunkt. Noch wichtiger ist die Haltung: Das System arbeitet für uns, nicht umgekehrt.
Für uns ist das der Kern von Digital Compliance: Qualität wird nicht nur nachgewiesen, sie wird so gestaltet, dass sie vertrauenswürdig ist und mit dem Wissen wächst. Vertrauen hat ein Gesicht und eine Stimme. Unsere Aufgabe ist, dass beide nicht in unseren Systemen verschwinden.
Zum Nachlesen: Rückblick: GAMP D-A-CH in Berlin (ISPE D-A-CH, 11.03.2026)↗OpenAI: Bericht zum Hugging-Face-Sicherheitsvorfall (26.08.2026)↗