Wo Sie uns persönlich treffen.

Wir freuen uns, auf der 2026 ISPE Pharma 4.0 & Biopharma Conference vertreten zu sein!

Die Konferenz findet vom 10.-11. Dezember 2026 in Berlin statt – ein zentraler europäischer Treffpunkt für die digitale Transformation der Pharmaindustrie. Eine virtuelle Teilnahme ist ebenfalls möglich.

QFINITY auf der Bühne

In seinem Vortrag zeigt Oliver Herrmann, wie KI die Qualitätssicherung in regulierten Umgebungen verändert – und warum menschliche Aufsicht (Human Oversight) keine Endkontrolle sein darf, sondern ein bewusst in die Architektur eingebautes Strukturelement.

Human Oversight by Design: Progressive QA for AI-Enabled GxP Systems

Oliver Herrmann (QFINITY)

KI fügt GxP nicht nur Werkzeuge hinzu – sie verändert, wie sich computergestützte Systeme verhalten: Die Ausführung verschiebt sich von der Bedienung zur Überwachung, deterministische Logik weicht probabilistischer Ausgabe. Das senkt den Bedarf an Qualitätssicherung nicht, es erhöht ihn. Qualität entsteht nicht mehr aus der Validierung eines isolierten Systems, sondern aus dem Zusammenspiel von Geschäftsprozessen, Daten, Software, Schnittstellen und Entscheidungsstrukturen. QA wird damit vom nachgelagerten Kontrollpunkt zum Architekten der Landschaft, die sie zuvor nur geprüft hat.

Der GAMP AI Guide zieht die entscheidende Linie: Das KI-Subsystem ist nicht das computergestützte System, das Modell ist eine Komponente. Validiert wird das System gegen seinen bestimmungsgemäßen Gebrauch (Intended Use) – nicht das Modell im Abstrakten. Menschliche Aufsicht wird hier konkret: als Kontrolle am Ende der Kette steuert sie nichts; in die Architektur hineinentworfen, trägt sie. Aufsicht ist kein Schritt, den man ergänzt, wenn das System läuft, sondern eine Eigenschaft, die man baut, bevor es läuft – mit Intended Use, risikobasierten Kontrollen und einem Punkt, an dem ein Mensch tatsächlich eingreifen kann.

Zwischen einer plausiblen Ausgabe und einer korrekten Entscheidung liegt eine strukturelle Lücke – sie schließt sich nicht durch Vertrauen ins Modell, sondern durch Design. Genau hier setzt Progressive QA an: als Antwort auf steigende Geschwindigkeit und Komplexität, die Prozess-, Daten- und Systemebene zugleich beherrschbar hält. Die Kernaussage: Leistungsfähigkeit ist nicht Zuverlässigkeit – und es ist Aufgabe der QA, diesen Unterschied sichtbar zu machen, bevor es das System tut.

Programm und Anmeldung bei ISPE (ispe.org)↗

Sie sind vor Ort? Sprechen Sie uns an – wir freuen uns auf den Austausch.