Gibt es zu wenig Gesetze, die AI für die Pharma-Welt regeln? Bisher gab’s relativ wenig, aber jetzt sind der neue Annex 11 und Annex 22 da!
Darüber diskutiert Christof Layher in der neuen Folge vom ChaosHacker Talk mit Arno Terhechte, GMP Inspektor beim Regierungspräsidium Münster.Der ist gefühlt bei jeder Gamp oder ISP-Veranstaltung als Sprecher dabei und hat auch an den neuen Annex als Autor mitgearbeitet.
Annex 11 und 22 sind nun in der Kommentierungsversion freigegeben worden und offen für Verbände und Industrievertreter.
Christof ist es wichtig, dass ihr euch erkundigt, wer gerade in eurer Region die Kommentierung betreibt und euch beteiligt!
Annex sind Richtlinien für die Pharma-Herstellung und die Compliance. Der Annex 11 bezieht sich auf computerisierte Systeme, der Annex 22 auf AI-gestützte Systeme. Und damit ist es auch das erste Werk, das AI in der Pharma-Welt Spielregeln gibt.
Der Annex 11 in der alten Version war aus 2011, doch der digitale Wandel ist natürlich auch in Pharma stark präsent – das Werk musste also dringend geupdated werden, um aktuelle Technologien abzubilden.
Warum haben wir jetzt zwei Dokumente? Weil AI einen eigenen Bereich im Annex 22 erhalten hat
Kleinere Dokumente lassen sich dann halt besser anpassen.
Arno erzählt, was die wichtigsten Änderungen sind:
Der Detaillierungsgrad hat deutlich zugenommen und auch das Thema Audit Trail wurde aufgenommen.
Security wurde im Autoren-Team kontrovers diskutiert, vorher gab es nur grundsätzliche Anforderungen, jetzt gibt es 20 Punkte zuIT-Security.
Arno findet das gar nicht so gut, denn GMP-Inspektoren sind keineIT-Inspektoren – in seinen Augen sollte es dafür andere Regelungen geben.
Christof ist der Meinung, dass wir Patientensicherheit nicht ohne IT-Security gewährleisten können. KRITIS gilt ja sowieso für viele, nun hat auch der Annex ein paar Punkte aufgenommen.
Was Christof total stört, ist, dass im Annex immer noch steht, dassComputersysteme zu validieren sind – in seinen Augen kann man nur Prozesse validieren.
Wir stellen ja auch keine Computersysteme, sondern Arzneimittel her.Computersysteme nutzen wir nur, um diesen Prozess zu unterstützen!
Traceability ist auch explizit als Thema aufgenommen, man benötigt nunNachvollziehbarkeit von pharmazeutischen Anforderungen. Christof sieht es dabei als Mangel, dass die Requirements in Richtung des Systems losgelöst vom pharmazeutischen Prozess sind.
Und natürlich durfte Cloud nicht zu kurz kommen! Die Big Player haben alle Cloud-first Strategien, doch wer ist in der Verantwortung?Für eine Cloud hat man meist einen externen Provider, von dem man abhängig ist. In der Verantwortung ist das pharmazeutischeUnternehmen trotzdem.
Viele Unternehmen gehen da blauäugig dran – durch den neuen Annex sind sie nun aber an eine Exit-Strategie gebunden. Christof findet das mehr als wichtig!
Beide Experten wünschen sich mehr prinzipienbasierte Führung als kleinteilige Regelungen. Christof vergleicht das mit dem EU AI-Act, der in der Wichtigkeit weiterhin über dem Annex 22 steht: Hier geht es viel um Spielregeln, innerhalb derer die Unternehmen selbst ihren Weg finden sollen.
Auch bei der Nutzung von LLMs sind diese Prinzipien notwendig, denn LLMs werden die Pharma-Industrie stark beeinflussen in den nächsten Jahren!
Für Christof ist vor allem der Annex 22 eine Erleichterung: Jetzt können alle mit AI anfangen!
Link:Annex 11& 22: https://health.ec.europa.eu/consultations/stakeholders-consultation-eudralex-volume-4-good-manufacturing-practice-guidelines-chapter-4-annex_en
00:00:00 Intro in die Folge
00:01:28 Wie entsteht ein neuer Annex?
00:04:32 Audit-Trails
00:05:32 Kommentare zum Entwurf
00:07:15 Annex 22 für KI
00:09:11 Die wichtigsten Änderungen
00:14:30 IT-Security und GMP
00:18:37 Validierung von Systemen
00:22:11 Lebenszyklus des Systems
00:24:32 Traceability
00:26:13 Cloud und SaaS
00:30:58 Qualitätssteigerung oder Papierkrieg
00:34:02 EU AI-Act
00:36:26 LLMs für kritische GMP-Prozesse
00:44:00 Spielregeln für KI
