Dürfen KI-Agenten in validierten ERP-Systemen eingesetzt werden?
Von Thomas Brünger, Managing Partner
Ja — KI-Agenten dürfen in validierten ERP-Systemen eingesetzt werden, aber nur unter Governance. Die Frage ist nicht, ob man Agenten einsetzt, sondern unter welchen Kontrollen. Ein Agent, der auf einem validierten System handelt — Belege bucht, Konfiguration anwendet, Daten abgleicht — ändert ein validiertes System, mit dem vollen Gewicht der Kontrollen, die das bedeutet.
Was „unter Governance" heißt
Ein KI-Agent in einer regulierten ERP-Umgebung braucht definierte Autoritätsgrenzen (was er darf und was nicht), Human-in-the-Loop-Freigabe für GxP-relevante Aktionen, einen vollständigen und zuordenbaren Audit Trail jeder Aktion und ihrer Begründung sowie Change Control über Konfiguration und Modell des Agenten. Das sind keine neuen Prinzipien — es sind die bestehenden Erwartungen an computergestützte Systeme (EU GMP Annex 11) und KI (Annex 22), angewandt auf einen Agenten.
Die praktische Grenze
Agenten, die vorschlagen, sind risikoarm; Agenten, die auf validierten Daten handeln, nicht. Die Kontrollen skalieren mit dem Risiko der Aktion, und die Governance muss vor dem Einsatz gestaltet werden — nicht nachgerüstet. Siehe KI in der regulierten Fertigung (Annex 22) für den regulatorischen Hintergrund und Compliant AI Agents für Business Central für die praktische Anwendung der Kontrollen.
Häufig gestellte Fragen
- Welche Kontrollen braucht ein KI-Agent in einem validierten ERP?
- Definierte Autoritätsgrenzen, Human-in-the-Loop für GxP-relevante Aktionen, einen vollständigen Audit Trail dessen, was der Agent getan hat und warum, und Change Control über Konfiguration und Modell des Agenten — dieselbe Sorgfalt wie bei jeder Änderung an einem validierten System.
- Gilt EU GMP Annex 22 für KI-Agenten im ERP?
- Annex 22 adressiert KI in der GMP. Ein Agent, der auf einem validierten ERP-System handelt, ändert ein validiertes System, daher gelten sowohl Annex 11 (computergestützte Systeme) als auch Annex 22 (KI).