KI-Systeme werden nicht als Entscheidungsträger anerkannt. Die Verantwortung für die Ergebnisse verbleibt vollumfänglich bei der regulierten Einrichtung.
Die von KI-Systemen erzeugten Eingaben, Transformationen und Ausgaben müssen nachvollziehbar, nachvollziehbar und überprüfbar bleiben.
Künstliche Intelligenz steht nicht außerhalb etablierter Validierungsprinzipien. Die Definition geeigneter Validierungsansätze für adaptive oder nichtdeterministische Systeme stellt jedoch neue Herausforderungen dar.
Die Regulierungsbehörden erwarten weiterhin eine sinnvolle menschliche Kontrolle über GxP-relevante Entscheidungen.