KI in der Pharma: Grundlagen und Kontext – die wichtigsten Erkenntnisse im Überblick

Am 4. September 2025 haben wir im Webinar die wichtigsten Fragen rund um Künstliche Intelligenz (KI) im regulierten pharmazeutischen Umfeld diskutiert. Hier finden Sie die wichtigsten Erkenntnisse im Überblick:

• Frage: Was versteht man unter generativer KI und wie unterscheidet sie sich von anderen KI-Formen?

Antwort: Generative KI kann neue Inhalte wie Texte, Bilder oder Videos erzeugen und Daten analysieren. Machine Learning (ML) und Deep Learning (DL) sind Teilbereiche: ML ist meist in Geräten integriert, DL eine Untergruppe, die mit umfangreichen Trainingsdaten arbeitet.

• Frage: Welche Anwendungsgebiete gibt es für KI im regulierten pharmazeutischen Bereich?

Antwort: KI wird vor allem in Geräten eingesetzt, etwa bei optischen Kontrollen oder Zellzählern, die auf vielen Beispielbildern trainiert sind. Generative KI findet zunehmend Anwendung in der Textverarbeitung (z. B. Abweichungsberichte, PQRs, SOPs). Voraussetzung sind Risikobewertungen, klare SOPs und menschliche Kontrolle über die Ergebnisse.

• Frage: Welche Expertise braucht ein Unternehmen, um KI erfolgreich einzusetzen?

Antwort: Unternehmen müssen KI-Kompetenzen nachweisen, z. B. durch interne Taskforces, externe Schulungen oder interne Trainings. Wichtig sind klare Zuständigkeiten, Dokumentation (Welche KI wird wie genutzt?) und definierte Grenzen des Einsatzes.

• Frage: Wie ist die aktuelle Gesetzeslage?

Antwort: Der Entwurf von Annex 22 der EU‑GMP‑Richtlinien behandelt den Einsatz von ML/DL im regulierten Umfeld. Generative KI ist in manchen Regelwerken ausgeschlossen, in der EU‑Verordnung jedoch nicht. Grundsatz: Systeme, die automatisch Entscheidungen treffen, müssen validiert werden; menschliche Kontrolle („human in the loop“) bleibt Pflicht.

• Frage: Welche Richtlinien gelten für die Validierung von KI-Systemen?

Antwort: Neben Annex 22 und der EU‑Verordnung dienen etablierte Leitfäden wie GAMP 5 für computergestützte Systeme als Grundlage für die Validierung von KI.

• Frage: Was sind Schlüsselaspekte und Hürden bei der KI‑Nutzung im regulierten Umfeld?

Antwort: Erforderlich sind nachvollziehbare Dokumentation, Risikobewertungen, Einbindung von IT und Datenschutz, Sicherstellung der Datenintegrität und fortlaufende Pflege/Updates. KI ist kein „Magie‑Knopf“; sie muss konfiguriert, validiert und regelmäßig gewartet werden.

• Frage: Wie können Unternehmen KI mit internen Daten nutzen, ohne sensible Informationen preiszugeben?

Antwort: Empfehlenswert ist der Aufbau interner Assistenten, die über Schnittstellen sicher mit Unternehmensdaten (z. B. SOPs, QM‑Dokumenten) verknüpft sind. Nutzung öffentlicher Tools mit sensiblen Daten sollte vermieden werden. IT und Datenschutz müssen eingebunden sein.

• Frage: In welchem Format sollten Unternehmensdaten vorliegen, um für KI nutzbar zu sein?

Antwort: Bevorzugt sind Word‑ oder gut durchsuchbare PDF‑Dokumente; eingescannte PDFs sind weniger geeignet. Für Berechnungen sind zusätzliche Rechentools sinnvoll. Grundsätzlich gilt: Je strukturierter und vollständiger digitalisiert, desto besser.

• Frage: Werden in den kommenden Modulen auch Assistenten praktisch erstellt?

Antwort: Ja. In den Modulen 3 und 4 werden konkrete Assistenten für definierte Aufgaben konfiguriert. Die Systemverknüpfung ist unternehmensspezifisch und sollte in Abstimmung mit IT und Datenschutz erfolgen.

• Frage: Wie steht es um den Datenschutz bei Nutzung von KI‑Tools?

Antwort: Bei externen Systemen (z. B. OpenAI) werden Daten in der Regel außerhalb der EU verarbeitet und sind nicht DSGVO‑konform. Sicherer sind lokal gehostete Lösungen oder europäische Cloud‑Anbieter. Unternehmensinterne Dokumente sollten nicht in öffentliche Systeme hochgeladen werden.

• Frage: Wie können Unternehmen rechtssicher mit generativer KI umgehen?

Antwort: Unternehmen sollten definieren, welche Tools erlaubt sind, wofür sie genutzt werden dürfen, und welche Daten tabu sind. Geeignete Lizenzen und interne Plattformen sind empfehlenswert; manche Firmen untersagen externe KI‑Tools vollständig.