GMP.KI – KI-Kompetenz für die Pharma-Praxis

• Was ist der Unterschied zwischen klassischer und generativer KI?

Klassische KI basiert auf festgelegten, regelbasierten Systemen für spezifische Aufgaben. Generative KI hingegen nutzt maschinelles Lernen, um auf Basis von Daten Muster zu erkennen und Inhalte zu erzeugen – etwa durch Sprachmodelle wie ChatGPT.

• Was sind Large Language Models (LLMs) und wie funktionieren sie?

LLMs sind KI-Modelle, die auf riesigen Textmengen trainiert wurden. Sie sagen das nächste Wort in einer Textsequenz vorher, können so Texte generieren, Fragen beantworten oder Inhalte zusammenfassen. Bekannte Beispiele: GPT-4, Claude 3, Gemini.PT.

• Was ist Prompt Engineering und warum ist es so wichtig?

Prompt Engineering ist das gezielte Formulieren von Eingaben (Prompts), damit die KI das gewünschte Ergebnis liefert. Klare, kontextbezogene Anweisungen führen zu besseren und zuverlässigeren Ergebnissen.

• Ist generative KI zuverlässig?

Nicht immer. Die Modelle arbeiten probabilistisch und können „halluzinieren“, also falsche Inhalte erzeugen. Deshalb ist die menschliche Prüfung entscheidend. Auch Trainingsdaten, Kontextfenster und Tokenanzahl beeinflussen die Qualität.

• Welche Datenschutzrisiken bestehen bei Tools wie ChatGPT?

ChatGPT speichert Eingaben in US-amerikanischen Servern und nutzt sie ggf. zu Trainingszwecken. Daher sollten keine sensiblen oder personenbezogenen Daten eingegeben werden. Datenschutzkonforme Alternativen wie Libra AI werden empfohlen.

• Was sind geeignete Anwendungsbereiche für KI in der Pharma?

Erstellung und Prüfung von SOPs

Schulungsunterlagen in mehreren Sprachen

Qualitätsdatenanalyse

Audit-Vorbereitung

Unterstützung bei der Forschung & Entwicklung (z. B. Molekülstrukturen, Synthesewege)

• Warum ist die generative KI für die Pharmaindustrie interessant?

Weil sie u. a. bei SOP-Erstellung, Berichten, Übersetzungen oder im Qualitätsmanagement unterstützen kann. Sie analysiert Daten, erstellt Texte und erleichtert repetitive Dokumentationsaufgaben – immer mit menschlicher Kontrolle.

• Wie kann man mit KI-Tools wie ChatGPT effektiv kommunizieren?

Indem man klare Rollen, Aufgaben, Ziele, das gewünschte Format und ggf. die Tonalität vorgibt. Beispiel: „Erstelle eine Liste von drei Vorteilen von KI im QA-Bereich, jeweils mit kurzer Erklärung.“

• Welche KI-Anwendungen gelten laut EU AI Act als Hochrisiko-KI in der pharmazeutischen Industrie?

Hochrisiko-KI umfasst Systeme, die direkten Einfluss auf Patienten haben, z. B. zur medizinischen Diagnose, Dosisanpassung, in klinischen Studien oder automatisierten Freigabeprozessen. Diese Systeme erfordern eine Konformitätsbewertung und müssen registriert werden.

• Ab wann wird eine generative KI wie ChatGPT als Hochrisiko eingestuft?

Sobald generative KI automatisiert in Prozesse mit Patienteneinfluss oder regulatorischer Relevanz eingebettet wird (z. B. in Zulassungsdokumentationen oder Freigaben), fällt sie in die Hochrisiko-Kategorie – auch wenn die Technologie an sich als General Purpose AI gilt.

• Welche Kennzeichnungspflichten bestehen für KI-generierte Inhalte?

Inhalte, die vollständig von KI generiert wurden, insbesondere Bilder und Videos, müssen klar mit „KI-generiert“ oder „AI generated“ gekennzeichnet werden. Bei Texten besteht aktuell keine gesetzliche Pflicht, solange eine redaktionelle Prüfung durch den Menschen erfolgt.

• Muss jedes Unternehmen einen KI-Beauftragten benennen?

Noch ist es nicht gesetzlich verpflichtend, wird aber empfohlen. Der KI-Beauftragte überwacht die Einhaltung regulatorischer Vorgaben, koordiniert Schulungen und dokumentiert Risiken und Anwendungen.

• Wie kann man die Nutzung von KI im Unternehmen dokumentieren?

Empfohlen wird die Erstellung eines internen KI-Registers oder einer Geräteliste: Welche Tools werden genutzt? Von wem? Für welchen Zweck? Dazu gehört eine Risikobewertung pro Anwendung.

• Was gilt für die Nutzung von KI in der Schweiz?

Die Schweiz ist nicht Teil der EU, jedoch wird empfohlen, sich an der EU-Verordnung zu orientieren – vor allem bei Zusammenarbeit mit europäischen Partnern. Schweizer KI-Systeme sollten ebenfalls datenschutzkonform sein.

• Welche Rolle spielt der Mensch bei der Nutzung von KI?

Der Mensch bleibt zentral. Solange er Inhalte prüft und Entscheidungen verantwortet, gilt das Risiko als begrenzt. Vollautomatisierte Entscheidungen erfordern dagegen umfangreiche Prüfungen und Validierungen.

• Wann ist eine Validierung von KI-Systemen in der Pharma zwingend notwendig?

Wenn die KI Teil eines automatisierten Prozesses ist, der regulatorischen oder patientenbezogenen Einfluss hat. Dann sind Validierung, Audit Trail und ggf. Konformitätsbewertung notwendig.

• Was ist bei der Nutzung von Tools wie Microsoft Copilot oder DeepL zu beachten?

Diese Tools enthalten oft versteckte KI-Funktionen. Die Datenverarbeitung (z. B. Cloud oder lokal) muss mit der IT abgestimmt werden, um Datenschutzrisiken zu vermeiden. Auch sie sollten ins KI-Register aufgenommen werden.

• Was ist der Unterschied zwischen generativer KI und Recherche-KI-Tools?
  Generative KI wie ChatGPT erstellt Texte und Bilder, hat aber begrenzte Trainingsdaten. Recherche-KI-Tools wie Perplexity recherchieren aktuelle Informationen im Internet. 

• Warum sollte man deutsche oder europäische KI-Plattformen anstelle von OpenAI nutzen?
  Deutsche und europäische Plattformen sichern zu, dass die Daten datenschutzkonform behandelt werden und nicht für Trainingszwecke verwendet oder in die USA übertragen werden, was für Unternehmen wichtig ist. 

• Werden meine Daten auch in der kostenlosen Version der europäischen KI-Tools für Trainingszwecke verwendet?
  Nein, auch in den kostenlosen Versionen der vorgestellten europäischen Plattformen gelten die Zusicherungen zum Datenschutz, dass die Daten nicht für Trainingszwecke verwendet werden. 

• Was sind “Assistenten” (oder “Agenten”, “Custom GPTs”, “Bots”) in Bezug auf KI-Tools und wozu dienen sie?
  Assistenten sind konfigurierte KI-Systeme für spezifische Aufgaben, die beispielsweise bei der Überprüfung von SOPs helfen können. Sie werden mit unternehmensspezifischen Daten trainiert, um präzisere Ergebnisse zu liefern. 

• Macht es einen Unterschied, ob ich lange, detaillierte Prompts oder kurze, prägnante Prompts verwende?
  Für Sprachmodelle sind detaillierte Prompts mit klaren Anweisungen besser, um spezifische Ergebnisse zu erhalten. Bei Recherche-KIs ist es wichtig, genügend Kontext für die gewünschte Recherche zu geben. Mehrere Fragen in einem Prompt können die KI verwirren. 

• Wie kann ich sicherstellen, dass eine KI im GMP-Bereich zuverlässige Ergebnisse liefert und wie validiert man diese?
  Durch die Konfiguration von Assistenten mit relevanten Regularien und Templates und die Nutzung des RAC-Systems (Retribal Augmented Generation) kann man sicherstellen, dass die KI nur auf freigegebenen Daten arbeitet. Es ist immer eine menschliche Überprüfung der Ergebnisse notwendig. 

• Welche KI-Tools werden im Modul 4 des Kurses konfiguriert?
  Im Modul 4 werden KI-Assistenten in Langdoc, Libra oder OpenAI konfiguriert. Es wird empfohlen, sich vorab einen Test-Account bei einem dieser Anbieter zuzulegen. 

• Wie kann ich im Unternehmen den Umgang mit KI regulieren und welche Kompetenzen sind wichtig?
  Erstellen Sie eine Inventarliste aller KI-Systeme, führen Sie eine Risikobewertung durch, schulen Sie die Mitarbeiter im Umgang mit KI und berücksichtigen Sie den Betriebsrat.