Künstliche Intelligenz hält Einzug in die Krankenhäuser. Erste Anwendungen unterstützen bei der Dokumentation, verfeinern die Auswertung medizinischer Bilder, erleichtern administrative Prozesse oder unterstützen als Übersetzungshilfe bei der Behandlung nicht deutschsprachiger Patienten. Viele Häuser starten deshalb zurzeit mit einzelnen Pilotprojekten. Das ist eine geübte und sinnvolle Vorgehensweise. Mit einer Pilotierung werden wichtige Erfahrungen gesammelt, die einen möglichen Echtbetrieb erleichtern.

Doch gerade ein Pilotprojekt darf nicht zur Sicherheitslücke werden. Denn auch eine einfache KI-Anwendung verarbeitet sensible Daten, beeinflusst Entscheidungen und schafft bislang unbekannte neue Abhängigkeiten. Deshalb sollte die Frage nach der Sicherheit nicht erst gestellt werden, wenn aus dem Pilotprojekt eine produktive Lösung wird. Sie gehört direkt an den Anfang.

Was soll eigentlich schiefgehen?

Bei einem KI-Pilotprojekt denken viele Verantwortliche zunächst an den Datenschutz und die IT-Sicherheit. Beides ist wichtig, reicht aber nicht aus.

Ein Krankenhaus muss auch wissen, welche Rolle die KI -Anwendung im entsprechenden Prozess oder Arbeitsablauf übernimmt. Verarbeitet sie personenbezogene oder medizinische Daten? Greift sie auf bestehende Systeme zu? Können die Mitarbeitenden ihre Ergebnisse nachvollziehen? Was passiert, wenn die KI falsche oder unvollständige Ergebnisse liefert? Und wer erkennt, wenn sich die Qualität der Anwendung im Verlauf der Nutzung verändert?

Gerade bei KI kommt ein weiterer, entscheidender Punkt hinzu: Eine Anwendung kann sich anders verhalten als erwartet. Ein Modell kann in bestimmten Situationen gute Ergebnisse liefern und in anderen deutlich schlechtere. Deshalb reicht es nicht aus, die Lösung einmal kurz vor der Einführung zu prüfen.

Die Sicherheit muss während des gesamten Lebenszyklus im Blick bleiben.

Ist ein Pilotprojekt immer notwendig für eine umfassende Sicherheitsprüfung?

Ja, unbedingt. Ein Pilotprojekt bietet dem Krankenhaus die Chance, wertvolle Erfahrungen zu sammeln und gleichzeitig die eigenen Regeln für den späteren KI-Einsatz zu entwickeln. Wer die Sicherheitsanforderungen erst mit dem ersten großen Rollout festlegt, kann leicht wichtige Themen übersehen. Besser ist es, schon beim Pilotprojekt einen klaren Rahmen zu setzen. Eine der ersten Fragen lautet:

Was darf die KI-Anwendung und was darf sie nicht?

Danach sollte das Krankenhaus festlegen, welche Daten verarbeitet werden, welche Systeme beteiligt sind und welche Personen die Verantwortung übernehmen. Auch die Frage, was bei einem Fehler passiert, gehört immer dazu. Damit entsteht aus einem einzelnen Pilotprojekt ein wichtiger Baustein für eine langfristige KI-Strategie.

Wer trägt die Verantwortung?

Die Einhaltung der KI-Sicherheit ist keine Aufgabe, die allein bei der IT liegen sollte.

Die IT kennt die technische Infrastruktur und kann Risiken bei Schnittstellen, Berechtigungen oder der Datenverarbeitung bewerten. Der Datenschutz bringt zusätzlich seine Perspektive ein. Die Fachabteilung kennt den konkreten Prozess. Die Informationssicherheit betrachtet die Risiken für Vertraulichkeit, Integrität und Verfügbarkeit.

Und das Management muss dafür sorgen, dass diese Perspektiven zusammenkommen.

Gerade bei strategischen KI-Projekten braucht es deshalb klare Verantwortlichkeiten. Das Krankenhaus sollte früh festlegen, wer ein Pilotprojekt freigibt, wer Risiken bewertet und wer entscheidet, ob und unter welchen Bedingungen ein Pilot in den Regelbetrieb übergeht.

Ein KI-Beauftragter sollte dabei die elementare koordinierende Rolle übernehmen. Er muss nicht jede technische Frage selbst beantworten. Seine Aufgabe besteht vielmehr darin, die unterschiedlichen Anforderungen zusammenzuführen und dafür zu sorgen, dass KI im Krankenhaus kontrolliert, nachvollziehbar und unter Berücksichtigung der juristischen Vorgaben eingesetzt wird.

Welche weiteren Fragen sind relevant?

Eine Sicherheitsbewertung muss kein kompliziertes Prüfverfahren sein. Entscheidend ist, die richtigen Fragen zu stellen.

Aus unserer Erfahrung heraus lauten diese Fragen beispielsweise wie folgt:

  • Wie wichtig ist die KI-Anwendung für den jeweiligen Prozess?
  • Welche Daten werden verarbeitet?
  • Wo werden diese Daten gespeichert?
  • Welche externen Anbieter sind beteiligt?
  • Welche Schnittstellen bestehen zu Krankenhausinformationssystemen oder anderen Anwendungen?

Ebenso wichtig sind die Fragen nach dem Ergebnis:

  • Wie zuverlässig arbeitet die KI?
  • Wie wird die Qualität kontrolliert?
  • Können Mitarbeitende eine Entscheidung der KI nachvollziehen und korrigieren?
  • Was passiert bei einem Ausfall?
  • Und wie wird erkannt, dass sich die Qualität der Anwendung im laufenden Betrieb verändert?

Nicht jede dieser Fragen muss bei jedem Pilotprojekt gleich tief beantwortet werden. Eine einfache Risikoeinstufung hilft, den praktischen Aufwand und das jeweilige Risiko miteinander in Einklang zu bringen.

Vom Pilotprojekt zur KI-Strategie

Ein gutes Pilotprojekt endet nicht mit der Aussage: „Die Anwendung funktioniert.“ Es sollte vielmehr Antworten liefern, die das Krankenhaus auch bei weiteren KI-Projekten nutzen kann:

  • Welche Sicherheitsanforderungen haben sich bewährt?
  • Welche Freigaben waren notwendig?
  • Welche technischen und organisatorischen Maßnahmen haben funktioniert?
  • Welche Erfahrungen haben die Mitarbeitenden gemacht?
  • Welche Risiken sind erst während des Piloten sichtbar geworden?

Wer diese Erkenntnisse dokumentiert, baut Schritt für Schritt einen eigenen, hilfreichen Sicherheitsstandard für KI auf.

Das ist strategisch sehr wichtig. Denn die Zahl der KI-Anwendungen wird weiterwachsen. Gleichzeitig steigt die Gefahr, dass einzelne Fachbereiche Lösungen selbst beschaffen oder nutzen, ohne dass IT, Datenschutz oder Informationssicherheit davon erfahren. Aus einzelnen Pilotprojekten kann so schnell eine unübersichtliche KI-Landschaft mit einem hohen Sicherheitsrisiko entstehen.

Die Sicherheit muss mit der KI-Strategie wachsen

Das Krankenhaus-Management muss deshalb keine pauschale Bremse für KI-Anwendungen aussprechen. Die Nutzung benötigt vielmehr einen verlässlichen Rahmen.

Ein Pilotprojekt sollte zeigen, welchen Nutzen eine KI-Anwendung bringt und unter welchen Bedingungen das Krankenhaus sie sicher einsetzen kann. Dazu gehören klare Verantwortlichkeiten, eine angemessene Risikobewertung, definierte Sicherheitsanforderungen und eine regelmäßige Kontrolle. So entsteht kein Gegensatz zwischen Innovation und Sicherheit. Beides lässt sich verbinden.

Adiccon unterstützt Krankenhäuser dabei, KI-Anwendungen strukturiert und sicher einzuführen. Gerne übernehmen wir die Funktion des KI-Beauftragten. Aus unserer Erfahrung mit Informationssicherheit, ISMS-Einführung, dem Umsetzen regulatorischer Anforderungen und der Begleitung von KI-Projekten wissen wir: Die entscheidenden Weichen werden nicht erst beim produktiven Einsatz gestellt, sondern bereits in einem gut geplanten Pilotprojekt.

„Können wir diese KI in unserer Organisation sicher, verantwortlich und dauerhaft beherrschbar einsetzen?“ Wenn ein Pilotprojekt auf diese Frage eine überzeugende Antwort gibt, hat es mehr erreicht als einen technischen Machbarkeitsnachweis. Es hat den Weg für einen sicheren und verantwortungsvollen Einsatz von KI im gesamten Krankenhaus bereitet.

Wenn Sie mehr darüber wissen möchten, wie wir Sie bei dieser wichtigen Thematik konkret unterstützen können, dann nehmen Sie Kontakt zu uns auf: walter.schaefer@adiccon.de oder mobil unter 0160 90997764.