Künstliche Intelligenz hält zunehmend Einzug in die medizinische Versorgung. Sie unterstützt bei der Bildauswertung, erkennt Auffälligkeiten in radiologischen Aufnahmen, hilft bei der Diagnostik oder unterstützt medizinisches Personal bei Therapieentscheidungen. Gleichzeitig wächst auch die Zahl der Medizinprodukte, die selbst KI einsetzen oder mit KI-Lösungen kombiniert zusammenarbeiten.

Damit entstehen viele neue Chancen, aber wie so oft auch neue Risiken. Für Krankenhäuser und Klinikgruppen stellt sich deshalb eine wichtige Frage: Wie sicher sind KI-gestützte Medizinprodukte und wer trägt im Krankenhaus die Verantwortung dafür?

Für den Informationssicherheitsbeauftragten, den KI-Beauftragten und die Leitung des Bereiches Medizingeräte wird dieses Thema zunehmend relevant. Denn ein Medizinprodukt ist heute häufig nicht mehr nur ein „Gerät“. Es ist Teil einer vernetzten digitalen Umgebung. Und eine neue Funktion kommt wieder in den Blick: der KI-Beauftragte.

Was verändert KI bei einem Medizinprodukt?

Bei einem klassischen Medizinprodukt lässt sich häufig noch klar beschreiben, welche Funktion das Gerät ausführt. Bei einer KI-Lösung kann sich das anders darstellen. Die Anwendung verarbeitet große Mengen an Daten und erzeugt daraus beispielsweise eine Diagnoseunterstützung, eine Risikoeinschätzung oder einen nützlichen Hinweis für das medizinische Personal. Damit wird die Qualität der verwendeten Daten zu einem äußerst wichtigen Sicherheitsfaktor. Werden Daten manipuliert, verändert sich möglicherweise auch das Ergebnis der KI. Ein Angreifer muss deshalb nicht zwingend das Gerät selbst übernehmen. Es kann bereits ausreichen, die Daten oder Schnittstellen zu manipulieren.

Auch Updates verdienen hier in besonderem Maße Aufmerksamkeit. Eine KI-Lösung kann sich durch neue Softwareversionen, in Kombination mit neuen Modellen oder durch überarbeitete Datenbestände verändern. Für die Verantwortlichen im Krankenhaus bedeutet das: Eine einmalige Prüfung bei der Beschaffung reicht überhaupt nicht mehr aus. Vielmehr muss die Sicherheitssituation über den gesamten Lebenszyklus betrachtet werden.

Das BSI weist ausdrücklich darauf hin, dass vernetzte Medizinprodukte besondere Anforderungen an die Cybersicherheit stellen. Dazu gehören unter anderem die lange Nutzungsdauer und der mögliche direkte Einfluss auf die Patientensicherheit.

Welche Anforderungen stellt die Regulierung?

Die Anforderungen kommen nicht aus einem einzigen Regelwerk. Für Medizinprodukte ist zunächst die europäische Medizinprodukteverordnung MDR maßgeblich. Die Europäische Kommission stellt hierzu zahlreiche MDCG-Leitlinien bereit. Dazu gehört auch eine eigene Leitlinie zur Cybersicherheit von Medizinprodukten.

Bei KI kommen weitere Anforderungen hinzu. Der europäische AI Act berücksichtigt ausdrücklich KI-Systeme, die als Komponente eines Medizinprodukts eingesetzt werden. Unter bestimmten Voraussetzungen gelten sie als Hochrisiko-KI-Systeme. Gleichzeitig können für ein Produkt mehrere europäische Rechtsvorschriften parallel gelten. Die Europäische Kommission hat deshalb im Juni 2025 mit MDCG 2025-6 einen wichtigen neuen Leitfaden für den Einsatz von Künstlicher Intelligenz in Medizinprodukten publiziert.

Für das Krankenhaus bedeutet das vor allem eines: Die Frage nach der Sicherheit darf nicht erst beim Auftreten eines Problems gestellt werden. Sie gehört bereits in die Phasen der Beschaffung, der Integration und der Inbetriebnahme.

Was muss das Krankenhaus bei der Beschaffung beachten?

Die zentrale Frage lautet nicht nur: „Ist das Medizinprodukt zugelassen?“ Entscheidend ist auch: Passt das Sicherheitsniveau des Produkts zu unserer Krankenhausumgebung?

Ein Krankenhaus sollte deshalb beispielsweise frühzeitig klären, welche Daten das Produkt verarbeitet, mit welchen anderen Systemen es kommuniziert und wie der Hersteller Sicherheitsupdates bereitstellt. Ebenso wichtig sind Fragen nach Fernwartung, Benutzerrechten, Protokollierung, Verschlüsselung und dem Umgang mit Schwachstellen.

Gerade bei KI-Anwendungen kommt eine weitere Ebene hinzu. Das Krankenhaus sollte verstehen können, welche Funktion die KI übernimmt und welche Bedeutung ihr Ergebnis für die medizinische Entscheidung hat. Je stärker eine KI-Lösung in einen klinischen Prozess eingreift, desto wichtiger sind klare, definierte Verantwortlichkeiten und nachvollziehbare Prüfungen.

Dabei müssen die Verantwortlichen des Krankenhauses nicht selbst die komplette Technologie des Herstellers bewerten. Es muss aber sichergestellt sein, dass die relevanten Informationen vorliegen und die Risiken für den eigenen Betrieb bewertet werden.

Wer trägt im Krankenhaus die Verantwortung?

Diese Frage führt direkt zur Zusammenarbeit zwischen Medizintechnik, IT, Informationssicherheit und dem KI-Beauftragten.

Die Leitung Medizingeräte kennt die Geräte, ihre Einsatzbereiche und die Anforderungen aus Sicht der Medizintechnik. Der ISB betrachtet Risiken für Verfügbarkeit, Integrität und Vertraulichkeit. Die IT kennt Netzwerke, Schnittstellen und technische Abhängigkeiten. Der KI-Beauftragte wiederum bewertet die spezifischen Risiken der algorithmischen Entscheidungsfindung – etwa die Gefahr von „Halluzinationen“ der KI, den Umgang mit Trainingsdaten oder die Überprüfung auf systematische Fehler (Bias). Gemeinsam entsteht daraus ein belastbares Bild des tatsächlichen Risikos.

Gerade bei KI-Medizinprodukten darf diese Zusammenarbeit nicht an Abteilungsgrenzen scheitern. In unseren Projekten bei Adiccon zeigt sich immer wieder, dass Krankenhäuser bereits über umfangreiche Informationen zu ihren Medizinprodukten verfügen. Häufig fehlt jedoch die Verbindung zwischen Geräteverzeichnis, Risikobewertung, Netzwerkarchitektur und Informationssicherheit. Genau hier liegen dann Schwachstellen und ein wichtiger Ansatzpunkt.

Welche Rolle übernimmt der KI-Beauftragte?

Während der ISB die Infrastruktur schützt, konzentriert sich der KI-Beauftragte auf die „Intelligenz“ des Systems und das Einhalten der regulatorischen Vorgaben. Seine Aufgabe ist es, die klinische Validität der KI-Ergebnisse im Krankenhausalltag zu begleiten und sicherzustellen, dass das medizinische Personal die KI-Unterstützung korrekt interpretiert (Vermeidung von Automation Bias). Er fungiert als Schnittstelle zwischen den Anwendern in der Klinik und den technischen Experten, um sicherzustellen, dass die KI-Lösung nicht nur technisch sicher, sondern auch medizinisch sinnvoll und transparent eingesetzt wird.

Welche Rolle übernimmt der Beauftragte für Medizinproduktesicherheit (BfMPS)?

Der Beauftragte für Medizinproduktesicherheit sollte bei KI-fähigen Medizinprodukten ebenfalls frühzeitig eingebunden werden. Seine gesetzliche Aufgabe besteht insbesondere darin, Meldungen über Produktrisiken sowie Sicherheits- und Korrekturmaßnahmen zu koordinieren. Damit wird er zu einer wichtigen Schnittstelle zwischen Hersteller, Medizintechnik, IT, Informationssicherheit und dem KI-Beauftragten.

Er ersetzt dabei weder den ISB noch die IT oder den KI-Beauftragten. Seine besondere Stärke liegt in der Bewertung aus Sicht der Medizinproduktsicherheit und der Koordination der erforderlichen Maßnahmen. Gerade bei KI-Anwendungen ist diese Rolle wichtig, weil ein Sicherheitsproblem nicht nur die Verfügbarkeit eines IT-Systems betreffen kann. Es kann unmittelbar Auswirkungen auf die medizinische Versorgung haben.

Was passiert nach der Inbetriebnahme?

Mit der Beschaffung endet die Sicherheitsbetrachtung nicht. Ein Medizinprodukt kann viele Jahre im Krankenhaus betrieben werden. In dieser Zeit verändern sich Netzwerke, Betriebssysteme, Schnittstellen und auch die Bedrohungen. Der Hersteller kann neue Softwareversionen bereitstellen oder Schwachstellen melden. Bei KI-Lösungen können zusätzlich Modelle angeboten werden und sich Verarbeitungsprozesse verändern.

Deshalb sollte das Krankenhaus festlegen, wie Änderungen bewertet und dokumentiert werden. Ein Sicherheitsvorfall muss ebenso betrachtet werden wie eine neue Softwareversion oder eine Veränderung der technischen Anbindung.

Die Europäische Kommission hat inzwischen im Dezember 2025 eine aktuelle Leitlinie (MDCG 2025-10) zur Überwachung von Medizinprodukten nach dem Inverkehrbringen eingeführt. Das unterstreicht die Bedeutung der Betrachtung über den gesamten Lebenszyklus.

Was bedeutet das für ISB, Medizintechnik und KI-Beauftragte?

KI verändert die Sicherheitsanforderungen an Medizinprodukte. Sie macht aus einem einzelnen Gerät zunehmend einen Bestandteil eines komplexen digitalen Systems.

Für den ISB bedeutet das, Medizinprodukte stärker in das Informationssicherheitsmanagement einzubeziehen. Für die Medizintechnik ist es absolut relevant, Cybersicherheit bereits bei Auswahl, Beschaffung und Betrieb mitzudenken. Für den KI-Beauftragten liegt der Fokus darauf, die Dynamik lernender Systeme zu überwachen und eine Governance-Struktur zu schaffen, die den AI Act und klinische Qualitätsstandards vereint.

Adiccon unterstützt Krankenhäuser dabei, diese Perspektiven zusammenzuführen. Aus unserer Erfahrung heraus funktioniert das besonders gut, wenn die Verantwortlichkeiten früh geklärt werden und technische, organisatorische und regulatorische Anforderungen gemeinsam betrachtet werden. Dabei kann auch die strukturierte Erfassung der Medizinprodukte eine wichtige Grundlage bilden.

Fazit: Sicherheit beginnt vor der Beschaffung

KI in Medizinprodukten eröffnet Krankenhäusern große Chancen. Gleichzeitig steigt die Verantwortung für einen sicheren Betrieb. Ein vernetztes KI-Medizinprodukt betrifft nicht mehr allein die Medizintechnik. Es berührt Informationssicherheit, IT, Datenschutz, klinische Prozesse und das Risikomanagement.

Das Management sollte deshalb sicherstellen, dass KI-fähige Medizinprodukte bereits bei der Beschaffung sicherheitsseitig bewertet werden. Ebenso wichtig sind klare Verantwortlichkeiten, ein geregeltes Schwachstellenmanagement und eine regelmäßige Betrachtung über den gesamten Lebenszyklus.

Die entscheidende Frage lautet nicht, ob KI im Medizinprodukt sicher sein kann. Entscheidend ist, ob das Krankenhaus die Sicherheit des konkreten Produkts, seiner Schnittstellen und seines Einsatzes systematisch bewertet und dauerhaft im Blick behält.

Wer diese Aufgabe frühzeitig gemeinsam von Medizintechnik, IT, Informationssicherheit und dem KI-Beauftragten angeht, schafft eine wesentlich bessere Grundlage für den sicheren Einsatz von KI in der medizinischen Versorgung.

Wenn Sie mehr darüber wissen möchten, wie wir Sie bei dieser wichtigen Thematik konkret unterstützen können, dann nehmen Sie Kontakt zu uns auf: walter.schaefer@adiccon.de oder mobil unter

0160-90997764.