Künstliche Intelligenz kann die Abläufe in den Krankenhäusern verändern. Sie unterstützt beispielsweise bei der Dokumentation, hilft bei der genaueren Auswertung medizinischer Bilder, erleichtert viele administrative Prozesse und kann Mitarbeitende bei vielen Aufgaben entlasten. Die Möglichkeiten sind mittlerweile groß und erstaunlich. Doch mit der steigenden Anzahl an Möglichkeiten wächst auch die Verantwortung.

Für die Geschäftsführung stellt sich deshalb eine wichtige Frage, die über den Datenschutz und die IT-Sicherheit hinausgeht: Wie wollen wir KI in unserem Krankenhaus einsetzen?

Die Ethik im Zusammenhang mit dem KI-Einsatz ist dabei kein theoretisches Thema oder nur für wissenschaftliche Debatten geeignet. Im Gegenteil, sie betrifft konkrete Entscheidungen im Krankenhausalltag:

  • Wer trägt Verantwortung, wenn eine KI-Anwendung einen Fehler macht?
  • Wie transparent muss eine Entscheidung sein?
  • Wann darf eine Anwendung Daten auswerten?
  • Und wie stellt man sicher, dass der Mensch auch dann die Kontrolle behält, wenn eine KI-Lösung immer leistungsfähiger wird?

Vertrauen ist die wichtigste Grundlage

Das Krankenhaus ist ein Ort, an dem das Wort Vertrauen großgeschrieben wird. Die Patientinnen und Patienten vertrauen darauf, dass ihre persönlichen und medizinischen Daten geschützt werden. Sie gehen grundsätzlich davon aus, dass medizinische Entscheidungen sorgfältig getroffen werden. Und sie erwarten zu Recht, dass nicht eine technische Anwendung über ihre Behandlung entscheidet, ohne dass ein Mensch involviert ist und dafür die Verantwortung übernimmt.

Genau hier beginnt dann das Thema KI-Ethik. Eine KI-Anwendung kann eine Ärztin oder einen Arzt auf vielfache Weise unterstützen. Sie kann Auffälligkeiten erkennen, die Informationen zusammenführen und bündeln oder auch auf mögliche Risiken hinweisen. Die Verantwortung für die Behandlung bleibt jedoch stets beim Menschen.

Das klingt selbstverständlich, aber in der Praxis muss ein Krankenhaus diese Verantwortung auch organisatorisch absichern. Die Mitarbeitenden müssen wissen, was eine KI-Anwendung leisten kann und wo ihre Grenzen liegen. Sie müssen die Ergebnisse hinterfragen dürfen und wissen, an wen sie sich bei durchaus möglichen Unklarheiten wenden können.

Darf eine KI alles, was technisch möglich ist?

Diese Frage sollte die Geschäftsführung stellen, bevor überhaupt eine KI-Anwendung eingeführt wird.

Nicht jede Lösung, die technisch funktioniert, passt automatisch zu den Werten eines Krankenhauses. Eine KI-Software kann beispielsweise Prozesse deutlich beschleunigen und gleichzeitig Fragen zum Umgang mit personenbezogenen Daten aufwerfen. Eine andere Anwendung kann plausible Ergebnisse liefern, aber für die Mitarbeitenden nicht nachvollziehbar sein.

Deshalb sollte ein Krankenhaus nicht allein fragen: Was kann diese KI-Anwendung?

Ebenso wichtig sind Fragen wie beispielsweise:

  • Welchen konkreten Nutzen hat die Anwendung für Patienten, Mitarbeitende oder das Krankenhaus?
  • Welche Daten werden verarbeitet und wer kann darauf zugreifen?
  • Können Ergebnisse nachvollzogen und kritisch geprüft werden?
  • Was geschieht, wenn die KI einen Fehler macht?
  • Wer trägt die Verantwortung für die Nutzung?

Eine umfassende Prüfung schafft keine unnötige Bürokratie. Sie schafft Klarheit.

Wie viel Transparenz braucht KI im Krankenhaus?

Die Menschen akzeptieren Entscheidungen eher, wenn sie verstehen können, wie sie zustande kommen. Das gilt auch für die KI. Dabei muss nicht jede technische Einzelheit erklärt werden. Entscheidend ist, dass die betroffenen Mitarbeitenden und, wenn erforderlich, auch die Patientinnen und Patienten nachvollziehen können, welche Rolle eine KI-Anwendung konkret spielt.

Wird eine KI beispielsweise eingesetzt, um medizinische Bilder zu bewerten, muss klar sein, dass die Anwendung eine reine Unterstützung darstellt und nicht die ärztliche Entscheidung ersetzt. Wird KI genutzt, um Arztbriefe oder Dokumentationen vorzubereiten, muss erkennbar bleiben, dass die Inhalte geprüft werden müssen. Transparenz bedeutet deshalb vor allem: Die Rolle der KI muss klar definiert und festgelegt sein.

Verantwortung braucht klare Regeln

Die ethischen Betrachtungen funktionieren im Krankenhaus nicht allein über gute Absichten. Die Geschäftsführung muss dafür sorgen, dass Verantwortung eindeutig geregelt ist.

Dazu gehört beispielsweise die Frage, wer eine KI-Anwendung freigibt, wer sie fachlich bewertet und wer ihre Nutzung überwacht. Ebenso wichtig ist das Thema, wie mit Änderungen der Anwendung umgegangen wird. Eine KI-Lösung ist kein klassisches IT-Produkt, das man einmal installiert und anschließend unverändert betreibt.

Die Ergebnisse der KI-Anwendung, ihre Einsatzbedingungen und vor allem ihre Risiken müssen regelmäßig betrachtet werden. Dabei sollten unterschiedliche Perspektiven berücksichtigt werden. IT, Informationssicherheit, Datenschutz, klinisches Umfeld, Qualitätsmanagement und die jeweiligen Fachbereiche sowie der Betriebsrat sehen eine KI-Anwendung jeweils aus einem anderen Blickwinkel. Gerade diese Vielfalt kann helfen, Risiken frühzeitig zu erkennen.

KI-Ethik ist eine Führungsaufgabe

Die Geschäftsführung muss dabei selbstverständlich nicht jede technische Einzelheit selbst beurteilen. Ihre Aufgabe ist es, den Rahmen zu schaffen, in dem verantwortungsvoller Einsatz möglich wird.

Dazu gehört eine klare Haltung: Die KI soll Menschen unterstützen, nicht die Verantwortung verschleiern.

Diese Haltung sollte sich auch in den internen Regeln des Krankenhauses wiederfinden. Die Mitarbeitenden brauchen Orientierung, welche KI-Anwendungen sie nutzen dürfen, welche Informationen sie eingeben dürfen und wann eine fachliche Prüfung erforderlich ist. Ebenso wichtig ist hier eine offene Unternehmenskultur. So sollten beispielsweise Mitarbeitende Bedenken äußern können, ohne gleich als Verhinderer wahrgenommen zu werden. Wer auf ein mögliches Risiko hinweist, leistet einen wichtigen Beitrag zu einem sicheren KI-Einsatz.

Was bedeutet das für Klinikgruppen?

In einer Klinikgruppe wird die Aufgabe noch anspruchsvoller. Unterschiedliche Häuser, Fachabteilungen und IT-Strukturen können dazu führen, dass KI-Anwendungen an verschiedenen Stellen unabhängig voneinander eingeführt werden.

Damit kann eine Schattenlandschaft von KI-Lösungen entstehen. Die Geschäftsführung und die IT verlieren dann leicht den Überblick darüber, welche Anwendungen eingesetzt, welche Daten verarbeitet werden und wer für ihren Betrieb verantwortlich ist.

Eine Klinikgruppe braucht deshalb einen gemeinsamen Rahmen. Die einzelnen Häuser können innerhalb dieses Rahmens ihre eigenen Anforderungen berücksichtigen. Grundsätzliche Fragen zu Verantwortung, Datenschutz, Informationssicherheit, Freigabe und Kontrolle sollten jedoch einheitlich beantwortet werden.

Erfahrung schafft Sicherheit bei der Umsetzung

Als Erfahrung aus den Projekten von Adiccon zeigt sich, dass KI im Krankenhaus und in Klinikgruppen nicht isoliert betrachtet werden sollte. Die Einführung einer KI-Lösung berührt viele Themen und Bereiche wie Informationssicherheit, Datenschutz, Organisation, Verantwortlichkeiten, Betriebsrat und häufig auch bestehende Prozesse des Qualitätsmanagements.

Adiccon unterstützt Krankenhäuser und Klinikgruppen deshalb dabei, KI-Anwendungen nicht nur technisch zu betrachten, sondern ihren Einsatz organisatorisch, sicherheitsbezogen und regelbasierend zu definieren. Dies erfolgt mit der Übernahme der wichtigen, noch neuen Rolle des KI-Beauftragten. Die Funktion steuert beispielsweise auch die Kommunikation zwischen Geschäftsführung, IT, Informationssicherheit, Datenschutz, den jeweiligen Fachbereichen sowie dem Betriebsrat.

Gerade die Verbindung von KI-Kompetenz, Informationssicherheit, Projektmanagement und Kommunikationsmanagement ist entscheidend. Denn eine KI-Lösung ist erst dann sinnvoll eingeführt, wenn sie einen konkreten Nutzen bringt und gleichzeitig sicher, nachvollziehbar und verantwortungsvoll eingesetzt werden kann.

Jetzt Verantwortung übernehmen

Der KI-Einsatz wird im Krankenhaus und in Klinikgruppen weiter zunehmen. Die Geschäftsführung kann diese Entwicklung nicht an die IT oder einzelne Fachabteilungen delegieren. Sie muss den Rahmen vorgeben, in dem KI verantwortungsvoll eingesetzt wird.

Deshalb ist jetzt der richtige Zeitpunkt, die eigenen KI-Anwendungen und KI-Projekte kritisch zu betrachten:

  • Wo setzen wir KI bereits ein?
  • Wo planen wir ihren Einsatz?
  • Wer trägt die Verantwortung?
  • Welche Regeln brauchen wir, damit Vertrauen, Sicherheit und menschliche Entscheidungshoheit erhalten bleiben?

Wer diese Fragen frühzeitig beantwortet, schafft Orientierung für Mitarbeitende und Vertrauen bei Patienten.

Machen Sie eine KI-Ethik zu einem festen Bestandteil Ihrer KI-Strategie. Prüfen Sie bestehende Anwendungen, klären Sie Verantwortlichkeiten und schaffen Sie verbindliche Regeln für den sicheren und werteorientierten Einsatz von KI in Ihrem Krankenhaus.

Wenn Sie mehr darüber wissen möchten, wie wir Sie bei dieser wichtigen Thematik konkret unterstützen können, dann nehmen Sie Kontakt zu uns auf: walter.schaefer@adiccon.de oder mobil unter 0160 90997764.