Der Einsatz künstlicher Intelligenz (KI) birgt ein großes Potenzial, medizinische Behandlungsprozesse, Diagnostik und Therapie effizienter sowie effektiver zu machen. Um KI nutzenstiftend in der Breite des klinischen Alltags einsetzen zu können, ist es notwendig, dass technische Innovationen den Anforderungen von Behandlungsprozessen gerecht werden. Dafür müssen auch verschiedene Voraussetzungen für einen professionellen Umgang mit KI geschaffen werden. Welche Maßnahmen sind vor diesem Hintergrund für den Einsatz von KI erfolgversprechend? Das Expertennetzwerk „30 unter 40“ der Bertelsmann Stiftung hat dazu im Oktober 2020 Handlungsempfehlungen erarbeitet, die wir hier vorstellen. Dieser Beitrag ist Teil der Blogreihe „Digitale Gesundheit 2025“. Diese beleuchtet insgesamt fünf Themen, zu denen das Netzwerk in einem Workshop mit dem health innovation hub gearbeitet hat.
In der Corona-Pandemie erfährt die Digitalisierung des Gesundheitswesens große öffentliche Beachtung, hat sie doch mit der Corona-Warn-App und dem Ausbau von Videosprechstunden auch im Alltag der Patientinnen und Patienten einen merkbaren Schub erlebt. Der Einsatz künstlicher Intelligenz (KI) [1] geht ebenfalls durch die Medien. So soll eine App auf KI-Basis anhand des Hustens von Probanden erkennen können, ob sie an COVID-19 erkrankt sind. Eine andere App soll dasselbe anhand des Sprachmusters möglicher Infizierter leisten. Im klinischen Alltag werden Algorithmen und KIs jedoch in Bereichen angewandt, die der Öffentlichkeit weniger bekannt sind, beispielsweise:
- Stationäre Überwachungssysteme, die anhand der Vitalparameter von Patientinnen und Patienten rechtzeitig vor lebensbedrohlichen Zuständen warnen
- Qualitätsmanagementsysteme, die dem Personal automatisierte Berichte bereitstellen
- Unterstützung bei der Befundung von CT-Scans und automatische Weiterleitung an Krankenhaussysteme
- als Entscheidungsunterstützungssysteme in der Betreuung von Patientinnen und Patienten
Diese beispielhaften Anwendungsbereiche verdeutlichen, dass der Einsatz von KI in klinische Abläufe und zu deren Zwecken „passen“ muss sowie geschultes Personal braucht, das routiniert damit arbeitet und die von der KI gelieferten Ergebnisse interpretieren kann. Welche Ansätze wären also denkbar, um das Ziel eines breiten und nutzenstiftenden KI-Einsatzes im Gesundheitswesen zu erreichen?
Herausforderungen
Nach Ansicht der Netzwerkmitglieder gibt es noch eine Menge Hürden, die weiteren Anwendungsmöglichkeiten von KI im klinischen Alltag entgegenstehen. Einerseits geht es darum wahrzunehmen, was KI zu leisten vermag, und andererseits um den professionellen Umgang sowie die regulatorischen Rahmenbedingungen.
Oft lässt sich im öffentlichen Diskurs eine Polarisierung zum Thema KI im Gesundheitswesen feststellen: Entweder ist das Vertrauen in ihre Einsatzmöglichkeiten zu groß oder aber eine grundsätzlich ablehnende Haltung konzentriert sich einseitig auf die Risiken. Häufig wird auch der fachspezifische Nutzen des Einsatzes übersehen. Berechtigten Einwänden – etwa, dass eine einfache KI-Lösung niemals die gesamte komplexe Realität einer medizinischen Behandlung erfassen kann – muss Rechnung getragen werden. Für viele stellt sich zudem die Frage, wie der sinnvolle Einsatz zu einer Entlastung und nicht zu einer Arbeitsverdichtung für das medizinische Personal führen könnte.
Eine weitere Hürde betrifft den Umgang im klinischen Alltag: Um die Ergebnisse, die eine KI liefert, einschätzen und die richtigen Schlüsse daraus ziehen zu können, braucht es nicht nur medizinisches Fachwissen, sondern auch Know-how im Umgang mit KI sowie eine entsprechende IT-Kompetenz des medizinischen Personals bei der Anwendung. Diese fehlt aber noch häufig für einen breiteren Einsatz.
Nicht zuletzt sind es auch regulatorische Hürden, die noch überwunden werden müssen: Beispielsweise sind die bestehenden Vergütungssysteme für medizinische Leistungen noch nicht ausreichend auf den KI-Einsatz bei Behandlungsprozessen ausgerichtet. Offene haftungsrechtliche Fragen bei fehlerhaften Ergebnissen spielen hier ebenfalls eine Rolle.
Was ist also zu tun?
Handlungsempfehlungen
Folgende Ansätze könnten nach Ansicht der Expertinnen und Experten dazu beitragen, den Einsatz nutzenstiftender KI im klinischen Alltag erfolgreich zu fördern.
1. Denkräume und Innovationsformate für Personal schaffen, das mit KI bestehende Probleme lösen möchte
Pflegepersonal und ärztliches Personal wissen aus ihrer Erfahrung am besten, wo Lösungen für Engpässe oder digitale Unterstützung bei der Arbeit sinnvoll wären. Es braucht Formate und verfügbare Zeit, um sich mit Kolleginnen und Kollegen auszutauschen – und so zu identifizieren, wo der KI-Einsatz hilfreich sein kann.
2. IT-Kompetenzen in Ausbildung und Studium integrieren sowie regelmäßige Fortbildungen zum Umgang mit Digital Health in allen Berufs- und Fachrichtungen anbieten
Der Umgang mit IT-Lösungen sollte in die Ausbildungs- und Studiengänge des medizinischen Fachpersonals integriert werden. Dafür ist zu prüfen, ob weniger relevante Lerninhalte gestrichen werden können. Um auf dem neuesten Stand der IT-Entwicklungen zu bleiben, sollte medizinisches Fachpersonal die Möglichkeit haben, sich regelmäßig fortzubilden.
3. Den Austausch zwischen Industrie und Medizin verbessern sowie Formate schaffen, in denen die Industrie Krankenhausprozesse vor Ort beobachten kann
Damit Innovationen in der KI und andere digitale Lösungen besser die Bedürfnisse des klinischen Alltags berücksichtigen und Lösungen für Probleme anbieten können, sollte der Austausch zwischen Entwicklerinnen und Entwicklern sowie dem vor Ort tätigen Personal gefördert werden. Einblicke in den klinischen Alltag würden für Erfahrung aus erster Hand sorgen und so die Relevanz von Innovationen steigern.
4. Datenqualität verbessern
Zwar liegen mittlerweile viele Daten bspw. im Krankenhaus in elektronischer Form vor, doch sind diese oft nicht strukturiert oder noch nicht semantisch interoperabel. Um Fehlschlüsse beim KI-Einsatz zu vermeiden und adäquate Grundlagen für das Lernen von KI bereitstellen zu können, muss die Datenqualität verbessert werden.
Die Verwendung multipler Datenformate und hybrider Modelle kann außerdem die Robustheit von Daten steigern [2].
5. Langfristig regulative Verfahren für die Überprüfung von sog. Biases schaffen
Eine KI kann nur so gut sein wie die Datengrundlage, auf der sie lernt. Gleiches gilt für mögliche Biases, also Verzerrungen, die bei der Programmierung durch menschliche Voreingenommenheit entstehen können. Hier müssen Verfahren entwickelt werden, die helfen, solche Verzerrungen zu erkennen. So lässt sich die Qualität des Einsatzes erheblich steigern und Fehlinterpretationen einer KI werden vermieden.
6. Berichten über KI abseits medialer Hypes und den „kleineren“ Lösungen mehr Raum in den Medien geben
Publikumsträchtige Einsatzmöglichkeiten von KI erhalten häufig große mediale Aufmerksamkeit. Das heißt aber nicht, dass diese Lösungen auch aus medizinischer Sicht die relevantesten sind. Daher sollten kleinere, aber hilfreiche Lösungen ebenfalls mehr Aufmerksamkeit in der Berichterstattung der Medien bekommen, um so ihre Bekanntheit in Fachkreisen zu steigern.
[1] Zur Definition von Algorithmen und künstlicher Intelligenz sowie zu verschiedenen Anwendungsszenarien siehe auch Algorithmen in der digitalen Gesundheitsversorgung (Link)
[2] Siehe hierzu auch Meyer A et al. 2019. Eur Heart J, 2019, 40 (40): 3286–3289.
Die Empfehlungen in dieser Blogreihe wurden mit einzelnen Expertinnen und Experten aus dem Netzwerk „30 unter 40“ zusammen mit Mitarbeiterinnen und Mitarbeitern der Bertelsmann Stiftung sowie des health innovation hub erarbeitet. Sie sollen der weiteren Diskussion über die jeweiligen Themen Impulse geben. Inhaltlich entsprechen die Handlungsempfehlungen nicht zwangsläufig der Meinung aller einzelnen Netzwerk-Experten, der Stiftung oder des hih.
Inhaltlicher Ansprechpartner: Thomas Kostera