Der ethische Kompass für den Einsatz von KI im Gesundheitswesen

Wie alle Branchen setzt auch das Gesundheitswesen große Hoffnungen in generative KI. Laut unserer Studie „A new era of generative AI for everyone“ sind sich 98 % der Dienstleister und 89 % der Führungskräfte im Gesundheitswesen einig, dass generative KI fundamentale Veränderungen für ihre Branche mit sich bringen wird. Bis zu 40 % der Aufgaben im Gesundheitswesen können durch sprachbasierte KI unterstützt, ergänzt oder ersetzt werden. KI kann helfen, den Kostendruck im Gesundheitswesen mit intelligenter Automatisierung zu senken, und die gesundheitliche Situation von Patienten mit fundierteren Diagnosen, individualisierter Beratung, und durch Entlastung von Personal wesentlich zu verbessern. Die Realität hinkt diesem Potential weiter hinterher. Die Umgangsformen der aktuell aktiven (regelbasierten) Chatbots sind wenig flexibel, ganz anders als die eloquenten „ChatGPT“-Chatbots. Auch in der operativen täglichen Arbeit überwiegen manuelle Prozesse und medizinisches Personal muss auf eine spärliche Datengrundlage zurückgreifen. Die Liste der Gründe für diese Situation ist lang und reicht von geringem Konkurrenzdruck über notorischen Geldmangel bis hin zu strenger Regulatorik – und enthält auch die Unklarheit über einen sinnvollen Umgang mit Chancen und Risiken von KI. Zweifellos sind Gesundheitsdaten besonders schützenswert: Fehlinformationen über Forschungsergebnisse und Befunde, Datenlecks oder die Benachteiligung ethnischer Minderheiten aufgrund fehlender Trainingsdaten sind keine Bagatellen. Verantwortung übernehmen bedeutet aber auch, KI dort zum Einsatz zu bringen, wo ihr Nutzen die Risiken übersteigt. Jeder Krankheitsfall, dem durch eine KI-gestützte Datenanalyse hätte geholfen werden können, muss Ansporn sein, mehr KI in den praktischen Einsatz zu bringen. Wie können wir das erreichen?

Verantwortungsvoller Einsatz von KI

Accenture hat vier Säulen identifiziert, auf denen verantwortungsvolle KI ruht: Die organisationale, die operative, die technische und die Reputationssäule. Nehmen wir zum Beispiel an, ein personalisierter KI- basierter Chatbot soll auf Basis der Patientenhistorie Gesundheitstipps für die Begleitung von Patienten nach einem Krankenhausaufenthalt geben. Die organisationale Säule schafft die notwendige Reife einer Institution für den Einsatz verantwortungsvoller KI-Anwendungen. Sie stellt zum Beispiel sicher, dass Mitarbeitende Entscheidern Rückmeldungen geben, wenn sie Zweifel oder Bedenken hinsichtlich der KI – oder ihrer Ergebnisse – spüren. Eine Krankenschwesterbemerkt vielleicht, dass Herr Müller zusätzliche Hinweise in der Anwendung dazu braucht, bei welchen Symptomen nach einer OP er das Krankenhaus kontaktieren sollte. Die operative Säule befasst sich mit der praktischen Umsetzung innerhalb der Prozesse. KI-Entwicklung muss durch Compliance-Prozesse und Prüfschritte begleitet werden, und das Ergebnis der Entwicklung hinsichtlich Wirkung und Sicherheit prüfen. Die technische Säule für „Responsible AI“ basiert auf dem Einsatz bewährter qualitativer und quantitativer Techniken zur Bewertung potenzieller Risiken wie Voreingenommenheit. Erst dadurch sind vertrauenswürdige, faire und erklärbare KI-Modelle, Systeme und Plattformen implementierbar. Die Anwendung kann zum Beispiel ausschließlich auf einem mobilen Endgerät laufen, um keine sensiblen Informationen an zentrale Server zu schicken. Ein ständiges Monitoring des Nutzungsverhaltens zeigt auf, ob Patienten die Anwendung sinnvoll einsetzen, und ein Test an mehreren Patientengruppen zeigt auf, ob die Anwendung bestimmte Gruppen benachteiligt. Die Reputationssäule umfasst die offene Auseinandersetzung mit den Risiken von KI, um einem Vertrauensverlust vorzubeugen. Organisationen, die sich für ethisches und verantwortungsbewusstes Handeln einsetzen, messen und achten wichtige Aspekte wie Fairness, Risikoabwägungen und Vertrauen. Es geht nicht darum, Risiken zu verstecken, sondern offen und kritisch zu sein, um bessere ethische Grundsätze zu erarbeiten, die allen Beteiligten Sicherheit geben und den bewussten Umgang mit KI zu unterstützen.Durch klar strukturierte Prozesse und Transparenz entlang der vier Säulen, sowie Aufklärung und Bildung können wir wesentliche Verbesserungen im Gesundheitswesen erreichen – und gleichzeitig dafür sorgen, dass alle Beteiligten bewusste Entscheidungen treffen und Risiken abwägen können.