Europäisch vordenken – Safety first: Technologie und KI in der Medizin

KI in der Medizin ist wie ein Skalpell: brillant, wenn es sauber geführt wird, gefährlich, wenn es außer Kontrolle gerät. Alle reden über Innovation: Befundunterstützung, Triage, Terminsteuerung, Dokumentationshilfe. Das kann und wird entlasten und die Qualität heben, den Fokus wieder auf die Medizin lenken. Es gilt eine einfache Regel: Wer die Software kontrolliert, kontrolliert die Daten. Wer die Daten kontrolliert, kontrolliert am Ende die Versorgung. Das alles muss in der EU stattfinden und zwar ausschließlich dort. Wem es privat egal ist, wo seine Daten lagern, der muss in der Medizin weiterdenken.

Gesundheitsdaten sind kein trivialer Content und kein 08-15 Rohstoff – werden jedoch global als solche betrachtet und gehandelt.

Das sind Diagnosen, Medikationspläne, Vorerkrankungen, genetische Dispositionen, kurz: intime Fakten, die einen Menschen ein Leben lang begleiten. Wer daraus Profile bauen kann, gewinnt Macht. Darum ist „Safety first“ keine Plattitüde, sondern DER Grundsatz für das Risikomanagement. Dieser führt zu einer klaren Leitplanke: Im deutschen Gesundheitswesen darf bei Kernsystemen und KI nur Software eingesetzt werden, die in Europa entwickelt und verantwortet wird, in der EU gehostet ist und nachweislich DSGVO-konform betrieben wird. Nicht als Wunsch, sondern als Standard.

Wer das für „provinziell“ hält, sollte die Gegenprobe machen: Würde man ein chirurgisches Instrument akzeptieren, dessen Wartung oder Sterilisation irgendwo stattfindet, dessen Zulieferkette niemand vollständig kennt und bei dem im Notfall keiner nachvollziehen kann, wo es herkam?

Genau diese Logik toleriert man erstaunlich oft bei IT. „Die großen Anbieter sind doch sicher“, heißt es dann. Sicher ist nicht, was behauptet wird, sondern was man auditieren, kontrollieren und notfalls sofort gefahrlos abschalten kann. Aufsicht und Haftung müssen greifen, nicht nur als Lippenbekenntnis.

KI ist dabei nicht einfach ein Tool, sondern ein Entscheidungspartner. Schon kleine Verzerrungen können reale Schäden erzeugen: falsche Priorisierung, übersehene Befunde, riskante Automatisierungen.

Deshalb muss KI im klinischen Betrieb nachvollziehbar, überwachbar, begrenzbar und abschaltbar sein. Wir müssen wissen, wo genau der Server steht, wer wirklich Zugriff auf welche Daten hat.

Die Essenz ist simpel: Wenn du nicht weißt, wo die Daten liegen, gehören sie dir nicht. Wenn du nicht weißt, wer genau wo Zugriff hat, ist Datenschutz nur Dekoration. Wenn du den Anbieter nicht kennst, ist das keine Partnerschaft, sondern ein Risiko. Fortschritt ja, unbedingt. Aber bitte nach der einzigen Logik, die im Krankenhaus zählt: Erst Sicherheit, dann Vertrauen – der Patient steht im Mittelpunkt.