Die Integration künstlicher Intelligenz (KI) in medizinische Entscheidungsprozesse ist längst nicht mehr hypothetisch. Systeme zur Bildauswertung, Vorhersagemodellierung oder Textanalyse finden zunehmend Eingang in den Versorgungsalltag. Doch mit der technischen Verfügbarkeit wächst auch die ethische Verantwortung: Denn KI im Gesundheitswesen agiert nicht im Labor, sondern im realen Spannungsfeld zwischen Versorgungssicherheit, Patientenschutz und institutioneller Steuerbarkeit.
Die Weltgesundheitsorganisation (WHO) hat hierfür sechs zentrale Prinzipien formuliert, die als Grundlage für eine verantwortungsvolle KI-Nutzung dienen.
Die sechs WHO-Prinzipien als Governance-Rahmen
- Schutz der Menschenrechte und Menschenwürde KI-Systeme müssen die Autonomie, Entscheidungsfähigkeit und Würde von Patient:innen und Fachpersonen respektieren. Dies betrifft nicht nur Anwendungsgrenzen, sondern auch Transparenz bei algorithmischen Empfehlungen – etwa durch erklärbare Modelle oder nachvollziehbare Interventionsvorschläge.
- Förderung von Verantwortlichkeit und Zurechenbarkeit Die Zuweisung von Verantwortung darf durch KI nicht verwässert werden. Spitäler müssen klare Haftungsmodelle, Interventionsrechte und Governance-Strukturen etablieren, die auch bei algorithmisch beeinflussten Prozessen institutionell tragfähig sind.
- Gewährleistung von Inklusivität und Gleichbehandlung KI-Modelle dürfen bestehende soziale oder demografische Ungleichheiten nicht reproduzieren oder verstärken. Trainingsdaten und Modellarchitektur sind daher so zu gestalten, dass Diskriminierung ausgeschlossen und Versorgungsfairness gewährleistet bleibt – auch bei Minderheiten oder seltenen Krankheitsbildern.
- Förderung von Sicherheit und Robustheit Klinische KI-Systeme müssen nicht nur technisch zuverlässig, sondern auch in komplexen Versorgungssettings fehlertolerant sein. Dies schliesst laufende Validierungen, Risikobewertungen und Sicherheitsmechanismen ein – etwa im Rahmen klinischer Qualitätszirkel oder durch strukturierte Outcome-Evaluationen.
- Nachhaltigkeit und Governance über den Lebenszyklus KI darf nicht als Einmaltechnologie eingeführt werden. Ihre Einführung erfordert langfristige Governance-Strukturen, Wartungszyklen, Updatestrategien und institutionelles Monitoring. Dies beinhaltet auch die Fähigkeit zur Deaktivierung oder Rücknahme bei nachträglich erkannten Risiken.
Fazit
Die Einführung künstlicher Intelligenz im Spital ist kein technisches Projekt, sondern eine ethisch und institutionell hochkomplexe Veränderung der klinischen Entscheidungsarchitektur. Die WHO-Prinzipien bieten hierfür einen praxisnahen, international abgestützten Orientierungsrahmen. Entscheidend ist jedoch ihre Verankerung im konkreten Betrieb – über Governance, Schulung, Transparenz und Risikoarchitektur. Denn nur wenn Verantwortung strukturell mitgedacht wird, kann KI ihr Potenzial in der Medizin entfalten – sicher, wirksam und menschenwürdig.
