Medizinische Fakultäten, Forschungseinrichtungen und Gesundheitsbetriebe weltweit erhalten erstmals einen wissenschaftlich validierten Orientierungsrahmen für den verantwortungsvollen Umgang mit Künstlicher Intelligenz (KI). Das neu entwickelte "Health CARE-AI Framework", das im Fachjournal JMIR Medical Education veröffentlicht wurde, schließt eine Lücke zwischen abstrakten Grundsätzen und der täglichen Praxis. Während Organisationen wie die WHO oder UNESCO bereits allgemeine ethische Richtlinien formuliert haben, bietet das neue Regelwerk konkrete Verhaltensstandards für Ausbildung, Datenschutz und Patientensicherheit.
- Das CARE-AI-Framework definiert zehn konkrete Handlungsprinzipien in vier übergeordneten Bereichen.
- Insgesamt 96 Prozent der 303 internationalen Fachexperten stimmten dem Regelwerk zu.
- Ein begleitendes Instrumentarium ermöglicht medizinischen Einrichtungen die unmittelbare Umsetzung im Praxisalltag.
Experten entwickeln Standard in dreistufigem Konsensverfahren
Um die Anforderungen von Ärztinnen, Lehrenden und Patientenseite gleichermaßen abzubilden, schloss sich ein internationales Gremium aus Forschenden, Medizinern, Ethikern und Patientenvertretern zusammen. Die Ausarbeitung folgte unter der Leitung von Lyn K. Sonnenberg einem dreistufigen, modifizierten Delphi-Verfahren. Bei solchen Methoden erarbeiten Fachleute schrittweise und anonymisiert einen gemeinsamen Konsens zu komplexen Fragestellungen.
An der Validierung beteiligten sich 303 internationale Personen. Im Ergebnis sprachen sich 96 Prozent der Befragten dafür aus, dass der Rahmen die professionellen Erwartungen an KI in Bildungs-, Ethik- und Technologiefragen klar definiert. Die Strukturierung erfolgte gemäß den ACCORD-Richtlinien für konsensbasierte Berichterstattung.
Vier Kernbereiche strukturieren den verantwortungsvollen KI-Einsatz
Das Regelwerk gliedert insgesamt zehn Kernprinzipien in vier miteinander verknüpfte Handlungsfelder:
- Werte: Der Einsatz von KI wird als individuelle und kollektive Pflicht verstanden, bei der Transparenz, Ehrlichkeit und Integrität im Zentrum stehen.
- Kompetenz: Vertretende der Gesundheitsberufe verpflichten sich zu fortlaufender KI-Alphabetisierung. Das kritische menschliche Urteilsvermögen bleibt maßgeblich, sodass KI die medizinische Entscheidungsfindung ergänzt, aber nicht ersetzt.
- Rechenschaftspflicht: KI-Systeme werden wie eine anwesende "dritte Partei" behandelt. Rechtliche Rahmenbedingungen, Datenschutz und Vorgaben zur Patienteneinwilligung sind strikt einzuhalten.
- Strukturelle Chancengleichheit: Algorithmitische Verzerrungen (Bias) müssen aktiv identifiziert und reduziert werden. Zudem sollen betroffene Gemeinschaften in die Entwicklung einbezogen und ökologische sowie personelle Nachhaltigkeit gefördert werden.
Konkrete Hilfsmittel für den klinischen und akademischen Alltag
Künstliche Intelligenz ist nicht bloß eine Erweiterung digitaler Werkzeuge, sondern berührt grundlegende Fragen der klinischen Autonomie und des Vertrauensverhältnisses zu Patienten.
Zum Framework gehört daher ein praxisbezogener Leitfaden mit einem Methodenkoffer. Dieser bietet szenarienbasierte Anwendungen für Lehre, Forschung und Verwaltung. Medizinische Fakultäten und Klinikbetreiber können damit ihre Lehrpläne überarbeiten und bestehende KI-Anwendungen auditieren. Für die Praxis bedeutet dies, dass der Einsatz von Algorithmen künftig klare Grenzen erhält und menschliche Entscheidungen im Mittelpunkt verbleiben.
Wie beurteilen Sie den zunehmenden Einsatz von Künstlicher Intelligenz in der medizinischen Versorgung? Teilen Sie Ihre Einschätzung mit uns in den Kommentaren.
