Ein Hauptproblem ist das Misstrauen gegenüber „Blackbox“-Modellen. „Als Kliniker werde ich niemals etwas anwenden, das ich dem Patienten nicht erklären kann“, sagte Carlo Tacchetti, Professor am San Raffaele Scientific Institute in Mailand. Er forderte standardisierte Protokolle für erklärbare, zertifizierte Modelle – idealerweise eine Kombination aus leistungsstarken Blackbox-Ansätzen (deren innere Entscheidungslogik für den Nutzer nicht einsehbar ist) und transparenten Whitebox-Verfahren, die die Schlüsselfaktoren sichtbar machen.
Der US-Jurist Mark Geistfeld (New York University) verwies darauf, dass moderne KI-Systeme zunehmend dialogfähig sind. Ärztinnen und Ärzte könnten sie wie Kolleginnen und Kollegen befragen und ihre Begründungen prüfen. KI werde so vom Automat zum kollaborativen Werkzeug – ein Assistenzsystem, kein Ersatz.
Daten als Engpass
Ohne hochwertige, interoperable Daten bleibe KI Stückwerk, warnte Fulvia Raffaelli, Leiterin der Einheit „Digital Health“ bei der EU-Kommission. Der Europäische Gesundheitsdatenraum (EHDS) solle als „katalysierendes Projekt“ die sichere Nutzung von Gesundheitsdaten ermöglichen – auch grenzüberschreitend und unter klaren Regeln für Datenschutz und Sekundärnutzung. Bis 2029 soll das System in der EU flächendeckend funktionieren. Zusammen mit EU-KI-Verordnung (AI Act) und Produkthaftungsrichtlinie bildet der EHDS das Rückgrat für vertrauenswürdige KI in der Medizin.
Mehr Praxis, weniger Konzept
Yiannos Tolias (DG SANTE) präsentierte eine EU-Studie zum „Deployment of AI in Healthcare“. Ihr Ergebnis: Es mangelt nicht an Produkten – über 900 KI-Systeme sind CE- oder FDA-zertifiziert –, sondern an Infrastruktur, rechtlicher Klarheit und Finanzierung. „Viele Häuser wissen schlicht nicht, in welches System sie investieren sollen“, so Tolias.
Abhilfe schaffen soll das EU-Projekt „Compass AI“, das Radiologin Regina Beets-Tan (EIBIR) vorstellte. Es wird Best-Practice-Leitlinien für den sicheren KI-Einsatz entwickeln und in Pilotkliniken testen. „Der Mehrwert von KI misst sich nicht an der AUC (‚Area Under the Curve‘ - einem statistischen Genauigkeitsmaß), sondern daran, ob sie den Workflow entlastet und in der eigenen Umgebung funktioniert“, sagte sie.
Recht und Verantwortung
Auch Haftungsfragen gelten vielen als Hürde – zu Unrecht, meinte Geistfeld. Medizinische Verantwortung bleibe beim „verantwortungsvollen Arzt“, unabhängig davon, ob er sich von Mensch oder Maschine beraten lasse. Entscheidend sei, dass die Entscheidung begründet werden könne. Damit werde Haftung zur Leitplanke, nicht zum Bremsklotz der Innovation.
Besonders bei Menschen mit ausgeprägter Sturzangst – erfasst mit der Falls Efficacy Scale-International (FES-I) – war ie Übereinstimmung mit den Hausarztdaten deutlich geringer. Dies deutet darauf hin, dass der emotionale Stress nach einem Sturz die Erinnerungsfähigkeit an bestehende Diagnosen beeinträchtigen kann. Ein hoher FES-I-Wert könnte in der Praxis daher als Hinweis auf eine potenziell unzuverlässige Selbstauskunft dienen.
Die Genauigkeit der Angaben hing stark von der Art der Erkrankung ab. Gut erinnert wurden Krankheiten mit klar spürbaren Symptomen und regelmäßiger ärztlicher Betreuung – etwa Diabetes mellitus, Parkinson oder Krebserkrankungen. Dagegen nannten viele Patientinnen und Patienten keine oder unvollständige Angaben zu still verlaufenden, aber sturzrelevanten Diagnosen wie periphere arterielle Verschlusskrankheit, Nierenerkrankungen, Osteoporose oder Gebrechlichkeit. Gerade diese Erkrankungen sind für die multifaktorielle Risikobewertung jedoch entscheidend.
Für die Versorgungspraxis ergibt sich daraus ein deutlicher Handlungsbedarf: Bei der Nachsorge nach Stürzen sollten Hausarztinformationen systematisch einbezogen werden, statt sich allein auf die Patientenauskunft zu verlassen. Ein strukturierter, standardisierter Informationsaustausch mit den Hausärzten und Hausärztinnen wäre wünschenswert, etwa in Form kurzer Diagnoseabfragen, die gezielt relevante Erkrankungen erfassen und den Informationsfluss verbessern.
Auch Alter, Geschlecht und Körpergewicht beeinflussten die Zuverlässigkeit der Angaben: Mit zunehmendem Alter nahmen die Abweichungen zu, Frauen unterschätzten häufiger das Vorliegen einer Osteoporose, und ein hoher BMI war mit Ungenauigkeiten bei orthopädischen und gastrointestinalen Diagnosen verbunden. Überraschend: Die kognitive Leistungsfähigkeit, gemessen mit dem MoCA-Test, war kein signifikanter Faktor – selbst geistig unauffällige Patientinnen und Patienten gaben ihre Krankengeschichte teils unvollständig wieder.
Wichtig bei der Notaufnahme
Laut Umfrage klagen die häufig Gestressten am häufigsten über Unruhe, Nervosität und Gereiztheit (83 %), Müdigkeit und Schlafstörungen sowie Erschöpfung (je 78 %). 43 % berichten von depressiver Verstimmung, 40 % vernachlässigen soziale Kontakte oder fühlen sich einsam, 29 % erleben Verzweiflung und 25 % Angstzustände.
„Große Belastungen können dazu führen, dass Menschen soziale Kontakte als anstrengend empfinden und sich zurückziehen“, erklärt Dr. med. Aileen Könitz Expertin für Psychiatrie bei der KKH,. „Wer sich aber isoliert, gerät leicht in eine Stressspirale – denn Einsamkeit kann wiederum chronischen Stress und psychische Erkrankungen begünstigen.“ Soziale Beziehungen wirken als Schutzfaktor: Austausch mit Familie und Freunden, Sportgruppen, Vereine oder ehrenamtliches Engagement helfen, Stress abzubauen und die seelische Widerstandskraft zu stärken.
Als besonders belastend empfinden die Befragten gesellschaftliche und politische Themen wie den Klimawandel (50 %), die wirtschaftliche Lage und den Arbeitsplatz (je 39 %) sowie finanzielle Sorgen (26 %). Viele erleben angesichts von Krisen und schlechten Nachrichten ein Gefühl von Kontrollverlust. „Wir haben ein starkes Sicherheitsbedürfnis und wünschen uns Garantien gegen Verluste“, so Könitz. „Doch Ängste lassen sich nur bewältigen, wenn wir unsere Resilienz – also die psychische Widerstandsfähigkeit – stärken.“ Dazu gehöre, aktiv zu werden statt passiv zu verharren: über Belastungen zu sprechen, Hilfe zu suchen, sich zu engagieren oder Entscheidungen zu treffen, die die eigene Situation verbessern.
