Insbesondere das im Mai 2024 von den EU-Mitgliedstaaten verabschiedete weltweit erste Gesetz zur Regulierung von KI (kurz AI Act, nationale Durchführungsgesetze müssen noch folgen) ist aus Sicht vieler potentieller Anbieter ein Hemmnis bei der weiteren Entwicklung von KI-Anwendungen im Gesundheitssystem. Zwar betonte die Beauftragte für Digitale Wirtschaft und Start-ups im Bundesministerium für Wirtschaft und Klimaschutz, Dr. Anna Christmann bei der DMEA, das mit dem AI Act Rahmenbedingungen für Künstliche Intelligenz in Europa geschaffen worden seien, die ein großes Potential haben, damit europäische Anbieter zukünftig selbstbewusst für eine vertrauenswürdige KI als besonderem Qualitätsmerkmal auftreten können“. Das sei auch eine große Chance für den KI-Standort Deutschland, gerade im Gesundheitsbereich, so Christmann.

Allerdings wurden bei der DMEA nur wenige aktuelle, konkrete KI-Projekte vorgestellt und diskutiert, obwohl künstliche Intelligenz grundsätzlich auch dort ein bedeutendes Thema war. Am häufigsten im Bereich von Krankenhäusern, wo KI-System Abläufe optimieren, Bürokratie reduzieren oder das Personal entlasten sollen. Anwendungen reichen von der automatisierten Dokumentation über die Vorhersage von Patientenströmen bis zur OP-Simulation zur Effizienzsteigerung. Beispielsweise ein Portalmanager, der ökonomische Behandlungspfade sichtbar macht, ein Tool zur Erkennung seltener Erkrankungen sowie eines für Analysezwecke (Retrieval), mit dem sich beispielsweise bestimmte Patientenkohorten aus dem System ziehen lassen.

Auf der Ebene der individuellen Patientenversorgung wurden bei der DMEA nur wenige Projekte gezeigt. Beispielsweise die App „myReha“, eine evidenzbasierte KI-gestützte Therapie für Menschen mit Aphasie, die Patientinnen und Patienten dabei unterstützen soll, nach einem Schlaganfall oder einer Hirnblutung wieder sprechen zu lernen. Oder Hippo Dx, ein erster automatisierter Prick-Test, der die Allergietestung in der Praxis beschleunigt, Kosten spart und für Betroffene weniger belastend ist. In allen Fällen werden KI-Systeme mit großen Mengen Daten „gefüttert“, auf deren Grundlage sie dann „lernen“ und schließlich optimierte und oft individualisierte Strategien ermöglichen bzw. eine verbesserte Mustererkennung in der Diagnostik erlauben.

‍

Al Act als Hemmschuh

Zahlreiche Entwickler und Hersteller sehen allerdings in dem AI Act einen Hemmschuh für die weitere Entwicklung von KI-gestützten Gesundheitsanwendungen (in Europa), gerade auf Ebene direkter Patientenbetreuung und -Versorgung. Beispielsweise die Schweizer Entwicklergruppe der ADHS-DiGA „Oriko“, die mit ihrer App zwar einen Beitrag zur Versorgung von ADHS-Patienten leisten (einsetzbar z. B. während der oft monatelangen Wartezeit auf einen Therapieplatz). Gleichzeitig aber darauf verzichten, eine weitaus attraktivere ADHS-Diagnose- oder Therapieunterstützung auf Grundlage von KI-gestützten Sprachmodellen wie ChatGPT (von OpenAI) zu entwickeln, weil die Kosten zur Bewältigung der durch den AI Act geforderten regulatorischen Voraussetzungen jede sinnvolle Investition verunmöglichen dürfte.

Hintergrund: Der EU AI Act klassifiziert KI-Systeme nach Risiko. Im Gesundheitswesen gelten viele Anwendungen, wie Diagnosetools, als Hochrisiko-KI. Diese unterliegen strengen Anforderungen an Sicherheit, Datenqualität, Transparenz und menschliche Aufsicht. Verboten sind KI-Systeme, die z. B. manipulatives Verhalten fördern oder soziale Bewertungen vornehmen. Ärzte müssen sicherstellen, dass eingesetzte KI-Systeme konform sind und das Personal entsprechend geschult ist. Ziel ist der Schutz von Patienten und die Förderung vertrauenswürdiger KI.