„Mit ELCAP bietet ESMO einen pragmatischen, onkologiespezifischen Rahmen, der KI integriert, ohne klinische Verantwortung, Transparenz oder einen robusten Datenschutz zu vernachlässigen“, erklärte ESMO-Präsident Fabrice André. Die ESMO trägt der Entwicklung zudem mit einem eigenen Satellitenkongress Rechnung, der in diesem Jahr zum ersten Mal stattfand, vom 12. bis 14. November ebenfalls in Berlin: ESMO AI and Digital Oncology.

Die Empfehlungen sind in 3 Anwendungstypen gegliedert, mit 23 Konsens-Statements zu Dos und Dont’s für den klinischen Alltag:

• Typ 1: Patienten-orientierte Anwendungen, etwa Chatbots für Aufklärung oder Symptommanagement. Diese sollen die klinische Versorgung ergänzen und in überwachten Strukturen mit klar definierten Eskalationswegen sowie striktem Datenschutz betrieben werden.
• Typ 2: HCP-orientierte Tools wie Entscheidungsunterstützung, Dokumentation oder Übersetzung erfordern eine formale Validierung, transparente Angabe von Limitationen sowie eine eindeutige menschliche Verantwortlichkeit für klinische Entscheidungen.
• Typ 3: Institutionelle Backend-Systeme, etwa in ­elektronischen Gesundheitsakten, bedürfen eines Testings vor Implementierung und einer kontinuierlichen Überwachung hinsichtlich Bias und Leistungsänderungen.

ELCAP konzentriert sich auf assistive LLMs, die unter menschlicher Aufsicht Informationen bereitstellen oder Inhalte entwerfen, jedoch keine autonomen Entscheidungen treffen. Die „agentischen“ KI-Modelle, die eigenständig Aktionen initiieren können, stehen bereits in den Startlöchern. Diese werden neue sicherheitsrelevante, regulatorische und ethische Herausforderungen mit sich bringen, und bei der Diskussion im Rahmen des Frühstückssymposiums war man sich einig: Sie werden neue, spezifische Leitlinien erfordern. Es bleibt spannend.

‍