21.01.2026
Sichere Anwendung von LLMs in der Onkologie
Unter der Leitung von Fellow Jakob N. Kather, Professor für klinische künstliche Intelligenz am EKFZ für digitale Gesundheit, TUD, und Universitätsklinikum Carl Gustav Carus Dresden(NCT/UCC), hat ein internationales Expert:innengremium Leitlinien für den sicheren Einsatz von Large Language Models (LLMs) in der Onkologie entwickelt. Die Initiative wurde unter der Schirmherrschaft der Europäischen Gesellschaft für Medizinische Onkologie (ESMO) im Rahmen ihrer „Real World Data & Digital Health Task Force” ins Leben gerufen. Professor Stephen Gilbert und Dr. med. Isabella Wiest vom EKFZ für digitale Gesundheit haben ebenfalls ihr Fachwissen eingebracht. Das neue Rahmenwerk soll Patient:innen, Ärzt:innen und Einrichtungen dabei helfen, KI-Sprachtools verantwortungsbewusst einzusetzen.
ELCAP: ESMO-Leitlinien zum Einsatz großer Sprachmodelle in der klinischen Praxis
Die Europäische Gesellschaft für Medizinische Onkologie (ESMO) hat gerade die ESMO-Leitlinien zum Einsatz großer Sprachmodelle in der klinischen Praxis (ELCAP) veröffentlicht, die ersten strukturierten Empfehlungen für den sicheren und effektiven Einsatz von KI-Sprachmodellen in der Onkologie. Die ELCAP wurden in der Fachzeitschrift Annals of Oncology von ESMO veröffentlicht, zeitgleich mit einer Sitzung zum Thema „ChatGPT und Krebsbehandlung” auf dem ESMO-Kongress 2025 in Berlin.
ELCAP konzentriert sich auf assistive LLMs, die unter menschlicher Aufsicht arbeiten und Kliniker:innen durch die Bereitstellung von Informationen oder das Verfassen von Inhalten unterstützen, anstatt eigenständige Maßnahmen zu ergreifen. Jakob N. Kather, stellvertretender Vorsitzender von ESMO Real World Data & Digital Health Task Force, Professor für klinische KI und Mitautor der Studie, erklärt:
„Diese Systeme sollen klinische Arbeitsabläufe und Entscheidungsprozesse verbessern – und nicht ersetzen. Gleichzeitig wird in den Leitlinien das rasche Aufkommen autonomer oder `agentic´ KI-Modelle anerkannt, die ohne direkte Anweisungen Maßnahmen einleiten können, was besondere Herausforderungen in Bezug auf Sicherheit, Regulierung und Ethik mit sich bringt und künftig spezielle Leitlinien erfordern wird.“
Herausforderungen bei der Einführung von LLMs in die klinische Praxis
In allen Bereichen hängt die Zuverlässigkeit der Ergebnisse von der Vollständigkeit und Richtigkeit der Eingabedaten ab: Lücken in der klinischen Dokumentation oder unvollständige Patient:innenanfragen können zu ungenauen oder irreführenden Antworten führen, was die Notwendigkeit einer Überwachung und klarer Eskalationswege unterstreicht.
„ELCAP erkennt an, dass der Wert von Sprachmodellen davon abhängt, wer sie verwendet“, sagte Miriam Koopman, Vorsitzende von ESMO Real World Data & Digital Health Task Force und Mitautorin des Papiers. „Durch die Unterscheidung zwischen patient:innenorientierten, klinikerorientierten und institutionellen Hintergrundsystemen setzen wir Erwartungen für jeden Kontext: überwachte Pfade für Patient:innen, validierte und transparente Tools für Kliniker:innen und kontinuierlich überwachte, gut verwaltete Systeme, die in die elektronischen Gesundheitsakten eingebettet sind.“
Stephen Gilbert, Professor für Medizinprodukte-Regulierungswissenschaft am EKFZ für digitale Gesundheit der TUD, erklärt: „Eine der größten Herausforderungen bei der Einführung von LLMs in die klinische Praxis ist die Bewältigung regulatorischer Beschränkungen und der heterogenen Umsetzung von Vorschriften in den verschiedenen Regionen – selbst innerhalb der EU. Wir brauchen EU-weite pragmatische Standards und eine Governance, die ein Gleichgewicht zwischen den wesentlichen Garantien für Transparenz, Validierung und menschlicher Aufsicht herstellt und gleichzeitig die für die lokale Umsetzung und Nutzung erforderliche Flexibilität ermöglicht.“
Empfehlungen für klinische Anwendungen von LLMs in der Onkologie
Da der Einsatz von LLMs in der Onkologie zunimmt, erkennt ELCAP, dass Chancen und Risiken je nach Anwender – ob Patienten, Ärzte oder Einrichtungen – variieren, und verankert die Empfehlungen daher in einer dreistufigen Struktur, wobei allgemeine Grundsätze in 23 Konsenserklärungen für die tägliche Praxis umgesetzt werden:
- Typ – Patientenorientierte Anwendungen: Chatbots zur Aufklärung und Symptomunterstützung, die die klinische Versorgung ergänzen und innerhalb überwachter Pfade mit klarer Eskalation und robustem Datenschutz betrieben werden sollten.
- Typ – Anwendungen für medizinisches Fachpersonal: Tools für Entscheidungsunterstützung, Dokumentation und Übersetzung, die eine formale Validierung, transparente Einschränkungen und eine explizite menschliche Verantwortung für klinische Entscheidungen erfordern.
- Typ – Institutionelle Hintergrundsysteme: In elektronische Gesundheitsakten integrierte Systeme für Datenextraktion, automatisierte Zusammenfassungen und Studienzuordnung, die Tests vor der Bereitstellung, kontinuierliche Überwachung und institutionelle Governance benötigen.
„Die Priorität von ESMO besteht darin, sicherzustellen, dass Innovationen zu messbaren Vorteilen für Patient:innen und praktikablen Lösungen für Ärzt:innen führen. Mit ELCAP bietet ESMO einen pragmatischen, onkologiespezifischen Rahmen, der KI einbezieht und gleichzeitig klinische Verantwortung, Transparenz und robusten Datenschutz gewährleistet“, sagte Fabrice André, Präsident von ESMO.
ELCAP wurde zwischen November 2024 und Februar 2025 von einem 20-köpfigen internationalen Gremium aus den Bereichen Onkologie, KI, Biostatistik, digitale Gesundheit, Ethik und Patientenperspektive entwickelt, das unter der ESMO Real World Data & Digital Health Task Force einberufen wurde.
Die Europäische Gesellschaft für Medizinische Onkologie (ESMO)
ESMO vertritt mehr als 45.000 Onkologie-Fachleute und ist eine Referenz für onkologische Ausbildung und Information. Angetrieben von der gemeinsamen Entschlossenheit, die bestmöglichen Ergebnisse für Patienten zu erzielen, setzt sich ESMO dafür ein, diejenigen zu unterstützen, die sich um Krebserkrankungen kümmern, indem sie auf die vielfältigen Bedürfnisse der One Oncology Community eingeht, lebenslange Bildung anbietet und sich für zugängliche Krebsbehandlung einsetzt.
[Zitiert aus der EKFZ Pressemitteilung; Safe use of LLMs in oncology]
