Startseite → Aktuelles → Aktuelle Beträge → Was der EU AI ACT von der Rheumatologischen Praxis verlangt

Delegation an die KI

Was der EU AI Act von der Rheumatologischen Praxis verlangt

Wer in der Praxis einen KI-gestützten Telefonassistenten freischaltet oder das Arzt-Patienten-Gespräch automatisch verschriftlichen lässt, ist Betreiber eines KI-Systems im Sinne des EU AI Act. Seit Februar 2025 gilt damit die KI-Kompetenzpflicht nach Artikel 4, weitere Pflichten folgen ab 2028. Vielen Praxen ist das nicht bewusst. Der Beitrag ordnet die Rechtslage ein und zeigt, dass die Rheumatologie für diese Aufgabe besser gerüstet ist, als es zunächst scheint. Die Pflichten des AI Act folgen einem vertrauten Muster, der Delegation ärztlicher Leistungen. Im Folgenden sollen wichtige Aspekte, auch für die RFA, dargestellt werden.

KI BEREITS IN DER RHEUMATOLOGIE

Einer nationalen Umfrage zufolge hatten im Jahr 2023 noch 73 % der befragten Rheumatologen KI nie beruflich genutzt, 88 % schätzten ihr Wissen als gering bis mittel ein. [1] Das Bild heute: Im administrativen Bereich werden Telefon- und Abrechnungsassistenten eingesetzt, zunehmend kommen Ambient-Scribing-Systeme zum Einsatz, die das Arzt-Patienten-Gespräch automatisiert transkribieren und strukturiert dokumentieren. [2]

Auch klinisch gewinnt KI an Bedeutung. Das Projekt AutoPiX will Diagnose, Verlaufsbeurteilung und Behandlung entzündlich-rheumatischer Erkrankungen durch KI-gestützte Bildgebung verbessern. [3] Bei Large Language Modellen (LLMs) zeigt eine Übersichtsarbeit vier Einsatzfelder: klinische Entscheidungsunterstützung, Patientenedukation, Lehre und wissenschaftliches Arbeiten. Systeme wie OpenEvidence (in der EU und in Großbritannien seit April 2026 gesperrt) und Prof. Valmed werden dabei ebenso vorgestellt wie LupusGPT für die Patientenedukation. [4] KI ist da und die Frage ist, was deren Anwendung rechtlich bedeutet.

BETREIBER IM SINNE DES GESETZES

Die großen PVS-Anbieter vermarkten KI als kostenpflichtige Add-ons, die aktiv freigeschaltet werden. Man wird Betreiber also durch eine bewusste Entscheidung. Das Problem ist nicht, dass man nicht weiß, dass man ein KI-Tool aktiviert hat, sondern was dessen Anwendung rechtlich nach sich zieht.

Mit der Verordnung (EU) 2024/1689 hat die Europäische Union den weltweit ersten umfassenden Rechtsrahmen für den Einsatz künstlicher Intelligenz (KI) geschaffen. [5, 6] Die Verordnung wird stufenweise wirksam. Die KI-Kompetenzpflicht nach Artikel 4 gilt seit dem 2. Februar 2025. Mit dem im Juni 2026 verabschiedeten Digital Omnibus hat der EU-Gesetzgeber die Fristen für Hochrisiko-Systeme neu geordnet. Für KI-Systeme, die über die Medizinprodukteverordnung (MDR) als Hochrisiko-Systeme eingestuft sind, greift der erweiterte Betreiberpflichtenrahmen nach Artikel 26 damit ab dem 2. August 2028.

WAS DIE KI-KOMPETENZPFLICHT KONKRET VERLANGT

Artikel 4 verpflichtet Betreiber sicherzustellen, dass alle Personen, die KI-Systeme nutzen oder beaufsichtigen, über ein ausreichendes Maß an KI-Kompetenz verfügen; seit dem Digital Omnibus ist die Norm ausdrücklich als Bemühungspflicht gefasst. Der Maßstab richtet sich nach Einsatzkontext und Risikopotenzial des jeweiligen Systems. [6]

Die Verantwortung liegt beim Praxisinhaber und erstreckt sich auf das gesamte Team. Die MFA/RFA, die den Telefonassistenten bedient, die Verwaltungskraft, die mit KI-gestützter Abrechnung arbeitet, und die Ärztin, die KI-generierte Befundhinweise interpretiert, unterliegen der Anforderung gleichermaßen. [7]

„KI-Kompetenz“ bedeutet dabei nicht technisches Tiefenwissen, sondern grundlegendes Verständnis, welche Funktionen sie übernehmen, welche Entscheidungen sie unterstützen und wo ihre Grenzen liegen. Entscheidend ist, dass dieses Verständnis dokumentiert nachgewiesen werden kann, denn eine Bemühungspflicht wird über den Nachweis der Bemühung erfüllt. Ohne dokumentierte Schulung entsteht im Schadensfall ein Beweisproblem. [7]

DELEGATION AN DIE KI

Die „neuen“ Pflichten entsprechen einem vertrauten Muster. Beispiel: Die Delegation ärztlicher Leistungen folgt festen Grundsätzen: Wer delegiert, wählt aus, prüft die Eignung, leitet an und überwacht, und die ärztliche Verantwortung bleibt bestehen. Dieselbe Struktur findet sich in den Betreiberpflichten des AI Act wieder. Ein KI-System in der Praxis ist wie ein neuer Mitarbeiter zu betrachten, dessen Eignung geprüft, dessen Einarbeitung dokumentiert und dessen Arbeit überwacht wird.

HOCHRISIKO-KI UND MEDIZINPRODUKTE

Nicht jede KI-Funktion ist gleich reguliert. Entscheidend ist, ob ein System eigenständig Informationen für diagnostische oder therapeutische Entscheidungen liefert. Ein Terminmanagement-Tool tut das nicht. Ein System, das aus dem Arzt-Patienten-Gespräch eigenständig ICD-10-Codes ableitet und zur Bestätigung vorschlägt, schon. Sobald eine Software diagnostisch relevante Informationen liefert, ist sie in der Regel als Medizinprodukt nach der MDR einzustufen, muss CE-zertifiziert sein und gilt nach Artikel 6 Absatz 1 AI Act zugleich als Hochrisiko-KI-System. [5]

In der rheumatologischen Praxis betrifft das perspektivisch vor allem KI-gestützte Bildgebungs- und Scoring-Systeme, aber auch Dokumentationssysteme mit Diagnosevorschlagsfunktion. Für Betreiber solcher Systeme gelten ab August 2028 zusätzliche Pflichten, darunter lückenlose Protokollierung und die dokumentierte Sicherstellung menschlicher Aufsicht über KI-generierte Vorschläge. [5]

HAFTUNG VOR BUSSGELD

Für Verstöße gegen die Kompetenzpflicht sieht der AI Act keine eigene Sanktionsnorm vor. Das eigentliche Risiko liegt im Haftungsrecht. Solange KI-gestützte Verfahren nicht dem etablierten Fachstandard entsprechen, ist ihr Einsatz haftungsrechtlich als Neulandmethode einzuordnen, mit erweiterten Aufklärungspflichten und gesteigerter ärztlicher Sorgfalt. [7] Kommt ein Patient zu Schaden und stellt sich heraus, dass das eingesetzte System nicht ausreichend verstanden oder überwacht wurde, wird die verletzte Kompetenzpflicht unmittelbar zur Frage im Behandlungsfehlerprozess.

WAS JETZT ZU TUN IST

Die Kompetenzpflicht gilt seit Februar 2025, ohne Übergangsfrist und ohne Ausnahme für kleine Praxen. Daraus ergeben sich drei Schritte:

  • eine systematische Bestandsaufnahme aller eingesetzten KI-Systeme, einschließlich gebuchter Zusatzmodule, deren KI-Charakter auf den ersten Blick nicht erkennbar ist
  • die strukturierte Information des Teams über Funktion, Grenzen und Risiken dieser Systeme
  • die dokumentierte Schulung als Nachweis der erfüllten Anforderung. In der Logik der Delegation sind das Auswahl und Eignungsprüfung, Anleitung und Nachweis, also Schritte, die jede Praxis von der Einarbeitung neuer Mitarbeitender kennt.

Ein CME-zertifiziertes Fortbildungsformat für Rheumatologinnen, Rheumatologen und ihre Praxisteams wird derzeit entwickelt und voraussichtlich ab Herbst 2026 über den BDRh angeboten.

Dieser Beitrag gibt einen Überblick zur aktuellen Rechtslage und ersetzt keine individuelle rechtliche Beratung.

  1. Holzer MT et al.,Ther Adv Musculoskelet Dis 2024; 16:1759720X241275818
  2. Knitza J, Aries P. EULAR Rheumatol Open 2026; 2(2): 100101
  3. Medizinische Universität Wien. Imaging for Patient Benefit in Arthritis. https://www.autopix-project.eu 2026
  4. Knitza J, Hügle T. Z Rheumatol 2026; 85(5): 366-371
  5. Europäische Kommission. Gesetz über künstliche Intelligenz (Verordnung (EU) 2024/1689). https://artificialintelligenceact.eu/de/das-gesetz/ 2024; Fassung des Amtsblatts vom 13. Juni 2024. Zugriff: 09.04.2026.
  6. van Kolfschooten H, van Oirschot J. Health Policy 2024; 149: 105152
  7. Frielitz FS et al., Deutsches Ärzteblatt 2025; 122(1–2): A-22
Dr. Kirsten Hoeper
Klinik für Rheumatologie und Immunologie, Medizinische Hochschule Hannover (MHH),
Carl-Neuberg-Str. 1, 30625 Hannover
Daniel Kleiboldt
Jurist, LL.M., Software Engineer mit Spezialisierung
auf Healthcare-KI-Compliance

Rechtliches

WORTREICH Gesellschaft für individuelle Kommunikation mbH 

Barfüßerstraße 12

65549 Limburg

Tel.: +49 (0)6431/590960
Fax.: +49 (0)6431/5909611

E-Mail: info(at)wortreich-gik.de

Allgemeines

Aktuelle Ausgabe