Wer in der Praxis einen KI-gestützten Telefonassistenten freischaltet oder das Arzt-Patienten-Gespräch automatisch verschriftlichen lässt, ist Betreiber eines KI-Systems im Sinne des EU AI Act. Seit Februar 2025 gilt damit die KI-Kompetenzpflicht nach Artikel 4, weitere Pflichten folgen ab 2028. Vielen Praxen ist das nicht bewusst. Der Beitrag ordnet die Rechtslage ein und zeigt, dass die Rheumatologie für diese Aufgabe besser gerüstet ist, als es zunächst scheint. Die Pflichten des AI Act folgen einem vertrauten Muster, der Delegation ärztlicher Leistungen. Im Folgenden sollen wichtige Aspekte, auch für die RFA, dargestellt werden.
Einer nationalen Umfrage zufolge hatten im Jahr 2023 noch 73 % der befragten Rheumatologen KI nie beruflich genutzt, 88 % schätzten ihr Wissen als gering bis mittel ein. [1] Das Bild heute: Im administrativen Bereich werden Telefon- und Abrechnungsassistenten eingesetzt, zunehmend kommen Ambient-Scribing-Systeme zum Einsatz, die das Arzt-Patienten-Gespräch automatisiert transkribieren und strukturiert dokumentieren. [2]
Auch klinisch gewinnt KI an Bedeutung. Das Projekt AutoPiX will Diagnose, Verlaufsbeurteilung und Behandlung entzündlich-rheumatischer Erkrankungen durch KI-gestützte Bildgebung verbessern. [3] Bei Large Language Modellen (LLMs) zeigt eine Übersichtsarbeit vier Einsatzfelder: klinische Entscheidungsunterstützung, Patientenedukation, Lehre und wissenschaftliches Arbeiten. Systeme wie OpenEvidence (in der EU und in Großbritannien seit April 2026 gesperrt) und Prof. Valmed werden dabei ebenso vorgestellt wie LupusGPT für die Patientenedukation. [4] KI ist da und die Frage ist, was deren Anwendung rechtlich bedeutet.
Die großen PVS-Anbieter vermarkten KI als kostenpflichtige Add-ons, die aktiv freigeschaltet werden. Man wird Betreiber also durch eine bewusste Entscheidung. Das Problem ist nicht, dass man nicht weiß, dass man ein KI-Tool aktiviert hat, sondern was dessen Anwendung rechtlich nach sich zieht.
Mit der Verordnung (EU) 2024/1689 hat die Europäische Union den weltweit ersten umfassenden Rechtsrahmen für den Einsatz künstlicher Intelligenz (KI) geschaffen. [5, 6] Die Verordnung wird stufenweise wirksam. Die KI-Kompetenzpflicht nach Artikel 4 gilt seit dem 2. Februar 2025. Mit dem im Juni 2026 verabschiedeten Digital Omnibus hat der EU-Gesetzgeber die Fristen für Hochrisiko-Systeme neu geordnet. Für KI-Systeme, die über die Medizinprodukteverordnung (MDR) als Hochrisiko-Systeme eingestuft sind, greift der erweiterte Betreiberpflichtenrahmen nach Artikel 26 damit ab dem 2. August 2028.
Artikel 4 verpflichtet Betreiber sicherzustellen, dass alle Personen, die KI-Systeme nutzen oder beaufsichtigen, über ein ausreichendes Maß an KI-Kompetenz verfügen; seit dem Digital Omnibus ist die Norm ausdrücklich als Bemühungspflicht gefasst. Der Maßstab richtet sich nach Einsatzkontext und Risikopotenzial des jeweiligen Systems. [6]
Die Verantwortung liegt beim Praxisinhaber und erstreckt sich auf das gesamte Team. Die MFA/RFA, die den Telefonassistenten bedient, die Verwaltungskraft, die mit KI-gestützter Abrechnung arbeitet, und die Ärztin, die KI-generierte Befundhinweise interpretiert, unterliegen der Anforderung gleichermaßen. [7]
„KI-Kompetenz“ bedeutet dabei nicht technisches Tiefenwissen, sondern grundlegendes Verständnis, welche Funktionen sie übernehmen, welche Entscheidungen sie unterstützen und wo ihre Grenzen liegen. Entscheidend ist, dass dieses Verständnis dokumentiert nachgewiesen werden kann, denn eine Bemühungspflicht wird über den Nachweis der Bemühung erfüllt. Ohne dokumentierte Schulung entsteht im Schadensfall ein Beweisproblem. [7]
Die „neuen“ Pflichten entsprechen einem vertrauten Muster. Beispiel: Die Delegation ärztlicher Leistungen folgt festen Grundsätzen: Wer delegiert, wählt aus, prüft die Eignung, leitet an und überwacht, und die ärztliche Verantwortung bleibt bestehen. Dieselbe Struktur findet sich in den Betreiberpflichten des AI Act wieder. Ein KI-System in der Praxis ist wie ein neuer Mitarbeiter zu betrachten, dessen Eignung geprüft, dessen Einarbeitung dokumentiert und dessen Arbeit überwacht wird.
Nicht jede KI-Funktion ist gleich reguliert. Entscheidend ist, ob ein System eigenständig Informationen für diagnostische oder therapeutische Entscheidungen liefert. Ein Terminmanagement-Tool tut das nicht. Ein System, das aus dem Arzt-Patienten-Gespräch eigenständig ICD-10-Codes ableitet und zur Bestätigung vorschlägt, schon. Sobald eine Software diagnostisch relevante Informationen liefert, ist sie in der Regel als Medizinprodukt nach der MDR einzustufen, muss CE-zertifiziert sein und gilt nach Artikel 6 Absatz 1 AI Act zugleich als Hochrisiko-KI-System. [5]
In der rheumatologischen Praxis betrifft das perspektivisch vor allem KI-gestützte Bildgebungs- und Scoring-Systeme, aber auch Dokumentationssysteme mit Diagnosevorschlagsfunktion. Für Betreiber solcher Systeme gelten ab August 2028 zusätzliche Pflichten, darunter lückenlose Protokollierung und die dokumentierte Sicherstellung menschlicher Aufsicht über KI-generierte Vorschläge. [5]
Für Verstöße gegen die Kompetenzpflicht sieht der AI Act keine eigene Sanktionsnorm vor. Das eigentliche Risiko liegt im Haftungsrecht. Solange KI-gestützte Verfahren nicht dem etablierten Fachstandard entsprechen, ist ihr Einsatz haftungsrechtlich als Neulandmethode einzuordnen, mit erweiterten Aufklärungspflichten und gesteigerter ärztlicher Sorgfalt. [7] Kommt ein Patient zu Schaden und stellt sich heraus, dass das eingesetzte System nicht ausreichend verstanden oder überwacht wurde, wird die verletzte Kompetenzpflicht unmittelbar zur Frage im Behandlungsfehlerprozess.
Die Kompetenzpflicht gilt seit Februar 2025, ohne Übergangsfrist und ohne Ausnahme für kleine Praxen. Daraus ergeben sich drei Schritte:
Ein CME-zertifiziertes Fortbildungsformat für Rheumatologinnen, Rheumatologen und ihre Praxisteams wird derzeit entwickelt und voraussichtlich ab Herbst 2026 über den BDRh angeboten.
Dieser Beitrag gibt einen Überblick zur aktuellen Rechtslage und ersetzt keine individuelle rechtliche Beratung.

