Ein Arzt, der in seiner Praxis ein Werkzeug mit künstlicher Intelligenz einsetzt, ist nach der europäischen Verordnung 2024/1689 (dem AI Act) ein «Deployer»: wer ein KI-System unter eigener Autorität verwendet. Für ihn sind die grundlegenden Pflichten überschaubar. Die KI-Kompetenz des Personals gilt ab dem 2. Februar 2025, die Transparenz gegenüber Personen ab dem 2. August 2026, und die schwerwiegenderen Pflichten betreffen die Hochrisikosysteme, die für Produkte, die der Medizinprodukteregulierung unterliegen, ab dem 2. August 2027 greifen. In Italien kommt das italienische Gesetz 132/2025 hinzu, das für das Gesundheitswesen vor allem eines sagt: Die KI unterstützt, der Arzt entscheidet.
Wer ist wer: Anbieter und Deployer
Die Verordnung teilt die Beteiligten in Rollen auf. Der Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich (Art. 3 Nr. 3). Der Deployer ist, wer ein KI-System unter eigener Autorität verwendet, außer bei persönlicher und nicht beruflicher Nutzung (Nr. 4).
Wenn deine Praxissoftware eine Diktierfunktion hat, die die Stimme an ein Sprachmodell weitergibt, ist der Anbieter derjenige, der diese Funktion gebaut und verkauft hat, und du, der sie in der Praxis nutzt, bist Deployer. Ein KI-System ist nach der Verordnung ein automatisiertes System, das aus dem Input, den es erhält, ableitet, wie es Output wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt (Art. 3 Nr. 1). Eine automatische Transkription, die Felder vorschlägt, hat die Merkmale der Definition; ein Abgleich zwischen zwei Listen mit festen Regeln, ohne Modell, ist etwas anderes.
Was schon gilt: Kompetenz und verbotene Praktiken
Die Kapitel I und II der Verordnung gelten ab dem 2. Februar 2025. Sie enthalten zwei Dinge, die eine Praxis betreffen.
Die KI-Kompetenz (Art. 4). Anbieter und Deployer ergreifen Maßnahmen, um nach Möglichkeit ein ausreichendes Maß an KI-Kompetenz ihres Personals und aller Personen sicherzustellen, die sich in ihrem Auftrag mit dem Betrieb und der Nutzung der Systeme befassen, wobei technische Kenntnisse, Erfahrung, Ausbildung und Nutzungskontext zu berücksichtigen sind. Für eine kleine Praxis bedeutet das keinen zertifizierten Kurs: Es bedeutet, dass derjenige, der diktiert, derjenige, der einen Entwurf liest, und derjenige, der Patienten antwortet, weiß, was das Werkzeug tut, wo es sich irrt und was es nicht entscheiden darf.
Die verbotenen Praktiken (Art. 5). Die Verordnung verbietet unter anderem den Einsatz von KI-Systemen mit unterschwelligen oder absichtlich manipulativen oder täuschenden Techniken, die das Verhalten einer Person wesentlich verzerren, sowie solcher, die Schwachstellen aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage ausnutzen. Das sind Verbote für spezifische Fälle, aber es lohnt sich, sie zu kennen, wenn du einen automatischen Assistenten für die Kommunikation mit Patienten einsetzt.
Die Transparenz (Art. 50): ab dem 2. August 2026
Art. 50 sieht vier Pflichten vor, zwei für Anbieter und zwei für Deployer. Die Europäische Kommission hat in Erinnerung gerufen, dass die neuen Transparenzregeln ab dem 2. August 2026 wirksam sind.
| Wer | Was | Artikel |
|---|---|---|
| Anbieter | Ein KI-System, das mit Personen interagiert, muss so gestaltet sein, dass sie wissen, dass sie es mit einer KI zu tun haben, es sei denn, das ist offensichtlich | 50 Abs. 1 |
| Anbieter | Synthetische Inhalte (Audio, Bilder, Video, Text) sind in maschinenlesbarem Format zu kennzeichnen | 50 Abs. 2 |
| Deployer | Wer ein System einsetzt, das Emotionen erkennt oder Personen anhand biometrischer Daten kategorisiert, informiert die exponierten Personen | 50 Abs. 3 |
| Deployer | Wer Bilder, Audio oder Video erzeugt oder verändert, die einen «Deep Fake» darstellen, macht bekannt, dass sie künstlich sind | 50 Abs. 4 |
Ein «Deep Fake» ist ein Bild oder ein Audio- oder Videoinhalt, der von der KI erzeugt oder manipuliert wurde, existierenden Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich authentisch erscheinen würde (Art. 3 Nr. 60). Für eine Praxis stellt sich die konkrete Frage bei Website und Social Media: Ein «Nachher»-Bild, das die KI erzeugt oder so retuschiert hat, dass es echt wirkt, muss als solches gekennzeichnet werden. Das Thema kommt zu den Regeln der Gesundheitswerbung hinzu, von denen was ein Arzt auf der Website und in den sozialen Medien schreiben darf handelt.
Ein weiterer Satz aus Art. 50 zählt für die Patientenbetreuung: Die Informationen sind klar und unterscheidbar zu geben, spätestens bei der ersten Interaktion oder Exposition (Abs. 5).
Das hohe Risiko und die Medizinprodukte
Die anspruchsvollsten Pflichten betreffen die Hochrisiko-KI-Systeme. Art. 6 bestimmt sie auf zwei Wegen.
Der erste, in Absatz 1, läuft über die Produkte: Ein KI-System ist hochriskant, wenn es dazu bestimmt ist, Sicherheitsbauteil eines Produkts zu sein, oder selbst ein Produkt ist, das durch die Rechtsvorschriften des Anhangs I geregelt ist, und dieses Produkt einer Konformitätsbewertung durch Dritte unterliegt. In Anhang I erscheint die Verordnung (EU) 2017/745 über Medizinprodukte, zusammen mit der 2017/746 über In-vitro-Diagnostika. Auf diesem Weg gelten die Pflichten ab dem 2. August 2027 (Art. 113 Buchst. c).
Der zweite, in Absatz 2, läuft über die Liste des Anhangs III, die spezifische Verwendungen in Bereichen wie dem Zugang zu wesentlichen privaten und öffentlichen Diensten sammelt. Absatz 3 sieht Ausnahmen vor, wenn das System kein erhebliches Risiko einer Schädigung birgt, zum Beispiel wenn es eine begrenzte Verfahrensaufgabe ausführt oder das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert.
Ob ein Werkzeug ein Medizinprodukt ist, hängt von seiner Zweckbestimmung ab, nicht davon, dass es KI enthält. Der europäische Leitfaden zur Software, von dem ist eine Praxisverwaltungssoftware ein Medizinprodukt? handelt, erklärt, wie man das entscheidet.
Was der Deployer eines Hochrisikosystems tun muss
Art. 26 listet die Pflichten auf. Zusammengefasst:
- das System im Einklang mit der Gebrauchsanweisung nutzen, mit geeigneten technischen und organisatorischen Maßnahmen;
- die menschliche Aufsicht Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis übertragen;
- wenn er die Eingabedaten kontrolliert, sicherstellen, dass sie relevant und für den Zweck des Systems ausreichend repräsentativ sind;
- den Betrieb überwachen und den Anbieter informieren; bei einem Risiko oder einem schwerwiegenden Vorfall Anbieter und Behörde informieren und die Nutzung aussetzen;
- die automatisch erzeugten Logs, soweit sie unter seiner Kontrolle stehen, für einen angemessenen Zeitraum und mindestens sechs Monate aufbewahren, sofern das Unionsrecht oder nationales Recht, insbesondere zum Datenschutz, nichts anderes vorsieht;
- wenn er Arbeitgeber ist, die Beschäftigten informieren, bevor das System am Arbeitsplatz in Betrieb genommen wird;
- die Informationen des Anbieters für die Datenschutz-Folgenabschätzung (Art. 35 der DSGVO) nutzen, falls erforderlich.
Die Sanktionen
Die Verordnung überlässt den Mitgliedstaaten die Vorschriften über Sanktionen (Art. 99). Für Verstöße gegen die Deployer-Pflichten des Art. 26 und die Transparenzpflichten des Art. 50 ist ein Höchstbetrag von 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes vorgesehen, wenn dieser höher ist; für kleine und mittlere Unternehmen gilt der niedrigere der beiden Beträge. Verstöße gegen die verbotenen Praktiken des Art. 5 erreichen 35 Millionen Euro oder 7 %. Die Kommission wiederholt bei der Erinnerung an die Transparenzregeln die Obergrenze von 3 % und präzisiert, dass die Verhältnismäßigkeit für KMU und kleine Unternehmen mit mittlerer Kapitalisierung berücksichtigt wird.
Das italienische Gesetz 132/2025
Das italienische Gesetz vom 23. September 2025, Nr. 132, legt Grundsätze zur künstlichen Intelligenz fest und erklärt in Art. 1, dass es im Einklang mit der europäischen Verordnung ausgelegt und angewendet wird. Zwei Artikel sprechen direkt diejenigen an, die den Arztberuf ausüben.
Art. 7, Gesundheitswesen. KI-Systeme müssen zur Verbesserung des Gesundheitssystems beitragen, unter Achtung der Rechte, Freiheiten und Interessen der Person, auch beim Datenschutz. Sie dürfen den Zugang zu Leistungen nicht mit diskriminierenden Kriterien auswählen oder beeinflussen. Die betroffene Person hat das Recht, über den Einsatz von KI-Technologien informiert zu werden. Die Systeme sind eine Unterstützung in den Prozessen der Prävention, Diagnose, Behandlung und Therapiewahl, und die Entscheidung liegt stets bei den Angehörigen des Arztberufs. Verwendete Systeme und Daten müssen zuverlässig, regelmäßig überprüft und aktualisiert sein, um das Fehlerrisiko zu verringern.
Art. 13, intellektuelle Berufe. Der Einsatz der KI ist allein auf die Ausübung der instrumentellen und unterstützenden Tätigkeiten für die berufliche Tätigkeit gerichtet, mit Vorrang der intellektuellen Arbeit, die Gegenstand der Leistung ist. Die Informationen über die vom Berufsträger verwendeten Systeme sind dem Empfänger der Leistung in klarer, einfacher und erschöpfender Sprache mitzuteilen.
Art. 3 präzisiert, dass das Gesetz keine neuen Pflichten gegenüber denen der europäischen Verordnung für KI-Systeme und für KI-Modelle für allgemeine Zwecke schafft. Der Teil, der den Arzt anspricht, ist der der Information des Patienten und der unterstützenden Rolle.
Was in der Praxis zu tun ist
Eine Arbeit für einen Nachmittag, zu wiederholen, wenn sich etwas ändert:
- Liste der Werkzeuge, die KI verwenden: Diktat, Assistent auf der Website, automatische Antworten, Bildretusche, Fotoanalyse
- Für jedes: Wer ist der Anbieter, wohin gehen die Daten, was sagt der Vertrag
- Wer in der Praxis das Werkzeug nutzt und was er über seine typischen Fehler weiß
- Eine Zeile in der Patienteninformation über den Einsatz von KI-Werkzeugen, in einfacher Sprache
- Keine delegierte klinische Entscheidung: Das Ergebnis des Werkzeugs ist ein Entwurf oder ein Vorschlag, den du selbst gegenliest
- Von der KI erzeugte oder veränderte Bilder, wenn du sie veröffentlichst: als solche gekennzeichnet
- Die Werkzeuge, die Medizinprodukte sein könnten: Fordere vom Anbieter seine schriftliche Position
Wo Fibonacci steht
In Fibonacci erscheint ein Sprachmodell im Diktat: Es transkribiert die Stimme und schlägt die Felder vor, speichert nichts von allein und stellt weder Diagnosen noch empfiehlt es Therapien. Die Seite künstliche Intelligenz listet auf, was nie passiert und wo die Daten laufen; wie das Diktat im Detail funktioniert, steht in das Diktat im Termin. Fibonacci erklärt, wann man mit einer KI spricht; die maschinenlesbare Kennzeichnung der erzeugten Inhalte gibt es noch nicht.




