Zum Inhalt springen
FibonacciÄsthetikAnmeldenKostenlos testen

Technologie und KI

Der AI Act und die Arztpraxis: was sich ändert und für wen

AI Act und Arztpraxis: wann der Arzt «Deployer» ist, was KI-Kompetenz und Transparenz verlangen, Hochrisiko und das Gesetz 132/2025.

Die Redaktion von FibonacciAktualisiert am 8 Minuten Lesezeit

Computerchip mit der Aufschrift AI
In diesem Artikel
  1. Wer ist wer: Anbieter und Deployer
  2. Was schon gilt: Kompetenz und verbotene Praktiken
  3. Die Transparenz (Art. 50): ab dem 2. August 2026
  4. Das hohe Risiko und die Medizinprodukte
  5. Die Sanktionen
  6. Das italienische Gesetz 132/2025
  7. Was in der Praxis zu tun ist
  8. Wo Fibonacci steht

Ein Arzt, der in seiner Praxis ein Werkzeug mit künstlicher Intelligenz einsetzt, ist nach der europäischen Verordnung 2024/1689 (dem AI Act) ein «Deployer»: wer ein KI-System unter eigener Autorität verwendet. Für ihn sind die grundlegenden Pflichten überschaubar. Die KI-Kompetenz des Personals gilt ab dem 2. Februar 2025, die Transparenz gegenüber Personen ab dem 2. August 2026, und die schwerwiegenderen Pflichten betreffen die Hochrisikosysteme, die für Produkte, die der Medizinprodukteregulierung unterliegen, ab dem 2. August 2027 greifen. In Italien kommt das italienische Gesetz 132/2025 hinzu, das für das Gesundheitswesen vor allem eines sagt: Die KI unterstützt, der Arzt entscheidet.

Wer ist wer: Anbieter und Deployer

Die Verordnung teilt die Beteiligten in Rollen auf. Der Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich (Art. 3 Nr. 3). Der Deployer ist, wer ein KI-System unter eigener Autorität verwendet, außer bei persönlicher und nicht beruflicher Nutzung (Nr. 4).

Wenn deine Praxissoftware eine Diktierfunktion hat, die die Stimme an ein Sprachmodell weitergibt, ist der Anbieter derjenige, der diese Funktion gebaut und verkauft hat, und du, der sie in der Praxis nutzt, bist Deployer. Ein KI-System ist nach der Verordnung ein automatisiertes System, das aus dem Input, den es erhält, ableitet, wie es Output wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt (Art. 3 Nr. 1). Eine automatische Transkription, die Felder vorschlägt, hat die Merkmale der Definition; ein Abgleich zwischen zwei Listen mit festen Regeln, ohne Modell, ist etwas anderes.

Was schon gilt: Kompetenz und verbotene Praktiken

Die Kapitel I und II der Verordnung gelten ab dem 2. Februar 2025. Sie enthalten zwei Dinge, die eine Praxis betreffen.

Die KI-Kompetenz (Art. 4). Anbieter und Deployer ergreifen Maßnahmen, um nach Möglichkeit ein ausreichendes Maß an KI-Kompetenz ihres Personals und aller Personen sicherzustellen, die sich in ihrem Auftrag mit dem Betrieb und der Nutzung der Systeme befassen, wobei technische Kenntnisse, Erfahrung, Ausbildung und Nutzungskontext zu berücksichtigen sind. Für eine kleine Praxis bedeutet das keinen zertifizierten Kurs: Es bedeutet, dass derjenige, der diktiert, derjenige, der einen Entwurf liest, und derjenige, der Patienten antwortet, weiß, was das Werkzeug tut, wo es sich irrt und was es nicht entscheiden darf.

Die verbotenen Praktiken (Art. 5). Die Verordnung verbietet unter anderem den Einsatz von KI-Systemen mit unterschwelligen oder absichtlich manipulativen oder täuschenden Techniken, die das Verhalten einer Person wesentlich verzerren, sowie solcher, die Schwachstellen aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage ausnutzen. Das sind Verbote für spezifische Fälle, aber es lohnt sich, sie zu kennen, wenn du einen automatischen Assistenten für die Kommunikation mit Patienten einsetzt.

Die Transparenz (Art. 50): ab dem 2. August 2026

Art. 50 sieht vier Pflichten vor, zwei für Anbieter und zwei für Deployer. Die Europäische Kommission hat in Erinnerung gerufen, dass die neuen Transparenzregeln ab dem 2. August 2026 wirksam sind.

WerWasArtikel
AnbieterEin KI-System, das mit Personen interagiert, muss so gestaltet sein, dass sie wissen, dass sie es mit einer KI zu tun haben, es sei denn, das ist offensichtlich50 Abs. 1
AnbieterSynthetische Inhalte (Audio, Bilder, Video, Text) sind in maschinenlesbarem Format zu kennzeichnen50 Abs. 2
DeployerWer ein System einsetzt, das Emotionen erkennt oder Personen anhand biometrischer Daten kategorisiert, informiert die exponierten Personen50 Abs. 3
DeployerWer Bilder, Audio oder Video erzeugt oder verändert, die einen «Deep Fake» darstellen, macht bekannt, dass sie künstlich sind50 Abs. 4

Ein «Deep Fake» ist ein Bild oder ein Audio- oder Videoinhalt, der von der KI erzeugt oder manipuliert wurde, existierenden Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich authentisch erscheinen würde (Art. 3 Nr. 60). Für eine Praxis stellt sich die konkrete Frage bei Website und Social Media: Ein «Nachher»-Bild, das die KI erzeugt oder so retuschiert hat, dass es echt wirkt, muss als solches gekennzeichnet werden. Das Thema kommt zu den Regeln der Gesundheitswerbung hinzu, von denen was ein Arzt auf der Website und in den sozialen Medien schreiben darf handelt.

Ein weiterer Satz aus Art. 50 zählt für die Patientenbetreuung: Die Informationen sind klar und unterscheidbar zu geben, spätestens bei der ersten Interaktion oder Exposition (Abs. 5).

Das hohe Risiko und die Medizinprodukte

Die anspruchsvollsten Pflichten betreffen die Hochrisiko-KI-Systeme. Art. 6 bestimmt sie auf zwei Wegen.

Der erste, in Absatz 1, läuft über die Produkte: Ein KI-System ist hochriskant, wenn es dazu bestimmt ist, Sicherheitsbauteil eines Produkts zu sein, oder selbst ein Produkt ist, das durch die Rechtsvorschriften des Anhangs I geregelt ist, und dieses Produkt einer Konformitätsbewertung durch Dritte unterliegt. In Anhang I erscheint die Verordnung (EU) 2017/745 über Medizinprodukte, zusammen mit der 2017/746 über In-vitro-Diagnostika. Auf diesem Weg gelten die Pflichten ab dem 2. August 2027 (Art. 113 Buchst. c).

Der zweite, in Absatz 2, läuft über die Liste des Anhangs III, die spezifische Verwendungen in Bereichen wie dem Zugang zu wesentlichen privaten und öffentlichen Diensten sammelt. Absatz 3 sieht Ausnahmen vor, wenn das System kein erhebliches Risiko einer Schädigung birgt, zum Beispiel wenn es eine begrenzte Verfahrensaufgabe ausführt oder das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert.

Ob ein Werkzeug ein Medizinprodukt ist, hängt von seiner Zweckbestimmung ab, nicht davon, dass es KI enthält. Der europäische Leitfaden zur Software, von dem ist eine Praxisverwaltungssoftware ein Medizinprodukt? handelt, erklärt, wie man das entscheidet.

Was der Deployer eines Hochrisikosystems tun muss

Art. 26 listet die Pflichten auf. Zusammengefasst:

  • das System im Einklang mit der Gebrauchsanweisung nutzen, mit geeigneten technischen und organisatorischen Maßnahmen;
  • die menschliche Aufsicht Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis übertragen;
  • wenn er die Eingabedaten kontrolliert, sicherstellen, dass sie relevant und für den Zweck des Systems ausreichend repräsentativ sind;
  • den Betrieb überwachen und den Anbieter informieren; bei einem Risiko oder einem schwerwiegenden Vorfall Anbieter und Behörde informieren und die Nutzung aussetzen;
  • die automatisch erzeugten Logs, soweit sie unter seiner Kontrolle stehen, für einen angemessenen Zeitraum und mindestens sechs Monate aufbewahren, sofern das Unionsrecht oder nationales Recht, insbesondere zum Datenschutz, nichts anderes vorsieht;
  • wenn er Arbeitgeber ist, die Beschäftigten informieren, bevor das System am Arbeitsplatz in Betrieb genommen wird;
  • die Informationen des Anbieters für die Datenschutz-Folgenabschätzung (Art. 35 der DSGVO) nutzen, falls erforderlich.

Die Sanktionen

Die Verordnung überlässt den Mitgliedstaaten die Vorschriften über Sanktionen (Art. 99). Für Verstöße gegen die Deployer-Pflichten des Art. 26 und die Transparenzpflichten des Art. 50 ist ein Höchstbetrag von 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes vorgesehen, wenn dieser höher ist; für kleine und mittlere Unternehmen gilt der niedrigere der beiden Beträge. Verstöße gegen die verbotenen Praktiken des Art. 5 erreichen 35 Millionen Euro oder 7 %. Die Kommission wiederholt bei der Erinnerung an die Transparenzregeln die Obergrenze von 3 % und präzisiert, dass die Verhältnismäßigkeit für KMU und kleine Unternehmen mit mittlerer Kapitalisierung berücksichtigt wird.

Das italienische Gesetz 132/2025

Das italienische Gesetz vom 23. September 2025, Nr. 132, legt Grundsätze zur künstlichen Intelligenz fest und erklärt in Art. 1, dass es im Einklang mit der europäischen Verordnung ausgelegt und angewendet wird. Zwei Artikel sprechen direkt diejenigen an, die den Arztberuf ausüben.

Art. 7, Gesundheitswesen. KI-Systeme müssen zur Verbesserung des Gesundheitssystems beitragen, unter Achtung der Rechte, Freiheiten und Interessen der Person, auch beim Datenschutz. Sie dürfen den Zugang zu Leistungen nicht mit diskriminierenden Kriterien auswählen oder beeinflussen. Die betroffene Person hat das Recht, über den Einsatz von KI-Technologien informiert zu werden. Die Systeme sind eine Unterstützung in den Prozessen der Prävention, Diagnose, Behandlung und Therapiewahl, und die Entscheidung liegt stets bei den Angehörigen des Arztberufs. Verwendete Systeme und Daten müssen zuverlässig, regelmäßig überprüft und aktualisiert sein, um das Fehlerrisiko zu verringern.

Art. 13, intellektuelle Berufe. Der Einsatz der KI ist allein auf die Ausübung der instrumentellen und unterstützenden Tätigkeiten für die berufliche Tätigkeit gerichtet, mit Vorrang der intellektuellen Arbeit, die Gegenstand der Leistung ist. Die Informationen über die vom Berufsträger verwendeten Systeme sind dem Empfänger der Leistung in klarer, einfacher und erschöpfender Sprache mitzuteilen.

Art. 3 präzisiert, dass das Gesetz keine neuen Pflichten gegenüber denen der europäischen Verordnung für KI-Systeme und für KI-Modelle für allgemeine Zwecke schafft. Der Teil, der den Arzt anspricht, ist der der Information des Patienten und der unterstützenden Rolle.

Was in der Praxis zu tun ist

Eine Arbeit für einen Nachmittag, zu wiederholen, wenn sich etwas ändert:

  • Liste der Werkzeuge, die KI verwenden: Diktat, Assistent auf der Website, automatische Antworten, Bildretusche, Fotoanalyse
  • Für jedes: Wer ist der Anbieter, wohin gehen die Daten, was sagt der Vertrag
  • Wer in der Praxis das Werkzeug nutzt und was er über seine typischen Fehler weiß
  • Eine Zeile in der Patienteninformation über den Einsatz von KI-Werkzeugen, in einfacher Sprache
  • Keine delegierte klinische Entscheidung: Das Ergebnis des Werkzeugs ist ein Entwurf oder ein Vorschlag, den du selbst gegenliest
  • Von der KI erzeugte oder veränderte Bilder, wenn du sie veröffentlichst: als solche gekennzeichnet
  • Die Werkzeuge, die Medizinprodukte sein könnten: Fordere vom Anbieter seine schriftliche Position

Wo Fibonacci steht

In Fibonacci erscheint ein Sprachmodell im Diktat: Es transkribiert die Stimme und schlägt die Felder vor, speichert nichts von allein und stellt weder Diagnosen noch empfiehlt es Therapien. Die Seite künstliche Intelligenz listet auf, was nie passiert und wo die Daten laufen; wie das Diktat im Detail funktioniert, steht in das Diktat im Termin. Fibonacci erklärt, wann man mit einer KI spricht; die maschinenlesbare Kennzeichnung der erzeugten Inhalte gibt es noch nicht.

Was Fibonacci dafür tut

So sieht es in Fibonacci aus, mit Beispieldaten:

Die Patientenakte in Fibonacci, mit Beispieldaten

Quellen

  1. Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3, 4, 5, 6, 26, 50, 99 und 113, Anhang I (öffnet in einem neuen Tab)
  2. Europäische Kommission, «Safer and more transparent AI», 2. August 2026: Transparenzregeln und Sanktionen (öffnet in einem neuen Tab)
  3. Italienisches Gesetz vom 23. September 2025, Nr. 132, Art. 1, 3, 7 und 13: Bestimmungen zum Thema künstliche Intelligenz (Normattiva) (öffnet in einem neuen Tab)

Die Artikel erklären, was Vorschriften und Leitlinien verlangen und was in der Akte dokumentiert wird. Sie sind keine Rechts- oder Steuerberatung zu deinem Fall und sagen nicht, wie ein Patient zu behandeln ist.

Teste Fibonacci 15 Tage lang in deiner Praxis, ohne Kreditkarte

Innerhalb eines Werktags rufen wir dich an: Gemeinsam richten wir die Praxis ein und importieren deine Daten.

Kostenlos testen

Als Nächstes lesen

Alle Artikel