AI Act (KI-Verordnung)

Die Verordnung ordnet KI-Systeme danach ein, welches Risiko von ihrem Einsatz ausgeht. Daraus ergeben sich Gruppen mit unterschiedlichen Pflichten:

• Verbotene Praktiken nach Art. 5, etwa bestimmte Formen manipulativer Beeinflussung.
• Hochrisiko-KI-Systeme nach Art. 6 in Verbindung mit Anhang I und Anhang III, mit den umfangreichsten Pflichten.
• Bestimmte KI-Systeme mit Transparenzpflichten nach Art. 50, darunter Systeme, die direkt mit Menschen interagieren.
• Übrige KI-Systeme, für die die Verordnung keine besonderen Pflichten dieser Art vorsieht.

Daneben regelt Kapitel V KI-Modelle mit allgemeinem Verwendungszweck, also die großen Sprachmodelle, auf denen viele Anwendungen aufbauen.

Anhang III nennt unter Nummer 8 den Bereich Rechtspflege und demokratische Prozesse. Erfasst sind dort unter anderem KI-Systeme, die bestimmungsgemäß von einer Justizbehörde oder in deren Namen verwendet werden sollen, um sie bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften zu unterstützen.

Die Pflichten der Verordnung hängen an Rollen. Zwei Begriffe aus Art. 3 sind für Kanzleien zentral:

• Anbieter (Art. 3 Nr. 3) ist, wer ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich.
• Betreiber (Art. 3 Nr. 4) ist, wer ein KI-System in eigener Verantwortung verwendet, es sei denn, das geschieht im Rahmen einer persönlichen und nicht beruflichen Tätigkeit.

Nach dem Wortlaut der Definition verwendet eine Kanzlei, die ein KI-Werkzeug beruflich in eigener Verantwortung einsetzt, dieses als Betreiber. Wer das Werkzeug entwickelt und unter eigenem Namen anbietet, ist Anbieter.

Art. 50 Abs. 1 richtet sich an Anbieter. Sie stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die Personen informiert werden, dass sie mit einem KI-System interagieren. Das gilt nicht, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände offensichtlich ist.

Weitere Absätze von Art. 50 betreffen unter anderem Emotionserkennung, biometrische Kategorisierung und künstlich erzeugte oder veränderte Inhalte. Für Sprachassistenten am Telefon ist Absatz 1 der naheliegende Bezugspunkt.

Art. 4 betrifft Anbieter und Betreiber von KI-Systemen und handelt von der KI-Kompetenz ihres Personals und anderer Personen, die in ihrem Auftrag mit Betrieb und Nutzung von KI-Systemen befasst sind. KI-Kompetenz definiert Art. 3 Nr. 56 als die Fähigkeiten, Kenntnisse und das Verständnis, KI-Systeme sachkundig einzusetzen und sich der Chancen und Risiken bewusst zu werden.

Die Vorschrift gehört zu Kapitel I und gilt nach Art. 113 seit dem 2. Februar 2025. Ihr Wortlaut ist Gegenstand von Änderungen am AI Act. Maßgeblich ist die aktuelle konsolidierte Fassung auf EUR-Lex.

Die Verordnung ist am 1. August 2024 in Kraft getreten. Nach Art. 113 gelten ihre Teile gestaffelt:

• seit 2. Februar 2025: Kapitel I und II, also allgemeine Bestimmungen einschließlich Art. 4 und die verbotenen Praktiken
• seit 2. August 2025: unter anderem die Regeln für KI-Modelle mit allgemeinem Verwendungszweck und die Sanktionen
• ab 2. August 2026: der überwiegende Rest, darunter die Transparenzpflichten nach Art. 50
• später: die Pflichten für Hochrisiko-KI-Systeme

Die Termine für Hochrisiko-Systeme sind Gegenstand von Änderungen am AI Act. Den geltenden Stand zeigt die konsolidierte Fassung auf EUR-Lex.

Die Verordnung tritt neben das bestehende Recht, sie ersetzt es nicht. Nach Art. 2 Abs. 7 berührt sie die DSGVO nicht. Das Berufsrecht mit der Schweigepflicht und den Regeln für Dienstleister nach § 43e BRAO gilt unverändert. Aus dem Aufbau der Verordnung ergeben sich Fragen, die sich zu jedem eingesetzten Werkzeug stellen lassen:

• Wofür wird das Werkzeug eingesetzt, und fällt der Einsatzzweck unter Anhang III?
• Wer ist Anbieter, und welche Angaben macht er zu seinen Pflichten?
• Interagiert das Werkzeug direkt mit Mandanten oder Anrufern?
• Wer in der Kanzlei nutzt das Werkzeug, und was wissen diese Personen darüber?
• Welche Daten fließen an den Anbieter, und wo werden sie verarbeitet?

Der LexDial-Assistent weist sich zu Gesprächsbeginn als KI aus. Die Einwilligung des Anrufers wird zu Beginn eingeholt und dokumentiert. Die eingesetzten KI-Modelle werden nicht mit Gesprächsdaten trainiert. Der Assistent berät nicht und vergibt keine Termine. Er nimmt das Anliegen auf und übergibt es der Kanzlei.

• Verordnung (EU) 2024/1689 auf EUR-Lex
• Verordnung (EU) 2016/679 (DSGVO) auf EUR-Lex