Die Anforderungen des EU AI Act: Vier Schritte zum regelungskonformen Einsatz von Künstlicher Intelligenz

Der AI Act wurde am 12. Juli 2024 veröffentlicht. Seine Bestimmungen treten beginnend mit 1. August 2024 gestaffelt in Geltung und verpflichten Anbieter und Betreiber von Systemen Künstlicher Intelligenz zur Einhaltung umfassender Anforderungen. In vier Schritten zeigen wir Ihnen, wie Sie einschätzen können, ob und von welchen Bestimmungen des AI Act Ihr Unternehmen betroffen sein könnte.

Bei mangelnder Compliance können sowohl Anbieter als auch Betreiber von KI-Systemen zur Verantwortung gezogen werden. Es drohen Strafen von bis zu EUR 35 Mio. oder 7 Prozent des weltweiten Jahresumsatzes.

Inhalt: 

1. Rechtlicher Rahmen
   • Wer ist vom AI Act betroffen?
   • Welche KI-Systeme sind betroffen?
   • Wann treten die Bestimmungen in Geltung?
   • Wer haftet für Verstöße gegen den AI Act?
2. Ist mein Unternehmen vom AI Act betroffen? Diese vier Schritte helfen bei der Einschätzung:
   • Schritt 1: Wo wird KI im Unternehmen entwickelt und eingesetzt?
   • Schritt 2: Welcher Risikostufe ist das System zuzuordnen?
   • Schritt 3: Welche Anforderungen sieht der AI Act für mein Unternehmen vor?
   • Schritt 4: Wie stelle ich einen sicheren, effizienten und rechtmäßigen Umgang mit KI sicher?
3. Wie wir Sie unterstützen können
   Das Webinar zum AI Act – Anmeldung

Rechtlicher Rahmen

Wer ist vom AI Act betroffen?

Insbesondere Anbieter und Betreiber, welche KI entwickeln oder nutzen, müssen die Pflichten des AI Act erfüllen. Es gibt aber auch weitere vom AI Act betroffene Akteure, beispielsweise Händler. Sobald ein KI-System in der EU zu nicht bloß privaten Zwecken genutzt wird, sollte der Anwendungsbereich des AI Act jedenfalls geprüft werden.

Welche KI-Systeme sind betroffen?

Der AI Act verfolgt einen risikobasierten Ansatz und sieht je nach Risikograd des KI-Systems unterschiedliche Rechtsfolgen vor. Unternehmen müssen daher eine Risikobewertung für jedes entwickelte bzw. betriebene KI-System durchführen, um festzustellen, welche Pflichten eingehalten werden müssen.

KI-Systeme, von denen ein unannehmbares Risiko ausgeht, dürfen von vorneherein nicht eingesetzt werden. Für den Einsatz von KI-Systemen mit hohem Risiko sieht der AI Act umfassende Pflichten sowohl für Anbieter als auch für Betreiber vor. Bei der Verwendung von KI-Systemen, von denen lediglich ein niedriges Risiko ausgeht, sind insbesondere Transparenzpflichten zu berücksichtigen (bestimmte KI-Systeme, die mit Menschen agieren oder Inhalte erzeugen). Besondere Anforderungen gelten zusätzlich für KI-Modelle mit allgemeinem Verwendungszweck (GPAI).

Wann treten die Bestimmungen in Geltung?

Die Vorschriften des AI Act treten gestaffelt in Geltung. Nähere Infos dazu finden Sie unter Timeline AI Act.

Wer haftet für Verstöße gegen den AI Act?

Sowohl Anbieter als auch Betreiber können für die Missachtung von Pflichten und Verboten des AI Act verantwortlich gemacht werden. Um Haftungsrisiken zu minimieren und hohe Geldbußen zu vermeiden, sollten frühzeitig geeignete Maßnahmen zur Sicherstellung der erforderlichen AI-Act-Compliance etabliert werden.

ANSPRECHPARTNER:INNEN

Karin Bruchbacher
KPMG Law

Lena Maria Urban
KPMG Law

Michael Ginner
KPMG

Ist mein Unternehmen vom AI Act betroffen?

Diese vier Schritte helfen bei der Einschätzung:

Schritt 1: Wo wird KI im Unternehmen entwickelt und eingesetzt?

Unternehmen, die KI entwickeln oder nutzen, sollten zeitnah eine Bestandsaufnahme aller KI-Systeme und ggf. KI-Modelle mit allgemeinem Verwendungszweck durchführen, um zu ermitteln, welche dieser Systeme dem AI Act unterliegen und welche Rolle dem Unternehmen in Bezug auf diese Systeme zuzuschreiben ist.

Schritt 2: Welcher Risikostufe ist das System zuzuordnen?

Die KI-Systeme müssen in weiterer Folge hinsichtlich ihres Risikos bewertet werden. Anschließend können die konkreten Pflichten abgeleitet werden. Mehr dazu unter AI Act – EU Mitgliedstaaten einigen sich auf Regelungen zu KI.

Schritt 3: Welche Anforderungen sieht der AI Act für mein Unternehmen vor?

In Abhängigkeit von den in Verwendung oder Entwicklung befindlichen KI-Systemen und deren Risikoeinstufung können die konkreten Pflichten für die Beteiligten festgelegt werden. Jeder Anwendungsfall ist gesondert zu beurteilen.

Neben der zweckbezogenen Beurteilung einzelner Anwendungsfälle ist sicherzustellen, dass die mit dem Betrieb und der Nutzung von KI betrauten Personen über ausreichende Kompetenz zum Umgang mit KI verfügen.

Zusätzlich zu den Anforderungen des AI Act ist auch auf Anforderungen aus anderen Rechtsgebieten Bedacht zu nehmen (Datenschutz, IP-Recht, Arbeitsrecht etc.).

Schritt 4: Wie stelle ich einen sicheren, effizienten und rechtmäßigen Umgang mit KI sicher?

Um einen sicheren und rechtmäßigen Umgang mit KI sicherzustellen, gilt es eine Strategie zu entwickeln, wie die Chancen von Künstlicher Intelligenz optimal genutzt werden sollen.

Zudem sollten im Rahmen einer KI-Governance rechtzeitig interne Prozesse und Verantwortlichkeiten festgelegt werden, um einen für das Unternehmen möglichst nutzbringenden und zugleich rechtskonformen Umgang mit KI sicherzustellen.

Wie wir Sie unterstützen können

Die Anforderungen des AI Act müssen erfüllt werden, um einen sicheren Umgang mit KI zu schaffen und die Chancen des Einsatzes Künstlicher Intelligenz im Unternehmen optimal zu nutzen. Bei mangelnder Compliance drohen hohe Geldbußen. Wir unterstützen Sie bei der Bestandsaufnahme und Risikobewertung der eingesetzten KI-Systeme sowie bei der Definition einer KI-Strategie und der Implementierung von KI-Governance.

Wir bieten als Full-Service Kanzlei eine professionelle Rechtsberatung in sämtlichen Bereichen des Wirtschaftsrechts.