Home

Intern

Deutsch|English

Themenspecial: Employer of Record – ein Länderüberblick zu Chancen und Grenzen » |

Weltweit

Anscheinend ist in Ihrem Browser JavaScript nicht aktiviert. Aktivieren Sie bitte JavaScript, und versuchen Sie es erneut.

EU-Parlament stimmt für das erste KI-Gesetz ab

veröffentlicht am 26. März 2024 | Lesedauer ca. 4 Minuten

Das erste staatliche Gesetz für Künstliche Intelligenz (KI) ist unmittelbar in Sicht: Am 13. März 2024 hat das EU-Parlament in Straßburg für den Artificial Intelligence Act (AI Act) abgestimmt. Der AI Act sieht eine Regulierung von KI in Europa vor und kann nun in Kraft treten. Wir geben einen ersten Überblick über die Adressaten und den Regelungsgehalt des AI Acts und zeigen mögliche Herausforderungen und Chancen für Unternehmen auf.

Wesentlicher Inhalt des AI Acts »
Herausforderungen und Chancen beim Einsatz von KI in Ihrem Unternehmen »
Und wie geht es weiter? »

Wesentlicher Inhalt des AI Acts

Der von der EU veröffentlichte Gesetzesentwurf über die zukünftige Nutzung von künstlicher Intelligenz enthält konkrete Vorschläge zur Regelung des Umgangs mit KI. Zweck des AI Acts ist die Verhütung von Schäden – nicht zu verwechseln mit der KI-Haftungsrichtlinie, die die Entschädigung im Schadensfalle regelt. Durch den AI Act sollen ethische Standards festgelegt werden und sichergestellt werden, dass KI-Systeme vertrauenswürdig und sicher sind.

Die Adressaten

Die relevantesten Adressaten des Gesetzes sind:

Anbieter („Provider“)	Diejenigen, die in der EU KI-Systeme in Verkehr bringen oder in Betrieb nehmen, unabhängig davon, ob sie in der Union oder in einem Drittland niedergelassen sind.
Bereitsteller („Deployer“)	Diejenigen, die ein KI-System unter ihrer Aufsicht einsetzen, es sei denn, das KI-System wird im Rahmen einer persönlichen, nichtberuflichen Tätigkeit verwendet.
Produkthersteller	Diejenigen, die ein KI-System zusammen mit ihrem Produkt und unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr bringen oder in Betrieb nehmen.

Daneben gilt der AI Act auch für Importeure und Händler von KI-Systemen sowie für Bevollmächtigte von Dienstleistungserbringern, die nicht in der Union niedergelassen sind und Betroffene, die in der Union ansässig sind.

Risikoabstufung

Die Vorgaben des AI Acts richten sich danach, ob ein sog. Risikosystem vorliegt. Dabei wird folgende Abstufung vorgenommen:

Verbotene KI-Systeme (Art. 5 AI Act)	Einige KI-Praktiken werden durch den AI-Act vollständig verboten. Hierzu gehören z.B. KI-Anwendungen mit dem Ziel, das Verhalten von Personen zu beeinflussen, schutzbedürftige Gruppen zu beeinflussen oder auszunutzen sowie KI-Systeme zur sozialen Bewertung und zur Emotionserkennung. Verstöße gegen diese Verbote können mit Geldbußen bis zu 35 Mio. Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes bestraft werden.
Hoch-Risiko-KI-Systeme (Art. 6, 7 AI Act)	Ob ein Hoch-Risiko-KI-System vorliegt und was bei solchen Systemen zu beachten ist, richtet sich nach den Art. 6-51 AI Act sowie Annex II und III des AI Acts. Dazu gehören beispielsweise KI-Systeme mit Bezug zu kritischen Infrastrukturen, KI-Systeme die biometrische Daten nutzen und KI-Systeme, die zur Strafverfolgung eingesetzt werden.
Bestimmte KI-Systeme (Art. 52 AI Act)	Bei bestimmten KI-Systemen sieht der AI Act weitere Transparenzpflichten vor. Hierzu gehören insbesondere auch Kennzeichnungspflichten in Bezug auf Chatbots und Deep Fakes.
Allzweck („GPAI“)-AI (Art. 52a AI Act)	Ein GPAI-System ist ein KI-System, das auf einem GPAI-Modell basiert, das für eine Vielzahl von Zwecken eingesetzt werden kann, sowohl für die direkte Nutzung als auch für die Integration in andere KI-Systeme. GPAI-Systeme können auch als KI-Systeme mit hohem Risiko genutzt oder in diese integriert werden. Bei GPAI-Systemen für allgemeine Zwecke sind die Regeln der Art. 52c, 52ca AI Act, bei GPAI-Systemen mit systemischen Risiko die Art. 52d, 52e AI Act zu beachten.
Sonstige AI-Systeme	Für alle anderen AI-Systeme gibt es keine Vorgaben nach dem AI-Act. Es wird aber empfohlen, dass auch diese freiwillige Verhaltenskodizes (Art. 69 AI Act) zur Anwendung einiger oder aller Regeln, die für Hoch-Risiko-Systeme gelten, aufstellen.

Unternehmen sollten vor dem Einsatz von KI unbedingt prüfen, ob das von ihnen genutzte KI-System unter eines der o.g. Risikostufen fällt. Die Einordnung kann insbesondere bei der Frage, ob ein Hoch-Risiko-System vorliegt, schwierig sein. Gerne unterstützen wir Sie hierbei.

Herausforderungen und Chancen beim Einsatz von KI in Ihrem Unternehmen

Der Einsatz von künstlicher Intelligenz in Unternehmen bringt sowohl Herausforderungen als auch Chancen mit sich. KI kann den Büroalltag und das Management durch Automatisierung nicht nur erleichtern sondern auch qualitativ erheblich verbessern: KI kann etwa Vertrieb, Marketing, Kundenservice und die interne Organisation und Kommunikation bewerten und verbessern sowie Arbeits- und Produktentwicklungsprozesse optimieren.

Durch die Übernahme von Aufgaben durch KI-Systeme steigert sich die Arbeitsqualität und Produktivität der Beschäftigten, die sich auf Aufgaben konzentrieren können, die KI-Systeme nicht übernehmen können. Dabei sollte man keine Angst vor der Abschaffung des eigenen Jobs haben – vielmehr sollte die Neugier auf mögliche Veränderungen des Arbeitsplatzes im Vordergrund stehen. KI bildet Raum für neue Jobs und neue Geschäftsmodelle.

Zu den Herausforderungen beim Einsatz von KI in Unternehmen gehören insbesondere die Einhaltung von ethischen Standards und regulatorischen Bestimmungen wie dem AI Act, der KI-Haftungsrichtlinie, der Produkthaftungsrichtlinie, der DSGVO, dem Urheberrechtsgesetz, dem Gesetz gegen den unlauteren Wettbewerb u.v.m.

Gerade aufgrund der Vielzahl der Rechtsakte und der bestehenden Unklarheiten bei deren Anwendung auf die Nutzung von KI ist frühzeitig Aufmerksamkeit und Vorsicht geboten. Für die Nutzung von KI in Ihrem Unternehmen sollten die MitarbeiterInnen geschult werden und es sollte eine KI-Nutzungsrichtlinie („KI-Policy“) aufgestellt werden. Hierzu sollten Sie sich juristische Unterstützung holen. Auch ein KI-Compliance-Check sollte durchgeführt werden. Sprechen Sie uns für die Erstellung Ihrer KI-Policy und die Durchführung eines Compliance-Checks gerne an.

Auch wenn Ihr Unternehmen für die Nutzung von KI gerüstet ist und Ihre MitarbeiterInnen fit im Umgang mit KI sind, sollten Sie stets anpassungsfähig bleiben und sich weiterbilden. Die Entwicklung von KI steckt noch in den Kinderschuhen und hat – insbesondere auch auf juristischer Ebene – noch einen langen, vielversprechenden Weg vor sich.

Und wie geht es weiter?

Der AI Act tritt am 20. Tag nach Veröffentlichung im EU-Amtsblatt in Kraft. Er gilt als EU-Verordnung dann unmittelbar und in vollem Umfang in allen Mitgliedsländern der EU. Die meisten Regeln finden nach 24 Monaten Anwendungen, einige auch nach sechs, zwölf oder 36 Monaten.