Hauptinhaltsbereich

AI-Act

„KI-Gesetz“ – wichtiger juristischer Meilenstein

Das Europäische Parlament hat am 13. März 2024 mit großer Mehrheit ein „Gesetz über künstliche Intelligenz“ („KI-Gesetz“) beschlossen. Es ist weltweit die erste umfassende Regelung zu diesem Thema und wird auch die Arbeitswelt beeinflussen.

Prof. Dr. Peter Wedde
Prof. Dr. Peter Wedde
23.05.2024

Auch künstliche Intelligenz muss nun Regeln folgen

Anwendungen aus dem Bereich der „Künstlichen Intelligenz“ („KI“) breiten sich mit rasanter Geschwindigkeit aus. Sie ermöglichen etwa die sprachbasierte Steuerung von Geräten, Prozessen oder Fahrzeugen, einfache Übersetzungen in verschiedene Sprachen, die schnelle Analyse von Röntgenaufnahmen oder die Vorhersage des menschlichen Verhaltens. In der Arbeitswelt kann spezielle KI-Software Beschäftigte bei ihren Arbeitsaufgaben unterstützen, aber auch Verhaltenskontrollen oder Emotionsanalysen durchführen. Mit KI-Anwendungen wie ChatGPT können ohne thematische Vorkenntnisse Artikel erstellt oder eigene Texte optimiert werden.

Für all diese Möglichkeiten hat das neue KI-Gesetz eine herausragende Bedeutung. An den dort festgelegten normativen Vorgaben müssen sich alle KI-Anwendungen orientieren, die in Europa angeboten oder angewendet werden.

Risikobasierter Ansatz

Das KI-Gesetz soll die Einführung menschenzentrierter und vertrauenswürdiger Systeme aus dem Bereich der „Künstlichen Intelligenz“ („KI-Systeme“) in der EU fördern und Innovationen auf diesem Feld unterstützen. Gleichzeitig soll es ein hohes Schutzniveau schaffen und Eingriffe in Grundrechte, Gesundheit oder Sicherheit der Bürgerinnen und Bürger verhindern.

Um diese gegensätzlichen Ziele in Einklang zu bringen, liegt dem KI-Gesetz ein risikobasierter Ansatz zugrunde: Für KI-Systeme, mit denen sich keine oder nur geringe Risiken für Bürgerinnen und Bürger verbinden, gibt es nur wenige Regularien vor, etwa Transparenzvorgaben, und macht so deren Einführung und Anwendung einfach. Für sogenannte Hochrisiko-KI-Systeme hingegen gibt es im KI-Gesetz umfassende Vorgaben und Regulierungen. Im Bereich der privaten oder kommerziellen Nutzenden verbietet das KI-Gesetz das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen, die als gefährlich qualifiziert werden.

Hochrisiko-KI-Systeme dürfen in der EU nur eingeführt oder verwendet werden, wenn sie die im KI-Gesetz benannten spezifischen Anforderungen erfüllen. Welche Systeme zu dieser Kategorie gehören, gibt die sprachlich und fachlich nur schwer verständliche Regelung in Art. 6 KI-Gesetz vor. Neben den in Art. 6 Abs. 1 KI-Gesetz genannten Sicherheitskomponenten gehören hierzu die in Anhang III zum KI-Gesetz aufgelisteten Anwendungen. Für die Arbeitswelt bedeutsam sind die im Anhang in Ziff. 4 unter der Überschrift „Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit“ aufgeführten Hochrisiko-KI-Systeme zur Bewerberauswahl, zur Beeinflussung von Beförderungen oder Kündigungen sowie zur Aufgabenzuweisung aufgrund persönlicher Merkmale.

Das KI-Gesetz schließt den Einsatz von Hochrisiko-KI-Systemen in der Arbeitswelt nicht aus. Aber wenn sie etwa im Bereich der Bewerberauswahl oder des Personalmanagements zur Anwendung kommen, müssen sie die in Kapitel III des KI-Gesetzes vorgegebenen Voraussetzungen erfüllen. Hierzu gehören insbesondere die Einrichtung eines Risikomanagements (Art. 9), die Etablierung einer Daten-Governance (Art. 10) und die Erstellung einer technischen Dokumentation (Art. 11). Letztere ist besonders bedeutsam bei der Transparenz von Hochrisiko-KI-Systemen: Mit ihr müssen in klarer und verständlicher Form die nötigen Informationen zur Verfügung gestellt werden, mit denen beurteilt werden kann, ob ein Hochrisiko-KI-System die einschlägigen gesetzlichen Anforderungen erfüllt. Wichtig ist weiterhin die durch Art. 14 KI-Gesetz festgeschriebene Verpflichtung, Hochrisiko-KI-Systeme so zu konzipieren und zu entwickeln, dass natürliche Personen sie während ihrer Verwendung wirksam beaufsichtigen können. Diese Verpflichtung trifft neben den Entwicklern auch die Anwendenden derartiger KI-Systeme und damit in der Arbeitswelt die jeweiligen Arbeitgeber, die über den Einsatz entscheiden. Die Überwachung der Einhaltung dieser Vorgaben obliegt neben Arbeitgebern auch Betriebs- und Personalräten.

Um den Schutz der Bürgerinnen und Bürger zu gewährleisten, sind im KI-Bereich nach Art. 5 KI-Gesetz bestimmte Praktiken verboten. Das Verbot gilt beispielsweise für KI-Systeme, die auf die unterschwellige Beeinflussung des Verhaltens von Personen zielen, die individuelle Entscheidungsfindung erheblich beeinflussen oder Bürgerinnen oder Bürgern erhebliche Schäden zufügen können. Damit sind beispielsweise KI-Anwendungen unzulässig, die bei Onlineberatungen Menschen mit akustischen oder optischen Signalen unterhalb der Wahrnehmungsschwelle zu Vertragsabschlüssen verleiten sollen. Auch nicht zum Einsatz kommen dürfen KI-Systeme, die ein „Social Scoring“ ermöglichen oder die am Arbeitsplatz und in Bildungseinrichtungen zur Emotionserkennung in der Lage sind.

Die Wirksamkeit des durch Art. 5 KI-Gesetz begründeten Verbots bestimmter KI-Systeme wird durch eine Reihe von Ausnahmen eingeschränkt: So gibt es Ausnahmen vom Verbot des Einsatzes biometrischer Echtzeit-Fernidentifikationssysteme in öffentlich zugänglichen Räumen für staatliche Strafermittlungsbehörden wie Polizei oder Staatsanwaltschaften, wenn eine Verwendung für die Suche nach Opfern von Entführungen, Menschenhandel oder sexueller Ausbeutung sowie zur Suche nach vermissten Personen unbedingt erforderlich ist. Gleiches gilt, wenn es um den Schutz des Lebens und der körperlichen Unversehrtheit von Personen, um die Abwendung von Terrorgefahren oder die Aufspürung von Personen geht, die im Verdacht stehen, eine der in Anhang II des KI-Gesetzes genannten Straftaten begangen zu haben (etwa Menschenhandel, sexuelle Ausbeutung von Kindern, Waffenhandel, vorsätzliche Tötung, Organhandel, Entführung, Freiheitsberaubung oder Geiselnahme).

Abweichungen von dem nach Art. 5 KI-Gesetz bestehenden Verbot unterliegen zwar strengen Voraussetzungen, etwa einer Einzelfallgenehmigung durch die in den Mitgliedstaaten zuständigen Justizbehörden, sie eröffnen aber die Möglichkeit, die hierfür notwendigen KI-Überwachungssysteme im öffentlichen Raum einzuführen. Doch auch eine ausnahmsweise zulässige Verarbeitung dieser personenbezogenen Daten muss sich im Rahmen des allgemeinen Datenschutzrechts sowie anderer einschlägiger Gesetze bewegen.

In der Arbeitswelt kommen die vorstehenden Ausnahmen vom Verbot der in Art. 5 KI-Gesetz benannten Praktiken im KI-Bereich nicht einschlägig. Das bedeutet, dass etwa der Einsatz von KI-Systemen zur Emotionserkennung in Callcentern nach Inkrafttreten des KI-Gesetzes unzulässig ist.

Wirksamkeit

Das KI-Gesetz soll die unterschiedlichen und teilweise gegensätzlichen Interessen der Anbieter und Betreiber von KI-Anwendungen mit den Rechten der von Verarbeitungen betroffenen Bürgerinnen und Bürger in Einklang bringen. Dass sich dieses Ziel immer erreichen lässt, scheint aufgrund der Komplexität des insgesamt rund 460 Seiten langen Gesamttextes des KI-Gesetzes schon auf der formalen Ebene nicht sicher. Inhaltlich lassen sich angesichts zahlreicher unbestimmter und relativierender Rechtsbegriffe die Auswirkungen des KI-Gesetzes nur schwer abschätzen, etwa bezogen auf die Frage, wann das nach Art. 6 Abs. 3 KI-Gesetz für die Qualifikation einer KI-Anwendung als Hochrisiko-System notwendige „erhebliche Risiko“ gegeben ist. Derartige Formulierungen deuten auf ein Ringen nach tragfähigen Formulierungen im Gesetzgebungsverfahren hin, sind aber Steilvorlage für juristische Auslegungsstreitigkeiten.
Die Skepsis bezüglich der praktischen Wirksamkeitsrahmen ändert in Bezug auf die Arbeitswelt jedoch nichts daran, dass das KI-Gesetz bezogen auf Anwendungsmöglichkeiten wie Emotionserkennung verhindert, dass Beschäftigte künftig von KI-Systemen umfassend „durchleuchtet“ werden dürfen. Um dieses Ziel zu erreichen, kommt es entscheidend darauf an, ob und wie es gelingt, die betriebliche Umsetzung des KI-Gesetzes durch Regelungen in Betriebs- oder Dienstvereinbarungen und in Tarifverträgen zu flankieren. Darüber hinaus ist der Gesetzgeber aufgerufen, die den Mitgliedstaaten durch eine Öffnungsklausel eingeräumte Möglichkeit nationaler Regelungen für die betriebliche Nutzung von KI-Anwendungen durchzusetzen.

Mitbestimmungspraxis 59

KI und algorithmische Systeme verstehen, bewerten und begrenzen

So gelingt Mitbestimmung bei KI: Praxisbeispiel und Impulse

von Jonas Grasy, Bettina Seibold und Ernesto Klengel

Mitbestimmungspraxis 59, Düsseldorf 2024

Mitwirkung und Mitbestimmung

Die Einführung von KI-Anwendungen stellt die betrieblichen Interessenvertretungen vor neue Herausforderungen. Für deren Bewältigung steht beispielsweise Betriebsräten nur das kollektivrechtliche Instrumentarium des Betriebsverfassungsgesetzes aus dem Jahr 1972 zur Verfügung. Die Regelungen des BetrVG 1972 und ihre Ausprägung durch die Rechtsprechung ermöglichten ihnen schon bisher die kollektivrechtliche Mitwirkung an der Ausgestaltung von IT-Anwendungen. Zu Einzelthemen wurden ihre Handlungsmöglichkeiten durch die im Jahr 2021 eingeführten KI-spezifischen Regelungen in den §§ 80 Abs. 3, 90 Abs. 1 und 95 Abs. 2a BetrVG verbessert.

Wegen ihrer umfassenden Informationsrechte (etwa nach § 80 Abs. 2 BetrVG), die auch bezogen auf geplante Einführungen oder Änderungen von KI-Systemen uneingeschränkt bestehen, haben Betriebsräte ein starkes Mitbestimmungsrecht bezüglich technisch möglicher Verhaltens- oder Leistungskontrollen. Auch der Mitbestimmung unterliegen KI-spezifische Vorgaben von Arbeitgebern zur Ordnung im Betrieb und zum Verhalten der Beschäftigten im Umgang mit KI-Anwendungen sowie einschlägige Maßnahmen zum Arbeits- und Gesundheitsschutz. Da die Einführung von KI-Anwendungen wegen der damit verbundenen grundlegenden Änderungen der Betriebsorganisation oder der Betriebsanlagen und der Einführung grundlegend neuer Arbeitsmethoden und Fertigungsverfahren als Betriebsänderung nach § 111 BetrVG zu qualifizieren ist, kommt insbesondere der Abschluss eines Interessenausgleichs in Betracht.

Auch wenn KI-Anwendungen für betriebliche Interessenvertretungen technisches Neuland sind, können sie ihre kollektivrechtlichen Möglichkeiten nach dem BetrVG wie bisher nutzen, um die sich für Beschäftigte bietenden Chancen zu unterstützen und drohende Nachteile zu verhindern oder zu minimieren.

DGB-Entwurf für ein modernes Betriebsverfassungsgesetz

Allgaier, Antonius/Bolte, Michael/Buschmann, Rudolf/Däubler, Wolfgang/Deinert, Olaf/zu Dohna, Verena/Eder, Isabel/Heilmann, Micha/Jerchel, Kerstin/Klapp, Micha/Klebe, Thomas/ Wenckebach, Johanna (2022):

Betriebliche Mitbestimmung für das 21. Jahrhundert. Gesetzentwurf für ein modernes Betriebsverfassungsgesetz.

In: Arbeit und Recht. Sonderausgabe April. 70. Jahrgang

Weiterführende Informationen