Wissen kompakt
Der mitbestimmte Algorithmus
Darum geht's
Was ist bekannt und was ist neu an der sogenannten „künstlichen Intelligenz“? Inwieweit muss Mitbestimmung hinzulernen? Laut unserem Autor benötigt „der mitbestimmte Algorithmus“ ergänzende Kompetenzen und Handlungsbausteine in der Mitbestimmung.
Neue Anforderungen an die Mitbestimmung
Da seitens der Technik- und Gesellschaftswissenschaften keine gemeinsame Definition der sogenannten "künstlichen Intelligenz" (KI) vorliegt, bestehen hunderte von Beschreibungen aus Interessengruppen, Technikverbänden, Unternehmen, Hochschulen, Forschungseinrichtungen, Parteien und parlamentarischen Beratungsgremien. Es bedarf der eigenständigen Orientierung mit Hilfe von vier Prüfpunkten:
Sind Betriebs- und Personalräte mit der Einführung sogenannter "künstlicher Intelligenz" konfrontiert, lohnt es sich zunächst zu prüfen: Handelt es sich tatsächlich um neue algorithmische Steuerungs- und Entscheidungssysteme? Oder wird unter dem Deckmantel der KI nur längst verfügbare Software verspätet eingeführt? Die Erfahrungen des Forums Soziale Technikgestaltung (FST) und des Projektes PROTIS-BIT zeigen: Vielfach erfolgt unter dem Begriff KI nur eine „nachholende Digitalisierung“ (vgl. Schröter 2019).
Bei neuartigen Softwaresystemen stellt sich die Frage: Handelt es sich um Software, die den Menschen unterstützt und ihm die Entscheidungen überlässt? Oder steht die Nutzung einer Software bevor, die selbst Entscheidungen trifft? Geht es um Assistenztechnik oder um Technik, der eine Vollmacht übertragen wurde, also um Delegationstechnik (s. auch „Von der Unterstützungstechnik zur Vollmachtstechnik“)?
Beim Umgang mit Software, die über eine Handlungsvollmacht verfügt (Delegationstechnik), ist zu unterscheiden: Verändert sich das algorithmische Steuerungs- und Entscheidungssystem durch das Anwenden autonom? Oder bleibt es in Funktion und Nutzung unverändert? Komplexe Entscheidungssysteme können durch andauernde Datenaufnahme und -verarbeitung ihre Zielsetzung (Prozesssteuerungen) selbst umbauen (s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“).
Werden komplexe algorithmische Entscheidungssysteme eingeführt, muss die Mitbestimmungspraxis erweitert und müssen die Mitbestimmungsprozesse angepasst werden. Das FST-Projekt „Der mitbestimmte Algorithmus“ (s. auch Abschnitt 7 und 8) und das Projekt PROTIS-BIT empfehlen zusätzliche Handlungsschritte (s. auch Abschnitt 3 und 5) wie den moderierten Spezifikationsdialog (s. auch Abschnitt 9 und 10), eine Umkehr der Reihenfolge einzelner Schritte sowie den Erwerb zusätzlicher Gestaltungskompetenzen (s. auch Abschnitt 11 und 12). Vor allem aber wird nachdrücklich empfohlen, den Gestaltungvorgang innerhalb der Beschäftigtenvertretung durch fünf hervorgehobene Einstiegsleitfragen (s. auch Abschnitt 6) zu beginnen.
Wachsende Bedeutung für Beschäftigtenvertretungen
Warum sollten sich Betriebsrats- und Personalratsgremien damit befassen? Es ist davon auszugehen, dass komplexe algorithmische Entscheidungssysteme die innerbetriebliche und zwischenbetriebliche Steuerung von Wertschöpfungsprozessen übernehmen. Mitbestimmtes Gestalten kann dazu beitragen, Beschäftigung zu sichern und am Standort zu halten.
Kernaufgabe des Personennetzwerkes Forum Soziale Technikgestaltung (FST) beim DGB Baden-Württemberg ist es, Gestaltungskompetenz aufzubauen und zu stärken: seitens Gewerkschaften, Betriebs- und Personalratsmitgliedern, Vertrauensleuten und Beschäftigten. Seit über 30 Jahren begleitet und unterstützt das offene und ehrenamtliche Netzwerk die Handelnden in den Arbeitswelten der Industrie, der privaten und öffentlichen Dienstleistungen, der großen und kleinen Betriebe, des Handwerks und der Kommunen sowie auch Selbstständige.
Das Projekt „PROTIS-BIT – PROaktive Transferierbare InnovationsStrategien von Betriebsräten zur Beschäftigungssicherung auf der Basis ,Intelligenter‘ Technologien – Empirische Studie zu Entwicklungspotenzialen und Gestaltungskompetenzen von Betriebsräten“ (2021–2023) wurde vom Institut für Mitbestimmung und Unternehmensführung der Hans-Böckler-Stiftung begleitet. Projektpartner waren die IG Metall Heidelberg, das Forum Soziale Technikgestaltung (FST) und das Betriebsrätenetzwerk ZIMT („Zukunftsvisionen über soziale Innovationen in den Arbeitswelten von Menschenhand mit neuen Technologien“). Sie trugen Erfahrungen und Sachwissen zu neuen digitalen Anwendungen zusammen und werteten sie aus Sicht von Betriebs- und Personalräten handlungsorientiert aus. In mehreren Workshops berichteten Kolleginnen und Kollegen aus Beschäftigtenvertretungen der Branchen Automobil- und Maschinenbau, IT, Dienstleistung und Bildung über betriebliche Einführungen digitaler Lösungen. Ihre Erfahrungen wurden mit dem Kenntnisstand des Forums Soziale Technikgestaltung abgeglichen.
Großer Dank gilt den Kolleginnen und Kollegen aus der „Virtuellen Arbeitsgruppe“ für ihre intensive Mitarbeit. Ihr Engagement hat zum Erfolg des Projektes beigetragen.
Warum ist in diesem Themenmodul von der sogenannten „künstlichen Intelligenz“ die Rede?
Als sich in den neunziger Jahren das Phänomen „Teleworking“ ausbreitete, übersetzten manche Medien das englische Wort mit „Heimarbeit“. Gegen diesen Fehler mussten viele Mitbestimmungsakteure jahrelang heftig argumentieren, denn „Teleworking“ meinte das wöchentlich-zeitweise Arbeiten zuhause („alternierende Telearbeit“) im Rahmen eines regulären Beschäftigungsverhältnisses, nicht die ständige Heimarbeit einer selbstständigen Person ohne festes Beschäftigungsverhältnis. Etwas Vergleichbares begegnet uns in der öffentlichen Debatte über die sogenannte „künstliche Intelligenz“. Der amerikanisch-englische Begriff „Artificial Intelligence“ (AI) wird in unbedachter Weise mit „künstliche Intelligenz“ übersetzt, obwohl AI – aus der Nachrichtentechnik kommend – auf Deutsch eigentlich dem Sachverhalt „künstliche Nachbildung“ deutlich gerechter wird. „Nachbildung“ bedeutet jedoch etwas anderes als das europäische Wort „Intelligenz“. So verwundert es auch nicht, dass es im Moment zahlreiche, jeweils interessengeleitete Definitionen für das KI-Wort gibt, jedoch keine abgestimmte, interdisziplinär zwischen Gesellschaftswissenschaften, Informatik und Technikwissenschaften vereinbarte Beschreibung vorliegt.
Von der Unterstützungstechnik zur Vollmachtstechnik
Im Prozess der Digitalisierung der letzten 30 Jahre entstand neben der digitalen Unterstützungstechnik (Assistenztechnik) auch eine neue Vollmachtstechnik (Delegationstechnik). Was bedeutet das? Worin unterscheiden sie sich?
Mit der Einführung digitaler Techniken in den 80er und 90er Jahren des 20. Jahrhunderts entstand ein Grundverständnis digitaler Werkzeuge: Software und Hardware sollen dazu dienen, die Tätigkeiten des arbeitenden Menschen zu unterstützen. Elektronische Hilfsmittel mögen dazu beitragen, Arbeit effektiver und effizienter zu machen. Ein anderes Wort für Unterstützung lautet Assistenz. Wir sprechen deshalb bei der Nutzung digitaler Hilfsinstrumente von Assistenztechnik.
In der praktischen Anwendung bedeutet dies: Der Mensch entscheidet über den Gebrauch, auch „Handlungsträgerschaft Mensch“ genannt. Dieses Verständnis galt gerade nach der Öffnung des Internets für private, privatwirtschaftliche und öffentliche Dienste Anfang der 90er Jahre.
Nach der Jahrtausendwende gelang es Informatik-Teams, eine Handlungsvollmacht auf eine Software zu übertragen. Ein Softwaresystem sollte die Möglichkeit erhalten, einen zusammenhängenden Arbeitsvorgang selbstständig auszuführen. Die Übertragung einer solchen Vollmacht auf Software lässt sich als Delegation bezeichnen. Neben die Assistenztechnik wurde die Vollmachtstechnik gestellt (siehe Screencast).
Das Forum Soziale Technikgestaltung schlägt den Begriff Delegationstechnik als neue Qualität des Digitalisierungsprozesses vor. Die sich seit rund zwei Jahrzehnten entfaltende Delegationstechnik (s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“) will eine Handlungsträgerschaft Softwaresystem erreichen. Das heißt: Systeme treffen Entscheidungen. Seit eineinhalb Jahrzehnten streiten Menschen aus der Rechtspflege darüber, ob solche Systeme gerichtsfeste Subjekte sein können.
Die Delegationstechnik (s. auch „Neue Wege: Delegationstechnik gestalten“) erfuhr unterschiedliche Benennungen. Zu Beginn des ersten Jahrzehnts des neuen Jahrtausends tauchten die Namen Softwareagenten oder Mobile Agentenplattform auf. Diese kamen dann in den Cyber-physischen Systemen (CPS) der Industrie 4.0 unter. Heute spricht man – vermutlich ebenso vorübergehend – von der sogenannten "künstlichen Intelligenz".
Von der betrieblichen zur überbetrieblichen Wertschöpfungskette
Warum genügt es nicht, bei der Einführung komplexer Delegationstechnik nur auf innerbetriebliche Abläufe zu schauen? Warum müssen wir lernen, Mitbestimmung entlang von über- und zwischenbetrieblichen Prozessen zu denken? Die sogenannte "künstliche Intelligenz" beginnt, Zuliefererketten und Auftragsabwicklungen zwischen Standorten zu steuern.
In den zurückliegenden drei Jahrzehnten nahmen Betriebs- und Personalratsgremien die Einführungen digitaler Anwendungen vor allem als innerbetrieblichen bzw. verwaltungsinternen Vorgang wahr. Die Nutzung der Software und Hardware, die Anbindung der Arbeitsorte an das Netz sowie an Cloud-Strukturen wurden in der Regel unter betriebszentrierter Perspektive betrachtet. Die Mitbestimmungspraxis konzentrierte sich in Produktion, Dienstleistung und Verwaltung auf Arbeitsvorgänge im Inneren. Auch die Einbindung von Kundinnen und Kunden sowie von Bürgerinnen und Bürgern verlief unter dieser Prämisse.
Die Einführung komplexer Delegationstechnik (s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“) und sich selbst verändernder Softwaresysteme fordert die bisherige Mitbestimmung heraus. Aktuelle Erfahrungen zeigen: Die neuen Potenziale algorithmischer Steuerungs- und Entscheidungssysteme durchbrechen sinnbildlich die digitalen Außenwände der Fertigungshallen und Verwaltungsräume. Es ist davon auszugehen, dass komplexe Delegationstechnik ihre größte Wirkung nicht in der innerbetrieblichen (= vertikalen) Wertschöpfungskette erreichen wird, sondern in der Steuerung der Wertschöpfung von außen.
Die gewerkschaftliche Strategie steht vor der Herausforderung, die bisherige betriebsbezogene Mitbestimmung zu erweitern, indem sie horizontale Wertschöpfungsketten mitdenkt und bei der betrieblichen Gestaltung berücksichtigt (s. auch „Neue Wege: Delegationstechnik gestalten“). Ein solches Prozessdenken führt zu dem Anspruch, Mitbestimmung noch mehr über- und zwischenbetrieblich anzulegen, um komplexe Delegationstechnik sozial auszurichten (s. auch „Algorithmische Systeme gestalten: Fünf Schlüsselfragen zum Einstieg“).
Delegationstechnik: Ein sich stets änderndes Werkzeug
Warum müssen wir lernen, in der Delegationstechnik verschiedene Arten von Software zu unterscheiden? Was bedeutet es, ein Werkzeug zu nutzen, das sich durch Anwendung ständig verändert?
Unsere bisherigen Erfahrungen beim Nutzen digitaler Systeme, Plattformen und Infrastrukturen basieren darauf, dass sich diese Werkzeuge durch ihre Anwendung nicht verändern. Eine Excel-Tabelle bleibt auch nach tausendfachem Öffnen und Schließen eine Excel-Tabelle: Man kann neue Daten einfügen und andere herauslöschen, doch die softwareimmanenten Funktionen ändern bzw. korrigieren sich nicht. Wer einmal gelernt hat, mit dieser Software umzugehen, verfügt über diese Qualifikation langfristig. Diese Art von Software erfährt zwar Updates und Upgrades, aber keine innere Veränderung ihrer Regeln.
Mit dem Gebrauch komplexer Delegationssysteme – sogenannter künstlicher Intelligenz – verschieben sich die technischen Potenziale und somit auch die Erfahrungen der damit arbeitenden Menschen. Komplexe Delegationssysteme zeichnen sich dadurch aus, dass sie ununterbrochen neue Datenmengen aufnehmen, verarbeiten und zur Grundlage ihrer folgenden Datenaufnahme und -verarbeitung machen – sinnbildlich vergleichbar mit einer Maurerin, die eigenhändig Steine zu einem Stockwerk aufbaut, sich dann auf das Stockwerk stellt, um die nächste Etage zu schaffen. Durch stetig hinzugefügte Steine verändert sie den Bau. Der Keller muss statisch nach anderen Regeln errichtet werden als das dritte Obergeschoss. Die Prozesskenntnisse der Maurerin müssen sich den Stockwerken anpassen.
Angesichts der Erfahrungen des Forums Soziale Technikgestaltung und der Bewertungen im Projekt PROTIS-BIT empfiehlt sich folgende Einteilung der Delegationssysteme:
- Softwaretyp 1: regelbasierte Delegationssysteme, die im Rahmen eines Auftrages und einer festen Regel ihre Qualität andauernd verbessern wie z. B. Gesichtserkennungssoftware an Bahnhöfen oder Unternehmenseingängen.
- Softwaretyp 2: erfasst ständig neue Daten, um damit Anwendungen innerhalb fester Prozesse zu optimieren, z. B. um vereinbarte Arbeitsprozesse zu verdichten und zu effektivieren.
- Softwaretyp 3: verarbeitet Daten, um selbstständig bislang vereinbarte Ablaufprozesse zu durchbrechen und neue Verläufe hervorzubringen wie z. B. Auftragsabwicklung, Bestellsysteme, Montageabläufe, Lieferketten, betriebsübergreifende Kommunikation. Damit übernimmt die Delegationstechnik unter anderem den Mitbestimmungsbereich Arbeitsorganisation.
Diese drei Typen von Delegationstechnik werden in der Unternehmenspraxis bereits eingesetzt.
- Softwaretyp 4: Komplexe Softwaresysteme der Zukunft können ihren internen Auftrag und die Spielregeln (Algorithmus) selbst verändern.
Die beschriebenen Softwareanwendungen werden in der Marketingsprache mitunter überhöht: Die Software denke und lerne, sie sei intelligent. Das trifft nicht zu. Die sogenannte "künstliche Intelligenz" denkt nicht, lernt nicht und hat kein Ich. Die Software besteht aus brillanter Mathematik, von Menschen gemacht und somit von Menschen gestaltbar.
Neue Wege: Delegationstechnik gestalten
Warum ist ein wesentlicher Teil der komplexen Delegationstechnik nach ihrer Einführung kaum mehr gestaltbar? Warum muss sie vor ihrem Start angepasst werden? Notwendig ist eine vorausschauende, präventive Technikgestaltung, die nicht nur auf die Arbeitsumgebung, sondern auch auf die Software direkt zielt, bevor ein komplexes System an den Start geht.
Wie kann und soll man mit dem Prozess der Digitalisierung betrieblich umgehen? Dazu sammelten Betriebsrats- und Personalratsgremien in den zurückliegenden drei Jahrzehnten der Gestaltung digital gestützter Arbeitswelten zahlreiche Basiskenntnisse. Daraus entstand ein Schlüsselverfahren: Ob Fertigung, Dienstleistungssektor, Handwerk oder Verwaltung – sie alle nutzen den Erfahrungsansatz. Zum Beispiel: Eine neue Elektrotechnik bzw. eine neue Software wird in einer ausgewählten Abteilung mit ausgewählten Mitarbeitenden getestet und ausprobiert. Am Ende der Probephase wird ausgewertet und gewichtet. Daraus ergeben sich Anforderungen an eine Betriebs- bzw. Dienstvereinbarung. Diese wird mit der Arbeitgeberseite ausgehandelt und unterzeichnet, danach beginnt der Alltagsbetrieb. Ausprobieren, Auswerten, Aushandeln (A-A-A) – ein oftmals erfolgreicher Standardansatz.
Das Forum Soziale Technikgestaltung (FST) und das Projekt PROTIS-BIT empfehlen, bei der Einführung komplexer Delegationstechnik die Reihenfolge der Gestaltung teilweise zu ändern. Der Grund: Der Ansatz A-A-A entstand im Umgang mit Technik, die sich durch Anwendung nicht ändert (s. auch „Von der Unterstützungstechnik zur Vollmachtstechnik“). Bestimmte komplexe Delegationssysteme (s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“) jedoch unterliegen bei ihrer Anwendung einer ständigen Selbstveränderung! Das Model A-A-A reicht für eine solche Innovation nicht aus. Daraus leitet das FST die Empfehlung ab, die Reihenfolge des mitbestimmten Gestaltungsprozesses zu ändern und zu ergänzen (vgl. Abbildung).
Die Mitbestimmung solcher komplexer Systeme muss vor der Beschaffung, vor der Erprobung und vor der Implementierung in neuer Weise verbindlich vollzogen werden. Dies gilt insbesondere für die Softwaretechnologie. Das FST empfiehlt dafür den „mitbestimmten Algorithmus“ (s. auch „Der mitbestimmte Algorithmus“), denn: Laut Aussagen aus Kreisen der Softwareentwicklung sind bestimmte komplexe Delegationstechniken nach ihrem Start nur mit immensen Kosten oder gar nicht mehr korrigierbar. Hinzu kommt: Dieser Softwaretyp ist nicht in jeder Stufe dokumentationsfähig. Mit einfachen Worten: Auch die IT-Teams können dann nicht exakt belegen, was das System gerade macht.
Algorithmische Systeme gestalten: Fünf Schlüsselfragen zum Einstieg
Wer sich mit der Gestaltung sogenannter "künstlicher Intelligenz" befasst, sollte nicht mit dem Datenschutz und der Qualifizierung beginnen, sondern mit der Prozessumgestaltung und dem Wandel der Arbeitsorganisation.
Das Forum Soziale Technikgestaltung und das Projekt PROTIS-BIT sowie die Partner IG Metall Heidelberg und das Betriebsrätenetzwerk ZIMT schlagen den Kolleginnen und Kollegen in Betriebsrats- und Personalratsgremien einen besonderen Schritt vor: Mitbestimmung und Gestaltung der komplexen Delegationstechnik (s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“) sollten zuerst ausgewählten Leitfragen folgen, wie sie auch von guten IT-Teams gestellt werden (siehe im Folgenden). Anschließend sind die stets relevanten Themen Datenschutz, Arbeitsschutz, Rationalisierung, Qualifizierung, Gleichberechtigung etc. zu behandeln. Ein Einstieg in dieser Reihenfolge empfiehlt sich, da Delegationstechniken (s. auch „Neue Wege: Delegationstechnik gestalten“) auf die Steuerung von Arbeitsprozessen zielen und die Arbeitsorganisation per Algorithmus neu entscheiden können (s. auch "Von der betrieblichen zur überbetrieblichen Wertschöpfungskette").
Für den Umgang mit sich selbst verändernder Software (s. auch „Der mitbestimmte Algorithmus“) werden folgende fünf Leitfragen quasi zur Annäherung empfohlen. Aus ihnen ergibt sich dann das weitere Vorgehen:
- erkennen: Welche innerbetrieblichen und zwischenbetrieblichen Arbeits- und Geschäftsprozesse werden von diesen Systemen beeinflusst und verändert?
- erkennen: Welche Entscheidungshoheit wird in welcher Weise auf diese Systeme delegiert?
- vorabschätzen: die Folgen für die Arbeitsorganisation
- prüfen: Fließt durch sich ändernde Ablaufprozesse Beschäftigungs- und Arbeitsvolumen vom Standort ab? Oder führt es zu innerbetrieblichen Überlastungen?
- prüfen: Sind die Entscheidungen der komplexen Systeme rückholbar?
Bei der Befassung mit den fünf Leitfragen sollten die Beschäftigtenvertretungen sowohl auf das Erfahrungswissen (s. auch „Auf Augenhöhe mit IT-Fachleuten“) und die Kenntnisse der Kolleginnen und Kollegen setzen als auch frühzeitig fachliche Beratung durch externen Sachverstand hinzuziehen.
Der mitbestimmte Algorithmus
Das FST-Konzept des „mitbestimmten Algorithmus“ will soziale Standards nicht nur in der Betriebs- bzw. Dienstvereinbarung festschreiben, sondern direkt im algorithmischen System selbst verankern. Die Gestaltung sich selbstverändernder Softwaresysteme verlangt eine Erweiterung der Mitbestimmungspraxis.
„Der mitbestimmte Algorithmus“ – über mehrere Jahre (2016–2023) beriet das Forum Soziale Technikgestaltung (FST) das Konzept mit Betriebs- und Personalräten sowie mit IT-Fachleuten als Erweiterung der Mitbestimmungspraxis. Sein Ziel: die Mitbestimmung stärken durch Umschichten bestehender Handlungsschritte und Hinzufügen neuer Handlungsinstrumente.
Angesichts
- der Unterscheidung von Assistenz- und Delegationstechnik (s. auch „Von der Unterstützungstechnik zur Vollmachtstechnik“),
- der Unterscheidung konsistenter und sich selbst verändernder algorithmischer Softwaretypen (s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“),
- der mangelnden Korrigierbarkeit komplexer Delegationstechnik,
- der wachsenden Bedeutung überbetrieblicher Wertschöpfungszusammenhänge (s. auch "Von der betrieblichen zur überbetrieblichen Wertschöpfungskette"),
- der Notwendigkeit, die Reihenfolge der Gestaltungsschritte zu ändern (s. auch „Neue Wege: Delegationstechnik gestalten“),
- der geänderten Reihenfolge der Leitfragen vor dem Einführen komplexer Technik (s. auch „Algorithmische Systeme gestalten: Fünf Schlüsselfragen zum Einstieg“)
schlägt „der mitbestimmte Algorithmus“ den Beschäftigtenvertretungen folgende Maßnahmen vor:
- neues prozessorientiertes Denken bei der direkten Technikgestaltung
- prozessorientierte Ausformung von Gestaltungs- und Zulassungskriterien (s. auch „Gestaltungskriterien für den mitbestimmten Algorithmus“),
- prozessorientierte Durchführung des moderierten Spezifikationsdialogs (s. auch „Mitgestalten nach Maß: der moderierte Spezifikationsdialog“),
- prozessorientierte Aufwertung und Einbindung von Erfahrungswissen (s. auch „Auf Augenhöhe mit IT-Fachleuten“)
- besondere Beachtung zunehmender Abstraktion und Komplexität (s. auch „Neue Akzente beim Erlernen von Gestaltungskompetenz“) in der Arbeitsumgebung
Im Zentrum des Konzeptes steht die dringliche Empfehlung, soziale Standards nicht nur in Tarifverträgen, Betriebs- und Dienstvereinbarungen zu verankern – sie müssen parallel softwaretechnisch in die algorithmischen Steuerungs- und Entscheidungssysteme implementiert werden. Dieser Schritt muss vor der Einführung solcher komplexen Anwendungen erfolgen.
Zur Umsetzung empfiehlt das FST-Konzept den moderierten Spezifikationsdialog (s. auch „Mitgestalten nach Maß: der moderierte Spezifikationsdialog“): Er empfiehlt Ort und Zeitpunkt für das Aushandeln und Anwenden von Gestaltungs- und Zulassungskriterien.
Als Einstieg in den Aushandlungsdiskurs über Anforderungen und Standards komplexer Delegationstechnik hat das Forum Soziale Technikgestaltung 40 Kriterien zusammengestellt. Diese Kriterienliste (s. auch „Gestaltungskriterien für den mitbestimmten Algorithmus“) kann den Ausgangspunkt für jeweilige betriebs- und verwaltungsspezifische Anpassungen bilden.
Der mitbestimmte Algorithmus will ein technikzentriertes Denken aufbrechen und das Erfahrungswissen der Kolleginnen und Kollegen aufwerten. Erfahrungen aus dem Arbeitsalltag und Kenntnis der Arbeitsabläufe sollen auf Augenhöhe gehandhabt werden mit dem Fachwissen der IT-Teams (s. auch „Auf Augenhöhe mit IT-Fachleuten“).
Screencasts zum Konzept „Der mitbestimmten Algorithmus“ finden sich im FST-Blog „Zukunft der Arbeit“.
Gestaltungskriterien für den mitbestimmten Algorithmus
Warum sind die nur allgemein gehaltenen Kriterien zur Gestaltung sogenannter "künstlicher Intelligenz" wie etwa Transparenz und Erklärbarkeit unzureichend für die betriebliche Mitbestimmungspraxis? Rund 40 Kriterien zur Gestaltung algorithmischer Steuerungs- und Entscheidungssysteme haben FST und PROTIS-BIT zusammengetragen.
Von Einrichtungen, Verbänden und Interessengruppen sowie aus Wissenschaft und Gesellschaft liegen zahllose Listen zur Gestaltung der sogenannten "künstlichen Intelligenz" vor. Nicht selten orientieren sie sich als Empfehlungen an ethischen Grundsätzen. Oft appellieren sie an den einzelnen Menschen, freiwillig nach diesen ethischen Prinzipien zu handeln. Die Mitbestimmungspraxis aber erfordert verbindliche, verrechtlichte Übereinkünfte.
Transparenz, Erklärbarkeit und Menschenzentrierung – drei Beispiele für allgemein gehaltene Kriterien. Die Anwendungen der sogenannten KI sollen transparent, erklärbar und menschenzentriert sein. Doch solange diese Begriffe nicht konkret auf die Arbeitswelt bezogen werden, solange sie nicht arbeitsprozessorientiert ausformuliert sind, solange sie nicht zielgruppenorientiert übersetzt sind, bleiben sie unverbindlich.
Unter Erklärbarkeit verstehen IT-Teams sowie Hausjuristinnen und -juristen etwas anderes als Laien, Beschäftigte und Beschäftigtenvertretungen. Menschenzentrierung aus Sicht von Facharbeitenden will Technik als Assistenz in der Hoheit von Menschen. Menschenzentrierung aus der Sicht von Geschäftsführungen nutzt Algorithmen, um möglichst viele Aufträge dem Team zu erteilen, das ein Algorithmus als besonders leistungsfähig identifiziert hat.
Kriterien müssen, wenn sie wirkungsvoll sein sollen, prozess- und problemorientiert präzisiert sein. Soll etwa der Arbeitsschutz im algorithmischen System implementiert werden, müssen Arbeitszusammenhang und Arbeitsprozess, in denen ein arbeitender Mensch tätig ist, exakt definiert werden.
Auch wenn sie anfänglich unerreichbar klingen: Grundsätzlich sollten aus der Sicht von Betriebs- und Personalräten aus 40 Kriterien folgende drei Eingangsforderungen des Forums Soziale Technikgestaltung (FST) bei der Einführung komplexer Delegationstechnik (s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“, „Neue Wege: Delegationstechnik gestalten“, „Der mitbestimmte Algorithmus“) gelten:
- In der gesamten Arbeits- und Berufswelt, in Betrieben, Dienstleistungszentren und Verwaltungen sowie in KMUs dürfen nur Softwaresysteme Anwendung finden, die gestaltbar sind.
- Geschlossene und nicht gestaltbare Delegationssysteme können unter Umgehung der Mitbestimmung Arbeitsprozesse und -organisationen steuern. Sie sollten daher nicht zugelassen werden.
- Der Einsatz von Systemen, die ihren Algorithmus selbst verändern können, ist in der Arbeitswelt abzulehnen.
Die 40 Kriterien des FST dienen als Vorlage zur Konkretisierung. Jede Nutzung und Anpassung von Gestaltungs- und Zulassungskriterien ist umgebungsabhängig (s. auch das FST-Screencast „Wie gestalten wir die sogenannte ,Künstliche Intelligenz‘“ – Teil 2).
Mitgestalten nach Maß: der moderierte Spezifikationsdialog
Für das mitbestimmte Gestalten komplexer algorithmischer Steuerungs- und Entscheidungssysteme (= Delegationstechnik s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“ und „Neue Wege: Delegationstechnik gestalten“) empfehlen das Forum Soziale Technikgestaltung und das Projekt PROTIS-BIT, den Mitbestimmungsprozess am sogenannten moderierten Spezifikationsdialog auszurichten (vgl. Abbildung unten). Dieses Handlungsformat
- wertet Erfahrungswissen der Beschäftigten auf,
- befähigt die Beschäftigten dazu, bei technischen Angelegenheiten kompetent mitzureden,
- lehrt die Beschäftigten, in Prozessen zu denken (z. B. Arbeitsprozesse, Arbeitsorganisation, Lieferketten etc.),
- schafft Ort und Zeitpunkt dafür, Gestaltungskriterien (s. auch „Der mitbestimmte Algorithmus“ und „Gestaltungskriterien für den mitbestimmten Algorithmus“) zur sozialen Anpassung komplexer Technik praktisch anzuwenden.
Eine zentrale Aufgabe des moderierten Spezifikationsdialoges besteht darin, das wertvolle Erfahrungs- und Prozesswissen der Beschäftigten (s. auch „Auf Augenhöhe mit IT-Fachleuten“) gleichberechtigt mit dem Fachwissen der IT-Teams in einen Spezifizierungsprozess zu transformieren. Es geht also nicht primär um technische Anforderungen, sondern darum, a) erfahrungsgeleitet zu lernen in Prozessen zu denken und b) Erfahrungswissen in die Entwicklungswelt zu übertragen und umgekehrt.
Dabei ist es nicht die Aufgabe der Erfahrungsseite, sich in Programmiersprachen und IT-Termini auszudrücken. Ziel des Dialoges: Die IT-Seite lernt die erfahrungsgeleiteten Anforderungen aus der Arbeitsprozessperspektive heraus zu verstehen und in die IT-Sprache zu übersetzen. Die Aufgabe der Erfahrungsseite besteht vor allem darin, ihre Anforderungen so präzise wie möglich zu artikulieren – die bloße Formel einer „sozialen KI“ ist wenig hilfreich.
Soziale Technikgestaltung erhält hierbei eine für die Mitbestimmung ergänzende Dimension. Denn die Anforderungen werden nicht nur in Betriebs- oder Dienstvereinbarungen festgelegt, sondern zudem direkt im algorithmischen System verankert. IT-Teams, die diesen Denkansatz verstanden haben, reagieren erfreut, da sie zwar über brillante Kenntnisse der Technikentwicklung verfügen, aber selten über Prozesskenntnisse der späteren Anwendung.
Die Moderation wird notwendigerweise von externen, unabhängigen Sachkundigen durchgeführt. Wichtig dabei: eine aktive Kommunikationsbereitschaft und eine offene Kommunikationskultur, um eine ergänzende Interessenaushandlung zu gewährleisten.
Die Organisation des Spezifikationsdialogs sollte verschiedene Intensivierungsvarianten berücksichtigen:
- Dialog Beschäftigte/Beschäftigtenvertretung mit IT-Verantwortlichen
- Dialog Beschäftigte/Beschäftigtenvertretung mit IT-Verantwortlichen und Geschäftsleitung
- Dialog Beschäftigte/Beschäftigtenvertretung mit IT-Verantwortlichen und internen Sachverständigen z. B. für Datenschutz, Arbeitsschutz, Gesundheitsschutz, Gefährdungsbeurteilung, Schwerbehindertenvertretung, Weiterbildung etc.
- gemeinsame Austausch- und Kommunikationsräume schaffen
- Prinzipien der Agilität wie z. B. SCRUM als Methode nutzen
- stets externe neutrale Moderation einbeziehen
Zukunftsweisend: In der „Rahmendienstvereinbarung zur Digitalisierung und Informationstechnik bei der Landeshauptstadt Stuttgart“ verankerte der Gesamtpersonalrat (GPR) der Landeshauptstadt Stuttgart mit aktiver Unterstützung des Forums Soziale Technikgestaltung den moderierten Spezifikationsdialog rechtsverbindlich und mit faktischem Vetorecht. Dafür erhielt er den Personalrätepreis 2022 in Silber und den Mitbestimmungspreis 2022 des DGB Baden-Württemberg.
Auf Augenhöhe mit IT-Fachleuten
Um Gestaltungskompetenz aufzubauen, dürfen wir nicht technikzentriert denken. Wir müssen das Erfahrungswissen der Kolleginnen und Kollegen in den Vordergrund rücken und es auf Augenhöhe mit dem IT-Wissen handhaben.
Einer der wichtigsten Schritte bei der Technikgestaltung und der Anpassung algorithmischer Systeme besteht für das Forum Soziale Technikgestaltung (FST) darin, die Kolleginnen und Kollegen zu ermutigen: die eigene Meinung zu vertreten; den eigenen Erfahrungen zu trauen; das eigene Erfahrungswissen wertzuschätzen. Ermutigung ist der Schlüssel zur Gestaltungskompetenz. Mit anderen Worten: Es geht darum, den immensen bewussten (expliziten, formellen) und unbewussten (impliziten, informellen) Erfahrungsschatz zu würdigen, ihn im Sinne der gemeinsamen Beschäftigtenvertretung zu heben und solidarisch beschäftigungssichernd nutzbar zu machen.
Seit über 30 Jahren sammelt das FST Erfahrungen beim Gestalten digital gestützter Arbeitswelten. Daraus lässt sich eine Faustregel ableiten: Wer nur technikzentriert denkt, wird bei der Technikeinführung scheitern. Die weichen Faktoren – das nicht-technische Wissen – wiegt auf dem Weg zum Erfolg genauso viel wie das IT-Wissen. Sie sind zwei Hälften eines zusammenhängenden Vorgangs. Anders ausgedrückt: Wer technisch-innovativen Erfolg im Betrieb, im Dienstleistungszentrum, in der Verwaltung anstrebt, benötigt die andere Hälfte als zweites Standbein: die Erfahrung der Teams. Wer Technik nur auf einem Bein einführen will, fällt um.
Daraus ist abzuleiten: Die Gestaltung algorithmischer Steuerungs- und Entscheidungssysteme gelingt nur unter gleichberechtigter Würdigung des Erfahrungswissens der Kolleginnen und Kollegen, die die Abläufe genau kennen. Im Erfahrungswissen steckt das Prozesswissen, das den Einsatz von Endgeräten zum Erfolg steuern kann. Wer den Umbau nur vom Display aus denkt, erfasst nicht den ganzheitlichen Charakter des Wandels.
Augenhöhe zwischen arbeitsweltlichem Erfahrungswissen einerseits und Software- bzw. IT-Wissen andererseits muss auch im Gestaltungsdialog hergestellt werden. Die Erfahrung der Kolleginnen und Kollegen muss sprechfähig werden. IT und der Rest der Arbeitswelt nutzen häufig ähnliche Worte, meinen aber Verschiedenes. Hier bedarf es der Übertragungsleistung – Beispiel: Identität bei der Arbeit, Identität im virtuellen Raum. Ort und Zeitpunkt hierfür bestimmt der modifizierte Spezifikationsdialog (s. auch „Mitgestalten nach Maß: der moderierte Spezifikationsdialog“).
Neue Akzente beim Erlernen von Gestaltungskompetenz
Die soziale Gestaltung algorithmischer Steuerungs- und Entscheidungssysteme verlangt von Beschäftigtenvertretungen zusätzliche Kompetenzen. Gestaltungskompetenz muss prozessorientiertes Denken umfassen sowie das unsichtbare Hemmnis der drastisch wachsenden Abstraktion und Komplexität berücksichtigen.
Nicht selten wird bei der Einführung algorithmischer Systeme dafür geworben, dass die Nutzenden sich das Anwendungswissen als Anpassungsqualifikation aneignen. Mit anderen Worten: Sie sollen den Umgang mit der Oberfläche (Display) des mobilen Endgerätes beherrschen. Zweifellos sind solche Kenntnisse für den Alltag notwendig. Doch derartiges Wissen ist noch weit entfernt von jener Gestaltungskompetenz (s. auch „Der mitbestimmte Algorithmus“ und „Gestaltungskriterien für den mitbestimmten Algorithmus“), die erforderlich ist für die Anpassung von komplexen Delegationstechniken (s. auch „Delegationstechnik: Ein sich stets änderndes Werkzeug“ und „Neue Wege: Delegationstechnik gestalten“) und sich selbst verändernden algorithmischen Steuerungs- und Entscheidungssystemen.
Aus den Erfahrungen des Forums Soziale Technikgestaltung und den Gesprächen im Projekt PROTIS-BIT gehen mehrere weitere Akzente beim Erwerben von Gestaltungskompetenz hervor – vor allem die folgenden:
- Lernen, in Prozessen zu denken
Gestaltung muss auf der Wahrnehmung des Arbeitsprozesses basieren. Nur wer den Arbeitsablauf und seine möglichen Veränderungen der Arbeitsorganisation überblickt, erlangt ausreichende Gestaltungsouveränität (s. auch „Algorithmische Systeme gestalten: Fünf Schlüsselfragen zum Einstieg“ und "Von der betrieblichen zur überbetrieblichen Wertschöpfungskette"). - Lernen, mit zunehmender Komplexität umzugehen
Sobald ein Kind etwas greifen kann, erlernt es die Anwendung zu begreifen. Bisher bedeutete Arbeit vor allem, etwas anzufassen, zu bearbeiten, zu spüren. Arbeiten im virtuellen Raum lässt sich nicht berühren. Was nicht zu greifen ist, ist schwer zu begreifen. Können nun zunehmend Arbeitsschritte nicht mehr mit den Händen und auch nicht vor Ort mittels Maschine erledigt werden, fällt es uns immer schwerer, Fertigungszusammenhänge zu begreifen. Delegationstechnik, die anstelle des Menschen Arbeitsvorgänge entscheidet, schafft eine Arbeitswelt hinter dem Rücken des Menschen. Dieser nimmt die Umgebung als unübersichtlich und komplex wahr. Das Entstehen von Komplexität und der Umgang mit ihr fordern das Lernen heraus. - Lernen, mit zunehmender Abstraktion umzugehen
Die Einführung digitaler Werkzeuge vor drei und mehr Jahrzehnten löste eine neue Stufe der Abstraktion in der Arbeitswelt aus. Das „Gedächtnis der Hände“ (s. auch Schröter 2019) im Handwerk, in der Pflege, in der Fertigung etc. wurde und wird zunehmend erweitert um die Welt der Zahlen. Alle Arbeitsvorgänge sollen auch in Zahlen und Algorithmen ausgedrückt werden können. Die sinnliche Wahrnehmung des arbeitenden Menschen verschiebt sich: Tippen wird wichtiger als Tasten. Diese Verschiebung hat große Folgen für die Zugänglichkeit. Viele junge und ältere Menschen sind auf den Umgang mit wachsender Abstraktion nicht oder nur schlecht vorbereitet. Die Gestaltung algorithmischer Systeme muss die Gefahr der Abgrenzung und Ausgrenzung von Kolleginnen und Kollegen erkennen. Sie muss die unsichtbare Wand der Abstraktion und der Komplexität aktiv vermindern.
Für das Erlernen von Gestaltungskompetenz der Zukunft werden verstärkt jene Aspekte zum Tragen kommen, die aus der traditionellen Arbeit von Beschäftigtenvertretungen bekannt sind: Solidarität, Kommunikationsfähigkeit, Teamfähigkeit, Fähigkeit zur Arbeit in Projekten, Gleichberechtigung, Vielfalt, Integration, Inklusion und Mut zur Ermutigung (s. auch „Auf Augenhöhe mit IT-Fachleuten“).
Weiterführende Informationen
... für alle, die sich mit dem Erwerb von Gestaltungskompetenz zu algorithmischen Steuerungs- und Entscheidungssystemen befassen wollen:
- „Ermutigungen für eine selbstbewusste Gestaltung des neueren digitalen Wandels“ – Aufzeichnung (24. März 2021) eines Videogesprächs mit Welf Schröter zum Verständnis des Konzepts „Der mitbestimmte Algorithmus“. (Interviewerin: Anja Dargatz, Fritz-Erler-Forum/Friedrich Ebert Stiftung)
Screencasts
- „Wie gestalten wir die sogenannte ,Künstliche Intelligenz‘“ – Teil 1: Nachholende Digitalisierung, Assistenztechnik, Delegationstechnik, Gestaltungsansatz „Der mitbestimmte Algorithmus“
- „Wie gestalten wir die sogenannte ,Künstliche Intelligenz‘“ – Teil 2: Vierzig Kriterien aus dem FST zur Gestaltung algorithmischer Steuerungs- und Entscheidungssysteme
- „Wie gestalten wir die sogenannte ,Künstliche Intelligenz‘“ – Teil 3: Neue Gestaltungsimpulse, Format „Moderierte Spezifikationsdialoge“
- „Wie gestalten wir die sogenannte ,Künstliche Intelligenz‘“ – Teil 4: Schlussfolgerungen aus den Teilen 1 bis 3
Online-Beiträge zum Einstieg
- Schröter, Welf (2022a): Gesamtpersonalrat erreicht epochale Vereinbarung zur Gestaltung der Digitalisierung und der sogenannten „KI“. Beitrag vom 20.7.2022 im Blog „Zukunft der Arbeit“
- Schröter, Welf (2022b): Wie gestalten wir die sogenannte „Künstliche Intelligenz“? Einladung zur Mitwirkung. Beitrag vom 8.12.2022 im Blog „Zukunft der Arbeit“
- Schröter, Welf (2022c): Gestaltungskompetenz für Betriebsräte im Spannungsverhältnis von Assistenz- und Delegationstechnik. Erfahrungen aus dreißig Jahren „Forum Soziale Technikgestaltung“. In: Magazin erwachsenenbildung.at. Das Fachmedium für Forschung, Praxis und Diskurs, Ausgabe 44–45
- Schröter, Welf (2021): „Der mitbestimmte Algorithmus“ – Ein erweiternder Ansatz zur Gestaltung der sogenannten „Künstlichen Intelligenz“. Beitrag vom 24.11.2021 für das Online-Magazin „DENK-doch-MAL“. IG Metall/ver.di (Hg.)
- Deutscher Gewerkschaftsbund (2020): DGB-Konzeptpapier „Gute Arbeit by Design“
Zur Vertiefung
- Schröter, Welf (2019): „Der mitbestimmte Algorithmus. Arbeitsweltliche Kriterien zur sozialen Gestaltung von Algorithmen und algorithmischen Entscheidungssystemen“. In: Schröter, Welf (Hg.): Der mitbestimmte Algorithmus. Gestaltungskompetenz für den Wandel der Arbeit. Mössingen. S. 101–150.
- Schröter, Welf (2018): Plädoyer für einen Perspektivwechsel im gewerkschaftlichen Gestaltungsdiskurs. In: WSI-Mitteilungen 3/2018, S. 247–248.
Mitbestimmungsportal
- Themenbereich Technologien & Digitalisierung: Aktuelle Entwicklungen – praxisnahe Publikationen – Tools
Pressemitteilung
- „Atlas der digitalen Arbeit: Texte und Grafiken zu Transformation, KI und Beschäftigtenrechten – kurz, informativ und aktuell.“
Publikationen
- Bargmann, Holger (2022): Gute IT digital mitbestimmen. Portrait über beschleunigte Mitbestimmungsverfahren und digitale Zusammenarbeit bei der Deutschen Telekom AG
- Bargmann, Holger (2023): IT Mitbestimmen in dynamischen Unternehmenswelten. Gestaltung von IT-Rahmenvereinbarungen in Verbindung mit standardisierten Beteiligungsprozessen. Reihe Mitbestimmungspraxis
- Grasy, Jonas/ Seibold, Bettina (2023): Die Komplexität von KI-Systemen durch Steckbriefe bewältigen. Portrait über den Einsatz sogenannter AI-Cards bei der Siemens AG
- Schröter, Welf (2023): LABOR.A 2022 – Wie gestalten wir die sogenannte „künstliche Intelligenz“?. Beitrag vom 11.1.2023 im Mitbestimmungsportal
- Seibold, Bettina/Grasy, Jonas (2022): KI verstehen, bewerten und begrenzen. Portrait über den Einsatz von Systemen der künstlichen Intelligenz bei der IBM Central Holding GmbH