baua.de: Künstliche Intelligenz (KI) ist gerade in aller Munde. Technologische Neuerungen wie ChatGPT oder DALL·E zeigen öffentlichkeitswirksam, was KI mittlerweile kann. Wird KI denn auch in der Arbeitswelt schon eingesetzt? 

Silvia Vock: In der Industrie gibt es bereits zahlreiche Anwendungen, für die KI relevant sein kann. Beispiele können fahrerlose Transportsysteme, Robotersteuerung für die Mensch-Roboter-Kollaboration, Predictive Maintenance, Managmentsysteme und viele weitere sein.

Lars Adolph: Genaue Zahlen kennen wir hierzu leider noch nicht. Da KI schwierig zu definieren ist, ist es auch als Gegenstand von Erhebungen eine Herausforderung. Mit zukünftigen Befragungen der BAuA versuchen wir hier jedoch einen besseren Überblick zu bekommen.

baua.de: Ist KI eigentlich wirklich intelligent? Haben wir es demnächst mit Computern zu tun, die auf menschlichem Niveau denken oder sogar fühlen können?

Britta Kirchhoff: Wir sprechen häufig von "schwacher" und "starker" KI. Sogenannte schwache KI funktioniert für eine bestimmte Anwendung, zum Beispiel das Übersetzen von Texten. Der Begriff "schwach" bedeutet übrigens nicht, dass keine komplexen Algorithmen verwendet werden, sondern dass diese KI nicht ohne Weiteres für weitere Anwendungen eingesetzt werden kann. Starke KI würde eine allgemeine Intelligenz aufweisen und könnte somit auch neuartige, unbekannte Aufgaben lösen können. Das kommt den kognitiven Fähigkeiten auf menschlichem Niveau schon näher. Allerdings wird der Begriff "starke KI" derzeit eher auf philosophischer Ebene diskutiert und eine konkrete technische Definition ist nicht absehbar. Die aktuellen Technologien sind der schwachen KI zuzuordnen und hängen in ihrer Betrachtung sehr stark vom Anwendungskontext ab.

Lars Adolph: Die Leistungsfähigkeit kann allerdings schon sehr beeindruckend sein und sie entwickelt sich rasant. Grenzen dieser KI-Anwendungen, auch Grenzen ihrer Vertrauenswürdigkeit, sind aber immer vorhanden und man sollte sie gut kennen.

baua.de: Verwenden Sie persönlich KI-basierte Programme?

Britta Kirchhoff: Klar. Als erstes fallen mir da Google oder der Übersetzer DeepL ein. Ich habe auch schon KI-generierte Bilder in Vorträgen genutzt. Natürlich haben wir auch bereits Erfahrungen mit dem KI-basierten Sprachassistenten ChatGPT gesammelt und sind in einem BAuA Bericht kompakt der Frage nachgegangen, inwiefern dieser Tätigkeiten verändern kann.

Silvia Vock: Gibt es denn überhaupt noch Menschen, die nicht täglich KI-basierte Programme verwenden? Allein die Nutzung eines Smartphones macht es praktisch unmöglich, es nicht zu tun. Für unsere fachliche Arbeit werden wir in Zukunft vielleicht mal die Vorteile von KI-gestütztem Programmieren ausprobieren. Dafür gibt es Programmierumgebungen, die anhand des bereits geschriebenen Programmcodes dem Programmierer Vorschläge für die nächsten Code-Zeilen machen. Außerdem hilft die KI dabei, den geschriebenen Programmcode zu kommentieren. Das stelle ich mir als wahnsinnig große Arbeitserleichterung vor. Zumal die Freude eher im eigentlichen Programmieren und weniger am Kommentieren von Programmzeilen liegt.

KI und Arbeitsschutz

baua.de: Beim Thema "KI in der Arbeitswelt" denken viele vermutlich vor allem an die Frage, ob KI in Zukunft Jobs übernimmt, die bislang von Menschen gemacht werden. Ist das auch die Perspektive der BAuA auf künstliche Intelligenz in der Arbeitswelt, oder geht es um mehr?

Britta Kirchhoff: Hier möchte ich ein Beispiel anfügen. Das Netzwerk KI in der Arbeits- und Sozialverwaltung, dem auch die BAuA angehört, beschäftigt sich mit dem menschengerechten Einsatz von KI für behördliche Aufgaben wie etwa das Bearbeiten von Rentenanträgen. Ziel ist es hier nicht, dass KI ganze Jobs übernimmt, sondern die Teile davon, die sich etwa durch Monotonie auszeichnen und viel Zeit kosten, die für andere Aufgaben nicht zur Verfügung steht.
Unser Anspruch ist es, einen möglichst umfassenden Blick auf KI in der Arbeitswelt zu werfen. Wie sehen die grundsätzlichen Einsatzmöglichkeiten aus? Wo kann KI den Arbeitsschutz verbessern und Menschen mit Behinderung eine bessere Teilhabe am Berufsleben ermöglichen? Wie erleben Beschäftigte den Umgang mit KI und wie wirkt sie sich etwa auf die berufliche Identität aus?

Silvia Vock: Ich habe sofort einige Beispiele vor Augen, für die diese Frage ganz anders gestellt werden müsste: Wird die KI in der Lage sein, Aufgaben zu übernehmen, die bisher weder von konventioneller Technik noch vom Menschen ausreichend gut übernommen werden konnten? Welche neuen Möglichkeiten und Chancen ergeben sich hierbei für die Arbeitswelt? Können wir die Schutzwirkung von sicherheitstechnischen Maßnahmen durch KI weiter verbessern? Ein Beispiel wäre die Rückfahrüberwachung von mobilen Maschinen. Aufgrund von eingeschränkter Sicht und unzureichenden Spiegel- und Kameralösungen passieren immer wieder Unfälle, bei denen der Fahrer eine hinter der Maschine stehende Person nicht rechtzeitig erkennt. Hier könnte eine KI-basierte Lösung möglicherweise Unfälle verhindern, die man bisher nicht verhindern konnte.
Ansonsten stimme ich ChatGPTs Antwort auf den ersten Teil der Frage zu: "Letztendlich hängt die Auswirkung von KI auf die Arbeitswelt davon ab, wie wir diese Technologie nutzen und wie wir darauf reagieren. Wenn wir KI als Chance betrachten und uns auf die Entwicklung neuer Fähigkeiten konzentrieren, können wir uns auf die Veränderungen vorbereiten und von den neuen Möglichkeiten profitieren, die die Technologie bietet." Diese Antwort hat auch einen starken Bezug zu einigen unserer Forschungsfragen. Wie können wir die Zuverlässigkeit von KI-Algorithmen in sicherheitskritischen Systemen bestimmen? Diese Information ist die Grundlage dafür, bewerten zu können, ob in einem zur Debatte stehenden Anwendungsfall tatsächlich KI eingesetzt oder die Anwendung lieber gar nicht erst zugelassen werden soll. Die Festlegung der Restrisiken, die wir in Kauf zu nehmen bereit sind, ist eine Frage, die wir dann in einem nächsten Schritt gesamtgesellschaftlich beantworten müssen – wie bei allen anderen Technologien auch.
Vorstellbar ist auch, dass mit KI-Unterstützung Entwurfs-, Planungs- und Konstruktionsphasen von Arbeitsstätten und Arbeitsmitteln erleichtert werden können, indem dazu beigetragen wird, dass Regulierungsaspekte besser und von Anfang an berücksichtigt werden.

baua.de: Auf welchen Ebenen kann der Arbeitsschutz eingreifen, um Beschäftigte vor negativen Auswirkungen von KI zu schützen?

Silvia Vock: Der Arbeitsschutz beginnt nicht erst im Betrieb. Die sichere Entwicklung und Gestaltung von Arbeitsmitteln ist ebenso ein wichtiger und fester Bestandteil des Arbeitsschutzes. Das gilt natürlich in gleichem Maße für Arbeitsmittel mit KI. Vor der Markteinführung beispielsweise von Maschinen und Anlagen, in denen KI eingesetzt wird und bei deren Verwendung Risiken für die Bediener entstehen können, muss der Hersteller sicherstellen und umfassend nachweisen, dass er die Risiken beurteilt hat und an erforderlicher Stelle risikomindernde Maßnahmen nach dem Stand der Technik eingebaut hat. Dafür muss der Hersteller oder eine unabhängige Prüfstelle in der Lage sein, diese Beurteilung durchzuführen. An dieser Stelle sollen unsere Forschungsarbeiten einen Beitrag leisten, indem neue Erkenntnisse zur Messung von KI-Eigenschaften generiert werden.

Lars Adolph: Wir arbeiten auch daran, KI-Systeme zum Nutzen des Arbeitsschutzes zu erforschen, bspw. um Risiken in der Arbeitsumgebung besser identifizieren zu können. Sensoren sind in der Lage, große Mengen von Information aus der Umgebung zu erfassen. Und Algorithmen können dazu dienen, schwer erkennbare Risikokonstellationen frühzeitig zu identifizieren.

Die KI Nachwuchsforschungsgruppe der BAuA

baua.de: Wie kam es zur Einrichtung der BAuA-Nachwuchsforschungsgruppe "Künstliche Intelligenz (KI) in einer sicheren und gesunden Arbeitswelt"?

Lars Adolph: In unserer Forschung haben wir schon seit einigen Jahren Fragestellungen im Zusammenhang mit KI aufgegriffen, z. B. im Bereich der Industrie 4.0, wofür ja auch der Begriff "smart factory" verwendet wird. In einem anderen frühen Forschungsprojekt ging es um intelligente Systeme in der Schutzkleidung für Feuerwehrleute. Dann ergaben sich aber zwei zusätzliche Entwicklungen: Zum einen vervielfältigte sich die Zahl der KI-Anwendungen und ihre Mächtigkeit, zum anderen haben Politik und Staat begonnen, KI auch regulativ in den Blick zu nehmen. Zahlreiche arbeitsweltbezogene Fragen zu KI müssen allerdings derzeit noch erforscht werden. Parallel hat die europäische Kommission aber schon den Entwurf eines Rechtsakts zur Regulierung von KI vorgelegt. Wir sind also gefordert, unsere Kompetenzen noch weiter zu entwickeln, um in der Forschung Chancen wie auch Risiken der KI für Beschäftigte zu bearbeiten und auch bei der Umsetzung von Regulation unsere Erkenntnisse mit einfließen zu lassen. Vor diesem Hintergrund fördert uns das BMAS über eine Zusammenarbeit mit dessen KI-Observatorium und der Denkfabrik zusätzlich. So bekamen wir die Möglichkeit, eine Nachwuchsforschungsgruppe in der BAuA zu gründen, um Forschungsthemen, aber auch persönliche Qualifikationen in diesem Bereich voranzubringen.

baua.de: KI dürfte, oberflächlich betrachtet, vor allem ein Thema für Informatikerinnen und Programmierer sein. Aber wenn es um die Auswirkungen auf die Arbeitswelt geht, sind ja verschiedenste wissenschaftliche Perspektiven denkbar. Aus welchen Disziplinen kommen denn die Mitglieder der Nachwuchsforschungsgruppe?

Britta Kirchhoff: Die Nachwuchsforschungsgruppe besteht aus zwei Teams an den Standorten Dresden und Dortmund mit unterschiedlicher Schwerpunktsetzung. In Dortmund erforschen wir KI aus einer soziotechnischen Perspektive, das bedeutet, dass Mensch, Technik und Organisation ganzheitlich betrachtet werden. Daraus ergibt sich auch die Zusammensetzung unseres Teams aus den Disziplinen Informatik, Kognitionswissenschaft, (Arbeits)psychologie, Ingenieurwissenschaften und Physik.

Silvia Vock: Am Standort Dresden betrachten wir KI aus einer technischen Sicht. Uns interessiert die schon oben beschriebene Fragestellung: Wie sicher ist die Anwendung von KI in Maschinen und Anlagen? Dementsprechend setzt sich das Dresdner Team aus Ingenieuren und Mathematikern zusammen.

baua.de: Zu welchen Aspekten von KI forscht die Gruppe?

Britta Kirchhoff: Das Dortmunder Team beschäftigt sich einerseits mit dem sinnvollen Einsatz von KI in der Arbeitswelt und betrachtet andererseits auch mögliche Risiken, die sich durch den Einsatz von KI an der falschen Stelle ergeben können. Wir untersuchen in Dissertationsprojekten zum Beispiel, wie KI die Erstellung von Gefährdungsbeurteilung durch Disaggregation, also Aufgliederung von Sensordaten unterstützen kann, wie Menschen mentale Repräsentationen der Funktionen von KI Systemen aufbauen können oder wie viele persönliche Angaben Mitarbeitende bei der Nutzung KI-basierter Trainingsprogramme zu machen bereit sind.

Silvia Vock: Im Dresdner Team arbeiten wir unter anderem an der Frage, wie eine vollständige Risikobeurteilung von sicherheitskritischen KI-Anwendungen in Maschinen und Anlagen realisiert werden könnte. Dafür müssen wir in der Lage sein, die Zuverlässigkeit der eingesetzten KI-Technologie zu bestimmen. Diese kann sowohl mit quantitativen Maßzahlen als auch mit qualitativen Vorgaben für die Technologieentwicklung und Implementierung beschrieben werden. In einem weiteren Schritt muss das so bestimmte Zuverlässigkeitsniveau mit dem gesellschaftlich normativ vorgeschriebenen Sicherheitsniveau abgeglichen werden. Darauf basierend muss entschieden werden, ob weitere Absicherungsmaßnahmen notwendig sind. Wir beschäftigen uns in unseren aktuellen Forschungsarbeiten hauptsächlich mit Messmethoden für die KI-Zuverlässigkeit. Ein wichtiges Kriterium ist beispielsweise die Robustheit des KI-Algorithmus. Hierfür haben wir eine Vorgehensweise entwickelt, die es erlaubt, ohne genaue Kenntnis des verwendeten KI-Algorithmus dessen Robustheit quantitativ zu messen.

baua.de: Gibt es auch schon Ideen dazu, wie die Forschungsergebnisse den Weg in die Praxis finden sollen?

Britta Kirchhoff: Die einzelnen Dissertationsprojekte werden durch übergeordnete Fragestellungen verbunden, die sich einerseits auf technische Aspekte wie die Robustheit und andererseits auf menschliche Aspekte wie die wahrgenommene Autonomie und den Handlungsspielraum bei der Nutzung von KI beziehen. Dazu bilden wir im Dortmunder Team Tandems, die für themenverwandte Cluster aus technischen und menschlichen Aspekten verantwortlich sind, in Werkstattgesprächen den Austausch mit externen Expertinnen und Experten suchen und Wege aufzeigen, wie der Einsatz von KI menschengerecht und innovativ erfolgen kann. Wir möchten aus unseren Forschungsergebnissen konkrete Gestaltungsempfehlungen ableiten.

Silvia Vock: Unsere entwickelten Werkzeuge, Messmethoden und Testdatensätze planen wir über einen entsprechenden Wissenstransfer zielgruppenbezogen anzubieten: für den politischen Raum, die Sozialpartner, Unfallversicherungsträger und die Wissenschaft. Neben der Veröffentlichung in wissenschaftlichen Fachzeitschriften und auf Konferenzen können die Ergebnisse zum Beispiel zur Methodik der Risikobeurteilung einen sehr konkreten Niederschlag in der Normung finden. Wir planen außerdem, unsere Ergebnisse Praktikern wie Sicherheitsexperten und Systementwicklern aus der Industrie, in Workshops vorzustellen und mit ihnen zu diskutieren.

Zitiervorschlag

Adolph, Lars; Kirchhoff, Britta und Vock, Silvia, 2023. Interview: Künstliche Intelligenz in der Arbeitswelt. In: Neues aus den Projekten [online]. Dortmund: Bundesanstalt für Arbeitsschutz und Arbeitsmedizin. Verfügbar unter: https://www.baua.de/DE/Forschung/Projektblogs/Neues-aus-den-Projekten-Blog/Artikel/KI-in-der-Arbeitswelt.html