Daniel Braun erforscht, wie Beschäftigte bei der Zusammenarbeit mit KI-Systemen die Kontrolle behalten können. Dafür erhält seine Arbeitsgruppe 225.750 Euro.
Mit dem Aufbau einer neuen Nachwuchsforschungsgruppe stärkt Daniel Braun die Forschung zur sogenannten „Künstlichen Intelligenz“ (KI) an der Philipps-Universität Marburg. Das auf drei Jahre angelegte Projekt zur KI in der Arbeitswelt wird mit insgesamt 225.750 Euro von der Böckler-Stiftung gefördert. Im Zentrum steht eine zentrale Frage: Wie können Menschen auch dann den Überblick und die Kontrolle behalten, wenn KI-Systeme in betrieblichen Abläufen Entscheidungen vorbereiten oder treffen?
Schon heute zeigt sich die Brisanz des Themas: Banken bewerten mit KI-Systemen automatisiert die Kreditwürdigkeit von Kundinnen und Kunden. Zwar liegt die Trefferquote in vielen Fällen hoch, doch die endgültige Entscheidung bleibt formal beim Menschen. Kreditprüferinnen und -prüfer sehen dabei meist nur das Ergebnis oder einzelne Einflussfaktoren, nicht jedoch die vollständige Logik des Modells. Insbesondere angesichts hoher Fallzahlen und Zeitdruck gleicht es häufig der Suche nach der Nadel im Heuhaufen, die wenigen problematischen Entscheidungen zuverlässig herauszufiltern.
„Wir wollen erforschen, wie Menschen bei der beruflichen Zusammenarbeit mit KI auch in Zukunft die Kontrolle behalten können“, erklärte Braun. „Dafür brauchen sie Möglichkeiten, die Systeme bestmöglich an ihre Bedürfnisse anzupassen. Wir glauben, dass zukünftige Nutzerinnen und Nutzer schon während der Entwicklung eines KI-Systems mitbestimmen sollten.“
Ihn beschäftigt besonders, dass der öffentliche Diskurs häufig auf potenziellen Arbeitsplatzverlust fokussiert ist. „Mindestens genauso wichtig ist die Frage, wie KI die Arbeitsbedingungen verändert“, betonte Braun. Ziel seiner Arbeitsgruppe ist daher daher, technische Verfahren und organisatorische Prozesse zu entwickeln, mit denen Beschäftigte Einfluss auf Design, Entwicklung und Einsatz betrieblicher KI-Systeme nehmen können. Das Projektbudget sieht für die Arbeitsgruppe bis zu drei Promotionsstipendien vor.
„Künstliche Intelligenz wird Wirtschaft und Gesellschaft in den kommenden Jahren grundlegend verändern“, prognostizierte Universitätspräsident Prof. Dr. Thomas Nauss. „Umso wichtiger ist es, ihre Auswirkungen auf die Arbeitswelt frühzeitig wissenschaftlich zu begleiten.“ Der Präsident der Philipps-Universität Marburg betonte: „Mit der neuen Nachwuchsforschungsgruppe von Daniel Braun stärken wir unsere interdisziplinäre KI-Forschung und leisten einen wichtigen Beitrag dazu, technologische Innovation mit gesellschaftlicher Verantwortung zu verbinden.“
Der gesellschaftliche Rahmen macht die Forschung hochaktuell. Mit der europäischen KI-Verordnung wurde ein erster Regulierungsrahmen geschaffen, der Verbraucherinnen und Verbraucher schützt. Für sogenannte „Hochrisikosysteme“, die zum Beispiel in der Medizin oder beim autonomen Fahren zum Einsatz kommen, wird eine menschliche Kontrollinstanz künftig sogar verpflichtend. Das ist der sogenannte „Human-in-the-Loop“
Doch Verantwortung allein reicht nicht aus, wenn organisatorische und technische Mittel fehlen, um Systeme wirksam zu beeinflussen. Genau hier setzt das Marburger Projekt an: Es verbindet technologische Entwicklung mit arbeitswissenschaftlichen, rechtlichen und gesellschaftlichen Perspektiven und trägt damit zu einer verantwortungsvollen Gestaltung der digitalen Transformation bei. „Auch der Austausch mit Partnern wie Gewerkschaften und die interdisziplinäre Arbeit mit Kolleg*innen reizt mich sehr“, freute sich Braun auf das Projekt.
* pm: Philipps-Universität Marburg