Working Paper: Das “Black-Box-Phänomen” in der KI-Entwicklung
Dieses Working Paper untersucht methodische Ansätze zur Schaffung von Transparenz bei der Umsetzung von Künstlicher Intelligenz (KI) mit dem Schwerpunkt auf der Verbesserung der Interaktion zwischen Menschen, Technologie und Organisationen auf operativer Ebene.
Auf einen Blick
- Die Beherrschung der Komplexität von KI-Projekten ist mit Hilfe von technischen und methodischen Ansätzen möglich.
- Die Adressierung des Black-Box-Phänomens ist eine wesentliche Herausforderung in der nachhaltigen KI-Entwicklung.
- Transparenz gepaart mit erhöhter partizipativer Involvierung der Mitarbeitenden ist ein Schlüssel zur Steigerung von Akzeptanz und Motivation im Umgang mit KI im Arbeitsumfeld.
Maschinelles Lernen im Bestandsmanagement
Ein initialer Praxisexkurs, der sich auf die Entwicklung und Anwendung von Machine Learning (ML) und statistischen Methoden zur Vorhersage im Bestandsmanagement konzentriert, dient dabei als praktisches Beispiel. Bei der Anwendung dieser Methoden auf einen realen Bestandsmanagement-Datensatz wurden die Unterschiede verglichen und dabei festgestellt, welchen immensen Einfluss die Datenbeschaffenheit auf die konkrete Aussagekraft beziehungsweise Repräsentationsfähigkeit eines Modells hat. Dabei ist es sowohl für Fachleute als auch fachfremde Personen relevant, auf welcher Basis Entscheidungen getroffen, Entwicklungen forciert und auf diese Weise Ergebnisse erzielt werden können.
Im Mittelpunkt der Betrachtung steht das “Black Box”-Phänomen als anhaltendes Problem in der KI-Entwicklung. Das „Black Box“-Phänomen verweist auf die mangelnde Transparenz bei der Ausführung von Operationen innerhalb eines komplexen KI-Modells. Mangels Verständnisses können Misstrauen, Widerstand und gesellschaftliche Debatten hinsichtlich der Kontrolle und Nutzung von KI-Technologien entstehen.
Mehr Transparenz in KI-Systemen
Ziel dieser Ausarbeitung ist es, mit Hilfe von technologischen sowie methodischen Instrumenten die Transparenz von KI-Systemen zu verbessern und die Akzeptanz in Organisationen zu erhöhen. Basierend auf ersten Projektergebnissen und zusätzlichen Literaturrecherchen werden mögliche Unterstützungsformen und etablierte Verfahren identifiziert und präsentiert.
Um den Herausforderungen im Zusammenhang mit Akzeptanz in der KI-Entwicklung zu begegnen, ist es wichtig, innerhalb der Organisation umfassende Maßnahmen zu initiieren, die das Verständnis für KI verbessern. Mit Hilfe der Dimensionen Technik – Mensch – Organisation werden aus den vorgestellten Ansätzen relevante Leitfragen im Sinne einer reflektierenden Checkliste zusammengefasst. Im Zuge der kontinuierlichen Technologieentwicklung sollen dabei sowohl menschenzentrierte als auch organisatorische Betrachtungsebenen evaluiert und auf diese Weise eine partizipative Involvierung von Mitarbeitenden gefördert werden.
ÜBER DIE WORKING PAPER REIHE
Damit die Ausprägung der künftigen Arbeitswelt nicht allein technologisch geprägt wird, braucht es eine ganzheitliche Gestaltung. Deshalb führt das Kompetenzzentrum Arbeitswelt.Plus Erkenntnisse der Arbeitsforschung im Kontext von KI-Anwendungen zusammen und entwickelt daraus passende Lösungen für mittelständische Unternehmen. Mit dieser Working-Paper-Reihe geben wir Einblicke in die laufende Forschung der Wissenschaftler:innen des Kompetenzzentrums und möchten gleichzeitig einen Beitrag zur Diskussion rund um aktuelle Themen aus den Feldern Künstliche Intelligenz und Arbeitsforschung leisten.
Alexander Kuhn
ist wissenschaftlicher Mitarbeiter am Institut für industrielle Informationstechnik (IniT) der Technischen Hochschule OWL und nebenberuflicher IT-Berater. Fokus seiner Tätigkeit liegt im Bereich der proaktiven Ausgestaltung informationsintensiver Mensch-Maschinen-Interaktionen und des Prozessmanagements.
Stefan Hartmann
ist wissenschaftlicher Mitarbeiter am Fraunhofer-Institut für Entwurfstechnik Mechatronik IEM in Paderborn. Der Fokus seiner Tätigkeit liegt im Bereich digitale Transformation, Prozessmanagement sowie in der Etablierung und Implementierung von künstlicher Intelligenz im Produktionsumfeld.
Empfohlene Zitierweise
Kuhn, A.; Hartmann, S. (2023): Das “Black-Box-Phänomen” in der KI-Entwicklung – Methodische Ansätze zur Schaffung von Transparenz und der Verbesserung des Zusammenspiels von Mensch, Technik und Organisation. Working-Paper-Reihe des Kompetenzzentrums Arbeitswelt.Plus, Paderborn, Nr. 8, https://doi.org/10.55594/SFAH4426
Kontakt
