vegefox.com - stock.adobe.com

26.11.20

Künstliche Intelligenz – Gefahren und Potenziale für die Arbeitswelt

Unternehmen setzen zunehmend künstliche Intelligenz (KI) ein, teilweise ist KI bereits fester Bestandteil betrieblicher Abläufe. Insbesondere im Personal- und Talentmanagement sowie in der maschinellen Produktion sind algorithmische Entscheidungssysteme bisher verbreitet. Das Projektkonsortium ExamAI analysiert elf Anwendungsszenarien.

KI im Personal und Talentmanagement

Personalabteilungen setzen KI zunehmend ein. Eine KI-basierte Software kann beispielsweise bei der Vorhersage der Jobkündigungsbereitschaft von Mitarbeitern oder bei der Persönlichkeitsbewertung anhand von Lebensläufen helfen.

Beim Einsatz von KI lauern zugleich Gefahren: So kann es zu – ungewollten – Diskriminierungen bei der Vergabe von Arbeitsschichten oder zu Benachteiligungen bei internen Fördermaßnahmen kommen. Auch berührt der Einsatz von KI im Personal- und Talentmanagement sowie im Recruiting die Rechte von Arbeitnehmern. 

Einsatz von Algorithmen genau prüfen

Algorithmische Entscheidungsverfahren müssen daher hinsichtlich ihrer Nachvollziehbarkeit, Transparenz, Fairness, Gleichbehandlung, Haftbarkeit, Zuverlässigkeit und Datenschutzkonformität genau geprüft werden.

Das Forschungsprojekt „ExamAI – KI Testing & Auditing“ untersucht zwei Anwendungsbereiche von Algorithmen, und zwar den Einsatz von KI im Personal- und Talentmanagement sowie bei der Mensch-Maschine-Kooperation in der Industrieproduktion. Initiiert hat das Projekt die Gesellschaft für Informatik e.V. (GI) im Jahr 2020. An dem Projekt arbeitet ein interdisziplinäres Team, zu dem Mitglieder der TU Kaiserslautern, der Universität des Saarlandes, des Fraunhofer-Instituts für Experimentelles Software Engineering IESE, der Stiftung Neue Verantwortung und der GI gehören.

Ziel des Projekts ist es, herauszufinden, welche Anforderungen wirkungsvolle Test- und Auditverfahren für KI erfüllen müssen. Zudem wollen die Wissenschaftler Vorschläge entwickeln, wie Unternehmen derartige Verfahren implementieren können.

Das Projektkonsortium hat dafür elf Anwendungsszenarien künstlicher Intelligenz aus den Bereichen Personalmanagement und Produktionsautomatisierung analysiert und in einer Publikation zusammengefasst. Der Fokus liegt dabei auf Fairness- und Safety-Aspekten. Die Szenarien sollen kritische Abläufe, aber auch den Nutzen von KI veranschaulichen.

Die beschriebenen Szenarien dienen als Ausgangspunkt einer juristischen sowie informatischen Analyse bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße im Bereich KI und Arbeit. Zudem sollen Fragen geklärt werden, beispielsweise wie Verfahren aussehen könnten, die einen beherrschbaren, nachvollziehbaren und fairen Einsatz von KI ermöglichen, und wie sie sich durchführen lassen.