Nijmegen School of Management
Department of Economics and Business Economics
Academic Skills (MAN-BIN117EN)
Unraveling the Impact of Algorithmic
Management on Employee
Discrimination: A Comprehensive
Analysis
By Sam Nunumete (s1125121)
Nijmegen, 13 March 2025
Table of Contents
Introduction ........................................................................................................... 2
1
1.1
Motivation and Relevance ............................................................................................ 2
1.2
Research Objective ....................................................................................................... 4
1.3
Paper Outline ............................................................................................................... 4
1.4
Study Scope .................................................................................................................. 4
Theoretical Framework .......................................................................................... 5
2
2.1
3
Algorithmic decision-making........................................................................................ 5
Bibliography .......................................................................................................... 5
1
Mar. 13, 25
1
Academic Skills, Economics
Introduction
Imagine starting at your first job after receiving your earned diploma. You want to prove your
worth in the world of algorithms and data. Recent changes at your job caused that an algorithmic
manager is now replacing your human manager. What do we know about this new algorithmic
manager? Is this manager linked to discrimination? Is it still your skills that determine your
success? And are these algorithms truly as impartial as they seem?
As a first-year student in this vast world of technology, you cannot help but ask these questions.
According to Prof. Borgesius decision making when using an algorithmic manager is often
opaque and can have discriminatory effects, for instance when an AI system learns from data
reflecting biased human decisions (Borgesius, 2018). Algorithms are vulnerable to biases in
terms of gender, ethnicity, sexual orientation, or other characteristics if the algorithm builds
upon inaccurate, biased, or unrepresentative input and training data (Kim, 2016). The impact an
algorithmic manager has is often neglected but is highly important in this vast world of
technology.
1.1
Motivation and Relevance
The seriousness of discrimination by an algorithmic management is debatable. The existing
literature shows that the knowledge regarding discrimination by algorithmic management on
employees is often lacking or non-existent. Polaski (2023) states that AI tools used as managers
can cause serious dire consequences for individuals and society in the field of discrimination.
AI models can be fraught with bias, as was the case when Amazon launched an internal
recruiting tool that used AI to vet job resumes. In designing the tool, researchers identified that
the model was ranking women’s resumes significantly lower than men’s resumes. This is in
contradiction with Fernández (2020) and Köchling et al, (2021), who believe that
recommending female candidates in an AI-based system leads to a higher rate of female
candidate selection. Furthermore Schwarting (2022) who believes that ‘’algorithmic
discrimination’’ does not originate from algorithms as such but from the use of data that reflects
informal and particularistic norms in society. This is in contradiction with the findings of Polaski
(2023) who believes that AI models can be fraught with discrimination and bias. Thus, there
appears to be limited consensus on algorithmic discrimination based on the fact that these papers
2
Mar. 13, 25
Academic Skills, Economics
say different things about the algorithmic discrimination. In addition to this gap of knowledge
in the existing literature there can be noticed another problem, these analyses of Schwarting
(2022) and Polaski (2023) are primarily focused on how to avoid discrimination by algorithms
and on how organization matters when dealing with the problems of discriminating algorithms.
This paper will provide a different perspective. The goal is to determine to what extent an
algorithmic manager influences the discrimination on employees of a company. The existing
literature fails to bring to light how big the problem of discrimination is on employees. Hofeditz
(2022) states that AI-based systems can reduce bias within the hiring section of a company, but
the research still lacks information on how the candidates were discriminated and how
employees of companies experience discrimination when an algorithmic manager is in charge.
This topic is of vital importance for Human Resources (HR) in companies. Studies concerning
this topic create awareness of potential biases and discrimination resulting from algorithmic
decision-making in the context of HR recruitment and HR development (Köchling, 2020). This
topic is also of importance for minorities in companies who have a larger chance of being
discriminated. They are directly affected by the decision making of an algorithmic manager and
therefore they could benefit from the knowledge that this paper offers. In addition, it is also
relevant for the parties that provide these algorithms with data because algorithms are vulnerable
to produce or replicate biased decisions if their input (or training) data are biased
(Chander, 2016). These parties can be provided with new insights to improve their data which
leads to less discrimination in companies by algorithms. As a result of this, also CEOs and also
lawyers and judges will benefit from this research because there will be less employees
complaining and taking legal actions against companies.
3
Mar. 13, 25
1.2
Academic Skills, Economics
Research Objective
The main objective in this research is to examine to what extent algorithmic management
discriminates employees of a company. Algorithmic discrimination is not a new phenomenon
but prior research lacks knowledge on the effect an algorithmic manager has on employees that
work at a firm. Thus, the following research question will support the objective of this paper:
‘’To what extents does algorithmic management influences the discrimination of employees?’’
1.3
Paper Outline
This paper continues with a literature review where existing relevant literature will be
examined. After the literature review the methodology will be discussed. Here will be described
how the study is conducted including the research design, data collecting methods and data
analysis techniques. Next are the results, here the findings of the research will be presented.
These results will be discussed in the discussion paragraph where the results will be compared
to existing literature and where their implications will be brought to light. After the discussion
part there will be a conclusion section where the key findings of the research will be
summarized. And last there will be a references paragraph where all the literature and sources
cited in the research paper will be summarized.
1.4
Study Scope
The scope of this study is to delve into the pervasive issue of employee discrimination when
an algorithmic manager is applied. In an era where algorithmic managers more often substitute
human managers to oversee and guide workplace decisions, it is of importance to examine the
implications of such technology on the fair treatment of employees. This study aims to explore
the following various dimensions of discrimination: gender discrimination, racial
discrimination, age discrimination, religious discrimination, and national origin discrimination.
We have learned that discrimination by algorithms also occurs through the input data (Chander,
2016) and the scope is to also examine this data in case there are cases of discrimination by an
algorithmic manager to study if the algorithms are bias or the data that was put in.
4
Mar. 13, 25
2
Theoretical Framework
2.1
Algorithmic decision-making
Academic Skills, Economics
In this research paper algorithmic decision-making will be used as the term to describe a
computational mechanism that autonomously makes decisions based on rules and statistical
models without explicit human interference (Lee 2018). This definition is based on The Oxforf
Living Dictionary, that defines algorithms as ‘’processes or sets of rules to be followed in
calculations or other problem-solving operations, especially by a computer’’ and Möhlmann and
Zalmanson (2017) who refer to algorithmic decision-making as automated decision-making and
remote control, and standardization of routinized workplace decision.
3
Bibliography
Kelan, Elisabeth K. “Algorithmic Inclusion: Shaping the Predictive Algorithms of Artificial
Intelligence in Hiring.” Human Resource Management Journal n/a, no. n/a. Accessed
September 13, 2023. https://doi.org/10.1111/1748-8583.12511.
Hofeditz, Lennart, Sünje Clausen, Alexander Rieß, Milad Mirbabaie, and Stefan Stieglitz. “Applying
XAI to an AI-Based System for Candidate Management to Mitigate Bias and Discrimination in
Hiring.”
Electronic
Markets
32,
no.
4
(December
1,
2022):
2207–33.
https://doi.org/10.1007/s12525-022-00600-9.
Georgieff, Alexandre, and Raphaela Hyee. “Artificial Intelligence and Employment: New CrossCountry Evidence.” Frontiers in Artificial Intelligence 5 (May 10, 2022): 832736.
https://doi.org/10.3389/frai.2022.832736.
Aloisi, Antonio, and Elena Gramano. “Artificial Intelligence Is Watching You at Work: Digital
Surveillance, Employee Monitoring, and Regulatory Issues in the EU Context Automation,
5
Mar. 13, 25
Academic Skills, Economics
Artificial Intelligence, & Labor Law.” Comparative Labor Law & Policy Journal 41, no. 1
(2021 2019): 95–122.
Polaski, Donald R, and Marissa J Brienza. “Managing AI: Risks and Opportunities,” 2023.
Schwartz, Reva, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt, and Patrick Hall.
“Towards a Standard for Identifying and Managing Bias in Artificial Intelligence.”
Gaithersburg, MD: National Institute of Standards and Technology (U.S.), March 15, 2022.
https://doi.org/10.6028/NIST.SP.1270.
Aloisi, Antonio, and Valerio De Stefano. Your Boss Is an Algorithm: Artificial Intelligence, Platform
Work and Labour. Bloomsbury Publishing, 2022.
Zuiderveen Borgesius, F. (2018). Discrimination, artificial intelligence, and algorithmic
decision-making. Council of Europe, Directorate General of Democracy.
https://rm.coe.int/discrimination-artificial-intelligence-and-algorithmic-decisionmaking/1680925d73
Köchling, A., Wehner, M.C. Discriminated by an algorithm: a systematic review of
discrimination and fairness by algorithmic decision-making in the context of HR recruitment
and HR development. Bus Res 13, 795–848 (2020). https://doi.org/10.1007/s40685-02000134-w
Kordzadeh, Nima, and Maryam Ghasemaghaei. “Algorithmic Bias: Review, Synthesis, and Future
Research Directions.” European Journal of Information Systems 31, no. 3 (May 4, 2022): 388–
409. https://doi.org/10.1080/0960085X.2021.1927212.
Fernández-Martínez, C. & Fernández, A. (2020). AI and recruiting software: Ethical and legal
implications. Paladyn,
Journal
of
Behavioral
216. https://doi.org/10.1515/pjbr-2020-0030
6
Robotics, 11(1),
199-
Mar. 13, 25
Academic Skills, Economics
Köchling, A., Riazy, S., Wehner, M.C. et al. Highly Accurate, But Still Discriminatory. Bus
Inf Syst Eng 63, 39–54 (2021). https://doi.org/10.1007/s12599-020-00673-w
Chander, A. The Racist Algorithm Survey of Books Related to the Law: Reviews, 115(6),
1023-1046 (2016)
Lee, M.K. (2018). Understanding perception of algorithmic decisions: Fairness, trust, and emotion in response
to algorithmic management. Big Data & Society, 5.
Möhlmann, M., and L. Zalmanson. 2017. Hands on the wheel: navigating algorithmic
management and Uber drivers’. In Autonomy’, in proceedings of the international conference
on information systems (ICIS), Seoul South Korea: 1–17.
Ik schrijf mijn paper over de beste manier om neurodiverse mensen succesvol te integreren in
een bedrijf. Mijn hoofdvraag is ‘’welk inclusiebeleid leidt tot de succesvolle integratie van
neurodiverse medewerkers in organisaties?’’ Voor mijn opdracht moet ik zelf een paper
schrijven op basis van literatuuronderzoek, ik heb de volgende punten die ik moet behandelen:
Introductie van het onderwerp en bijbehorende begrippen • Beschrijving van het doel (het zgn.
‘waarom en wat’) • Argumentatie voor de wetenschappelijke en maatschappelijke relevantie
(uitleg en nadere onderbouwing van het doel) • Argumentatie waarom een systematische
literatuurstudie passend en haalbaar is • Formulering van de vraagstelling (mag voorlopig zijn,
7
Mar. 13, 25
Academic Skills, Economics
maar moet passen bij het ‘wat’) • Beschrijving van de middelen waarmee het doel wordt bereikt
• Uitleg van de te hanteren strategie en methode (zoekstrategie, bronnenselectie, criteria voor
analyse,
etc.)
Aan deze punten moet ik voldoen. Kan je mij helpen de belangrijkste punten uit de bijgevoegde
artikelen te halen en eventueel al een inleiding schrijven. Zou je ook de bronnen kunnen
vermelden in APA 7?
4
Inleiding op het Onderwerp en Bijbehorende Begrippen
Neurodiversiteit erkent de natuurlijke variatie in menselijke hersenontwikkeling en omvat
condities zoals autisme, ADHD, dyslexie en dyspraxie. Deze variaties worden niet langer als
afwijkingen gezien, maar als normale aspecten van menselijke diversiteit die unieke
vaardigheden en perspectieven kunnen bieden in de werkplek (Coplan et al., 2021)(2021Building-Supportiv…). Het concept, geïntroduceerd door Judy Singer in 1998, heeft de manier
veranderd waarop bedrijven kijken naar mensen met neurologische verschillen, waarbij de
nadruk ligt op hun potentieel in plaats van hun beperkingen (Singer, 1999 in Coplan et al., 2021)
(2021-Building-Supportiv…).
Neurodivergente medewerkers kunnen bijdragen met vaardigheden zoals patroonherkenning,
analytisch denken en een hoge mate van detailgerichtheid. Echter, de standaard werkplek en
traditionele wervingsprocessen zijn vaak niet afgestemd op deze unieke sterke punten, wat leidt
tot onderwaardering en ondervertegenwoordiging van neurodivergente individuen in de
arbeidsmarkt (Hutson & Hutson, 2023)(Neurodiversity and Incl…). Dit onderzoek richt zich op
het identificeren van beleid en strategieën die neurodiverse medewerkers optimaal ondersteunen
en integreren in organisaties.
5
Doelstelling van de Studie: Het Waarom en Wat
8
Mar. 13, 25
Academic Skills, Economics
Het doel van deze studie is om te bepalen welk inclusiebeleid effectief is voor de succesvolle
integratie van neurodiverse medewerkers binnen organisaties. Door effectief beleid te
implementeren, kunnen organisaties niet alleen de werkervaring van neurodivergente
medewerkers verbeteren, maar ook profiteren van hun unieke vaardigheden, wat leidt tot
verhoogde productiviteit en innovatie (Coplan et al., 2021)(2021-Building-Supportiv…). Het
onderzoek streeft ernaar de beste praktijken en beleidsmaatregelen te identificeren die een
inclusieve werkomgeving creëren waarin neurodivergente individuen kunnen floreren.
6
Academische en Maatschappelijke Relevantie
Academische Relevantie: De wetenschappelijke literatuur over diversiteit en inclusie heeft
zich traditioneel gericht op zichtbare vormen van diversiteit zoals geslacht en etniciteit, terwijl
de complexiteiten van neurodiversiteit vaak over het hoofd worden gezien. Hoewel er groeiende
aandacht is voor neurodiversiteit, blijft er een significante leemte in het onderzoek naar de
specifieke behoeften en ondersteuning van neurodivergente medewerkers (Hutson & Hutson,
2023)(Neurodiversity and Incl…). De huidige studies richten zich voornamelijk op casestudies
van grote technologiebedrijven, terwijl de toepasbaarheid van inclusiebeleid binnen
verschillende sectoren en organisatiegroottes nog onvoldoende is onderzocht (North, 2023)
(Reconceptualising reas…).
Daarnaast toont onderzoek aan dat veel bedrijven moeite hebben met het aanpassen van hun
fysieke werkplekken en sociale structuren om deze toegankelijk te maken voor neurodivergente
medewerkers. Hoewel er anekdotisch bewijs is voor de voordelen van aanpassingen zoals
geluidsdichte werkruimtes en aangepast licht, ontbreekt er robuust en grootschalig onderzoek
dat deze aanpassingen wetenschappelijk onderbouwt (Weber et al., 2024)(Neurodiversity and
Incl…). Dit onderzoek draagt bij aan het academische debat door het systematisch evalueren
van
bestaande
literatuur
en
het
ontwikkelen
van
richtlijnen
voor
effectief
neurodiversiteitsbeleid.
Maatschappelijke Relevantie: Neurodivergente individuen worden vaak geconfronteerd
met hoge werkloosheids- en onderwerkgelegenheidspercentages. Slechts 16% van de autistische
volwassenen in het Verenigd Koninkrijk heeft een betaalde fulltime baan, ondanks dat 77% van
hen
aangeeft
te
willen
werken
(North,
2023)(Reconceptualising
reas…).
Deze
ondervertegenwoordiging is deels te wijten aan rekruteringsprocessen die neurodivergente
kandidaten uitsluiten en werkplekken die niet zijn aangepast aan hun specifieke behoeften.
9
Mar. 13, 25
Academic Skills, Economics
Traditionele werkstructuren en een gebrek aan begrip voor neurologische verschillen dragen bij
aan het feit dat deze talenten onbenut blijven.
Daarnaast worden neurodivergente vrouwen vaak dubbel getroffen door discriminatie, omdat
zij hun symptomen vaak camoufleren om sociale verwachtingen te vervullen. Dit leidt tot een
gebrek aan erkenning en ondersteuning in de werkplek, wat hun carrièreontwikkeling
belemmert (North, 2023)(Reconceptualising reas…). Dit onderzoek wil bijdragen aan een
eerlijkere arbeidsmarkt door inzicht te bieden in inclusiebeleid dat neurodivergente
medewerkers in staat stelt hun potentieel te realiseren.
7
Argumentatie voor Systematische Literatuurstudie
Een systematische literatuurstudie is passend en noodzakelijk omdat het een gestructureerde
manier biedt om bestaande kennis over neurodiversiteit en inclusiebeleid te evalueren. Het
verzamelen van academische en praktijkgerichte bronnen stelt ons in staat om breed toepasbare
inzichten te verkrijgen en om de meest effectieve beleidsmaatregelen te identificeren die in
verschillende sectoren kunnen worden geïmplementeerd (Weber et al., 2024)(Neurodiversity
and Incl…).
8
Vraagstelling
De centrale vraag van deze studie luidt: "Welk inclusiebeleid leidt tot de succesvolle integratie
van neurodiverse medewerkers in organisaties?" Door deze vraag te beantwoorden, wil het
onderzoek beleid en strategieën identificeren die neurodivergente individuen in staat stellen
optimaal te functioneren binnen hun werkcontext.
9
Strategie en Methode
Voor deze studie wordt een systematische literatuurstudie uitgevoerd waarbij gebruik wordt
gemaakt van wetenschappelijke databases zoals PubMed, Google Scholar en Scopus. De
zoektermen omvatten onder andere ‘neurodiversity inclusion’, ‘workplace integration’ en
‘neurodiverse talent management’. De selectiecriteria omvatten relevantie, publicatiedatum en
wetenschappelijke betrouwbaarheid. De analyse richt zich op het identificeren van terugkerende
thema’s en best practices voor inclusiebeleid.
10