Algorithmic discrimination in digital labor hiring
DOI:
https://doi.org/10.70405/rtst.v90i3.91Keywords:
Discrimination, Algorithmic, Work, DigitalAbstract
This paper introduces and discusses the concept of algorithmic discrimination in digital labor hiring based on a literature review, with the guiding question: How can algorithmic discrimination in digital labor hiring be reduced? The results show that there is a dissonance between the utopian belief that algorithm neutrality would put an end to discrimination and the reality experienced, which reproduces various racial, sexual, geographical, age and gender discriminatory practices. This calls for efforts by the Powers of the Republic to regulate the development and operation of algorithms, supervising their application, so that the rules in force are not violated and equal job opportunities are achieved, reducing discrimination and making constitutional provisions effective.
References
ANGWIN, Julia et al. Machine Bias: There’s software used across the country to predict future criminals. And it’s biased against blacks, 2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acesso em: 21 ago. 2024.
BBC. Google apologizes for photos app’s racist blunder, 2015. Disponível em: https://www.bbc.com/news/technology-33347866. Acesso em: 25 ago. 2024.
BRASIL. Constituição Federal de 1988. Disponível em http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm.
BRASIL. Decreto nº 5.452, de 1º de maio de 1943. Consolidação das leis do trabalho. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto-lei/del5452.htm.
BORATTI, Isaias Camilo; DE OLIVEIRA, Alvaro Borges. Introdução à programação - algoritmos. Rio de Janeiro: Visual Books, 2007.
BRINGSJORD, Selmer; NAVEEN Sundar Govindarajulu. Artificial Intelligence: The Stanford Encyclopedia of Philosophy (Fall 2024 Edition), Edward N. Zalta & Uri Nodelman (eds.), forthcoming URL = https://plato.stanford.edu/archives/fall2024/entries/artificial-intelligence. Acesso em: 23 ago. 2024
CORMEN, Thomas. Algorithms unlocked. MIT Press, 2013
CUSCIANO, Dalton Tria. A judicialização do acidente de trabalho e a competência jurisdicional no Brasil. Revista de Estudos Empíricos
em Direito, v.10, p. 1-25, 2023.
CUSCIANO, Dalton Tria. A trajetória normativa da seguridade social no Brasil. Belo Horizonte: Editora Dialética, 2021.
CUSCIANO, Dalton Tria. Acidentes de trabalho no Brasil: história, regulação e judicialização. Tese de Doutorado apresentado a Escola de Administração de Empresas de São Paulo. Disponível em: https://bibliotecadigital.fgv.br/dspace/handle/10438/28832.
CUSCIANO, Dalton Tria. O enfrentamento ao assédio e a Convenção n. 190 da Organização Internacional do Trabalho. Revista do Tribunal Superior do Trabalho, Porto Alegre, v. 89, n. 2, p. 115-133, abr./jun. 2023.
DAVIS, Ernest. AI amusements: the tragic tale of Tay the chatbot. AI Matters, v. 2, n. 4, p. 20-24, 2016.
DIAMANT, Idit et al. Chest radiograph pathology categorization via transfer learning. In: Deep learning for medical image analysis. Academic Press, 2017.
DOMINGO, Pedro. The master algorithm: how the quest for the ultimate machine learning will remake our world. Nova York: Basic Books, 2015.
ELIAS, Paulo Sá. Algoritmos, inteligência artificial e o direito. 2017. Disponível em: https://www.conjur.com.br/dl/algoritmos-inteligencia-artificial.pdf. Acesso em: 21 ago. 2024.
EQUAL EMPLOYMENT OPPORTUNITY COMMISSION. iTutorGroup to pay $365,000 to settle EEOC discriminatory hiring suit. 2023. Disponível em: https://www.eeoc.gov/newsroom/itutorgroup-pay-365000-settle-eeoc-discriminatory-hiring-suit#. Acesso em: 27 ago. 2024.
ESTEVA, Andre et al. Dermatologist-level classification of skin cancer with deep neural networks. Nature, v. 542, n. 7639, p. 115-118, 2017.
FERNANDEZ-MACIAS, Enrique; KLENERT, David; ANTON, Jose-Ignacio. Not so disruptive yet? Characteristics, distribution and determinants of robots in Europe. Structural Change and Economic Dynamics, v. 58, p. 76-89, 2021.
FERRARI, Isabela; BECKER, Daniel; WOLKART, Erik Navarro. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais, v. 995, p. 635655, set. 2018.
HONDA, Hugo. Introdução básica à clusterização. Brasília: UnB, 2017.
LARUCCIA, Mauro Maia; CUSCIANO, Dalton Tria. A influência dos blogs no comportamento de compra de cosméticos das mulheres. International Journal of Business and Marketing, 3(1), 003–013, 2018.
LEE, Kai-Fu. Inteligência artificial: como os robôs estão mudando o mundo, a forma como amamos, nos relacionamos, trabalhamos e vivemos. Rio de Janeiro: Globo Livros, 2019.
MARQUES, Fabíola; AUGUSTO, A.; NETO, M. Vieses algorítmicos, direitos fundamentais e os sindicatos. Revista Jurídica Luso-Brasileira, v. 8, n. 6, p. 707-729, 2022.
MATSUBARA, Edson Takashi. O algoritmo de aprendizado semissupervisionado co-training e sua aplicação na rotulação de documentos. Tese (Doutorado). Universidade de São Paulo, 2004.
MIZIARA, Raphael. Discriminação algorítmica e direito do trabalho: condições e limites jurídicos para o uso da Inteligência Artificial nas relações de trabalho. Tese (Doutorado). Universidade de São Paulo, 2024.
MIZIARA, Raphael. A proteção contra despedida algorítmica no contexto laboral: consequências pelo descumprimento do direito à explicabilidade previsto no art. 20 da LGPD. Revista do Tribunal Superior do Trabalho, Porto Alegre, v. 90, n. 1, p. 230-249, 2024.
MUJTABA, Dena F.; MAHAPATRA, Nihar R. Ethical considerations in AI-based recruitment. In: 2019 IEEE International Symposium on Technology and Society (ISTAS). IEEE, 2019.
SANCHES, Marcelo Kaminski. Aprendizado de máquina semissupervisionado: proposta de um algoritmo para rotular exemplos a partir de poucos exemplos rotulados. Tese de Doutorado. Universidade de São Paulo, 2003.
SUSSEKIND, Daniel. A world without work: technology, automation and how we should respond. Penguin Books, 2021.
SYCHENKO, Elena et al. Dismissal Protection in the Brics Countries in Light of ILO Convention nº. 158. BRICS Law Journal, v. 6, n. 4, p. 34-66, 2019.
SYCHENKO, Elena et al. Non-Standard Employment in the BRICS Countries. BRICS Law Journal, v. 7, n. 4, p. 4-44, 2020.
SYCHENKO, Elena et al. Gender Discrimination in Employment: BRICS Countries Overview. BRICS Law Journal, v. 9, n. 2, p. 30-71, 2022.
TAULLI, Tom. Introdução à inteligência artificial: uma abordagem não técnica. São Paulo: Apress Novatec, 2020.
ZHANG, Alice. Face Value: How Human Influence Plays a Role in Perpetuating Bias Within Human-Algorithm Interactions. Intersect: The Stanford Journal of Science, Technology, and Society, v. 15, n. 3, 2022.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2024 Revista do Tribunal Superior do Trabalho
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
