Discriminações algorítmicas: racismo e sexismo nas relações laborais
Algorithmic discrimination: racism and sexism in labor relations
DOI:
https://doi.org/10.34117/bjdv8n10-165Keywords:
discriminação, algoritmos, inteligência artificial, direitos humanos, trabalhadoresAbstract
O presente artigo possui como escopo a análise de utilização de mecanismos de inteligência artificial nas relações trabalhistas, perpassando pelo exame da necessidade de transparência algorítmica a fim de que não haja a perpetuação de discriminações raciais, de gênero, fomentando desigualdades sociais, em prejuízo de trabalhadores. As propostas de conformação de vieses algorítmicos e de ações compensatórias em face de práticas discriminatórias estão intrinsecamente ligadas à salvaguarda de princípios afetos à acurácia, à explicabilidade e à inteligibilidade de mecanismos de IA, como uma forma de evitar a exclusão apriorística de grupos marginalizados nas fases de contratação, manutenção e ascensão profissionais.
References
ARAÚJO, Adriane Reis de. EQUIDADE DE GÊNERO NO TRABALHO E O
PATRIARCADO: O IMPACTO DA VIOLÊNCIA CONTRA A MULHER NA DESIGUALDADE SALARIAL. In: ARAÚJO, Adriane Reis de; LOPES, Andrea Lino; GUGEL, Maria Aparecida; COELHO, Renata. (Org.) Direitos Humanos no Trabalho pela Perspectiva da Mulher. Belo Horizonte: RTM - MARIO GOMES DA SILVA – ME, 2019. p. 375-391.
ARRUZZA, Cinzia; BHATTACHARYA, Tithi; FRASER, Nancy. Feminism for the 99 Percent A Manifesto. Londres/Nova York: Verso, 2019.
ARTICLE 19, April 2018. Privacy and Freedom of Expression In the Age of Artificial Intelligence. [s.l.] [s.n.]
ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS. NBR 6023 – nov. 2018. Informação e documentação – Referências - Elaboração. Rio de Janeiro: ABNT, 2018, 74p.
______. NBR 6027: informação e documentação: sumário: elaboração. Rio de Janeiro, 2003.
______. NBR 6028: informação e documentação: resumo: elaboração. Rio de Janeiro, 2003.
______. NBR 10520: informação e documentação: citação: elaboração. Rio de Janeiro, 2002.
______. NBR 14724: informação e documentação: elementos textuais: elaboração. Rio de Janeiro, 2011.
AVRITZER, Leonardo Avritzer; MARONA, Marjorie Corrêa. Judicialização da política no Brasil: ver além do constitucionalismo liberal para ver melhor. Revista Brasileira de Ciência Política, Brasília, nº15, p. 69-94, set./dez. 2014. DOI: http://dx.doi.org/10.1590/0103-335220141504
AVRITZER, Leonardo; MARONA, Marjorie; CARNEIRO, Vanderson. Cartografia de
acesso à justiça pela via dos direitos no Brasil. In: AVRITZER, Leonardo; MARONA,
Marjorie; GOMES, Lilian (Orgs.). Cartografia da Justiça no Brasil. Belo Horizonte:
Saraiva, 2014. p. 29-125.
BRASIL. Constituição da República Federativa do Brasil de 1988. Diário Oficial da União. Disponível em http://www.planalto.gov.br/ccivil_03/Constituicao/ConstituicaoCompilado.htm Acesso em 01 ago. 2021.
______. Decreto-Lei n. 5452 de 1º de maio de 1943. Consolidação das Leis do Trabalho. Diário Oficial da União. Disponível em http://www.planalto.gov.br/ccivil_03/decreto-lei/Del5452compilado.htm Acesso em 01 ago. 2021.
______. Lei n. 7347 de 24 de julho de 1985. Disciplina a ação civil pública de responsabilidade por danos causados ao meio-ambiente, ao consumidor, a bens e direitos de valor artístico, estético, histórico, turístico e paisagístico (VETADO) e dá outras providências. Diário Oficial da União. Disponível em http://www.planalto.gov.br/ccivil_03/leis/l7347orig.htm Acesso em 01 ago. 2021.
______. Lei Complementar n. 75 de 20 de maio de 1993. Dispõe sobre a organização, as
atribuições e o estatuto do Ministério Público da União. Diário Oficial da União. Disponível em http://www.planalto.gov.br/ccivil_03/leis/lcp/Lcp75.htm Acesso em 03 ago. 2021.
BRKAN, Maja. Artificial Intelligence and Democracy: The Impact of Disinformation, Social Bots and Political Targeting. Interdisciplinary Review of Emerging Technologies, Delphi, v. 2(2), p. 66–71, 2019. https://doi.org/10.21552/delphi/2019/2/4
BROUSSARD, Meredith. Artificial Unintelligence: How Computers Misunderstand the World. Cambridge: MIT Press, 2019.
CAPPELLETTI, M. GARTH, B. Acesso à justiça. Porto Alegre: Fabris, 1988.
CAPPI, Riccardo. A “teorização fundamentada nos dados”: um método possível na pesquisa empírica em Direito. In: MACHADO, Maíra Rocha (Org.). Pesquisar empiricamente o direito. São Paulo: Rede de Estudos Empíricos em Direito, 2017.
CARLOS, Vera Lúcia. O PRINCÍPIO DA IGUALDADE E NÃO DISCRIMINAÇÃO E A PROTEÇÃO DA MULHER NO MERCADO DE TRABALHO. In: ARAÚJO, Adriane Reis de; LOPES, Andrea Lino; GUGEL, Maria Aparecida; COELHO, Renata. (Org.) Direitos Humanos no Trabalho pela Perspectiva da Mulher. Belo Horizonte: RTM - MARIO GOMES DA SILVA – ME, 2019. p. 76-93.
CARRERA, Fernanda. A raça e o gênero da estética e dos afetos: algoritmização do racismo e do sexismo em bancos contemporâneos de imagens digitais. Matrizes. São Paulo, v.14, n. 2, p. 217-240, maio/ago. 2020.
CASAGRANDE, Cássio. O DIREITO DO TRABALHO DOS FLINTSTONES AOS JETSONS E O CASO “AMAZON. In: Revista do Tribunal Superior do Trabalho, Brasília, a. IX, n. 86, 4ª Revolução Industrial, p. 143/151, Março/20. Disponível em: https://juslaboris.tst.jus.br/bitstream/handle/20.500.12178/170737/2020_casagrande_cassio_direito_trabalho.pdf?sequence=1 . Acesso em set. 2021.
CONSELHO NACIONAL DE JUSTIÇA, Resolução n. 332 de 21 de agosto de 2020. Poder Judiciário. Brasília. Disponível em https://atos.cnj.jus.br/files/original191707202008255f4563b35f8e8.pdf Acesso em ago. 2021.
DELGADO, Gabriela Neves. Direito Fundamental ao Trabalho Digno. Salvador: LTr, 2006.
_______________________. O TRABALHO ENQUANTO SUPORTE DE VALOR. Revista da Faculdade de Direito da UFMG. Belo Horizonte, n. 49, jul./dez., 2006.
DELGADO, Maurício Godinho. Curso de Direito do Trabalho. 15 ed. São Paulo: LTr, 2016.
__________________________. Proteções contra discriminação na relação de emprego. In: RENAULT, Luiz Otávio Linhares; VIANA, Márcio Túlio; CANTELLI, Paula Oliveira (Coord.). Discriminação. 2. ed. São Paulo: LTr, 2010.
FRASER, Nancy. Social Justice in the Age of Identity Politics: Redistribution, Recognition, Participation. Discussion Paper, p. 98-108. Wissenschaftszentrum Berlin für Sozialforschung 1998.
FRAZÃO, Ana. Discriminação algorítmica: Compreendendo o que são os julgamentos algorítmicos e o seu alcance na atualidade. Parte I. Net. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-16062021 2021a. Acesso em: 1 ago. 2021.
FRAZÃO, Ana. Discriminação algorítmica: o papel e a responsabilidade dos programadores e das empresas de tecnologia. Net. Disponível em: https://www.jota.info/opiniao-e-analise/colunas/constituicao-empresa-e-mercado/discriminacao-algoritmica-a-responsabilidade-dos-programadores-e-das-empresas-14072021 2021b. Acesso em: 1 ago. 2021.
GOMES, Luisa Caroline; NUNES, Thâmylla da Cruz; ROCHA, Quithéria Maria de Souza; PEIXOTO, Fabiano Hartmann. RELATÓRIO TÉCNICO CONCLUSIVO. SEMINÁRIO: PROCESSO E INTELIGÊNCIA ARTIFICIAL. DR.IA. BRASÍLIA, 2021. HTTPS. Disponível em: WWW.DRIA.UNB.BR DOI: 10.29327/542942
GUSTIN, Miracy Barbosa de Sousa; DIAS, Maria Tereza Fonseca; NICÁCIO, Camila Silva.(Re)Pesando a pesquisa jurídica: teoria e prática. 5 ed. São Paulo: Almedina, 2020.
JAKUTIS, Paulo. Manual De Estudo Da Discriminação No Trabalho. São Paulo: LTr. 2006.
KALIL, Renan Bernardi. Capitalismo de plataforma e Direito do Trabalho: crowdwork e trabalho sob demanda por meio de aplicativos. 2019. Tese (Doutorado em Direito do Trabalho) - Faculdade de Direito, Universidade de São Paulo, São Paulo, 2019. Disponível em: https://www.teses.usp.br/teses/disponiveis/2/2138/tde-07082020-133545/publico/5183780_Tese_Parcial.pdf. Acesso em: 5 ago. 2021. Doi:10.11606/T.2.2019.tde-07082020-133545
KERTYSOVA, Katarina. Artificial Intelligence and Disinformation. In: Security and Human Rights. [s.n.], v. 29, ed. 1-4, p. 1-29, 2019.
KIRK, Mary. Gender and information technology : moving beyond access to co-create global partnership. Hershey/Nova York: Information Science Reference, 2009.
KLEINBERG, Jon; LUDWIG, Jens; MULLAINATHAN, Sendhil; SUNSTEIN, Cass R. Discrimination in the Age of Algorithms, Journal of Legal Analysis, Oxford, v. 10, p. 113-174, 2019. https://doi.org/10.1093/jla/laz001
KROST, Oscar. GOLDSCHMIDT, Rodrigo. INTELIGÊNCIA ARTIFICIAL (I.A.) E O
DIREITO DO TRABALHO: POSSIBILIDADES PARA UM MANEJO ÉTICO E
SOCIALMENTE RESPONSÁVEL. In: Revista do Tribunal Superior do Trabalho, São Paulo, v. 87, n. 2, p. 55-71, abr./jun. 2021. Disponível em https://juslaboris.tst.jus.br/handle/20.500.12178/189451 Acesso em 31 jul. 2021.
LINDOSO, Maria Cristine Branco. DISCRIMINAÇÃO DE GÊNERO EM PROCESSOS DECISÓRIOS AUTOMATIZADOS. 2019. Dissertação (Mestrado em Direito) – Faculdade de Direito, Universidade de Brasília, Brasília, 2019. Disponível em https://repositorio.unb.br/bitstream/10482/38524/1/2019_MariaCristineBrancoLindoso.pdf. Acesso em: ago. 2021.
MALLET, Estêvão. IGUALDADE, DISCRIMINAÇÃO E DIREITO DO TRABALHO. Revista do Tribunal Superior do Trabalho, Brasília, vol. 76, n. 3, p. 17-51.
MARONA, Marjorie. Acesso à qual justiça? A construção da cidadania brasileira para além da concepção liberal. 2013. Tese (Doutorado) - Faculdade de Filosofia e Ciências Humanas, Universidade Federal de Minas Gerais, Belo Horizonte, 2013. Disponível em: https://repositorio.ufmg.br/handle/1843/BUOS-9M4L5G. Acesso em ago. 2021.
MINISTÉRIO PÚBLICO DO TRABALHO. Cartilha Digital INTELIGÊNCIA ARTIFICIAL,
TECNOLOGIA DIGITAL E DISCRIMINAÇÃO NO TRABALHO DIREITOS E
CONCEITOS BÁSICOS. Uma cartilha elaborada pelo Grupo de Estudos Diversidade e Tecnologia, 2021. Disponível em https://mpt.mp.br/pgt/publicacoes/cartilhas/inteligencia-artificial-tecnologia-digital-e-discriminacao-no-trabalho/@@display-file/arquivo_pdf Acesso em ago. 2021.
NETFLIX. CODED BIAS. China; Estados Unidos da América; Reino Unido da Grã-Bretanha e Irlanda do Norte Documentário, 2020. Disponível em: https://www.netflix.com/br/title/81328723 Acesso em ago. 2021.
NOBLE, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. Nova York: New York University Press, 2018.
O`NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. 1. Ed. New York: Crown Publishers, 2016.
ORGANIZAÇÃO INTERNACIONAL DO TRABALHO, Trabalho decente. Brasília. [s.d.],
ORSINI, Adriana Goulart de Sena. Acesso à Justiça pela Via dos Direitos Trabalhistas. Net. Disponível em:
https://www.academia.edu/49266501/ACESSO_%C3%80_JUSTI%C3%87A_PELA_VIA_DOS_DIREITOS_TRABALHISTAS, 2018. Acesso em ago. 2021.
PEIXOTO, Fabiano Hartmann. Direito e inteligência artificial: referenciais básicos: com comentários à resolução CNJ 332/2020. Brasília, DR.IA, 2020a. Coleção inteligência artificial e jurisdição, v. 2, PDF. ISBN nº 978-65-00-08585-3
_________________________. DIREITO E INTELIGÊNCIA ARTIFICIAL NA (NÃO) REDUÇÃO DE DESIGUALDADES GLOBAIS: DECISÕES AUTOMATIZADAS NA IMIGRAÇÃO E SISTEMAS DE REFUGIADOS. Revista Direitos Culturais, Santo Ângelo, v. 15, n. 37, p. 305-320, set./dez. 2020b. DOI: http://dx.doi.org/10.20912/rdc.v15i37.222
SARLET, Ingo Wolfgang. Dignidade da Pessoa Humana e Direitos Fundamentais na Constituição Federal de 1988. 10. ed., rev., atual e ampl. Porto Alegre: Livraria do Advogado, 2001.
_____________________. Os Direitos dos Trabalhadores como Direitos Fundamentais na Constituição Federal Brasileira de 1988. In: SARLET. Ingo Wolfgang et al. Diálogos entre o Direito do Trabalho e o Direito Constitucional: estudos em homenagem a Rosa Maria Weber. São Paulo: Saraiva, 2014.
SARMENTO, Daniel. Direitos Fundamentais e Relações Privadas. 2. ed. Rio de Janeiro: Lumens Juris, 2006
SILVA, Selena; KENNEY, Martin; Algorithms, platforms, and ethnic bias. Communications of the ACM. Nova York, v. 62, n.11, p. 37-39, Nov. 2019. DO: 10.1145/3318157.
SOURDIN, Tania. JUDGE V ROBOT? ARTIFICIAL INTELLIGENCE AND JUDICIAL DECISION-MAKING. UNSW Law Journal, Nova Gales do Sul (Austrália), v. 41 (4), p. 1114-1133, 2018.
SUNSTEIN, Cass R. Algorithms, Correcting Biases. Preliminary draft 12/12/18. For Social Research. [s.n.t]
SWEENEY, Latanya. Discrimination in online ad Delivery. Communications of the ACM. Nova York, v. 56, n. 5, p. 44-54, Mai. 2013. DO: 10.1145/2447976.2447990.
TEODORO, Maria Cecília Máximo. A distopia da proteção do mercado
de trabalho da mulher e a reprodução do desequilíbrio dos gêneros. In: MIRAGLIA, Lívia Mendes Moreira; TEODORO, Maria Cecília Máximo; SOARES, Maria Clara Persilva. Feminismo, trabalho e literatura: reflexões sobre o papel da mulher na sociedade contemporânea. Belo Horizonte: Editora Fi, 2020, p. 103/143.
VINUESA, Ricardo et al. The role of artificial intelligence in achieving the Sustainable Development Goals. NATURE COMMUNICATIONS. Perspective. [s.l.] v.11, p. 1-10, 2020. https://doi.org/10.1038/s41467-019-14108-
ZEIDE, Elana. Artificial Intelligence in Higher Education: Applications, Promise and Perils, and Ethical Questions. [s.l.] EDUCAUSEREVIEW, Summer 2019.
