THE HIDDEN FACE OF ARTIFICIAL INTELLIGENCE IN THE BRAZILIAN JUDICIAL SYSTEM: STIGMAS, STEREOTYPES, AND FEMALE INCARCERATION
ESTIGMAS, ESTEREÓTIPOS E ENCARCERAMENTO FEMININO
Keywords:
Keywords: artificial intelligence; incarcerated women; judicial system; structural inequality.Abstract
Abstract: This article examines the impacts of Artificial Intelligence on the Brazilian judicial system, with an emphasis on incarcerated women belonging to marginalized groups, particularly Black and low-income women. The increasing use of algorithms in the penal sphere tends to perpetuate and exacerbate structural inequalities in a historically discriminatory system. The study investigates the following research question: how can Artificial Intelligence amplify these barriers and contribute to the rise of female incarceration in Brazil? Adopting the hypothetical-deductive method and a qualitative approach, the study is based on the hypothesis that Artificial Intelligence, instead of promoting justice through efficiency, reinforces social stigmas and results in unequal judicial decisions, as the opacity of algorithms compromises transparency and the legitimacy of justice. The findings indicate that algorithmic systems reproduce stereotypes, highlighting the urgent need for ethical regulation and oversight mechanisms in the use of Artificial Intelligence within public security and judicial systems.
References
AI NOW INSTITUTE. AI Now Report 2018. December 2018. Disponível em: https://ainowinstitute.org/. Acesso em: 16 mai 2025.
BIG BROTHER WATCH. 65 parliamentarians call for “immediate stop” to
live facial recognition surveillance, 6 out. 2023. Disponível em: https://bi-
gbrotherwatch.org.uk/2023/10/65-parliamentarians-call-for-immediate-stop-to-
-live- facial-recognition-surveillance/. Acesso em: 07 jul. 2025.
BERNHARD, Georgea. A maternidade no cárcere à luz dos Direitos Humanos das mulheres presas no Brasil. 2024. 146f. Dissertação (Mestrado em Direito Social) – Universidade de Santa Cruz do Sul (UNISC), Santa Cruz do Sul, 2024. Disponível em: https://repositorio.unisc.br/jspui/bitstream/11624/3748/1/Georgea%20Bernhard.pdf . Acesso em: 16 mai. 2025.
BERNHARD, Georgea.; COSTA, Marli Marlene Moraes da. (Sobre)vivendo nas prisões: uma análise sobre as violações aos direitos humanos das mulheres presas no Brasil. REVISTA DA AGU, [S. l.], v. 22, n. 02, 2023. DOI: 10.25109/2525-328X.v.22.n.02.2023.3187. Disponível em: https://revistaagu.agu.gov.br/index.php/AGU/article/view/3187. Acesso em: 11 jul. 2025.
BRASIL. Ministério da Justiça. Departamento Penitenciário Nacional. Levantamento Nacional de Informações Penitenciárias, Infopen Mulheres. Brasília, 2018.
BROWNE, S. Dark matters: On the surveillance of blackness. London: Duke University Pres, 2015, p. 111-112
CARNEIRO, Sueli. Racismo, Sexismo e Desigualdade no Brasil. São Paulo: Selo Negro, 2011.
CHAVES JUNIOR, Airto; GUASQUE, Bárbara; PADUA, Thiago Santos Aguiar de. Segregação racial e vieses algorítmicos: máquinas racistas no âmbito do controle penal. Revista Brasileira de Direito, Passo Fundo, v. 19, n. 2, p. 47-68, set. 2023. Disponível em: https://seer.atitus.edu.br/index.php/revistadedireito/article/view/4768. Acesso em: 04 mai. 2025.
CHESKYS, Débora. Mulheres invisíveis: uma análise da influência dos estereótipos de gênero na vida de mulheres encarceradas. Dissertação de Mestrado. Programa de Pós-graduação em Direito da Pontifícia Universidade Católica do Rio de Janeiro. 2014. Disponível em: https://www.maxwell.vrac.puc-rio.br/35084/35084.PDF Acesso em: 02 abr 2022.
COSTA, Marli Marlene Moraes da; BERNHARD, Georgea. Para além da punição: o trabalho não remunerado comobeixo transformador na justiça penal feminina. Pensar – Revista de Ciências Jurídicas, Fortaleza, v. 30, p. 1-12, 2025. Disponível em: https://ojs.unifor.br/rpen/article/view/15905/8164 Acesso em: 20 ago 2025.
DAVIS, Angela. Estarão as prisões obsoletas? 5 ed. Difel, Rio de Janeiro. 2020.
DINIZ, Débora. Estereótipos de gênero nas cortes internacionais - um desafio à igualdade: entrevista com Rebecca Cook. Revista Estudos Feministas. Ago 2011. https://www.scielo.br/j/ref/a/tv6xRFTShVJcdJxpQFDbPvk/?lang=pt
FOUCAULT, Michel. Em defesa da sociedade. Tradução de Maria Ermantina Galvão. São Paulo: Martins Fontes, 1999.
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. 19. ed. Petrópolis: Vozes, 1997.
G1. Mulher é confundida com foragida da justiça por sistema de reconhecimento facial da PM. G1 Rio de Janeiro, 8 jul. 2024. Disponível em: https://g1.globo.com/rj/rio-de-janeiro/noticia/2024/07/08/mulher-e-confundida-com-foragida-da-justica-por-sistema.ghtml Acesso em: 04 jul 2025.
JORNAL DA USP. Inteligência artificial utiliza base de dados que refletem preconceitos e desigualdades. Atualidades / Campus Ribeirão Preto, 07 jul. 2023. Disponível em: https://jornal.usp.br/?p=649482 Acesso em: 04 jul 2025.
KILOMBA, Grada. Plantation memories: episodes of everyday racismo. Munster: Unrast. 2012. Disponível em: <https://schwarzemilch.files.wordpress.com/2012/05/kilomba-grada_2010_plantation-memories.pdf>. Acesso em: 05 mai 2025.
MBEMBE, Achille. Necropolítica. Tradução de Renata Santini. São Paulo: n-1 edições, 2018.
MONTEIRO, Pedro Diogo Carvalho. Reconhecendo faces, enclausurando corpos: terror racial, vigilância racializadora e o uso policial do reconhecimento facial na Bahia. Salvador, 2022. Dissertação (Mestrado em Direito) – Universidade Federal da Bahia, Faculdade de Direito. Disponível em: https://repositorio.ufba.br/handle/ri/37740 Acesso em: 4 ago. 2025.
NUNES, Dierle. A supervisão humana das decisões de inteligência artificial reduz os riscos? Consultor Jurídico. Disponível em: https://www.conjur.com.br/2024-jun-25/nunes-supervisao- -humana-decisoes-ia-reduz-riscos. Acesso em: 26 jun 2025.
NYE, Andrea. Teoria Feminista e as filosofias do homem. Tradução: Nathanael Caixeiro. Rio de Janeiro: Record, Rosa dos Tempos, 1995.
PERROT, Michelle. Minha História das Mulheres. Editora Contexto, São Paulo,2017.
SCHWAB, Klaus. A quarta revolução industrial. São Paulo: Edipro, 2016.
SILVA, Mozart Linhares da; ARAÚJO, Willian Fernandes. Biopolítica, racismo estrutural-algorítmico e subjetividade. Educação, São Leopoldo, v. 24, n. 2, p. 241-256, 2020. Disponível em: https://revistas.unisinos.br/index.php/educacao/article/view/edu.2020.241.40. Acesso em: 23 mai 2025.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. Editora Sesc: São Paulo, 2022.
SILVA, Rosane Leal da; SILVA, Fernanda dos Santos Rodrigues da. Reconhecimento facial e segurança pública: os perigos do uso da tecnologia no sistema penal seletivo brasileiro. In: Congresso Internacional De Direito E Contemporaneidade: Mídias E Direitos Da Sociedade Em Rede, 5., 2019, Santa Maria. Anais [...]. Santa Maria: UFSM, 2019. Disponível em: https://www.ufsm.br/app/uploads/sites/563/2019/09/5.23.pdf Acesso em: 04 mai 2025.
SILVA, Tauane Pacheco da; e BRAGA, Claudomilson Fernandes. Racismo e Sexismo Sofrido por Mulheres Negras no Facebook. Trabalho apresentado na Divisão Temática de Comunicação, Espaço e Cidadania, evento componente do XXXIX Congresso Brasileiro de Ciências da Comunicação. São Paulo. 2016. Disponível em: < https://portalintercom.org.br/anais/nacional2016/resumos/R11-2490-1.pdf>. Acesso em: 4 ago. 2025.
SOUZA, Vitória de Oliveira de. Mulheres encarceradas, relações de trabalho e processos de subjetivação. Dissertação (Mestrado em Desenvolvimento Socioeconômico) – Universidade do Extremo Sul Catarinense, Criciúma, 2024. Disponível em: http://repositorio.unesc.net/handle/1/11212 Acesso em: 15 ago 2025.
STEFFEN, Catiane. A inteligência artificial e o processo penal: a utilização da técnica na violação de direitos. Revista EMERJ, Rio de Janeiro, v. 25, n. 1, p. 105-129, jan./abr. 2023. Acesso em: 4 ago. 2025.
WACQUANT, Loïc. Punir os Pobres: A nova gestão da miséria nos Estados Unidos. Trad.: Sérgio Lamarão. 2. ed. Rio de Janeiro: Revan, 2003.
