INTELIGÊNCIA ARTIFICIAL E DISCRIMINAÇÃO
UM PANORÂMA SOBRE A ANTAGONIZAÇÃO ENTRE EXCLUSÃO E O ESTADO DEMOCRÁTICO DE DIREITO BRASILEIRO À LUZ DOS DIREITOS DA PERSONALIDADE
DOI:
https://doi.org/10.25245/rdspp.v10i2.1311Abstract
The present study analyzes the impacts of the use of technologies equipped with artificial intelligence on vulnerable parts of society. The question is: in what way can this tool, which should serve to boost humanity, be contributing to the propagation of unfounded stereotypes and, with that, infringe the sphere of the principle of human dignity as a direct part of the personality? Thus, through extensive bibliographic analysis, based on the hypothetical-deductive method, the objective of this work was to identify real cases involving algorithms and discrimination, pointing out as a result the insufficiency of Brazilian law in combating injustices committed in a scenario whose reality is unknown, partially or totally.
References
ABRUSIO, Juliana; ARAUJO, André E. Dorster. Inteligência artificial: decisões automatizadas e discriminação nas relações de trabalho. Revista de Direito do Trabalho, vol. 223, p. 321-323, maio/jun. 2022.
ALBUQUERQUE, Letícia. Dicionário LGBTQ+: entenda os termos usados pelo movimento. Eguia do Estudante. Disponível em: https://guiadoestudante.abril.com.br/estudo/dicionario-lgbtq-entenda-termomovimento/. Acesso em: 31 jul. 2022.
ALGORITMO, In: DICIO, Dicionário Online de Português. Porto: 7Graus, 2020. Disponível em: https://www.dicio.com.br/algoritmo/. Acesso em: 23 jul. 2022.
BIANCHINI, Alice; BAZZO, Mariana; CHAKIAN, Silvia. Crimes contra mulheres. 3. ed. Salvador: JusPodivm, 2021.
BOEING, Daniel Henrique Arruda; ROSA, Alexandre Morais da. Ensinando um Robô a Julgar : pragmática, discricionaridade, heurísticas e vieses no uso do aprendizado de máquina no judiciário. Florianópolis: Emais Academia, 2020.
BONAT, Debora; PEIXOTO, Fabiano Hartmann. Racionalidade no Direito: Inteligência Artificial e Precedentes. Curitiba: Alteridade, 2020.
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou cor. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l7716.htm. Acesso em 31 jul. 2022.
BRASIL. Lei nº 8.069, de 13 de julho de 1990. Dispõe sobre o estatuto da criança e do adolescente e dá outras providências. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l8069.htm. Acesso em: 21 jul. 2022.
BRASIL. Lei nº 10.741, de 1 de outubro de 2003. Dispõe sobre o estatuto da pessoa idosa e dá outras providências. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2003/l10.741.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 11.340, de 7 de agosto de 2006. Cria mecanismos para coibir a violência doméstica e familiar contra a mulher, nos termos do § 8º do art. 226 da constituição federal, da convenção sobre a eliminação de todas as formas de discriminação contra as mulheres e da convenção interamericana para prevenir, punir e erradicar a violência contra a mulher; dispõe sobre a criação dos juizados de violência doméstica e familiar contra a mulher; altera o código de processo penal, o código penal e a lei de execução penal; e dá outras providências. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2004-2006/2006/lei/l11340.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 13.146, de 6 de julho de 2015. Institui a lei brasileira de inclusão da pessoa com deficiência (estatuto da pessoa com deficiência). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2015/lei/l13146.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 13.709, de 14 de agosto 2018. Lei geral de proteção de dados pessoais (LGPD). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015- 2018/2018/lei/l13709.htm. Acesso em: 21 jul. 2022.
BRASIL. Projeto de lei nº 21/2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Disponível em: https://www.camara.leg.br/propostas-legislativas/2236340. Acesso em: 31 jul. 2022.
BRASIL. Supremo Tribunal Federal. Ação direta de inconstitucionalidade por omissão nº 26/DF. Relator: Ministro Celso de Mello. Disponível em: https://jurisprudencia.stf.jus.br/pages/search?classeNumeroIncidente=%22ADO%2026
%22&base=acordaos&sinonimo=true&plural=true&page=1&pageSize=10&sort=_scor e&sortBy=desc&isAdvanced=true. Acesso em: 31 jul. 2022.
BRASIL. Tribunal Regional do Trabalho da 4ª Região. Recurso ordinário rito sumaríssimo. Autoriza o deferimento de diferenças salariais para compensar prejuízo. Recorrente: Marcelo Dias, Havan Lojas de Departamentos LTDA. Recorrido: Marcelo Dias, Havan Lojas de Departamentos LTDA. Relator: Gilberto Souza dos Santos. 12 jul. 2022. Disponível em: https://trt-4.jusbrasil.com.br/jurisprudencia/1574023775/recurso- ordinario-rito-sumarissimo-rorsum-200815320215040662/inteiro-teor-1574023958.
Acesso em: 31 jul. 2022.
CARVALHO, Allan Pereira de. Viés algorítmico e discriminação : possíveis soluções regulatórias para o Brasil. Trabalho de Conclusão de Curso (Bacharelado em Direito)
– Universidade Federal do Rio Grande do Sul – UFRS, 2020. Disponível em: https://lume.ufrgs.br/handle/10183/221914. Acesso em: 23 jul. 2022.
DASTIN, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. 10 out. 2018. Disponível em: https://www.reuters.com/article/us- amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that- showed-bias-against-women-idUSKCN1MK08G. Acesso em: 23. jul. 2022.
EU, robô. AdoroCinema. Disponível em: https://www.adorocinema.com/filmes/filme-47739/, Acesso em: 18 jul. 2022.
FALCÃO, João Pontual de Arruda; CIRILLO, Maria Eugenia. Introdução à inteligência artificial e impactos no ecossistema jurídico brasileiro. Revista de Direito e as Novas Tecnologias, vol. 9, out./dez. 2020.
FRAGOSO, Renato. Comissão de juristas debate discriminaça2o tecnológica por inteligência artificial. Senado Federal. 12 de maio de 2022. Disponível em: https://www12.senado.leg.br/radio/1/noticia/2022/05/12/comissao-de-juristas-da- inteligencia-artificial-debate-discriminacao-tecnologica. Acesso em: 31 jul. 2022.
FRÖHLICH, Afonso Vinício Kirschner; ENGELMANN, Wilson. Inteligência Artificial e Decisão Judicial . Diálogo entre Benefícios e Riscos. Curitiba: Editora Appris, 2020.
FORNASIER, Mateus de Oliveira. Cinco questões ético-jurídicas fundamentais sobre a inteligência artificial. Rio de Janeiro: Lumen Juris, 2021.
GOMES, Alessandra; ANTONIALLI, Dennys; OLIVA, Thiago. Drag queens e inteligência artificial: computadores devem decidir o que é ‘tóxico’ na internet?. Internetlab, 28 jun. 2019. Disponível em: https://internetlab.org.br/pt/noticias/drag- queens-e-inteligencia-artificial-computadores-devem-decidir-o-que-e-toxico-na- internet/. Acesso em: 31 jul. 2022.
GOMES, Giovana. A saga de Kasparov, o campeão enxadrista que perdeu um duelo para um computador. Aventuras na História, 9 jun. 2021. Disponível em: https://aventurasnahistoria.uol.com.br/noticias/reportagem/saga-de-kasparov-o- campeao-enxadrista-que-perdeu-um-duelo-para-um-computador.phtml. Acesso em: 19 jul. 2022.
GONDIN, Victor Sampaio; FEITOSA, Gustavo Raposo Pereira. Algoritmização da justiça criminal: uma análise do aplicativo compas e seus vieses. Revista Brasileira de Ciências Criminais, vol. 188, p. 447-470, fev. 2022.
HARDESTY, Larry. Study finds gender and skin-type bias in commercial artificial- intelligence systems. MIT News, 11 fev. 2018. Disponível em: https://news.mit.edu/2018/study- finds-gender-skin-type-bias-artificial-intelligence-systems-0212. Acesso em: 23 jul. 2022.
LAZCANO, Alfonso Jaime Martínez. Expansión de la protección de derechos humanos en latinoamérica por el control difuso de convencionalidad. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
LINS, Bernardo Felipe Estellita. A evolução da internet: uma perspectiva histórica. In: Cadernos ASLEGIS– 20 anos da Internet no Brasil (Parte I), n. 48, jan./abr. 2013, p. 11- 45. Disponível em: https://aslegis.org.br/files/cadernos/2013/caderno-48/2-INTRODUCAO.pdf. Acesso em: 19 jul. 2022.
LYONS, Kim. Facebook’s ad delivery system still has gender bias, new study finds. The Verge. 9 abr. 2022. Disponível em: https://www.theverge.com/2021/4/9/22375366/facebook-ad-gender-bias-delivery-algorithm-discrimination. Acesso em: 31 jul. 2022.
MANGO, Cynthia Ferrari. Gestionando la política social territorialmente: el “Argentina trabaja” desde el “movimiento evita” (2009 -2018). Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
MORAES, Alexandre de. Direito constitucional. 22. ed. São Paulo: Atlas, 2007.
MORALES, Julio César Arellano. Derecho al libre desarrollo de la personalidad. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
PÁDUA, Thiago Pádua; SOUTO João Carlos. Da propriedade à moradia: breve estudo sobre a evolução constitucional brasileira. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
PEIXOTO, Fabiano Hartmann. Inteligência Artificial e Direito: Convergência Ética e Estratégica. Curitiba: Alteridade, 2020.
PIOVESAN, Flavia. Ações afirmativas no brasil: desafios e perspectivas. Revista Estudos Feministas, Florianópolis, vol. 16, n. 3, p. 887-896, set./dez. 2008. Disponível em: https://www.scielo.br/j/ref/a/JXPnmdcRhtfnnv8FQsVZzFH/?lang=pt. Acesso em: 23 jul. 2022.
REIS, João José. Presença negra: conflitos e encontros. In: IBGE, Centro de Documentação e Disseminação de Informações. Brasil: 500 Anos de Povoamento, Rio de Janeiro, 2007, p. 79-99. Disponível em: https://biblioteca.ibge.gov.br/visualizacao/livros/liv6687.pdf. Acesso em: 23 jul. 2022.
SANTIAGO, Luiz. Crítica metrópoles (1927). Plano Crítico, 26 dez. 2020. Disponível em: https://www.planocritico.com/critica-metropolis-1927/. Acesso em: 18 jul. 2022.
SIQUEIRA, Dirceu Pereira; SOUZA, Bruna Caroline de. Eutanásia social, direito à saúde e os direitos da personalidade: um olhar sobre a pobreza extrema. Revista Meritum - FUMEC, vol. 15, n. 1, p. 231-259, 2020.
SIQUEIRA, Dirceu Pereira; ALMEIDA, Fernando Rodrigues de. O mal-estar do homo juridicus e a contra-genealogia da modernidade: o paradoxo entre a personalidade como direito e o imago-Dei como herança. Argumenta Journal Law - UENP (Jacarezinho), vol. 32, n. 20, jan.-jun./2020, p. 363-383, 2020.
SIQUEIRA, Dirceu Pereira; LARA, Fernanda Corrêa Pavesi; LIMA, Henriqueta Fernanda C.A.F. Direitos da personalidade e as políticas públicas de educação: programa educação em prática - a integração entre o ensino fundamental e médio com as universidades. Revista Húmus (UFMA), vol. 10, n. 28, p. 583 - 602, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, V. L. O. A eugenia social e os direitos da personalidade: uma leitura no campo da loucura. Revista Jurídica Cesumar: Mestrado (online), v.20, p.11 - 28, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, V. L. O. Direitos da personalidade, vulnerabilidade e adolescente sob uma perspectiva winnicottiana. Revista Quaestio Iuris, v.13, p.25 - 46, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, Valesca Luzia de Oliveira. Abuso de poder nas relações de vulnerabilidade: direitos civis para quem? Revista Argumentum (UNIMAR), vol. 20, n. 1, jan. - abr. 2020.
SOARES, Marcelo Negri; KAUFFMAN, Marcos Eduardo; CHAO, Kuo-Ming. Inteligência artificial: impactos no direito e na advocacia. Revista Direito Público, vol. 17, n. 93, p. 104-133, maio/jun.2020. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3555. Acesso em: 23 jul. 2022.
STORINI, Claudia. Pluralismo y buen vivir un camino hacia otro constitucionalismo posible. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
TEIXEIRA, Rodrigo Valente Giublin; LOPES, Marcelos Dantas. O periculum in mora reverso como garantia dos direitos da personalidade. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
TORRES, Dennis José Almanza Torres. La constitucionalización del derecho: debates en torno a la interpretación principiológica de las normas jurídicas. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
VIEIRA, Leonardo Marques. A problemática da inteligência artificial e dos vieses algorítmicos: caso compas. Campinas: Brazilian Technology Symposium, 2019. Disponível em: https://www.lcv.fee.unicamp.br/images/BTSym-19/Papers/090.pdf. Acesso em: 23 jul. 2022.
ZAMBAM, Neuro José; SILVEIRA, Margarete Magda da. Projeto renda mínima de cidadania: solução para equidade social. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
ZANINI, Leonardo Estevam de Assis; QUEIROZ, Odete Novais Carneiro Queiroz. A autonomia privada na aceitação e na renúncia da herança. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
