INTELIGÊNCIA ARTIFICIAL E DISCRIMINAÇÃO
UM PANORÂMA SOBRE A ANTAGONIZAÇÃO ENTRE EXCLUSÃO E O ESTADO DEMOCRÁTICO DE DIREITO BRASILEIRO À LUZ DOS DIREITOS DA PERSONALIDADE
DOI:
https://doi.org/10.25245/rdspp.v10i2.1311Resumo
O presente estudo analisa os impactos pelo uso de tecnologias dotadas de inteligência artificial nas parcelas vulneráveis da sociedade. A questão é: de que forma essa ferramenta, que deveria servir para impulsionar a humanidade, pode estar contribuindo para a propagação de estereótipos infundados e, com isso, infringindo a esfera do princípio da dignidade humana enquanto direto da personalidade? Assim, por meio de uma análise bibliográfica extensa, com esteio no método hipotético-dedutivo, o objetivo deste trabalho foi identificar casos reais envolvendo algoritmos e discriminação, apontando como resultado a insuficiência do direito brasileiro no combate à injustiças cometidas em um cenário cuja realidade seja desconhecida, parcial ou totalmente.
Referências
ABRUSIO, Juliana; ARAUJO, André E. Dorster. Inteligência artificial: decisões automatizadas e discriminação nas relações de trabalho. Revista de Direito do Trabalho, vol. 223, p. 321-323, maio/jun. 2022.
ALBUQUERQUE, Letícia. Dicionário LGBTQ+: entenda os termos usados pelo movimento. Eguia do Estudante. Disponível em: https://guiadoestudante.abril.com.br/estudo/dicionario-lgbtq-entenda-termomovimento/. Acesso em: 31 jul. 2022.
ALGORITMO, In: DICIO, Dicionário Online de Português. Porto: 7Graus, 2020. Disponível em: https://www.dicio.com.br/algoritmo/. Acesso em: 23 jul. 2022.
BIANCHINI, Alice; BAZZO, Mariana; CHAKIAN, Silvia. Crimes contra mulheres. 3. ed. Salvador: JusPodivm, 2021.
BOEING, Daniel Henrique Arruda; ROSA, Alexandre Morais da. Ensinando um Robô a Julgar : pragmática, discricionaridade, heurísticas e vieses no uso do aprendizado de máquina no judiciário. Florianópolis: Emais Academia, 2020.
BONAT, Debora; PEIXOTO, Fabiano Hartmann. Racionalidade no Direito: Inteligência Artificial e Precedentes. Curitiba: Alteridade, 2020.
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Define os crimes resultantes de preconceito de raça ou cor. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l7716.htm. Acesso em 31 jul. 2022.
BRASIL. Lei nº 8.069, de 13 de julho de 1990. Dispõe sobre o estatuto da criança e do adolescente e dá outras providências. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l8069.htm. Acesso em: 21 jul. 2022.
BRASIL. Lei nº 10.741, de 1 de outubro de 2003. Dispõe sobre o estatuto da pessoa idosa e dá outras providências. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2003/l10.741.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 11.340, de 7 de agosto de 2006. Cria mecanismos para coibir a violência doméstica e familiar contra a mulher, nos termos do § 8º do art. 226 da constituição federal, da convenção sobre a eliminação de todas as formas de discriminação contra as mulheres e da convenção interamericana para prevenir, punir e erradicar a violência contra a mulher; dispõe sobre a criação dos juizados de violência doméstica e familiar contra a mulher; altera o código de processo penal, o código penal e a lei de execução penal; e dá outras providências. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2004-2006/2006/lei/l11340.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 13.146, de 6 de julho de 2015. Institui a lei brasileira de inclusão da pessoa com deficiência (estatuto da pessoa com deficiência). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2015/lei/l13146.htm. Acesso em: 31 jul. 2022.
BRASIL. Lei nº 13.709, de 14 de agosto 2018. Lei geral de proteção de dados pessoais (LGPD). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015- 2018/2018/lei/l13709.htm. Acesso em: 21 jul. 2022.
BRASIL. Projeto de lei nº 21/2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Disponível em: https://www.camara.leg.br/propostas-legislativas/2236340. Acesso em: 31 jul. 2022.
BRASIL. Supremo Tribunal Federal. Ação direta de inconstitucionalidade por omissão nº 26/DF. Relator: Ministro Celso de Mello. Disponível em: https://jurisprudencia.stf.jus.br/pages/search?classeNumeroIncidente=%22ADO%2026
%22&base=acordaos&sinonimo=true&plural=true&page=1&pageSize=10&sort=_scor e&sortBy=desc&isAdvanced=true. Acesso em: 31 jul. 2022.
BRASIL. Tribunal Regional do Trabalho da 4ª Região. Recurso ordinário rito sumaríssimo. Autoriza o deferimento de diferenças salariais para compensar prejuízo. Recorrente: Marcelo Dias, Havan Lojas de Departamentos LTDA. Recorrido: Marcelo Dias, Havan Lojas de Departamentos LTDA. Relator: Gilberto Souza dos Santos. 12 jul. 2022. Disponível em: https://trt-4.jusbrasil.com.br/jurisprudencia/1574023775/recurso- ordinario-rito-sumarissimo-rorsum-200815320215040662/inteiro-teor-1574023958.
Acesso em: 31 jul. 2022.
CARVALHO, Allan Pereira de. Viés algorítmico e discriminação : possíveis soluções regulatórias para o Brasil. Trabalho de Conclusão de Curso (Bacharelado em Direito)
– Universidade Federal do Rio Grande do Sul – UFRS, 2020. Disponível em: https://lume.ufrgs.br/handle/10183/221914. Acesso em: 23 jul. 2022.
DASTIN, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. 10 out. 2018. Disponível em: https://www.reuters.com/article/us- amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that- showed-bias-against-women-idUSKCN1MK08G. Acesso em: 23. jul. 2022.
EU, robô. AdoroCinema. Disponível em: https://www.adorocinema.com/filmes/filme-47739/, Acesso em: 18 jul. 2022.
FALCÃO, João Pontual de Arruda; CIRILLO, Maria Eugenia. Introdução à inteligência artificial e impactos no ecossistema jurídico brasileiro. Revista de Direito e as Novas Tecnologias, vol. 9, out./dez. 2020.
FRAGOSO, Renato. Comissão de juristas debate discriminaça2o tecnológica por inteligência artificial. Senado Federal. 12 de maio de 2022. Disponível em: https://www12.senado.leg.br/radio/1/noticia/2022/05/12/comissao-de-juristas-da- inteligencia-artificial-debate-discriminacao-tecnologica. Acesso em: 31 jul. 2022.
FRÖHLICH, Afonso Vinício Kirschner; ENGELMANN, Wilson. Inteligência Artificial e Decisão Judicial . Diálogo entre Benefícios e Riscos. Curitiba: Editora Appris, 2020.
FORNASIER, Mateus de Oliveira. Cinco questões ético-jurídicas fundamentais sobre a inteligência artificial. Rio de Janeiro: Lumen Juris, 2021.
GOMES, Alessandra; ANTONIALLI, Dennys; OLIVA, Thiago. Drag queens e inteligência artificial: computadores devem decidir o que é ‘tóxico’ na internet?. Internetlab, 28 jun. 2019. Disponível em: https://internetlab.org.br/pt/noticias/drag- queens-e-inteligencia-artificial-computadores-devem-decidir-o-que-e-toxico-na- internet/. Acesso em: 31 jul. 2022.
GOMES, Giovana. A saga de Kasparov, o campeão enxadrista que perdeu um duelo para um computador. Aventuras na História, 9 jun. 2021. Disponível em: https://aventurasnahistoria.uol.com.br/noticias/reportagem/saga-de-kasparov-o- campeao-enxadrista-que-perdeu-um-duelo-para-um-computador.phtml. Acesso em: 19 jul. 2022.
GONDIN, Victor Sampaio; FEITOSA, Gustavo Raposo Pereira. Algoritmização da justiça criminal: uma análise do aplicativo compas e seus vieses. Revista Brasileira de Ciências Criminais, vol. 188, p. 447-470, fev. 2022.
HARDESTY, Larry. Study finds gender and skin-type bias in commercial artificial- intelligence systems. MIT News, 11 fev. 2018. Disponível em: https://news.mit.edu/2018/study- finds-gender-skin-type-bias-artificial-intelligence-systems-0212. Acesso em: 23 jul. 2022.
LAZCANO, Alfonso Jaime Martínez. Expansión de la protección de derechos humanos en latinoamérica por el control difuso de convencionalidad. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
LINS, Bernardo Felipe Estellita. A evolução da internet: uma perspectiva histórica. In: Cadernos ASLEGIS– 20 anos da Internet no Brasil (Parte I), n. 48, jan./abr. 2013, p. 11- 45. Disponível em: https://aslegis.org.br/files/cadernos/2013/caderno-48/2-INTRODUCAO.pdf. Acesso em: 19 jul. 2022.
LYONS, Kim. Facebook’s ad delivery system still has gender bias, new study finds. The Verge. 9 abr. 2022. Disponível em: https://www.theverge.com/2021/4/9/22375366/facebook-ad-gender-bias-delivery-algorithm-discrimination. Acesso em: 31 jul. 2022.
MANGO, Cynthia Ferrari. Gestionando la política social territorialmente: el “Argentina trabaja” desde el “movimiento evita” (2009 -2018). Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
MORAES, Alexandre de. Direito constitucional. 22. ed. São Paulo: Atlas, 2007.
MORALES, Julio César Arellano. Derecho al libre desarrollo de la personalidad. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
PÁDUA, Thiago Pádua; SOUTO João Carlos. Da propriedade à moradia: breve estudo sobre a evolução constitucional brasileira. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
PEIXOTO, Fabiano Hartmann. Inteligência Artificial e Direito: Convergência Ética e Estratégica. Curitiba: Alteridade, 2020.
PIOVESAN, Flavia. Ações afirmativas no brasil: desafios e perspectivas. Revista Estudos Feministas, Florianópolis, vol. 16, n. 3, p. 887-896, set./dez. 2008. Disponível em: https://www.scielo.br/j/ref/a/JXPnmdcRhtfnnv8FQsVZzFH/?lang=pt. Acesso em: 23 jul. 2022.
REIS, João José. Presença negra: conflitos e encontros. In: IBGE, Centro de Documentação e Disseminação de Informações. Brasil: 500 Anos de Povoamento, Rio de Janeiro, 2007, p. 79-99. Disponível em: https://biblioteca.ibge.gov.br/visualizacao/livros/liv6687.pdf. Acesso em: 23 jul. 2022.
SANTIAGO, Luiz. Crítica metrópoles (1927). Plano Crítico, 26 dez. 2020. Disponível em: https://www.planocritico.com/critica-metropolis-1927/. Acesso em: 18 jul. 2022.
SIQUEIRA, Dirceu Pereira; SOUZA, Bruna Caroline de. Eutanásia social, direito à saúde e os direitos da personalidade: um olhar sobre a pobreza extrema. Revista Meritum - FUMEC, vol. 15, n. 1, p. 231-259, 2020.
SIQUEIRA, Dirceu Pereira; ALMEIDA, Fernando Rodrigues de. O mal-estar do homo juridicus e a contra-genealogia da modernidade: o paradoxo entre a personalidade como direito e o imago-Dei como herança. Argumenta Journal Law - UENP (Jacarezinho), vol. 32, n. 20, jan.-jun./2020, p. 363-383, 2020.
SIQUEIRA, Dirceu Pereira; LARA, Fernanda Corrêa Pavesi; LIMA, Henriqueta Fernanda C.A.F. Direitos da personalidade e as políticas públicas de educação: programa educação em prática - a integração entre o ensino fundamental e médio com as universidades. Revista Húmus (UFMA), vol. 10, n. 28, p. 583 - 602, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, V. L. O. A eugenia social e os direitos da personalidade: uma leitura no campo da loucura. Revista Jurídica Cesumar: Mestrado (online), v.20, p.11 - 28, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, V. L. O. Direitos da personalidade, vulnerabilidade e adolescente sob uma perspectiva winnicottiana. Revista Quaestio Iuris, v.13, p.25 - 46, 2020.
SIQUEIRA, Dirceu Pereira; PASSAFARO, Valesca Luzia de Oliveira. Abuso de poder nas relações de vulnerabilidade: direitos civis para quem? Revista Argumentum (UNIMAR), vol. 20, n. 1, jan. - abr. 2020.
SOARES, Marcelo Negri; KAUFFMAN, Marcos Eduardo; CHAO, Kuo-Ming. Inteligência artificial: impactos no direito e na advocacia. Revista Direito Público, vol. 17, n. 93, p. 104-133, maio/jun.2020. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3555. Acesso em: 23 jul. 2022.
STORINI, Claudia. Pluralismo y buen vivir un camino hacia otro constitucionalismo posible. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
TEIXEIRA, Rodrigo Valente Giublin; LOPES, Marcelos Dantas. O periculum in mora reverso como garantia dos direitos da personalidade. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
TORRES, Dennis José Almanza Torres. La constitucionalización del derecho: debates en torno a la interpretación principiológica de las normas jurídicas. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
VIEIRA, Leonardo Marques. A problemática da inteligência artificial e dos vieses algorítmicos: caso compas. Campinas: Brazilian Technology Symposium, 2019. Disponível em: https://www.lcv.fee.unicamp.br/images/BTSym-19/Papers/090.pdf. Acesso em: 23 jul. 2022.
ZAMBAM, Neuro José; SILVEIRA, Margarete Magda da. Projeto renda mínima de cidadania: solução para equidade social. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
ZANINI, Leonardo Estevam de Assis; QUEIROZ, Odete Novais Carneiro Queiroz. A autonomia privada na aceitação e na renúncia da herança. Revista Direitos Sociais e Políticas Públicas – Unifafibe. V. 9, N. 1, 2021.
