Inteligências artificiais: existe ética na implementação de algoritmos?

Authors

  • Celito de Bona Doutor em Direito pela UNISINOS; Mestre em Direito Negocial pela Universidade Estadual de Londrina; Especialista lato sensu em Direito Civil e Processo Civil pela Universidade Paranaense; Especialista lato sensu em Filosofia do Direito pela Universidade Estadual do Oeste do Paraná; Graduado em Direito pela Universidade Paranaense; Professor Efetivo do Curso de Direito - Universidade Estadual do Oeste do Paraná (UNIOESTE) https://orcid.org/0000-0002-7674-2647
  • Eduarda Arruda Schons Acadêmica do Curso de Direito - Universidade Estadual do Oeste do Paraná (UNIOESTE), Campus de Marechal Cândido Rondon. https://orcid.org/0009-0001-1025-5467
  • Luiza Lopes-Flois Acadêmica do Curso de Direito - Universidade Estadual do Oeste do Paraná (UNIOESTE), Campus de Marechal Cândido Rondon. https://orcid.org/0009-0002-2397-4652

DOI:

https://doi.org/10.48075/csar.v25i45.31510

Keywords:

Artificial intelligence, Biased algorithms, Algorithmic racism, Algorithmic justice

Abstract

This paper aims to analyze the implementation of algorithms in artificial intelligence and the way in which their biases can perpetuate discriminatory discourses such as racism. The goal is to demonstrate algorithmic racism and its possible consequences for society through a qualitative approach, using exploratory and bibliographic procedures. In this context, we seek to show that the development of artificial intelligence needs to be regulated in order to provide users with greater transparency and representativeness in this technological environment. Thus, the goal is to achieve algorithmic justice and suppress any form of algorithmic discrimination.

References

ABREU, A. J. A.; FURTADO, K. C. S.; SANTOS, R. K. C. Inteligência artificial e preconceito de identidade de gênero: o problema do viés na construção das IA’s e a perpetuação das discriminações em sociedades previamente discriminatórias. COR LGBTQIA+, [S. l.], v. 1, n. 3, p. 229–247, 2022. Disponível em: https://revistas.ceeinter.com.br/CORLGBTI/article/view/551. Acesso em: 25 mai. 2023.

BRASIL. Câmara dos Deputados. Projeto de Lei nº 21/2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil; e dá outras providências. Brasília, DF: Câmara dos Deputados, 2020. Disponível em: https://www.camara.leg.br/propostas-legislativas/2236340. Acesso em: 31 mai. 2023.

BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, [2020]. Disponível em: http://www.planalto.gov.br/ccivil_03/Constituicao/ Constituiçao.htm. Acesso em: 23 mai. 2023.

BRASIL. Senado Federal. Projeto de Lei nº 5051/2019. Estabelece os princípios para o uso da Inteligência Artificial no Brasil. Brasília, DF: Senado Federal, 2019. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/138790. Acesso em: 31 mai. 2023.

BRASIL. Senado Federal. Projeto de Lei nº 872/2021. Dispõe sobre o uso da Inteligência Artificial. Brasília, DF: Senado Federal, 2019. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/147434. Acesso em: 31 mai. 2023.

COLAB PUC Minas. Racismo algorítmico: o preconceito na programação. Disponível em: https://blogfca.pucminas.br/colab/racismo-algoritmico-o-preconceito-na-programacao/. Acesso em: 25 mai. 2023.

DWORKIN, Ronald. O império do direito. Tradução: Jefferson Luis Camargo. São Paulo: Martins Fontes, 1999.

FIALHO, Ana Carolina Mendes. Reconhecimento facial: entenda o impacto da inteligência artificial na vida da população negra. In: Exame. [S.l.], 2022. Disponível em: https://exame.com/esg/reconhecimento-facial-entenda-o-impacto-da-inteligencia-artificial-na-vida-da-populacao-negra/. Acesso em: 30 abr. 2023.

GILLESPIE, Talles. A relevância dos algoritmos. Tradução: Amanda Jurno. Revista Parágrafo, São Paulo, v. 6, n. 1, p. 95-121, jan./abr. 2018. Disponível em: https://edisciplinas.usp.br/pluginfile.php/5971548/mod_resource/content/1/722-2195-1-PB.pdf. Acesso em: 25 mai. 2023.

Miss Universo julgado por inteligência artificial revela racismo das máquinas. In: Olhar Digital. [S.l.], 9 set. 2016. Disponível em: https://olhardigital.com.br/2016/09/09/seguranca/miss-universo-julgado-por-inteligencia-artificial-revela-racismo-das-maquinas/. Acesso em: 30 abr. 2023.

Mitigar o preconceito na inteligência artificial. In: IBM Blog. [S.l.]. Disponível em: https://www.ibm.com/blogs/ibm-comunica/mitigar-preconceito-inteligencia-artificial/. Acesso em: 24 mai. 2023.

OLIVEIRA, Evandro. Coded Bias e a Liga da Justiça Algorítmica. Capital Digital, 2022. Disponível em: https://capitaldigital.com.br/coded-bias-e-a-liga-da-justica-algoritmica/. Acesso em: 25 mai. 2023.

PINTARELLI, Camila. Justiça algorítmica em uma perspectiva de gênero. Jota, 2022. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/justica-algoritmica-em-uma-perspectiva-de-genero-29102022. Acesso em: 25 mai. 2023.

PIXEL D. Conheça Claude, o chatbot que promete competir com o ChatGPT da OpenAI. Disponível em: https://pixeld.news/conheca-claude-o-chatbot-que-promete-competir-com-o-chatgpt-da-openai/. Acesso em: 26 mai. 2023.

RODRIGUES, Fernanda. Relatórios de Impacto e a Mitigação de Vieses em IA. In: Iris BH. [S.l.]. Disponível em: https://irisbh.com.br/relatorios-de-impacto-e-a-mitigacao-de-vieses-em-ia/. Acesso em: 24 mai. 2023.

ROSSETTI, Regina; ANGELUCI, Alan. Ética Algorítmica: questões e desafios éticos do avanço tecnológico da sociedade da informação. Galáxia, São Paulo, v. 1, n. 46, p. 1-18, jul. 2021. Disponível em: https://revistas.pucsp.br/index.php/galaxia/article/view/50301. Acesso em: 26 mai. 2023.

SENADO FEDERAL. Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil. Relatório Final. Brasília, DF: Senado Federal, 2022.

SENADO NOTÍCIAS. Comissão conclui texto sobre regulação da inteligência artificial no Brasil. Agência Senado, 2022. Disponível em: https://www12.senado.leg.br/noticias/materias/2022/12/06/comissao-conclui-texto-sobre-regulacao-da-inteligencia-artificial-no-brasil. Acesso em 26 mai. 2023.

SILVA, Evelyn Melo. Pela proteção dos neurodireitos no Brasil. Revista Consultor Jurídico, 2022. Disponível em: https://www.conjur.com.br/2022-ago-29/evelyn-silva-protecao-neurodireitos. Acesso em: 30 mai. 2023.

SILVA, Tarcízio. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022.

SOARES, Marcelo Negri; CENTURIÃO, Luís Fernando; TOKUMI, Carine Alfama Lima. Inteligência artificial e discriminação: um panorama sobre a antagonização entre exclusão e o Estado Democrático de Direito Brasileiro à luz dos direitos da personalidade. Revista Direitos Sociais e Políticas Públicas (UNIFAFIBE), v. 10, n. 2, p. 567-597, 2022. Disponível em: https://portal.unifafibe.com.br/revista/index.php/direitos-sociais-politicas-pub/article/view/1311. Acesso em: 25 mai. 2023.

SUPREMO TRIBUNAL FEDERAL. Ministro anula condenação baseada apenas em reconhecimento fotográfico do acusado na fase de inquérito. In: Portal STF. [S.l.]. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=418535. Acesso em: 31 mai. 2023.

TACCA, Adriano; ROCHA, Leonel Severo. Inteligência artificial: reflexos no sistema do Direito. Revista do Programa de Pós-Graduação em Direito da UFC: v. 38.2, p. 53-68, jul./dez. 2018. Disponível em: http://periodicos.ufc.br/nomos/article/view/20493. Acesso em: 25 mai. 2023

Downloads

Published

18-08-2023

How to Cite

DE BONA, C.; ARRUDA SCHONS, E.; LOPES-FLOIS, L. Inteligências artificiais: existe ética na implementação de algoritmos?. Ciências Sociais Aplicadas em Revista, [S. l.], v. 25, n. 45, p. 225–246, 2023. DOI: 10.48075/csar.v25i45.31510. Disponível em: https://saber.unioeste.br/index.php/csaemrevista/article/view/31510. Acesso em: 16 apr. 2025.

Issue

Vol. 25 No. 45 (2023): Edição Especial

Section

Artigos de Administração, Ciências Contábeis e Direito (Interdisciplinar)

License

Copyright (c) 2023 Ciências Sociais Aplicadas em Revista

Creative Commons License

This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

Aviso de Direito Autoral Creative Commons

Política para Periódicos de Acesso Livre

Autores que publicam nesta revista concordam com os seguintes termos:

1. Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.

2. Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.

3. Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).

 

Licença Creative Commons

Esta obra está licenciada com uma Licença Creative Commons Atribuição-NãoComercial-CompartilhaIgual 4.0 Internacional, o que permite compartilhar, copiar, distribuir, exibir, reproduzir, a totalidade ou partes desde que não tenha objetivo comercial e sejam citados os autores e a fonte.