Inteligências artificiais: existe ética na implementação de algoritmos?

Autores

  • Celito de Bona Doutor em Direito pela UNISINOS; Mestre em Direito Negocial pela Universidade Estadual de Londrina; Especialista lato sensu em Direito Civil e Processo Civil pela Universidade Paranaense; Especialista lato sensu em Filosofia do Direito pela Universidade Estadual do Oeste do Paraná; Graduado em Direito pela Universidade Paranaense; Professor Efetivo do Curso de Direito - Universidade Estadual do Oeste do Paraná (UNIOESTE) https://orcid.org/0000-0002-7674-2647
  • Eduarda Arruda Schons Acadêmica do Curso de Direito - Universidade Estadual do Oeste do Paraná (UNIOESTE), Campus de Marechal Cândido Rondon. https://orcid.org/0009-0001-1025-5467
  • Luiza Lopes-Flois Acadêmica do Curso de Direito - Universidade Estadual do Oeste do Paraná (UNIOESTE), Campus de Marechal Cândido Rondon. https://orcid.org/0009-0002-2397-4652

DOI:

https://doi.org/10.48075/csar.v25i45.31510

Palavras-chave:

Inteligência artificial, Algoritmos enviesados, Racismo algorítmico, Justiça algorítmica

Resumo

Este trabalho visa analisar a implementação de algoritmos em inteligência artificial e a forma pela qual seus vieses podem perpetuar discursos discriminatórios como o racismo. O objetivo é demonstrar o racismo algorítmico e suas possíveis consequências para a sociedade por meio de uma abordagem qualitativa, utilizando procedimentos exploratórios e bibliográficos. Nesse contexto, busca-se evidenciar que o desenvolvimento da inteligência artificial precisa ser regulamentado a fim de proporcionar aos usuários maior transparência e representatividade nesse ambiente tecnológico. Assim, almeja-se alcançar a justiça algorítmica e suprimir qualquer forma de discriminação algorítmica.

Referências

ABREU, A. J. A.; FURTADO, K. C. S.; SANTOS, R. K. C. Inteligência artificial e preconceito de identidade de gênero: o problema do viés na construção das IA’s e a perpetuação das discriminações em sociedades previamente discriminatórias. COR LGBTQIA+, [S. l.], v. 1, n. 3, p. 229–247, 2022. Disponível em: https://revistas.ceeinter.com.br/CORLGBTI/article/view/551. Acesso em: 25 mai. 2023.

BRASIL. Câmara dos Deputados. Projeto de Lei nº 21/2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil; e dá outras providências. Brasília, DF: Câmara dos Deputados, 2020. Disponível em: https://www.camara.leg.br/propostas-legislativas/2236340. Acesso em: 31 mai. 2023.

BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, [2020]. Disponível em: http://www.planalto.gov.br/ccivil_03/Constituicao/ Constituiçao.htm. Acesso em: 23 mai. 2023.

BRASIL. Senado Federal. Projeto de Lei nº 5051/2019. Estabelece os princípios para o uso da Inteligência Artificial no Brasil. Brasília, DF: Senado Federal, 2019. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/138790. Acesso em: 31 mai. 2023.

BRASIL. Senado Federal. Projeto de Lei nº 872/2021. Dispõe sobre o uso da Inteligência Artificial. Brasília, DF: Senado Federal, 2019. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/147434. Acesso em: 31 mai. 2023.

COLAB PUC Minas. Racismo algorítmico: o preconceito na programação. Disponível em: https://blogfca.pucminas.br/colab/racismo-algoritmico-o-preconceito-na-programacao/. Acesso em: 25 mai. 2023.

DWORKIN, Ronald. O império do direito. Tradução: Jefferson Luis Camargo. São Paulo: Martins Fontes, 1999.

FIALHO, Ana Carolina Mendes. Reconhecimento facial: entenda o impacto da inteligência artificial na vida da população negra. In: Exame. [S.l.], 2022. Disponível em: https://exame.com/esg/reconhecimento-facial-entenda-o-impacto-da-inteligencia-artificial-na-vida-da-populacao-negra/. Acesso em: 30 abr. 2023.

GILLESPIE, Talles. A relevância dos algoritmos. Tradução: Amanda Jurno. Revista Parágrafo, São Paulo, v. 6, n. 1, p. 95-121, jan./abr. 2018. Disponível em: https://edisciplinas.usp.br/pluginfile.php/5971548/mod_resource/content/1/722-2195-1-PB.pdf. Acesso em: 25 mai. 2023.

Miss Universo julgado por inteligência artificial revela racismo das máquinas. In: Olhar Digital. [S.l.], 9 set. 2016. Disponível em: https://olhardigital.com.br/2016/09/09/seguranca/miss-universo-julgado-por-inteligencia-artificial-revela-racismo-das-maquinas/. Acesso em: 30 abr. 2023.

Mitigar o preconceito na inteligência artificial. In: IBM Blog. [S.l.]. Disponível em: https://www.ibm.com/blogs/ibm-comunica/mitigar-preconceito-inteligencia-artificial/. Acesso em: 24 mai. 2023.

OLIVEIRA, Evandro. Coded Bias e a Liga da Justiça Algorítmica. Capital Digital, 2022. Disponível em: https://capitaldigital.com.br/coded-bias-e-a-liga-da-justica-algoritmica/. Acesso em: 25 mai. 2023.

PINTARELLI, Camila. Justiça algorítmica em uma perspectiva de gênero. Jota, 2022. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/justica-algoritmica-em-uma-perspectiva-de-genero-29102022. Acesso em: 25 mai. 2023.

PIXEL D. Conheça Claude, o chatbot que promete competir com o ChatGPT da OpenAI. Disponível em: https://pixeld.news/conheca-claude-o-chatbot-que-promete-competir-com-o-chatgpt-da-openai/. Acesso em: 26 mai. 2023.

RODRIGUES, Fernanda. Relatórios de Impacto e a Mitigação de Vieses em IA. In: Iris BH. [S.l.]. Disponível em: https://irisbh.com.br/relatorios-de-impacto-e-a-mitigacao-de-vieses-em-ia/. Acesso em: 24 mai. 2023.

ROSSETTI, Regina; ANGELUCI, Alan. Ética Algorítmica: questões e desafios éticos do avanço tecnológico da sociedade da informação. Galáxia, São Paulo, v. 1, n. 46, p. 1-18, jul. 2021. Disponível em: https://revistas.pucsp.br/index.php/galaxia/article/view/50301. Acesso em: 26 mai. 2023.

SENADO FEDERAL. Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil. Relatório Final. Brasília, DF: Senado Federal, 2022.

SENADO NOTÍCIAS. Comissão conclui texto sobre regulação da inteligência artificial no Brasil. Agência Senado, 2022. Disponível em: https://www12.senado.leg.br/noticias/materias/2022/12/06/comissao-conclui-texto-sobre-regulacao-da-inteligencia-artificial-no-brasil. Acesso em 26 mai. 2023.

SILVA, Evelyn Melo. Pela proteção dos neurodireitos no Brasil. Revista Consultor Jurídico, 2022. Disponível em: https://www.conjur.com.br/2022-ago-29/evelyn-silva-protecao-neurodireitos. Acesso em: 30 mai. 2023.

SILVA, Tarcízio. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022.

SOARES, Marcelo Negri; CENTURIÃO, Luís Fernando; TOKUMI, Carine Alfama Lima. Inteligência artificial e discriminação: um panorama sobre a antagonização entre exclusão e o Estado Democrático de Direito Brasileiro à luz dos direitos da personalidade. Revista Direitos Sociais e Políticas Públicas (UNIFAFIBE), v. 10, n. 2, p. 567-597, 2022. Disponível em: https://portal.unifafibe.com.br/revista/index.php/direitos-sociais-politicas-pub/article/view/1311. Acesso em: 25 mai. 2023.

SUPREMO TRIBUNAL FEDERAL. Ministro anula condenação baseada apenas em reconhecimento fotográfico do acusado na fase de inquérito. In: Portal STF. [S.l.]. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=418535. Acesso em: 31 mai. 2023.

TACCA, Adriano; ROCHA, Leonel Severo. Inteligência artificial: reflexos no sistema do Direito. Revista do Programa de Pós-Graduação em Direito da UFC: v. 38.2, p. 53-68, jul./dez. 2018. Disponível em: http://periodicos.ufc.br/nomos/article/view/20493. Acesso em: 25 mai. 2023

Downloads

Publicado

18-08-2023

Como Citar

DE BONA, C.; ARRUDA SCHONS, E.; LOPES-FLOIS, L. Inteligências artificiais: existe ética na implementação de algoritmos?. Ciências Sociais Aplicadas em Revista, [S. l.], v. 25, n. 45, p. 225–246, 2023. DOI: 10.48075/csar.v25i45.31510. Disponível em: https://saber.unioeste.br/index.php/csaemrevista/article/view/31510. Acesso em: 8 maio. 2024.

Edição

v. 25 n. 45 (2023): Edição Especial

Seção

Artigos de Administração, Ciências Contábeis e Direito (Interdisciplinar)

Licença

Copyright (c) 2023 Ciências Sociais Aplicadas em Revista

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

Aviso de Direito Autoral Creative Commons

Política para Periódicos de Acesso Livre

Autores que publicam nesta revista concordam com os seguintes termos:

1. Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.

2. Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.

3. Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).

 

Licença Creative Commons

Esta obra está licenciada com uma Licença Creative Commons Atribuição-NãoComercial-CompartilhaIgual 4.0 Internacional, o que permite compartilhar, copiar, distribuir, exibir, reproduzir, a totalidade ou partes desde que não tenha objetivo comercial e sejam citados os autores e a fonte.