O reconhecimento facial e o viés algorítmico racista / Facial recognition and racist algorithmic bias

Victor Benigno Porto, Emiliana Cavalcante Rolim

Abstract


Este artigo discute a utilização de tecnologia de reconhecimento facial sob o influxo da seletividade do direito penal. Contextualiza a necessidade de se enfrentar o tema demonstrando aspectos da vida cotidiana que tangenciam a matéria abordada, em correlação com o racismo estrutural. Aponta a relevância da matéria a partir da teoria crítica da raça e a necessidade de adequação do ordenamento jurídico às mudanças proporcionadas pelos avanços tecnológicos sob os parâmetros da Lei Geral de Proteção de dados. No estudo, se realiza revisão bibliográfica de doutrina pátria e estrangeira. A utilidade do presente trabalho se revela por meio de contribuição ao debate acadêmico no sentido da possibilidade de se reconhecer a importância de enfrentamento da matéria sob o prisma da inexistência de neutralidade das tecnologias de reconhecimento facial, alertando-se para a necessidade do seu exame sob o enfoque da proteção da pessoa humana.


Keywords


reconhecimento facial, viés algorítmico, racismo estrutural, lgpd.

References


ALMEIDA, Silvio. O que é racismo estrutural? São Paulo: Pólen, 2019.

ARNDT, A. B. Al-Khwarizmi. The Mathematics Teacher, v. 76, n. 9, p. 668–670, 1983.

BAUMAN, Zygmunt. Identidade - Entrevista a Benedetto Vecchi. Trad. Carlos Alberto MEDEIROS. 1. ed. Rio de Janeiro: Jorge Zahar, 2005.

Brasil. Lei nº 13.709, DE 14 de agosto de 2018. Lei Geral de Proteção de dados. Diário Oficial da União - Edição extra de 15 ago. 2018

BRASIL. Ministério da Justiça e Segurança Pública. Polícia Federal implementa nova Solução Automatizada de Identificação Biométrica. Polícia Federal. Disponível em: . Acesso em: 21 jul. 2021.

BRASIL. Supremo Tribunal Federal (Tribunal Pleno). Ação Direta de Inconstitucionalidade nº 6.387. Rel. Min. Rosa Weber. Disponível em: . Acesso em: 9 dez. 2020.

CANO, Rosa Jiménez. O robô racista, sexista e xenófobo da Microsoft acaba silenciado. EL PAÍS. Disponível em: . Acesso em: 17 dez. 2020.

CITRON, Danielle Keats; PASQUALE, Frank A. The Scored Society: Due Process for Automated Predictions. Rochester, NY: Social Science Research Network, 2014. Disponível em: . Acesso em: 30 dez. 2020.

COSTA, Amarilis; VITORINO, Amanda; RICCI, Beatriz; et al. Bárbara Querino e a realidade carcerária brasileira. Disponível em: . Acesso em: 22 dez. 2020.

COSTA, Eduarda; REIS, Carolina. LGPD Penal: o que foi feito até aqui e quais são os próximos passos? LAPIN. Disponível em: . Acesso em: 19 jul. 2021.

COX, Kate. Police use of facial recognition violates human rights, UK court rules. Ars Technica. Disponível em: . Acesso em: 15 ago. 2020.

EUROPEAN COMISSION. Guidelines 3/2019 on processing of personal data through video devices. Disponível em: . Acesso em: 15 jul. 2021.

FILHO, Manoel Gonçalves Ferreira. Comentários à Constituição Brasileira de 1988. 2. ed. São Paulo: Saraiva, 1997.

FLEISCHER, R. S. Bias In, Bias Out: Why Legislation Placing Requirements on the Procurement of Commercialized Facial Recognition Technology Must Be Passed to Protect People of Color. Public Contract Law Journal, v. 50, n. 1, p. 63–89, 2020.

GROTHER, Patrick; NGAN, Mei; HANAOKA, Kayee. Face recognition vendor test part 3:: demographic effects. Gaithersburg, MD: National Institute of Standards and Technology, 2019. Disponível em: . Acesso em: 15 ago. 2020.

HILGENDORF, Eric; FELDLE, Jochen. Digitalization and the Law. Baden-Baden: Nomos, 2018.

LEAL, Aline. Doria veta projeto para instalação de reconhecimento facial no Metrô. Agência Brasil. Disponível em: . Acesso em: 23 mar. 2021.

MATTHEWS, Roger. O mito da punitividade revisitado. Justiça Criminal e Democracia II, n. 1, p. 432, 2015.

MATTU, Jeff Larson, Julia Angwin,Lauren Kirchner,Surya. How We Analyzed the COMPAS Recidivism Algorithm. ProPublica. Disponível em: . Acesso em: 30 dez. 2020.

MENDES, Laura Schertel; MATTIUZZO, Marcela; FUJIMOTO, Mônica Tiemy. Discriminação algorítimica à luz da Lei Geral de Proteção de Dados. In: Tratado de proteção de dados pessoais. Rio de Janeiro: Forense, 2021.

NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento facial e policiamento no Brasil. Retratos da Violência Cinco meses de monitoramento, análises e descobertas. Disponível em: . Acesso em: 17 jul. 2021.

NYCLU, The New York Civil Liberties Union. New York Creates First-in-the-Nation Moratorium on Facial Recognition in Schools. Disponível em: . Acesso em: 2 fev. 2021.

OEA. OEA - Organización de los Estados Americanos: Democracia para la paz, la seguridad y el desarrollo. Disponível em: . Acesso em: 23 mar. 2021.

OSOBA, Osonde A.; WELSER, William IV. An Intelligence in Our Image: The Risks of Bias and Errors in Artificial Intelligence. Santa Monica: RAND Corporation, 2017. Disponível em: . Acesso em: 22 dez. 2020.

REIS, Carolina; ALMEIDA, Eduarda; DA SILVA, Felipe. Relatório sobre o uso de tecnologias de reconhecimento facial e câmeras de vigilância pela administração pública no Brasil. Brasília: Laboratório de Políticas Públicas e Internet, 2021.

RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Trad. Danilo Doneda; Luciana Cabral Doneda. Rio de Janeiro: Renovar, 2008.

SALAS, Javier. Google conserta seu algoritmo “racista” apagando os gorilas. EL PAÍS. Disponível em: . Acesso em: 17 dez. 2020.

SILVA, Rosane Leal da; SILVA, Fernanda dos santos Rodrigues da. Reconhecimento facial e segurança pública: os perigos do uso da tecnologia no sistema penal seletivo brasileiro. In: 5 CONGRESSO INTERNACIONAL DIREITO E CONTEMPORANEIDADE: mídias e direitos da sociedade em rede, 02, 03 set: Universidade Federal de Santa Maria, RS, 2019. Disponível em: . Acesso em: 16 dez. 2020.

SILVA, Tarcizio da. VISÃO COMPUTACIONAL E RACISMO ALGORÍTMICO: BRANQUITUDE E OPACIDADE NO APRENDIZADO DE MÁQUINA. Revista da Associação Brasileira de Pesquisadores/as Negros/as (ABPN), v. 12, n. 31, 2020. Disponível em: . Acesso em: 23 mar. 2021.

UNIÃO EUROPEIA. Regulamento (UE) 2016/680 do Parlamento Europeu e do Conselho. Disponível em: . Acesso em: 3 maio 2021.

ZUBERI, Tukufu. Teoria crítica da raça e da sociedade nos Estados Unidos. Cadernos do CEAS, n. 238, 2016.




DOI: https://doi.org/10.34117/bjdv8n5-049