O The use of artificial intelligence in criminal law and its impact on the fundamental rights of non-discrimination and privacy
DOI:
https://doi.org/10.48159/revistadoidcc.v8n2.e099Keywords:
artificial intelligence, criminal law, fundamental rights, technologiesAbstract
This article investigates the use of artificial intelligence (AI) in criminal law and its implications for fundamental human rights, addressing the ethical, legal and social issues associated with its growing adoption. The study presents the context of its origin and highlights the advances in the use of technology in the criminal sphere, such as facial recognition and predictive analysis, which have transformed various sectors, but which also raise concerns about privacy, algorithmic biases and the lack of transparency in automated decisions. Focusing on the practical aspects of AI in criminal law in countries such as the United States, China and Brazil, the research analyzes the impacts on fundamental rights and the emerging ethical and social challenges, using case studies and national and international policies as a reference. This time frame, centered on the first lines of thought on artificial intelligence up to the present day, aims to present a critical reflection on how AI is shaping the judicial system and the principles of justice, considering the conflicts that arise with the adoption of technological innovations in a scenario that is still adapting. The methodology adopted was bibliographical research, using books, articles and legislation related to the topic.
References
ADIn 6393 MC-Ref, Relator(a): ROSA WEBER, Tribunal Pleno, julgado em 07/05/2020, PROCESSO ELETRÔNICO DJe-270 DIVULG 11-11-2020 PUBLIC 12-11-2020.
Disponível no link: https://www.migalhas.com.br/depeso/353697/decisao-historica-stf-reconhece-direito-autonomo-a-protecao-de-dados
ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine bias. 23/5/2016. 2016. Disponível em: https://www.propublica. org/article/how-we-analyzed-the-compas-recidivism-algorithm. Acesso em: 18/11/2024.
ARISTÓTELES. Retórica. Tradução de Edson Bini, São Paulo: Edipro, 2011, I, 1357a
ATTANASIO, Maria Julia Santos. Reconhecimento facial e inteligência artificial: um estudo de caso sobre o racismo estrutural e suas consequências dentro do processo penal. (2023).
AZEVEDO, Bernardo de. Sistema de inteligência artificial nos EUA prevê o “índice de reincidência” dos acusados. 2019. Disponível em: <https://bernardodeazevedo.com/conteudos/sistema-de-inteligencia-artificial-nos-eua-preve/ >. Acesso em: 18 nov. 2024.
BANDEIRA DE MELLO, Celso Antônio. O conteúdo jurídico do princípio da igualdade. 4. ed. São Paulo: Juspodvm, 2019.
BARBOSA, Lucia Martins; PORTES, Luiza Alves Ferreira. A inteligência artificial. Revista Tecnologia Educacional [on line], Rio de Janeiro, n. 236, p. 16-27, 2023.
CALISKAN-ISLAM, Aylin; BRYSON, Joanna J.; NARAYAAN, Arvind. Semantics derived automatically from language corpora necessarily contain human biases. 2016. Princeton: Princeton University.
CASSINO, João Francisco; Rodolfo da Silva Avelino; SILVEIRA, Sérgio Amadeu da. Direitos humanos, inteligência artificial e privacidade. Monções: Revista de Relações Internacionais da UFGD 8.15 (2019): 573-596.
CHIESI FILHO, Humberto. Inteligência artificial é uma realidade e já afeta a área jurídica. Revista Consultor Jurídico (CONJUR). 15/9/2017. Disponível em: https://www.conjur.com.br/2017-set-15/chiesi-filho- -inteligencia-artificial-afeta-area-juridica. Acesso em: 9/5/2019.
DIEGUES, Antonio Carlos; HIRATUKA, Celio. Inteligência artificial na estratégia de desenvolvimento da China contemporânea. Instituto de Economia, UNICAMP, 2021. Disponível em: <https://www.eco.unicamp.br/images/arquivos/artigos/TD/TD422_1.pdf>. Acesso em: 18 nov. 2024.
EUROPA. Conselho da Europa. Comissão Europeia para a Eficácia da Justiça, Carta Ética Europeia de Utilização da Inteligência Artificial nos Sistemas Judiciários e seu Entorno. Estrasburgo: CEPEJ, 03 de dezembro de 2018, p. 61.
FERGUSON, Andrew G. The rise of big data policing: surveillance, race, and the future of law enforcement. Nova Iorque: New York University Press. 2017. Edição digital.
FERNANDES, M. Inteligência artificial e Poder Judiciário: riscos e benefícios de um debate inevitável. Disponível em: <https://www.conjur.com.br/2024-out-23/inteligencia-artificial-e-poder-judiciario-riscos-e-beneficios-de-um-debate-inevitavel/>. Acesso em: 18 nov. 2024.
FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Revista dos Tribunais, 2019, p. 6.
GOMES, Dennis dos Santos. Inteligência artificial: conceitos e aplicações. Revista Olhar Científico 1.2 (2010): 234-246.
GUIMARÃES, Rodrigo Régnier Chemim. A inteligência artificial e a disputa por diferentes caminhos em sua utilização preditiva no processo penal. Revista Brasileira de Direito Processual Penal 5.3 (2019): 1555-1588.
HAO, Karen. Intelligent machines: this is how ai bias really happens – and why it’s so hard to fix. MIT Technology Review, 2019. Disponível em: https://www.technologyreview.com/2019/02/04/137602/this--is- how-ai-bias-reallyhappensand- why-its-so-hard-to-fix/. Acesso em: 16 nov. 2024.
KAUFMAN, Dora, Tainá Junquilho, and Priscila Reis. Externalidades negativas da inteligência artificial: conflitos entre limites da técnica e direitos humanos. Revista de Direitos e Garantias Fundamentais 24.3 (2023): 43-71.
LEE, Kai-Fu. Inteligência artificial [recurso eletrônico]: Como os robôs estão mudando o mundo, a forma como amamos, nos relacionamos, trabalhamos e vivemos. Tradução de Marcelo Barbão. 1ª ed. Rio de Janeiro: Globo livros, 2019.
LEE, Kai-Fu. Superpotências de la inteligencia artificial. 2018. Traducción de Mercedes Vaquero, 2020. Editorial Planeta.
LEONARDI, Marcel. Tutela da privacidade na internet. São Paulo: Saraiva, 2011.
MAGRANI, E. A internet das coisas. Rio de Janeiro: FGV Editora, 2018.
MATWYSHYN, Andrea M. The ‘internet of bodies’ is here. Are courts and regulators ready? A network of smart devices attached to or im-planted in bodies raises a host of legal and policy questions. Wall Street Journal, Nov. 12, 2018.
MELO, Jeferson. Judiciário ganha agilidade com uso de inteligência artificial. Agência CNJ de Notícias, Brasília, DF, 3 abr. 2019. Disponível em: https://www.cnj.jus.br/judiciario-ganha-agilidade-com-uso-de-inteligencia-artificial/. Acesso em: 16 nov. 2024.
MENDES, Laura Schertel; MATTIUZZO, Marcela; FUJIMOTO, Mônica Tie-my. Discriminação algorítmica à luz da lei geral de proteção de dados. In: DONEDA, Danilo et.al. Tratado de proteção de dados pessoais. 2. reimp. Rio de Janeiro: Forense, 2021, p. 421-446.
NUNES, D. M. H. Manual da justiça digital. Salvador: JusPodivm, 2022.
O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. Nova Iorque: Crown Publishers. 2016. Edição digital.
Organisation for Economic Co-operation and Development - OECD (Organização para a Cooperação e Desenvolvimento Econômico -OCDE). Algorithms and collusion: Competition policy in the digital age. 2017. Disponível em: www.oecd.org/competition/algorithms- -collusion-competition-policy-in-the-digital-age.htm. Acesso em 15/11/2024.
PARENTONI, Leonardo Netto, Rômulo Soares VALENTINI, and Tárik César Oliveira E. ALVES. Panorama da regulação da inteligência artificial no Brasil: com ênfase no PL 's N. 5.051/2019. Revista Eletrônica do Curso de Direito da UFSM 15.2 (2020): 43730.
PILÓ, Xenofontes Curvelo, e Deilton Ribeiro Brasil. A utilização da inteligência artificial no direito penal e seus reflexos nas garantias e direitos fundamentais. Revista EJEF 1 (2022): 269-299.
PEDRINA, Gustavo Mascarenhas Lacerda. Consequências e perspectivas da aplicação de inteligência artificial a casos penais. Revista Brasileira de Direito Processual Penal 5.3 (2019): 1589-1606.
PEDRINA, Gustavo Mascarenhas Lacerda. Culpabilidade, neurociências e análise preditiva. Diss. Universidade de São Paulo, 2021.
PEIXOTO, Fabiano Hartmann, e Roberta Zumblick Martins da SILVA. Inteligência artificial e direito. Curitiba: Alteridade 1 (2019).
PEREZ-CRIADO, Caroline. Invisible women: data bias in a world designed for men. USA: Abrams Press, 2021
PRAIA, HELTON JOSÉ BARBOSA LOUREIRO. Inteligência artificial aplicada ao direito: uma análise do panorama brasileiro. Diss. UNIVERSIDADE DO VALE DO ITAJAÍ, 2023.
SARLET, Ingo Wolfgang. Fundamentos constitucionais: o direito fundamental à proteção de dados. In: DONEDA, Danilo et. al. Tratado de proteção de dados pessoais. 2. reimp. Rio de Janeiro: Forense, 2021, p. 21-60.
SCHNEIDER, Henrique Nou. O fenômeno “China” na inteligência artificial. Portal Universidade Federal de Sergipe. 2020. Disponível em: <https://www.ufs.br/conteudo/64934-o-fenomeno-china-na-inteligencia-artificial >. Acesso em: 18 nov. 2024.
SCHWAB, Klaus. A quarta revolução industrial. São Paulo: Edipro, 2016
SKIBBA, Ramin. A calculating look at criminal justice. 2018. Portal Undark. Disponível em: https://undark.org/article/a-calculating-look-at-criminal-justice/. Acesso em 18 no. 2024
STEFFEN, Catiane. A inteligência artificial e o processo penal: a utilização da técnica na violação de direitos. Revista da EMERJ 25.1 (2023): 105-129.
WINSTON, Patrick. The strong story hypothesis and the directed perception hypothesis. AAAI Fall Symposium Series, 2011. Artigo digital.
YAROVENKO, Vasily; SHAPOVALOVA, Galina; ISMAGILOV, Rinat. Some problems of using the facial recognition system in law enforcement activities. Правовое государство теория и практика, [s. l.], v. 17, n. 1, p. 189-200, mar. 2021. Disponível em: https://pravgos.ru/index.php/journal/article/view/160. Acesso em: 25 abr. 2022.
ZENDESK. Empresa de Tecnologia. Qual é a origem da inteligência artificial? Onde tudo começou? 2024. Disponível em: <https://www.zendesk.com.br/blog/qual-e-a-origem-da-inteligencia-artificial/>. Acesso em: 18 nov. 2024.
ZHABINA, Alena. Como a inteligência artificial chinesa está automatizando o sistema legal. Deutsche Welle. Tradução de Rodrigo Trindade. Portal Revisão Trabalhista. 2023. Disponível em: <https://revisaotrabalhista.net.br/2023/07/21/como-a-inteligencia-artificial-chinesa-esta-automatizando-o-sistema-legal />. Acesso em: 18 nov. 2024.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2024 Sara Matias Ferrari Pereira, Tarsis Barreto Oliveira
This work is licensed under a Creative Commons Attribution 4.0 International License.
Você tem o direito de:
Compartilhar — copiar e redistribuir o material em qualquer suporte ou formato
Adaptar — remixar, transformar, e criar a partir do material para qualquer fim, mesmo que comercial.
O licenciante não pode revogar estes direitos desde que você respeite os termos da licença.
De acordo com os termos seguintes:
Atribuição — Você deve dar o crédito apropriado, prover um link para a licença e indicar se mudanças foram feitas. Você deve fazê-lo em qualquer circunstância razoável, mas de nenhuma maneira que sugira que o licenciante apoia você ou o seu uso.
Sem restrições adicionais — Você não pode aplicar termos jurídicos ou medidas de caráter tecnológico que restrinjam legalmente outros de fazerem algo que a licença permita.
