Derechos humanos y derecho penal en la era de la inteligencia artificial: Retos y propuestas

Giuseppe Kodjack Gangi-Guillén

doi:10.46661/respublica.11635

Autores

Giuseppe Kodjack Gangi-Guillén Universidad Nebrija, España https://orcid.org/0000-0001-5627-3874

DOI:

https://doi.org/10.46661/respublica.11635

Palavras-chave:

Inteligência artificial, direito penal, direitos humanos, regulamentação ética,, justiça automatizada

Resumo

O desenvolvimento da inteligência artificial (IA) transformou o direito penal e a administração da justiça. Da previsão de crimes à tomada de decisões judiciais automatizadas, a IA oferece oportunidades para melhorar a eficiência do sistema judicial. Entretanto, sua implementação apresenta sérios desafios em termos de transparência, vieses algorítmicos e violação de direitos fundamentais. Este artigo analisa os impactos da IA no direito penal e nos direitos humanos, destacando a necessidade de uma estrutura regulatória ética que equilibre inovação e justiça. Ele propõe um modelo de monitoramento e auditoria de algoritmos, bem como o uso da IA como uma ferramenta de apoio e não como o único critério na tomada de decisões judiciais.

Downloads

Não há dados estatísticos.

Referências

ALONSO SALGADO, Cristina (2021). Acerca de la inteligencia artificial en el ámbito penal: especial referencia a la actividad de las fuerzas y cuerpos de seguridad. IUS ET SCIENTIA. Vol. 7 Nº 1. pp. 25 - 36 https://dx.doi.org/10.12795/IETSCIENTIA.2021.i01.03 DOI: https://doi.org/10.12795/IETSCIENTIA.2021.i01.03

BALCELLS, Marc. (2020). Luces y sombras del uso de la inteligencia artificial en el sistema de Justicia penal. En A. Cerrillo I Martínez y M. Peguera Poch (Eds.). Retos jurídicos de la inteligencia artificial. Cizur Menor (Navarra): Aranzadi.

BRAYNE, Sarah. (2017). Big Data Surveillance: The Case of Policing. American Sociological Review, 82(5), 977-1008. https://doi.org/10.1177/0003122417725865 DOI: https://doi.org/10.1177/0003122417725865

BUOLAMWINI, Joy., & GEBRU, Timnit. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Science Advances, 4(1), eaas8576. Proceedings of Machine Learning Research. 81:77-91 Available from https://proceedings.mlr.press/v81/buolamwini18a.html

CHESNEY, Robert., & CITRON, Danielle. (2019). Deepfakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics. Foreign Affairs, 98(1), 147-155. Available at: https://scholarship.law.bu.edu/shorter_works/76

CHÉN, Oliver. (2022). Uniting Machine Intelligence, Brain and Behavioural Sciences to Assist Criminal Justice. arXiv preprint arXiv:2207.01511. https://doi.org/10.48550/arXiv.2207.01511

DELGADO MORAN, Juan. José, MAZURIER, Pablo. Andrés. & PAYA SANTOS, Claudio. Augusto. (2019). The race to securitize the arctic in a post-cold War scenario. Revista de Pensamiento Estratégico y Seguridad CISDE, 4(1), 59-64. http://hdl.handle.net/10272/17180

El Derecho. com (2024). Responsabilidad penal y la inteligencia artificial en España. Editorial Jurídica El Derecho.

El País. (2024). El caso de deepfakes en España reabre el debate sobre la regulación de la IA. Recuperado de https://www.elpais.com

El País. (2024). Una demanda de un niño con autismo abre el debate para regular el uso de la IA en la justicia colombiana. Recuperado de https://elpais.com/america-colombia/2024-08-25/una-demanda-de-un-nino-con-autismo-abre-el-debate-para-regular-el-uso-de-la-ia-en-la-justicia-colombiana.html

European Commission. (2021). Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts. COM/2021/206 final.

EL KADY, Ramy. (2025). "Challenges of Criminal Liability for Artificial Intelligence Systems." In Exploration of AI in Contemporary Legal Systems, edited by Halim Bajraktari, 1-42. Hershey, PA: IGI Global,. https://doi.org/10.4018/979-8-3693-7205-0.ch001 DOI: https://doi.org/10.4018/979-8-3693-7205-0.ch001

GUTHRIE FERGUSON, Andrew. (2017). The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. New York: NYU Press. https://doi.org/10.18574/nyu/9781479854608.001.0001 DOI: https://doi.org/10.18574/nyu/9781479854608.001.0001

GANGI GUILLEN, Giuseppe. Kodjack. (2023). Dinámicas migratorias en la frontera colombo-venezolana y su relación con la criminalidad transnacional. Revista Científica General José María Córdova, 21(44), 907–924. https://doi.org/10.21830/19006586.984 DOI: https://doi.org/10.21830/19006586.984

GARVIE, Clare., BEDOYA, Alvaro. & FRANKLE, Jonathan. (2016). The Perpetual Line-Up: Unregulated Police Face Recognition in America. Georgetown Law Center on Privacy & Technology. https://www.perpetuallineup.org/

GÓMEZ ROMERO, Miriam Judit. (2023). El Metaverso como forma de trabajo. Riesgos, y oportunidades: una mirada al derecho internacional. Cuadernos de RES PUBLICA en derecho y criminología, n.º 2 (junio):112-21. https://doi.org/10.46661/respublica.8223 DOI: https://doi.org/10.46661/respublica.8223

GONZÁLEZ TRIGO, Norberto Aser. (2023). El agente encubierto ante la criminalidad organizada transnacional. Cuadernos de RES PUBLICA en derecho y criminología, n.º 1 (mayo): 85-94. https://doi.org/10.46661/respublica.8062 DOI: https://doi.org/10.46661/respublica.8062

GRIGORE, Andrea. Elena. (2022). Derechos humanos e inteligencia artificial. IUS ET SCIENTIA, 8(1), 164–175. https://doi.org/10.12795/IETSCIENTIA.2022.i01.10 DOI: https://doi.org/10.12795/IESTSCIENTIA.2022.i01.10

HERNÁNDEZ GIMÉNEZ, María. (2019). Inteligencia artificial y Derecho penal.. Actualidad Jurídica Iberoamericana, 10(bis), 792-843. https://revista-aji.com/wp-content/uploads/2019/06/792-843.pdf

HILDEBRANDT, Mirelle. (2022). Law for Computer Scientists and Other Folk. Oxford University Press. , https://doi.org/10.1093/oso/9780198860877.001.0001 DOI: https://doi.org/10.1093/oso/9780198860877.001.0001

LIZ RIVAS, Lenny. (2024).Violencia y agresión entre iguales a través de las TICS: Cyberbulling. AlmaMater. Cuadernos de Psicosociobiología de la Violencia: Educación y Prevención, nº 5, 2024, Dykinson, pp. 89-105. https://doi.org/10.14679/3314 DOI: https://doi.org/10.14679/3314

LIZ RIVAS, Lenny. (2018). Algunas bases neurológicas sobre la violencia y la agresión, en ;“Conflictos y diplomacia, desarrollo y paz, globalización y medio ambiente “. Thomson Reuters/Aranzadi, pp. 943-955. https://doi.org/10.5281/zenodo.14559664

LUQUE JUÁREZ, José. María., SANZ GONZÁLEZ, Roger., PAYÁ SANTOS, Claudio. Augusto & RODRÍGUEZ GONZÁLEZ, Víctor. (2024). Aplicaciones de la inteligencia artificial en la criminología y ciencias policiales. https://doi.org/10.13140/RG.2.2.11118.63041.

MANDALAPU, Varun., ELLURI, Lavanya., VYAS, Piyush., & ROY, Nirmalya. (2023). Crime Prediction Using Machine Learning and Deep Learning: A Systematic Review and Future. https://doi.org/10.48550/arXiv.2303.16310https://doi.org/10.1109/ACCESS.2023.3286344 DOI: https://doi.org/10.1109/ACCESS.2023.3286344

MARTINO, Luigi. (2024). Cybersecurity in Italy. Governance, Policies and Ecosystem. Springer Nature. https://doi.org/10.1007/978-3-031-64396-5 DOI: https://doi.org/10.1007/978-3-031-64396-5

MARTINO, Luigi. (2024). International Law, State Sovereignty and Competition in the Digital Age. Rivista di filosofia del diritto internazionale e della politica globale, Vol. 21, Nº. 2, 2024. https://dialnet.unirioja.es/descarga/articulo/10098952.pdf

MARTINO, Luigi. & MERENDA, Federica. (2021). Artificial intelligence: A paradigm shift in international law and politics? Autonomous weapon systems as a case study. in: Giampiero Giacomello & Francesco N. Moro & Marco Valigi (ed.), Technology and International Relations, chapter 5, pages 89-107, Edward Elgar Publishing. https://doi.org/10.4337/9781788976077.00012 DOI: https://doi.org/10.4337/9781788976077.00012

MAZURIER, Pablo, Andrés., DELGADO MORÁN, Juan, José & PAYA SANTOS, Claudio, Augusto. (2019). Gobernanza constructivista de la internet. Teoría y Praxis, 17(34), 107-130. https://doi.org/10.5377/typ.v1i34.14823 DOI: https://doi.org/10.5377/typ.v1i34.14823

MIRÓ LLINARES, Fernando. (2018). Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots. Revista de Derecho Penal y Criminología, (20), 87–130. https://doi.org/10.5944/rdpc.20.2018.26446 DOI: https://doi.org/10.5944/rdpc.20.2018.26446

MORÁN ESPINOSA, Alejandra. (2021). Responsabilidad penal de la Inteligencia Artificial (IA). ¿La próxima frontera? Revista del Instituto de Ciencias Jurídicas de Puebla, México. vol. 15, No. 48. https://doi.org/10.35487/rius.v15i48.2021.706 DOI: https://doi.org/10.35487/rius.v15i48.2021.706

Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2021). Los riesgos de la inteligencia artificial para la privacidad exigen una acción urgente. Recuperado de https://goo.su/TegmwK

PAGALLO, Ugo (2013). The Laws of Robots: Crimes, Contracts, and Torts. Dordrecht: Imprint: Springer. https://doi.org/10.1007/978-94-007-6564-1 DOI: https://doi.org/10.1007/978-94-007-6564-1

PASQUALE, Frank. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press. https://doi.org/10.4159/harvard.9780674736061 DOI: https://doi.org/10.4159/harvard.9780674736061

PAYÁ SANTOS, Claudio. Augusto. (2023). El desempeño de la inteligencia en España en el ámbito público, empresarial y académico. Revista Científica General José María Córdova, 21(44), 1029–1047. https://doi.org/10.21830/19006586.1222 DOI: https://doi.org/10.21830/19006586.1222

PAYÁ SANTOS, Claudio. Augusto; DELGADO MORÁN, Juan. José;. MARTINO, Luigi; GARCÍA SEGURA, Luis, A.; DIZ CASAL, Javier, & FERNÁNDEZ-RODRÍGUEZ, Juan, Carlos. (2023). Fuzzy Logic analysis for managing Uncertain Situations. Review of Contemporary Philosophy Vol 22 (1), 2023 pp. 6780 -6797. https://doi.org/10.52783/rcp.1132 DOI: https://doi.org/10.52783/rcp.1132

PAYÁ SANTOS, Claudio. Augusto; RODRÍGUEZ GONZÁLEZ, Víctor; DOMÍNGUEZ PINEDA Neidy Zenaida; DIZ CASAL, Javier; FERNÁNDEZ RODRÍGUEZ, Juan Carlos & DELGADO MORÁN, Juan José (2025). Role of the Human Factor in the Cybersecurity Ecosystem. Journal of Information Systems Engineering and Management,10(4). https://doi.org/10.52783/jisem.v10i4.8983 DOI: https://doi.org/10.52783/jisem.v10i4.8983

RICAURTE, Paola. (2024). Las grandes compañías tecnológicas son aliadas de gobiernos autoritarios. El País. Recuperado de https://elpais.com/america/lideresas-de-latinoamerica/2024-10-16/paola-ricaurte-las-grandes-companias-tecnologicas-son-aliadas-de-gobiernos-autoritarios.html

RODRÍGUEZ GONZÁLEZ, Víctor., PAYÁ, SANTOS, Claudio, Augusto., & PEÑA HERRERA, Bernardo. (2023). Estudio criminológico del ciberdelincuente y sus víctimas. Cuadernos de RES PUBLICA en Derecho y criminología, (1) 95-107. https://doi.org/10.46661/respublica.8072. DOI: https://doi.org/10.46661/respublica.8072

SANZ GONZÁLEZ, Roger, LUQUE JUÁREZ, José María, MARTINO, Luigi, LIZ RIVAS, Lenny, DELGADO MORÁN, Juan José, & PAYÁ SANTOS, Claudio Augusto. (2024) Artificial Intelligence Applications for Criminology and Police Sciences. International Journal of Humanities and Social Science. Vol. 14, No. 2, pp. 139-148. https://doi.org/10.15640/jehd.v14n2a14

SCANTAMBURLO, Teresa, Andrew CHARLESWORTH, & Nello CRISTIANINI, (2019). Machine Decisions and Human Consequences, in Karen Yeung, and Martin Lodge (eds), Algorithmic Regulation. Oxford Academic. https://doi.org/10.48550/arXiv.1811.06747 DOI: https://doi.org/10.1093/oso/9780198838494.003.0003

THAMER NAJM, Abdullah Abbas., HAMEED, Raed., AKRAM KADHIM, Ali., & HASHIM QASIM, Namer. (2024). Artificial intelligence and criminal liability: exploring the legal implications of aIenabled crimes. ENCUENTROS. Revista de Ciencias Humanas, Teoría Social Y Pensamiento Crítico., 22 140-159. https://doi.org/10.5281/zenodo.13386675

WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2018) "Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR", Harvard Journal of Law and Technology. 31 (2) 841-887. https://doi.org/10.2139/ssrn.3063289 DOI: https://doi.org/10.2139/ssrn.3063289

WACHTER, Sandra., MITTELSTADT, Brent., & RUSSELL, Chris. (2021). Why fairness cannot be automated: Bridging the gap between AI and human rights law. Computer Law & Security Review, 43(4), 34-55. https://doi.org/10.1016/j.clsr.2021.105567 DOI: https://doi.org/10.1016/j.clsr.2021.105567

XAVIER JANUÁRIO, Tulio. Felippe. (2023). Inteligencia artificial y responsabilidad penal de personas jurídicas: un análisis de sus aspectos materiales y procesales: Un análisis de sus aspectos materiales y procesales . Estudios Penales Y Criminológicos, 44(Ext.), 1-39. https://doi.org/10.15304/epc.44.8902 DOI: https://doi.org/10.15304/epc.44.8902