Gender Bias in Artificial Intelligence
The Rule of Law in the Face of Algorithmic Sex Discrimination
DOI:
https://doi.org/10.46661/rev.int.pensampolit..8778Keywords:
Artificial Intelligence, gender bias, human rights, rule of law, gender equalityAbstract
The unstoppable development of new technologies operated by Artificial Intelligence poses a regulatory challenge of considerable significance for the rule of law. Beyond the potential benefits that new digital tools can bring for social progress and economic development, opaque and uncontrolled uses of AIs can constitute a threat to the rights and values that underpin our society and, in particular, to equality between women and men. This paper analyzes the causes and consequences of algorithmic gender biases and the regulatory proposals that have been put forward to try to neutralize them.
Downloads
References
Barrio Andrés, M. (2020). “Retos y desafíos del Estado algorítmico de Derecho”. Real Instituto El Cano, (82/2020), 1–6. http://www.realenstitutoelcano.org/wps/portal/rielcano_es/contenido?WCM_GLOBAL_CONTEXT=/elcano/elcano_es/zonas_es/ari82-2020-barrio-retos-y-desafios-del-estado-algoritmico-de-derecho
Belloso Martín, N. (2022). “La problemática de los sesgos algorítmicos (con especial atención a los de género). ¿Hacia un derecho a la protección contra los sesgos?” En Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 45–69).
Borges Blázquez, R. (2020). “El sesgo de la máquina en la toma de decisiones en el proceso penal”. Ius Et Scientia, 6(2). (pp. 54-71). https://doi.org/10.12795/ietscientia.2020.i02.05
Castaneda, J., Jover, A., Calvet, L., Yanes, S., Juan, A. A., y Saenz, M. (2022). “Dealing with Gender Bias Issues in Data-Algorithmic Processes: A Social-Statistical Perspective”. Algorithms, 15(9), 1–16. https://doi.org/10.3390/a15090303
Comisión Europea. (2018). Artificial Intelligence for Europe. https://eur-lex.europa.eu/legal- content/EN/TXT/PDF/?uri=CELEX:52018DC0237&from=EN
Comisión Europea. (2020). Libro Blanco sobre la Inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza. https://op.europa.eu/es/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1
Comisión Europea. (2021). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia artificial) y se modifican determinados actos legislativos de la Unión. COM (2021) 206 final, 21.04.2021. https://eur-lex.europa.eu/legal-content/EN/TXT/qid=1623335154975yuri=CELEX%3A52021PC0206
Danesi, C. C. (2021). Sesgos algorítmicos de género con identidad iberoamericana: las técnicas de reconocimiento facial en la mira. Derecho de Familia. Revista Interdisciplinar de Doctrina y Jurisprudencia, Julio 2021(100), 159–168.
Dastin, J. (2018). “Amazon scraps secret AI recruiting tool that showed bias against women”. Reuters, 9 October 2018. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
De Renesse, R. 2017. “Virtual Digital Assistants to Overtake World Population by 2021”. 17 May 2017. London, Ovum. https://www.telecomtv.com/content/industry-announcements/virtual-digital-assistants-to-overtake-world-population-by-2021-29891/
Del Castillo, C. (2023). “Un negocio con lista de espera: la app usada para 'desnudar' a menores en Badajoz cobra 9 euros por 25 fotos”, eldiario.es, 18/09/2023. https://www.eldiario.es/tecnologia/negocio-lista-espera-app-usada-desnudar-menores-badajoz-cobra-9-euros-25-fotos_1_10522989.html
Doshi, T. (2018). “Introducing the Inclusive Images Competition”. Google Research, 06/09/2018. https://blog.research.google/2018/09/introducing-inclusive-images-competition.html
Éticas. (2021). Guía de Auditoría Algorítmica. https://www.eticasconsulting.com/eticas-consulting-guia-de-auditoria-algoritmica-para-desarrollar-algoritmos-justos-y-eficaces/
Éticas y Fundación Ana Bella. (2022). Auditoría Externa del Sistema VioGén. https://eticasfoundation.org/es/gender/the-external-audit-of-the-viogen-system/#:~:text=La%20Auditor%C3%ADa%20Externa%20del%20Sistema%20VioG%C3%A9n,-El%20Algoritmo%20espa%C3%B1ol&text=VioG%C3%A9n%20es%20un%20algoritmo%20que,3%20millones%20de%20casos%20registrados.
Europapress. (2023). “Sumar propone crear un nuevo tipo penal que castigue la manipulación de imagen corporal o voz con IA sin permiso”, 20 minutos, 06/10/2023. https://www.20minutos.es/noticia/5179427/0/sumar-crear-pena-uso-inteligencia-artificial/
Gobierno de España. (2021). Carta de Derechos Digitales.
Gómez Abeja, L. (2022). “Inteligencia Artificial y Derechos Fundamentales”. En Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 91–112).
Hao, K. (2019). “Cómo acabar con los algoritmos sexistas que conceden créditos”. MIT Technology Review. 27/12/2019. https://www.technologyreview.es//s/11630/como-acabar-con-los-algoritmos-sexistas-que-conceden-creditos
HLEG. (2019a). A definition of Artificial Intelligence: main capabilities and scientific disciplines. https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines
HLEG. (2019b). Ethics guidelines for trustworthy AI. https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
HLEG. (2019c). Policy and Investment Recommendations for Trustworthy AI. https://ec.europa.eu/digital-single-market/en/news/policy-and-investment-recommendations-trustworthy-artificial-intelligence
HLEG. (2020a). The assessment list for Trustworthy Artificial Intelligence (ALTAI). https://ec.europa.eu/digital-single-market/en/news/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment
HLEG. (2020b). Sectoral Considerations on the Policy and Investment. https://futurium.ec.europa.eu/en/european-ai-alliance/document/ai-hleg-sectoral-considerations-policy-and-investment-recommendations-trustworthy-ai
IALAB. Laboratorio de Innovación e Inteligencia Artificial de la Universidad de Buenos Aires, Argentina (2021). Sesgos algorítmicos de Género. chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://ialab.com.ar/wp-content/uploads/2021/12/Infografia.-Sesgos-algoritmicos-de-genero.pdf
Gómez, M. (2021). “El plan contra la temporalidad fraudulenta logra 61.000 contratos fijos en casi tres semanas”. El País, 15/03/2021. https://elpais.com/economia/2021-03-14/el-plan-contra-la-temporalidad-fraudulenta-logra-61000-contratos-fijos-en-casi-tres-semanas.html
Jaume-Palasí, L. (2023). Informe preliminar con perspectiva interseccional sobre sesgos de género en la Inteligencia Artificial. Instituto de las Mujeres /www.enmujeres.gob.es/areasTematicas/SocEnfo/Estudios/docs/Enforme_Sesgos_Genero_IA.pdf
Keller, E. F. (1995), Reflections on gender and science, New Heaven: Yale University Press, 1995.
Levy, H. P. (2016). “Gartner predicts a virtual world of exponential change”, 18 October 2016 https://www.gartner.com/smarterwithgartner/gartner-predicts-a-virtual-world-of-exponential-change
Martín-Arroyo, J. y Rincón, R. (2021). “La inteligencia artificial se abre paso en la justicia española”. El País, 21/02/2021. https://elpais.com/tecnologia/2021-02-20/la-inteligencia-artificial-se-abre-paso-en-la-justicia-espanola.html
Ministerio de Asuntos Económicos y Transformación Digital. (2020a). Estrategia Digital España 2025. https://avancedigital.mineco.gob.es/programas-avance-digital/paginas/espana-digital-2025.aspx
Ministerio de Asuntos Económicos y Transformación Digital. (2020b). Estrategia Nacional de Inteligencia Artificial (ENIA). https://portal.mineco.gob.es/es-es/digitalizacionIA/Paginas/ENIA.aspx
Ministerio de Ciencia, Innovación y Universidades. (2019). Estrategia Española de I+D+I en Inteligencia Artificial.
Moral Soriano, L. (2021). “Decisiones automatizadas, Derecho Administrativo y argumentación jurídica”. En Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 475–500).
O’Neil, C. (2017). Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia. Madrid: Capitán Swing.
Observatorio Nacional de Tecnología (ONTSI). (2023). Brecha digital de género 2023. Ministerio de Asuntos Económicos y Transformación Digital. https://www.ontsi.es/es/publicaciones/brecha-digital-de-genero-2023
Ortiz de Zárate Alcarazo, L. (2023). Sesgos de género en la inteligencia artificial. Revista de Occidente, (502), 5–20.
Ortiz de Zárate Alcarazo, L., y Guevara Gómez, A. (2021). Inteligencia artificial e igualdad de género. Un análisis comparado entre la UE España y Suiza. Fundación Alternativas. https://www.igualdadenlaempresa.es/recursos/estudiosMonografia/docs/Estudio_Inteligencia_artificial_e_igualdad_de_genero_Fundacion_Alternativas.pdf
Otterbacher, J., Bates, J., y Clough, P. (2017). “Competent Men and Warm Women: Gender Stereotypes and Backlash in Image Search Results” en Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems. 2017 CHI Conference on Human Factors in Computing Systems, 06-11 May 2017, Colorado Convention Center, Denver, CO. Association for Computing Machinery. (pp. 6620-6631) https://doi.org/10.1145/3025453.3025727
Parlamento Europeo. (2020). Propuesta de resolución del Parlamento Europeo sobre la Inteligencia Artificial en la era digital (2020/2266(INI)). https://www.europarl.europa.eu/doceo/document/A-9-2022-0088_ES.html#_section1
Parlamento Europeo. (2021). Macrodatos: definición, beneficios, retos (infografía). https://www.europarl.europa.eu/news/es/headlines/society/20210211STO97614/macrodatos-definicion-beneficios-retos-infografia
Parlamento Europeo. (2023). Posición negociadora del Parlamento sobre la Ley de Inteligencia Artificial. https://www.europarl.europa.eu/thinktank/es/document/EPRS_ATA(2023)747926
Pulido, M. D. A. (2022). “La justicia predictiva: tres posibles usos en la práctica jurídica” en Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 285–308).
Sáinz, M., Arroyo, L., y Castaño, C. (2020). Mujeres y digitalización: de las brechas a los algoritmos, Instituto de la Mujer y para la Igualdad de Oportunidades. https://www.enmujeres.gob.es/diseno/novedades/M_MUJERES_Y_DIGITALIZACION_DE_LAS_BRECHAS_A_LOS_ALGORITMOS_04.pdf
UNESCO. (2019). I’d blush if I could. Closeng gender divides en digital skills through education. https://unesdoc.unesco.org/ark:/48223/pf0000367416.page=74
Wisner Glusko, D. C. (2022). Breves reflexiones sobre la importancia del Estado de Derecho en el desarrollo del marco legal sobre los sistemas de Inteligencia Artificial en la Unión Europea. En Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 529–545).
Zehlike, M., Bonchi, F., Castillo, C., Hajian, S., Megahed, M., y Baeza-Yates, R. (2018). “FA∗IR: A fair top-k rankeng algorithm”. Enternational Conference on Enformation and Knowledge Management, Proceedengs, Part F1318, 1569–1578. https://doi.org/10.1145/3132847.3132938
Zhao, J., Wang, T., Yatskar, M., Ordonez, V., y Chang, K.-W. (2017). “Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constrints”, en Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing. Copenhagen, Denmark. Association for Computational Linguistics. (pp. 2979–2989) https://aclanthology.org/D17-1323/
Zhou, P., Shi, W., Zhao, J., Huang, K., Chen, M., Cotterell, R., Chang, K-W. (2019). “Examining Gender Bias in Languages with Grammatical Gender”, en Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP). Hong Kong, China. Association for Computational Linguistics. (pp. 5276–5284). https://aclanthology.org/D19-1531/
Zou, J. y Schiebinger, L. (2018). “AI can be sexist and racist — it’s time to make it fair”. Nature. https://www.nature.com/articles/d41586-018-05707-8
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2023 Laura Flores Anarte
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Open access policy
Free and open access is allowed to any interested party to all the contents of the journal issues, free of charge, being able to print and transfer all the articles, with the only condition of specifying the source and authorship.
The journal: a) does not charge authorship costs for the processing of articles or for their submission, b) maintains copyright for authors without restrictions, c) facilitates authors to keep their publication rights without limitations.
The International Journal of Political Thought is an original work of the Laboratory of Political Ideas and Practices of the Pablo de Olavide University. All articles included in the Journal are original work of their respective authors. This Journal is freely offered to the scientific and academic community at no cost and releases the contents according to the license "Attribution-NonCommercial-ShareAlike 4.0 CC BY-NC-SA" of the Creative Commons project available in the following url: https://creativecommons.org/licenses/by-nc-sa/4.0/legalcode
If you wish to translate or compile any of the articles available here, please contact us at contacto
ISSN: 1885-589X 
Universidad Pablo de Olavide