Sesgos de género en la Inteligencia Artificial
El Estado de derecho frente a la discriminación algorítmica por razón de sexo
DOI:
https://doi.org/10.46661/rev.int.pensampolit..8778Palabras clave:
Inteligencia artificial, sesgos de género, derechos fundamentales, Estado de Derecho, igualdad de géneroResumen
El desarrollo imparable de las nuevas tecnologías operadas por Inteligencia Artificial (IA) plantea un desafío regulatorio de considerable calado para el Estado de derecho. Más allá de los potenciales beneficios que las nuevas herramientas digitales pueden traer para el progreso social y el desarrollo económico, los usos opacos y no controlados de las IA pueden constituir una amenaza para los derechos y valores que sustentan nuestra sociedad y, en concreto, para la igualdad entre mujeres y hombres. En este artículo se analizan las causas y consecuencias de los sesgos algorítmicos de género y las propuestas regulatorias que se han planteado para tratar de neutralizarlos.
Descargas
Citas
Barrio Andrés, M. (2020). “Retos y desafíos del Estado algorítmico de Derecho”. Real Instituto El Cano, (82/2020), 1–6. http://www.realenstitutoelcano.org/wps/portal/rielcano_es/contenido?WCM_GLOBAL_CONTEXT=/elcano/elcano_es/zonas_es/ari82-2020-barrio-retos-y-desafios-del-estado-algoritmico-de-derecho
Belloso Martín, N. (2022). “La problemática de los sesgos algorítmicos (con especial atención a los de género). ¿Hacia un derecho a la protección contra los sesgos?” En Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 45–69).
Borges Blázquez, R. (2020). “El sesgo de la máquina en la toma de decisiones en el proceso penal”. Ius Et Scientia, 6(2). (pp. 54-71). https://doi.org/10.12795/ietscientia.2020.i02.05
Castaneda, J., Jover, A., Calvet, L., Yanes, S., Juan, A. A., y Saenz, M. (2022). “Dealing with Gender Bias Issues in Data-Algorithmic Processes: A Social-Statistical Perspective”. Algorithms, 15(9), 1–16. https://doi.org/10.3390/a15090303
Comisión Europea. (2018). Artificial Intelligence for Europe. https://eur-lex.europa.eu/legal- content/EN/TXT/PDF/?uri=CELEX:52018DC0237&from=EN
Comisión Europea. (2020). Libro Blanco sobre la Inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza. https://op.europa.eu/es/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1
Comisión Europea. (2021). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia artificial) y se modifican determinados actos legislativos de la Unión. COM (2021) 206 final, 21.04.2021. https://eur-lex.europa.eu/legal-content/EN/TXT/qid=1623335154975yuri=CELEX%3A52021PC0206
Danesi, C. C. (2021). Sesgos algorítmicos de género con identidad iberoamericana: las técnicas de reconocimiento facial en la mira. Derecho de Familia. Revista Interdisciplinar de Doctrina y Jurisprudencia, Julio 2021(100), 159–168.
Dastin, J. (2018). “Amazon scraps secret AI recruiting tool that showed bias against women”. Reuters, 9 October 2018. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
De Renesse, R. 2017. “Virtual Digital Assistants to Overtake World Population by 2021”. 17 May 2017. London, Ovum. https://www.telecomtv.com/content/industry-announcements/virtual-digital-assistants-to-overtake-world-population-by-2021-29891/
Del Castillo, C. (2023). “Un negocio con lista de espera: la app usada para 'desnudar' a menores en Badajoz cobra 9 euros por 25 fotos”, eldiario.es, 18/09/2023. https://www.eldiario.es/tecnologia/negocio-lista-espera-app-usada-desnudar-menores-badajoz-cobra-9-euros-25-fotos_1_10522989.html
Doshi, T. (2018). “Introducing the Inclusive Images Competition”. Google Research, 06/09/2018. https://blog.research.google/2018/09/introducing-inclusive-images-competition.html
Éticas. (2021). Guía de Auditoría Algorítmica. https://www.eticasconsulting.com/eticas-consulting-guia-de-auditoria-algoritmica-para-desarrollar-algoritmos-justos-y-eficaces/
Éticas y Fundación Ana Bella. (2022). Auditoría Externa del Sistema VioGén. https://eticasfoundation.org/es/gender/the-external-audit-of-the-viogen-system/#:~:text=La%20Auditor%C3%ADa%20Externa%20del%20Sistema%20VioG%C3%A9n,-El%20Algoritmo%20espa%C3%B1ol&text=VioG%C3%A9n%20es%20un%20algoritmo%20que,3%20millones%20de%20casos%20registrados.
Europapress. (2023). “Sumar propone crear un nuevo tipo penal que castigue la manipulación de imagen corporal o voz con IA sin permiso”, 20 minutos, 06/10/2023. https://www.20minutos.es/noticia/5179427/0/sumar-crear-pena-uso-inteligencia-artificial/
Gobierno de España. (2021). Carta de Derechos Digitales.
Gómez Abeja, L. (2022). “Inteligencia Artificial y Derechos Fundamentales”. En Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 91–112).
Hao, K. (2019). “Cómo acabar con los algoritmos sexistas que conceden créditos”. MIT Technology Review. 27/12/2019. https://www.technologyreview.es//s/11630/como-acabar-con-los-algoritmos-sexistas-que-conceden-creditos
HLEG. (2019a). A definition of Artificial Intelligence: main capabilities and scientific disciplines. https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines
HLEG. (2019b). Ethics guidelines for trustworthy AI. https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
HLEG. (2019c). Policy and Investment Recommendations for Trustworthy AI. https://ec.europa.eu/digital-single-market/en/news/policy-and-investment-recommendations-trustworthy-artificial-intelligence
HLEG. (2020a). The assessment list for Trustworthy Artificial Intelligence (ALTAI). https://ec.europa.eu/digital-single-market/en/news/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment
HLEG. (2020b). Sectoral Considerations on the Policy and Investment. https://futurium.ec.europa.eu/en/european-ai-alliance/document/ai-hleg-sectoral-considerations-policy-and-investment-recommendations-trustworthy-ai
IALAB. Laboratorio de Innovación e Inteligencia Artificial de la Universidad de Buenos Aires, Argentina (2021). Sesgos algorítmicos de Género. chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://ialab.com.ar/wp-content/uploads/2021/12/Infografia.-Sesgos-algoritmicos-de-genero.pdf
Gómez, M. (2021). “El plan contra la temporalidad fraudulenta logra 61.000 contratos fijos en casi tres semanas”. El País, 15/03/2021. https://elpais.com/economia/2021-03-14/el-plan-contra-la-temporalidad-fraudulenta-logra-61000-contratos-fijos-en-casi-tres-semanas.html
Jaume-Palasí, L. (2023). Informe preliminar con perspectiva interseccional sobre sesgos de género en la Inteligencia Artificial. Instituto de las Mujeres /www.enmujeres.gob.es/areasTematicas/SocEnfo/Estudios/docs/Enforme_Sesgos_Genero_IA.pdf
Keller, E. F. (1995), Reflections on gender and science, New Heaven: Yale University Press, 1995.
Levy, H. P. (2016). “Gartner predicts a virtual world of exponential change”, 18 October 2016 https://www.gartner.com/smarterwithgartner/gartner-predicts-a-virtual-world-of-exponential-change
Martín-Arroyo, J. y Rincón, R. (2021). “La inteligencia artificial se abre paso en la justicia española”. El País, 21/02/2021. https://elpais.com/tecnologia/2021-02-20/la-inteligencia-artificial-se-abre-paso-en-la-justicia-espanola.html
Ministerio de Asuntos Económicos y Transformación Digital. (2020a). Estrategia Digital España 2025. https://avancedigital.mineco.gob.es/programas-avance-digital/paginas/espana-digital-2025.aspx
Ministerio de Asuntos Económicos y Transformación Digital. (2020b). Estrategia Nacional de Inteligencia Artificial (ENIA). https://portal.mineco.gob.es/es-es/digitalizacionIA/Paginas/ENIA.aspx
Ministerio de Ciencia, Innovación y Universidades. (2019). Estrategia Española de I+D+I en Inteligencia Artificial.
Moral Soriano, L. (2021). “Decisiones automatizadas, Derecho Administrativo y argumentación jurídica”. En Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 475–500).
O’Neil, C. (2017). Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia. Madrid: Capitán Swing.
Observatorio Nacional de Tecnología (ONTSI). (2023). Brecha digital de género 2023. Ministerio de Asuntos Económicos y Transformación Digital. https://www.ontsi.es/es/publicaciones/brecha-digital-de-genero-2023
Ortiz de Zárate Alcarazo, L. (2023). Sesgos de género en la inteligencia artificial. Revista de Occidente, (502), 5–20.
Ortiz de Zárate Alcarazo, L., y Guevara Gómez, A. (2021). Inteligencia artificial e igualdad de género. Un análisis comparado entre la UE España y Suiza. Fundación Alternativas. https://www.igualdadenlaempresa.es/recursos/estudiosMonografia/docs/Estudio_Inteligencia_artificial_e_igualdad_de_genero_Fundacion_Alternativas.pdf
Otterbacher, J., Bates, J., y Clough, P. (2017). “Competent Men and Warm Women: Gender Stereotypes and Backlash in Image Search Results” en Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems. 2017 CHI Conference on Human Factors in Computing Systems, 06-11 May 2017, Colorado Convention Center, Denver, CO. Association for Computing Machinery. (pp. 6620-6631) https://doi.org/10.1145/3025453.3025727
Parlamento Europeo. (2020). Propuesta de resolución del Parlamento Europeo sobre la Inteligencia Artificial en la era digital (2020/2266(INI)). https://www.europarl.europa.eu/doceo/document/A-9-2022-0088_ES.html#_section1
Parlamento Europeo. (2021). Macrodatos: definición, beneficios, retos (infografía). https://www.europarl.europa.eu/news/es/headlines/society/20210211STO97614/macrodatos-definicion-beneficios-retos-infografia
Parlamento Europeo. (2023). Posición negociadora del Parlamento sobre la Ley de Inteligencia Artificial. https://www.europarl.europa.eu/thinktank/es/document/EPRS_ATA(2023)747926
Pulido, M. D. A. (2022). “La justicia predictiva: tres posibles usos en la práctica jurídica” en Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 285–308).
Sáinz, M., Arroyo, L., y Castaño, C. (2020). Mujeres y digitalización: de las brechas a los algoritmos, Instituto de la Mujer y para la Igualdad de Oportunidades. https://www.enmujeres.gob.es/diseno/novedades/M_MUJERES_Y_DIGITALIZACION_DE_LAS_BRECHAS_A_LOS_ALGORITMOS_04.pdf
UNESCO. (2019). I’d blush if I could. Closeng gender divides en digital skills through education. https://unesdoc.unesco.org/ark:/48223/pf0000367416.page=74
Wisner Glusko, D. C. (2022). Breves reflexiones sobre la importancia del Estado de Derecho en el desarrollo del marco legal sobre los sistemas de Inteligencia Artificial en la Unión Europea. En Llano Alonso, Fernando (dir.), Inteligencia Artificial y Filosofía del Derecho, Murcia: Laborum ediciones (pp. 529–545).
Zehlike, M., Bonchi, F., Castillo, C., Hajian, S., Megahed, M., y Baeza-Yates, R. (2018). “FA∗IR: A fair top-k rankeng algorithm”. Enternational Conference on Enformation and Knowledge Management, Proceedengs, Part F1318, 1569–1578. https://doi.org/10.1145/3132847.3132938
Zhao, J., Wang, T., Yatskar, M., Ordonez, V., y Chang, K.-W. (2017). “Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constrints”, en Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing. Copenhagen, Denmark. Association for Computational Linguistics. (pp. 2979–2989) https://aclanthology.org/D17-1323/
Zhou, P., Shi, W., Zhao, J., Huang, K., Chen, M., Cotterell, R., Chang, K-W. (2019). “Examining Gender Bias in Languages with Grammatical Gender”, en Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP). Hong Kong, China. Association for Computational Linguistics. (pp. 5276–5284). https://aclanthology.org/D19-1531/
Zou, J. y Schiebinger, L. (2018). “AI can be sexist and racist — it’s time to make it fair”. Nature. https://www.nature.com/articles/d41586-018-05707-8
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2023 Laura Flores Anarte
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Política de acceso abierto
Se permite el acceso libre y abierto de cualquier interesado a todos los contenidos de los números de la revista, sin costo alguno, pudiendo imprimir y trasladar todos los artículos, con la única condición de precisar la fuente y la autoría.
La revista: a) no cobra a las autorías costes por el procesamiento de los artículos ni por el envío de los mismos, b) mantiene el copyright para los autores sin restricciones, c) facilita a los autores conservar sus derechos de publicación sin limitaciones.
La Revista Internacional de Pensamiento Político es una obra original del Laboratorio de Ideas y Prácticas Políticas de la Universidad Pablo de Olavide. Todos los artículos incluidos en la Revista son obra original de sus respectivas autorías. Esta Revista se ofrece libremente a la comunidad científica y académica sin coste alguno y libera los contenidos de acuerdo a la licencia "Reconocimiento-NoComercial-CompartirIgual 4.0 CC BY-NC-SA" del proyecto Creative Commons dispuesta en la siguiente url: https://creativecommons.org/licenses/by-nc-sa/4.0/legalcode
Si deseas traducir o compilar alguno de los artículos aquí disponibles, por favor, ponte en contacto
Universidad Pablo de Olavide
