Regulación de la Inteligencia Artificial: Desafíos para los Derechos Humanos en México
Resumen
Este estudio cualitativo analiza los desafíos legales que la inteligencia artificial (IA) presenta para los derechos humanos en México, con énfasis en la privacidad y la no discriminación. Ante la creciente adopción de la IA y la falta de un marco regulatorio específico, se busca comprender cómo estas tecnologías afectan los derechos fundamentales y qué medidas pueden implementarse para protegerlos. Además, se plantea que implementar la IA sin una regulación adecuada podría comprometer los derechos humanos. La investigación empleó análisis documental y de contenido, examinando legislación, informes gubernamentales, artículos académicos, información de instituciones no gubernamentales y publicaciones periodísticas sobre la IA y derechos humanos en México. Los hallazgos revelan una brecha significativa en la normatividad mexicana respecto a la IA, exponiendo a los ciudadanos a riesgos potenciales. Así, se identificaron sesgos algorítmicos en sistemas de IA utilizados en sectores clave como el laboral, que podrían llevar a decisiones discriminatorias. México debe priorizar el desarrollo de un marco regulatorio integral que aborde la protección de la privacidad, la prevención de la discriminación y la transparencia en el uso de la IA, equilibrando la innovación tecnológica con la salvaguarda de los derechos humanos. Este enfoque no solo beneficiaría a los ciudadanos mexicanos, sino que serviría como modelo para otros países en desarrollo que enfrentan desafíos similares en la era digital.
Descargas
Citas
Asociación de Internet MX. (2022). 18° Estudio sobre los Hábitos de Personas Usuarias de Internet en México 2022. https://irp.cdn-website.com/81280eda/files/uploaded/18%C2%B0%20Estudio%20sobre%20los%20Habitos%20de%20Personas%20Usuarias%20de%20Internet%20en%20Mexico%202022%20%28Publica%29%20v2.pdf
Asociación de Internet MX. (2023). 19° Estudio sobre los hábitos de usuarios de internet en México 2023. https://irp.cdn-website.com/81280eda/files/uploaded/19%20Estudio%20sobre%20los%20Hai-bitos%20de%20Usuarios%20de%20Internet%20en%20Mei-xico%202023%20.pptx.pdf
Becerril, A. A. (2021, marzo 14). Retos para la regulación jurídica de la Inteligencia Artificial en el ámbito de la Ciberseguridad. Revista IUS, 15(48). https://doi.org/10.35487/rius.v15i48.2021.705
Bowen, G. A. (2009). Document Analysis as a Qualitative Research Method. Qualitative Research Journal, 9(2), 27-40. https://doi.org/10.3316/QRJ0902027
Braun, V., & Clarke, V. (2006). Using thematic analysis in psychology. Qualitative Research in Psychology, 3(2), 77-101. https://doi.org/10.1191/1478088706qp063oa
Cámara de Diputados. (2024). Constitución Política de los Estados Unidos Mexicanos. https://www.diputados.gob.mx/LeyesBiblio/pdf/CPEUM.pdf
Cámara de Diputados. (2010). Ley Federal de Protección de Datos Personales en Posesión de los Particulares. https://www.diputados.gob.mx/LeyesBiblio/pdf/LFPDPPP.pdf
Cámara de Diputados. (2017). Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados. https://www.diputados.gob.mx/LeyesBiblio/pdf/LGPDPPSO.pdf
Cámara de Diputados. (2020, abril 28). Iniciativa que reforma y adiciona diversas disposiciones de la Ley de Ciencia y Tecnología y de la Ley General de Salud, presentada por el dip. Carlos Humberto Castaños. Gaceta Parlamentaria. http://sil.gobernacion.gob.mx/Librerias/pp_ContenidoAsuntos.php?SID=108feb6642719b52eb7d183beaa96a70&Clave=4035539
Cámara de Diputados. (2020, agosto 12). Iniciativa con proyecto de decreto por el que se expide la ley que crea la Universidad de Tecnologías de la Información, Comunicaciones e Innovación, presentada por el dip. Carlos Iván Ayala. Gaceta Parlamentaria. http://sil.gobernacion.gob.mx/Librerias/pp_ContenidoAsuntos.php?SID=108feb6642719b52eb7d183beaa96a70&Clave=4059591
Cámara de Diputados. (2021). Ley Federal de Telecomunicaciones y Radiodifusión. https://www.diputados.gob.mx/LeyesBiblio/pdf/LFTR.pdf
Cámara de Diputados. (2021, enero 7). Iniciativa que reforma y adiciona diversas disposiciones de la Ley de Ciencia y Tecnología, presentada por el dip. Mario Alberto Rodríguez, Gaceta Parlamentaria.http://sil.gobernacion.gob.mx/Librerias/pp_ContenidoAsuntos.php?SID=bcfc898d03f757d8aedb8d776c83a077&Clave=4128934
Cámara de Diputados. (2024, febrero 25). Impulsan reforma para crear la “Estrategia Nacional para el Uso Adecuado y Ético de la Inteligencia Artificial”. Boletines, No. 6064. LXV Legislatura. https://comunicacionsocial.diputados.gob.mx/index.php/boletines/impulsan-reforma-para-crear-la-estrategia-nacional-para-el-uso-adecuado-y-tico-de-la-inteligencia-artificial-
Castaño, D. (2020). La gobernanza de la Inteligencia Artificial en América Latina: entre la regulación estatal, la privacidad y la ética digital. En C. Aguerre. (Ed.). Inteligencia artificial en América Latina y el Caribe. Ética, gobernanza y políticas. Centro de Estudios en Tecnología y Sociedad de la Universidad de San Andrés. https://proyectoguia.lat/wp-content/uploads/2020/10/compilado-espanol-compressed.pdf
Comas-Forgas, R. (2023). Sesgos algorítmicos en educación: análisis y soluciones. En REDINE (Ed.), Conference Proceedings EDUNOVATIC 2023 (p. 329). Adaya Press. https://doi.org/10.58909/adc24139168
Diario Oficial de la Federación. (2021, septiembre 6). Acuerdo por el que se expide la Estrategia Digital Nacional 2021-2024. https://dof.gob.mx/nota_detalle.php?codigo=5628886&fecha=06/09/2021#gsc.tab=0
Ferrante, E. (2021). Inteligencia artificial y sesgos algorítmicos ¿Por qué deberían importarnos? Nueva Sociedad, (294), 27-36.
Fjeld, J. et al. (2020). Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI. Berkman Klein Center Research Publication, No. 2020-1. https://doi.org/10.2139/ssrn.3518482
Flick, U. (2018). Doing triangulation and mixed methods. SAGE Publications Ltd. https://methods.sagepub.com/book/doing-triangulation-and-mixed-methods
Floridi, L., & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1(1), 2-15. https://doi.org/10.1162/99608f92.8cd550d1
Gibbs, G. R. (2007). Analyzing qualitative data. SAGE Publications Ltd.
Gobierno de México. (2018). Inteligencia Artificial de México. Coordinación de Estrategia Digital Nacional. https://www.gob.mx/epn/es/articulos/inteligencia-artificial-en-mexico
Gómez Mont, C. et al. (2020a). La inteligencia artificial al servicio del bien social en América Latina y el Caribe: Panorámica regional e instantáneas de doce países. Banco Interamericano de Desarrollo (BID). http://dx.doi.org/10.18235/0002393
Gómez Mont, C. et al. (2020b). La inteligencia artificial en América Latina y el Caribe: Ética, gobernanza y políticas. En C. Aguerre. (Ed.). Inteligencia artificial en América Latina y el Caribe. Ética, gobernanza y políticas. Centro de Estudios en Tecnología y Sociedad de la Universidad de San Andrés.
https://proyectoguia.lat/wp-content/uploads/2020/10/compilado-espanol-compressed.pdf
Güicho, M. (2024, 16 de mayo). Inteligencia artificial y legislación: un equilibrio necesario. El Universal. https://www.eluniversal.com.mx/opinion/monica-guicho/inteligencia-artificial-y-legislacion-un-balance-necesario/
Hernández-Sampieri, R., & Mendoza Torres, C. P. (2022). Metodología de la investigación: las rutas cuantitativas, cualitativas y mixta. Editorial McGraw Hill.
Instituto Federal de Telecomunicaciones. (2022a). 4º. Informe Trimestral Estadístico 2022. https://www.ift.org.mx/sites/default/files/contenidogeneral/estadisticas/ite4t2022.pdf
Instituto Federal de Telecomunicaciones. (2022b). Anuario Estadístico 2022. https://www.ift.org.mx/sites/default/files/contenidogeneral/estadisticas/anuarioestadistico2022acc.pdf
Instituto Federal de Telecomunicaciones. (2022c). Estudios Internacionales en materia de Telecomunicaciones 2022. https://www.ift.org.mx/usuarios-y-audiencias/estudios-internacionales-en-materia-de-telecomunicaciones-2022
Instituto Federal de Telecomunicaciones. (2023). Anuario Estadístico 2023. https://www.ift.org.mx/sites/default/files/contenidogeneral/estadisticas/anuarioestadistico2023acc.pdf
Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales. (2021). Informe de Labores 2021. https://micrositios.inai.org.mx/informeshistorico/wp-content/uploads/2022/10/InformeLaboresINAI2021.pdf
Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales. (2023). Informe de Labores 2022. https://micrositios.inai.org.mx/informesinai/
Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales. (2023). Informe de Labores 2023. https://home.inai.org.mx/wp-content/uploads/Informe-Laboral-INAI-2023_WEB_B-1.pdf
Jobin et al. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389-399. https://doi.org/10.1038/s42256-019-0088-2
Krippendorff, K. (2018). Content analysis: An introduction to its methodology. (4ª ed.). SAGE Publications.
Legaspi, A. (2024, 14 de mayo). La era del Internet y la promesa de la inteligencia artificial. El Financiero. https://www.elfinanciero.com.mx/opinion/colaborador-invitado/2024/05/14/la-era-del-internet-y-la-promesa-de-la-inteligencia-artificial/
Limón, R. (2023, 19 de diciembre). Las grandes compañías desarrollan plataformas para asegurar un desarrollo ético y legal de la inteligencia artificial. El País. https://elpais.com/tecnologia/2023-12-20/las-grandes-companias-desarrollan-plataformas-para-asegurar-un-desarrollo-etico-y-legal-de-la-inteligencia-artificial.html
Lumivero. (2023). NVivo (Version 14). [Computer software]. https://lumivero.com/products/nvivo/
Maqueo, M. S., Moreno, J., Mendoza, O. A., & Rentería, C. (2021). Evaluación del grado de preparación para la adopción de inteligencia artificial en los sistemas judiciales de la región. Caso México. Centro de Estudios en Tecnología y Sociedad (CETyS) de la Universidad de San Andrés. https://repositorio.udesa.edu.ar/jspui/handle/10908/18634
Medina-Romero et al. (2023). Método mixto de investigación: Cuantitativo y cualitativo. Instituto Universitario de Innovación Ciencia y Tecnología Inudi Perú. https://doi.org/10.35622/inudi.b.105
Medina, M. (2024). Aplicaciones de la Inteligencia Artificial para la investigación y la innovación en la educación superior. Revista Social Fronteriza, 4(4). https://doi.org/10.59814/resofro.2024.4(4)336
Méndez, R., & Sánchez, L. (2023, 24 de abril). Inteligencia artificial y el futuro del derecho. Nexos. https://eljuegodelacorte.nexos.com.mx/inteligencia-artificial-y-el-futuro-del-derecho/
Minian, I., & Martínez Monroy, Á. (2018). El impacto de las nuevas tecnologías en el empleo en México. Problemas del desarrollo, 49(195), 27-53. https://doi.org/10.22201/iiec.20078951e.2018.195.64001
Mittelstadt, B. (2019). Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 1, 501-507. https://doi.org/10.1038/s42256-019-0114-4
Organisation for Economic Co-operation and Development. (2023). Artificial intelligence and the labour market: What we know so far. OECD Social, Employment and Migration Working Papers, No. 282. OECD Publishing. https://doi.org/10.1787/08785bba-en
Organización de las Naciones Unidas. (1948). Declaración Universal de los Derechos Humanos. https://www.ohchr.org/sites/default/files/UDHR/Documents/UDHR_Translations/spn.pdf
Organización de las Naciones Unidas. (2024, 7 de marzo). La Asamblea General adopta una resolución histórica sobre la IA. https://news.un.org/es/story/2024/03/1528511
Ortega, M. J. (2024, 15 de mayo). Legislar para Proteger: La urgencia de regular la Inteligencia Artificial en México. DLMEX. https://dlmex.org/legislar-para-proteger-la-urgencia-de-regular-la-inteligencia-artificial-en-mexico/
Ortiz, A. (2023, 10 de noviembre). Más allá de los algoritmos: desafíos y tendencias en la regulación global de la Inteligencia Artificial. El Economista. https://www.eleconomista.com.mx/opinion/Mas-alla-de-los-algoritmos-desafios-y-tendencias-en-la-regulacion-global-de-la-Inteligencia-Artificial-20231110-0030. HTML
Parlamento Europeo. (2023, diciembre 9). Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. https://www.europarl.europa.eu/news/es/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
Parlamento Europeo. (2024, marzo 13). La Eurocámara aprueba una ley histórica para regular la inteligencia artificial. https://www.europarl.europa.eu/news/es/press-room/20240308IPR19015/la-eurocamara-aprueba-una-ley-historica-para-regular-la-inteligencia-artificial
Parlamento Europeo y Consejo de la Unión Europea. (2016, abril 27). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo relativo a la protección de las personas físicas en lo que respeta al tratamiento de datos personales y la libre circulación de estos datos (Reglamento General de Protección de Datos). Diario Oficial de la Unión Europea.
Parlamento Europeo y Consejo de la Unión Europea. (2024, junio 13). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo por el que se establecieron normas armonizadas sobre la inteligencia artificial (Ley de Inteligencia Artificial). Diario Oficial de la Unión Europea.
Pascual, M. G. (2023, 22 de noviembre). Cómo impedir que la inteligencia artificial genere más carga de trabajo y más control sobre el empleado. El País. https://elpais.com/economia/2023-11-23/como-impedir-que-la-inteligencia-artificial-genere-mas-carga-de-trabajo-y-mas-control-sobre-el-empleado. HTML
Pérez-Ugena, M. (2024). Análisis comparado de los distintos enfoques regulatorios de la inteligencia artificial en la Unión Europea, EE. UU., China e Iberoamérica. Anuario Iberoamericano de Justicia Constitucional, 28(1). https://doi.org/10.18042/cepc/aijc.28.05
Rebollar, A. (2023, mayo 16). Sesgos algorítmicos y ética en la IA. ADP México. https://adpmx.com/sesgos-algoritmicos-y-etica-en-la-ia/
Ripani, L. et al. (2020). El futuro del trabajo en América Latina y el Caribe. Banco Interamericano de Desarrollo.
Riquelme, R. (2024, Julio 17). 60% de mexicanos desconoce que la Inteligencia Artificial se entrena con datos personales. El Economista. https://www.eleconomista.com.mx/tecnologia/60-de-mexicanos-desconoce-que-a-Inteligencia-Artificial-se-entrena-con-datos-personales-20240717-0034.html
Sabater, A., & De Manuel, A. (2024, mayo 18). Una mirada y discusión a través de la literatura especializada y de opiniones expertas. Revista Inteligencia Artificial, Ética y Sociedad. https://www.udg.edu/ca/Portals/57/OContent_Docs/Informe_OEIAC_2021_cast.pdf
Senado de la República. (2021, enero 13). Iniciativa que adiciona el artículo 77 Bis a la Ley General de Salud, presentada por la sen. Nuvia Magdalena Mayorga. Gaceta Parlamentaria. http://sil.gobernacion.gob.mx/Archivos/Documentos/2021/01/asun_4129756_20210113_1610551834.pdf
Senado de la República. (2024, mayo 15). Presentan en el Senado Agenda Nacional de la Inteligencia Artificial para México 2024-2030. Coordinación de Comunicación Social. LXV Legislatura. https://comunicacionsocial.senado.gob.mx/informacion/comunicados/8982-presentan-en-el-senado-agenda-nacional-de-la-inteligencia-artificial-para-mexico-2024-2030
United Nations Educational, Scientific and Cultural Organization. (2021). Recommendation on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000381133/PDF/381133eng.pdf.multi.page=62
Villanueva, D. et al. (2024, abril 1). La intersección entre la inteligencia artificial y la protección de datos personales en México. IAPP. https://iapp.org/news/a/la-interseccion-entre-la-inteligencia-artificial-y-la-proteccion-de-datos-personales-en-mexico

Esta obra está bajo licencia internacional Creative Commons Reconocimiento 4.0.
Con el propósito de promover el desarrollo y divulgación de la investigación en educación en América Latina, en La Revista Iberoamericana para la Investigación y el Desarrollo Educativo (RIDE) se adhirió a la Iniciativa de Acceso Abierto de Budapest, por lo que se identifica como una publicación de acceso abierto. Esto significa que cualquier usuario puede leer el texto completo de los artículos, imprimirlos, descargarlos, copiarlos, enlazarlos, distribuirlos y usar los contenidos para otros fines. Las licencias Creative Cummons, permiten especificar los derechos de uso de una revista de acceso abierto disponible en Internet de tal manera que los usuarios conocen las reglas de publicación.
Los autores/as que publiquen en esta revista aceptan las siguientes condiciones:
Los autores/as conservan los derechos de autor y ceden a la revista el derecho de la primera publicación, con el trabajo registrado con la licencia de atribución de Creative Commons, que permite a terceros utilizar lo publicado siempre que mencionen la autoría del trabajo y a la primera publicación en esta revista.
Los autores/as pueden realizar otros acuerdos contractuales independientes y adicionales para la distribución no exclusiva de la versión del artículo publicado en esta revista (p. ej., incluirlo en un repositorio institucional o publicarlo en un libro) siempre que indiquen claramente que el trabajo se publicó por primera vez en esta revista.
Se permite y recomienda a los autores/as a publicar su trabajo en Internet (por ejemplo en páginas institucionales o personales) antes y durante el proceso de revisión y publicación, ya que puede conducir a intercambios productivos y a una mayor y más rápida difusión del trabajo publicado