¡Qué tal!, aquí te dejo el artículo de: Julio, 2026

Panorama general

El uso responsable y seguro de la inteligencia artificial o también llamada “IA”, hoy en día es un tema prioritario a nivel internacional, ya que organismos como la Organización de las Naciones Unidas (ONU) advierten que sin una regulación global, que sea adecuada al entorno actual de aplicación creciente y desarrollo acelerado de dicha tecnología, puede agravarse la desigualdad entre los seres humanos. Por otro lado, algunos estudios realizados por la prestigiosa firma McKinsey & Company, así como por la Oficina del Alto Comisionado de los Derechos Humanos, destacan el potencial positivo que está teniendo y que tendrá aún más en el futuro, el uso de la IA en temas como son: 1) la mejora de la salud, 2) el clima y 3) la inclusión social.

Dentro de los impactos o consecuencias hasta ahora previsibles por el uso de la IA, tanto en los individuos, grupos de individuos y en las sociedades, se encuentran los siguientes:

• Riesgos y regulación general:
  • ONU (2024): por su carácter transfronterizo, la IA requiere regulación mundial para evitar brechas digitales y desigualdad, por lo que la opción de dejar su desarrollo y autorregulación solamente al mercado, no es aconsejable.
  • Derechos humanos: el uso irresponsable de la IA puede afectar derechos fundamentales como son: privacidad, libertad de expresión y equidad.
• Impactos positivos:
  • Salud: la aplicación de la IA en el diagnóstico temprano y la gestión hospitalaria, mejora significativamente la atención médica a las personas.
  • Clima y sostenibilidad: los modelos predictivos de IA, ayudan a optimizar el consumo energético (ej. manufactura, almacenes o centros de datos) y a reducir las emisiones contaminantes.
  • Inclusión social: la IA puede apoyar en los programas de educación personalizada y accesibilidad para personas con capacidades diferentes.
• Impactos negativos:
  • Sesgos algorítmicos: existe un riesgo de discriminación o exclusión en los procesos de contratación, impartición de justicia y acceso a servicios.
  • Privacidad: por el uso masivo de datos personales o de identificación personal, sin transparencia.
  • Desempleo tecnológico: por la automatización de tareas rutinarias y algunas otras administrativas, que desplaza a personas de empleos tradicionales en diversos sectores económicos.

Retos y riesgos de la IA

La continua integración de la inteligencia artificial en los distintos ámbitos de la vida o actividades del ser humano, conllevará al menos durante la tercera década del siglo XXI (hasta 2030), una serie de retos y riesgos de la IA, mismos que deberemos aprender a resolver en el camino. Algunos de estos retos y riesgos de la IA son los siguientes:

• Retos de la IA:
  1. Regulación: de acuerdo con la ONU, más de 60 países han iniciado marcos regulatorios de IA (ej. Unión Europea, E.U.A., China y Latinoamérica), faltando todavía poco más de dos terceras partes de estos.
  2. Impacto social: de acuerdo con la firma McKinsey & Company, el 70% de los proyectos de IA para el bien social, se enfocan en salud, educación y medio ambiente, debiendo todavía extenderse este enfoque hacia otros ámbitos.
  3. Derechos humanos: de acuerdo con la Oficina del Alto Comisionado de los Derechos Humanos, la ONU identifica a la IA como clave para cumplir la “Agenda 2030”, pero también advierte sobre riesgos de exclusión, si no se regula oportunamente.
• Riesgos de la IA:

1. Falta de transparencia (explicability): una gran proporción de los sistemas de IA funcionan como “cajas negras”, que resultan difíciles de entender y auditar.
2. Concentración de poder: son unas cuantas corporaciones tecnológicas las que dominan el desarrollo de la IA, lo que puede limitar el acceso equitativo.
3. Desigualdad global: los países en vías de desarrollo enfrentan serias barreras para adoptar la IA, de manera segura y responsable.

Inteligencia artificial vs Norma ISO 42001

Como ya se mencionó anteriormente, la inteligencia artificial se aplica cada vez más en todos los sectores que utilizan tecnologías de la información y como consecuencia de esto, se espera que ciertas aplicaciones puedan implicar verdaderos desafíos sociales en los años por venir. Ante tal situación, la Organización Internacional de Normalización  mejor conocida como “ISO”, ha puesto a disposición del mercado la norma ISO/IEC 42001:2023 (Sistemas de Gestión de IA), con el propósito de apoyar a las organizaciones de cualquier tamaño, giro o sector, a desempeñar un rol responsable respecto al aprovisionamiento o uso de los sistemas de IA (ej. uso, desarrollo o entrega de productos y/o servicios basados en IA). Lo anterior resulta particularmente importante, para hacer frente de mejor manera a casos específicos que utilizan la IA, para/en lo siguiente:

• En la toma de decisiones automáticas de forma poco transparente e inexplicable, pudiendo requerir una gestión específica para supervisar y garantizar resultados consistentes.
• En el análisis de datos, conocimiento y aprendizaje automático, que sustituye al ser humano, aumentando las oportunidades de aplicación de los sistemas de IA y modificando la forma en que estos se desarrollan, justifican e implementan.
• En los sistemas de IA que realizan aprendizaje continuo, modificando su comportamiento durante su uso, pudiendo requerir consideraciones especiales para garantizar su uso responsable a pesar de los cambios en su comportamiento.

Así pues, en la norma ISO 42001 se encuentran contenidos los requisitos propuestos para planear y operar un Sistema de Gestión de IA, de acuerdo con el contexto de cada organización. Dichos requisitos deberán ser aplicados por las organizaciones, de acuerdo con las características propias de la inteligencia artificial implicada. Tales características (ej. la capacidad de aprender y mejorar continuamente, la falta de transparencia o explicability, la integración de diversos componentes de IA en el sistema, la robustez tecnológica, entre otros), podrán requerir controles de IA y medidas diferentes si plantean preocupaciones adicionales (riesgos) para la organización. La alta dirección de las organizaciones que adopten un Sistema de Gestión de IA, debe comprender y asumir como una decisión estratégica la ampliación de las estructuras de gestión existentes, incorporando ahora la figura y los departamentos especializados en IA (ej. Chief Artificial Intelligence Officer).

Controles de IA

Algunos factores que influyen en el establecimiento e implementación del Sistema de Gestión de IA, son los casos de uso de la IA y la necesidad de lograr un equilibrio entre los mecanismos de gobernanza y la innovación. Además, las organizaciones podrán optar por aplicar los requisitos del sistema de gestión, mediante un enfoque basado en el riesgo de IA, con el fin de garantizar que se aplique el nivel de control adecuado para los casos de uso, servicios y/o productos de IA específicos del ámbito de la organización. Un aspecto clave de la gestión de riesgos de IA, para mantener el nivel de protección suficiente, es que la información relacionada se revise y actualice periódicamente.

El Sistema de Gestión de IA debe considerar e integrar aspectos específicos relacionados con la inteligencia artificial utilizada (según la arquitectura e información disponible), destacando algunos de los siguientes:

1. La política organizacional en la materia.
2. La gestión de riesgos de IA definida e implementada para la organización.
3. La confiabilidad de los sistemas de IA (ej. seguridad, protección, equidad, transparencia, calidad de los datos, calidad de los sistemas de IA vs ciclo de vida, etc.).
4. Los proveedores, socios y terceros que proporcionen o desarrollen sistemas de IA para la organización, entre otros.

En el anexo “A” de la norma ISO 42001, se ha plasmado una relación de los objetivos de control (10) y controles de IA (38) aplicables a los aspectos específicos de dicha tecnología, con el objetivo de poder seleccionar e implementar los controles y medidas aplicables a su organización. Por ejemplo, retomando el tema de los impactos o consecuencias ocasionados por el uso de la IA sobre los individuos, grupos de individuos y las sociedades, el objetivo de control: A.5 Valorando los impactos de los sistemas de IA, en su control: A.5.2 Proceso de valoración de impactos de los sistemas de IA, establece que: “se debe establecer un proceso para evaluar las posibles consecuencias para los individuos o grupos de individuos, o ambos, así como para las sociedades que puedan resultar del sistema de IA a lo largo de su ciclo de vida”.

Reflexión final

No cabe duda que la inteligencia artificial o IA, tiene un enorme potencial para mejorar la vida de millones de personas en el mundo, sin embargo su uso irresponsable e inseguro, junto a la ausencia de una regulación global y principios éticos claros que guíen su aplicación, puede profundizar las desigualdades. Afortunadamente existe ya un consenso entre los organismos internacionales (ej. la Organización Internacional de Normalización o ISO, la ONU o la Comisión Europea) sobre lo que debe considerar un uso responsable de la IA, destacando lo siguiente: 1) transparencia, 2) rendición de cuentas, 3) protección de datos y 4) equidad.  En el caso de Latinoamérica y particularmente de México, el reto consiste en alinear las políticas nacionales con los estándares internacionales vigentes (ej. ISO 42001, sus objetivos y controles de IA), con el fin de garantizar que la integración de la IA beneficia o beneficiará a los individuos, a los grupos de individuos y a las comunidades, sin generar ningún tipo de sesgo, discriminación o exclusión.

Si a ti te interesa saber más sobre el tema o cómo podemos apoyarte a desarrollar un Sistema de Gestión de Inteligencia Artificial en tu organización, para un uso responsable y seguro de la IA, ¡escríbenos, será un gusto poder orientarte y apoyarte!

Referencias y/o consultas

1. International Standard ISO/IEC 42001:2023. Information Technology - Artificial Intelligence - Management System. First Edition, Dic-2023.

2. Portal de la ONU: https://news.un.org/es/story/2024/09/1532941

3. Portal de la firma McKinsey & Company: https://www.mckinsey.com/featured-insights/destacados/ia-para-el-bien-social-mejorar-vidas-y-proteger-el-planeta/es

4. Portal de la Oficina del Alto Comisionado de los Derechos Humanos de la ONU: https://www.ohchr.org/es/stories/2024/06/artificial-intelligence-game-changer-sustainable-development