El Cluster de Inteligencia Artificial de la Comunidad de Madrid participó el 13 de julio en la jornada organizada por el Ilustre Colegio de la Abogacía de Madrid (ICAM) bajo el título “Hacia una IA responsable: gobernanza, confianza y gestión responsable bajo la ISO/IEC 42001”.
El encuentro reunió a juristas, empresas y especialistas tecnológicos para analizar cómo convertir las obligaciones del AI Act y los principios de la ISO/IEC 42001 en sistemas efectivos de gestión, control y supervisión dentro de las organizaciones.
La sesión fue inaugurada por Eugenio Ribón, decano del ICAM, y Alejandro Touriño, presidente de la Sección TIC del ICAM y CEO de ECIJA, quien destacó que “la inteligencia artificial ya no es el futuro, es el presente” y que el debate empresarial ha evolucionado desde la experimentación hacia el gobierno corporativo y la responsabilidad en el uso de la IA.
El Cluster IA abrió la jornada con la ponencia inaugural
El Cluster IA estuvo representado por Jesús Heredero Pérez, coordinador del Grupo de Trabajo de IA Confiable y responsable del área de Consultoría y Preventa en MTP Métodos y Tecnología, empresa asociada al Cluster IA.
Jesús Heredero impartió la ponencia inaugural de la jornada, en la que diferenció los conceptos de IA confiable, IA responsable e IA gobernable.
Durante su intervención, subrayó una idea clave: la responsabilidad no recae en el algoritmo, sino en las organizaciones que deciden cómo emplearlo y bajo qué condiciones.
También explicó que el uso responsable de la inteligencia artificial exige contar con inventarios de sistemas, evaluaciones de riesgos, trazabilidad, calidad de datos y mecanismos de comprobación. Estos elementos son esenciales para construir una verdadera infraestructura de gobierno de la IA dentro de las organizaciones.
Entre los factores que están acelerando este proceso, destacó la regulación, el riesgo reputacional, la generación de valor, la escalabilidad y la necesidad de aportar evidencias de confianza.
Del AI Act a la gobernanza corporativa
La jornada continuó con la mesa redonda “Del AI Act a la gobernanza corporativa: el marco de una IA responsable”, moderada por Jesús Yáñez, socio de ECIJA.
En la conversación participaron Irene Agúndez Lería, de Iberdrola; Miriam Oñoro, de Santander; y Pedro Marques, de Amadeus.
Durante la mesa, los ponentes coincidieron en que el cumplimiento del AI Act ya forma parte de la agenda de las grandes organizaciones, aunque con distintos niveles de madurez según el sector.
También se destacó la necesidad de integrar la inteligencia artificial en estructuras de gobernanza ya existentes, evitar duplicidades y reforzar las exigencias de transparencia, claridad y capacidad de justificación en la relación con proveedores tecnológicos.
Arquitectura y controles para una IA responsable
La segunda mesa redonda, “De los principios a la implementación: arquitectura y controles para una IA responsable”, estuvo moderada por Lucile Corrales Vallejo, de SGS Iberia.
La sesión contó con la participación, entre otros, de Jesús Heredero Pérez, de MTP Métodos y Tecnología, y Sara Estirado, del Instituto de Ingeniería del Conocimiento, entidad asociada al Cluster IA.
La mesa abordó los mecanismos prácticos para implantar sistemas de IA confiables y seguros, destacando que la ISO/IEC 42001 no debe entenderse como una solución única, sino como un instrumento que debe combinarse con metodologías y estructuras de gobierno adaptadas a cada organización.
También se subrayó la importancia de la supervisión humana, la evaluación continua de riesgos y la participación de todas las áreas implicadas desde el inicio.
La gobernanza de la IA entra en la agenda de las organizaciones
La jornada dejó una conclusión clara: gobernar la inteligencia artificial significa conservar el control sobre su utilización, documentar decisiones, gestionar incidencias y demostrar cumplimiento.
La capacidad de aportar evidencias será determinante para generar confianza entre reguladores, clientes, empleados y socios comerciales.
Como señaló Alejandro Touriño, “la confianza será la verdadera moneda de cambio de la inteligencia artificial. No ganarán las compañías que utilicen más IA, sino aquellas capaces de demostrar que la utilizan mejor: de forma responsable, explicable, auditable y segura”.
Compromiso del Cluster IA con una inteligencia artificial responsable
La participación del Cluster de Inteligencia Artificial de la Comunidad de Madrid en esta jornada refuerza su compromiso con la promoción de una IA ética, confiable y alineada con estándares internacionales.
También consolida su papel como espacio de diálogo entre empresas, administraciones, especialistas tecnológicos y profesionales del ámbito jurídico para avanzar hacia modelos de gobernanza sólidos y adaptados al nuevo marco regulatorio europeo.
En un contexto marcado por la aplicación progresiva del AI Act y la creciente necesidad de gestionar la inteligencia artificial con criterios de responsabilidad, trazabilidad y confianza, este tipo de encuentros resultan clave para acompañar a las organizaciones en el paso de la experimentación a la adopción responsable.