Una iniciativa para que las empresas adopten de forma voluntaria los compromisos clave antes de la aplicación del Reglamento de IA
La inteligencia artificial (IA) está transformando sectores enteros, ofreciendo nuevas oportunidades, pero también planteando desafíos significativos en términos de seguridad, derechos fundamentales y transparencia. En respuesta a estos desafíos, la Comisión Europea ha presentado el Pacto para la Inteligencia Artificial (AI Pact), una iniciativa clave que busca acelerar la adopción de las principales obligaciones establecidas en el Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act) antes de su aplicación legal. Este pacto, de adhesión voluntaria, anima a las empresas a adoptar compromisos clave, preparando el terreno para el cumplimiento futuro de la normativa.
¿Qué busca la Comisión Europea con el Pacto para la IA?
El Reglamento de IA, primer marco normativo integral del mundo para regular la inteligencia artificial, establecerá las reglas del juego en la Unión Europea. Sin embargo, muchas de sus disposiciones, especialmente aquellas relacionadas con los sistemas de IA de alto riesgo, no serán de aplicación hasta agosto de 2026. La Comisión Europea ha lanzado el Pacto para la Inteligencia Artificial para permitir que las empresas tomen medidas proactivas, adoptando compromisos voluntarios.
El objetivo de la Comisión es claro: iniciar la transición antes de que la regulación sea obligatoria, fomentando la creación de buenas prácticas que mitiguen los riesgos asociados a la IA, como los que afectan a la salud, la seguridad y los derechos fundamentales de las personas.
¿Cuáles son los compromisos clave del Pacto para la IA?
Las empresas que se sumen al Pacto para la IA deben cumplir con una serie de compromisos diseñados para fomentar la transparencia y la ética en el desarrollo y despliegue de sistemas de IA. Estos compromisos se dividen en dos categorías: compromisos centrales y compromisos opcionales.
Compromisos centrales
- Estrategia de gobernanza de IA: Las empresas deben desarrollar e implementar una estrategia de gobernanza de IA que fomente el uso responsable de estas tecnologías dentro de la organización y asegure su futura conformidad con el Reglamento de IA.
- Mapeo de sistemas de alto riesgo: Las organizaciones participantes deben realizar un análisis exhaustivo de sus sistemas de IA para identificar aquellos que pueden clasificarse como de alto riesgo según el Reglamento de IA, y tomar medidas para mitigar posibles riesgos.
- Promoción de la alfabetización en IA: El Pacto para la Inteligencia Artificial también exige que las empresas fomenten la formación y el conocimiento sobre IA entre sus empleados y partes interesadas, para asegurar que estas tecnologías sean utilizadas de manera consciente y ética.
Compromisos adicionales
Además de los compromisos centrales, las empresas pueden optar por asumir compromisos adicionales que se alinean con los requisitos más específicos del Reglamento de IA. Algunos de estos compromisos incluyen:
- Implementar procesos para identificar riesgos previsibles en los sistemas de IA relacionados con la salud, seguridad y derechos fundamentales.
- Desarrollar políticas para garantizar que los conjuntos de datos utilizados en el entrenamiento y validación de IA sean de alta calidad y libres de sesgos.
- Asegurar la trazabilidad de los sistemas de IA mediante la implementación de funciones de registro de actividades.
- Establecer mecanismos de supervisión humana sobre los sistemas de IA de alto riesgo.
- Diseñar sistemas generativos de IA que permitan identificar y etiquetar de forma clara el contenido creado por IA.
Estos compromisos adicionales permiten a las empresas personalizar su participación en el Pacto para la Inteligencia Artificial según su sector y el tipo de tecnología que desarrollan o despliegan.
¿Por qué es importante para las empresas participar en el Pacto para la IA?
La Comisión Europea ha diseñado el Pacto para la IA como una herramienta estratégica para que las empresas se anticipen al Reglamento de IA. Adherirse a este pacto no solo permite a las organizaciones posicionarse como pioneras en la adopción de buenas prácticas de IA, sino que también les brinda ventajas tangibles, tales como:
- Prepararse para el futuro regulatorio: Las empresas que se adhieran al pacto tendrán un mayor conocimiento de los requisitos del Reglamento de IA, lo que les permitirá ajustarse con mayor facilidad a las normativas una vez sean exigibles.
- Reducir riesgos legales: Al implementar los compromisos voluntarios del pacto, las empresas pueden mitigar riesgos y evitar posibles sanciones futuras relacionadas con el incumplimiento de las disposiciones del Reglamento.
- Ganar reputación: Participar en el Pacto para la IA refuerza la imagen pública de las empresas como actores responsables y comprometidos con la transparencia y la ética en el uso de IA, lo cual es cada vez más valorado tanto por clientes como por socios comerciales.
La importancia de la transparencia y la supervisión humana
Uno de los pilares fundamentales del Pacto para la IA es la transparencia en el uso de la IA, especialmente en sistemas que puedan impactar de forma significativa en los derechos de las personas. Las empresas que desarrollan o despliegan IA tienen la responsabilidad de asegurar que los usuarios comprendan cómo se utiliza esta tecnología y los riesgos asociados a ella.
Además, el pacto promueve la supervisión humana como un componente clave en los sistemas de alto riesgo. Esto significa que las decisiones importantes tomadas por IA, que puedan afectar la salud, la seguridad o los derechos fundamentales, deben contar con mecanismos de revisión humana para garantizar que se alinean con los estándares éticos y legales.
Impulsando una IA responsable y competitiva
El Pacto para la IA es una oportunidad única para que las empresas se adelanten al cumplimiento del Reglamento de IA, demostrando su compromiso con la transparencia, la seguridad y el respeto a los derechos fundamentales. La Comisión Europea, a través de esta iniciativa, está sentando las bases para un ecosistema de IA más seguro y ético, y las empresas que se sumen al pacto estarán a la vanguardia de esta transformación.
En Hera Corporate, estamos listos para asesorarte en tu participación en el Pacto para la IA y ayudarte a implementar los compromisos necesarios para posicionar a tu empresa como líder en el uso responsable de la IA. ¡Contáctanos hoy mismo para más información!