AI Act: desafíos (y oportunidades) del nuevo reglamento europeo sobre Inteligencia Artificial

Con la aprobación oficial del Reglamento (UE) 2024/1689, conocido como AI Act, la Unión Europea se ha dotado por primera vez (y como pionera a nivel mundial) de un marco normativo específico para regular el uso de los sistemas de inteligencia artificial (IA). Similar en importancia y estructura al RGPD, el AI Act fue publicado en el Diario Oficial de la UE en julio de 2024, entrando formalmente en vigor el 1 de agosto de 2024. La normativa será plenamente aplicable a partir del 2 de agosto de 2026, aunque algunas disposiciones serán obligatorias ya desde 2025.

El AI Act clasifica los sistemas que utilizan IA en cuatro categorías principales, según los riesgos asociados:

1. Riesgo inaceptable. Totalmente prohibidos, como el social scoring, la vigilancia biométrica masiva y la manipulación subliminal.
2. Riesgo alto. Sistemas críticos regulados estrictamente, por ejemplo, aplicaciones en los ámbitos médico, financiero, de investigación personal, educativo y de seguridad; deben cumplir requisitos rigurosos.
3. Riesgo limitado. Obligaciones menores de transparencia hacia los usuarios, como en los chatbots y los contenidos generados, por ejemplo, los deepfakes.
4. Riesgo mínimo. Sin obligaciones específicas, aunque se recomiendan encarecidamente algunas buenas prácticas voluntarias.

Obligaciones y adaptaciones para las empresas

Las empresas que desarrollan o utilizan sistemas de inteligencia artificial deben adaptar significativamente sus procesos internos para cumplir con las nuevas obligaciones normativas previstas por el AI Act, actuando a nivel organizativo, técnico y de gobernanza. Entre las principales necesidades, destaca en primer lugar la evaluación y clasificación precisa del riesgo asociado a los sistemas de IA utilizados, con el fin de definir los requisitos de conformidad. Además, es fundamental elaborar una documentación técnica detallada que describa con precisión los sistemas, los algoritmos empleados, los conjuntos de datos utilizados, las decisiones de diseño y las medidas de seguridad adoptadas.

Las empresas también deben implementar controles de seguridad adecuados, integrando sistemas de supervisión humana en los procesos de uso de la IA, y activar programas de formación obligatorios para el personal involucrado, con el fin de garantizar la conciencia sobre los aspectos éticos y legales relacionados. La conformidad no puede abordarse de manera puntual: requiere una gestión continua, con auditorías periódicas y actualizaciones constantes. Por último, es fundamental adoptar un enfoque de “compliance by design”, integrando los principios normativos en el ciclo de desarrollo de los sistemas desde las etapas iniciales.

El incumplimiento de estas obligaciones puede conllevar sanciones muy severas, incluso superiores a las previstas por el RGPD: las multas pueden alcanzar hasta el 7% de la facturación anual global o los 35 millones de euros, dependiendo de la gravedad de la infracción y del tipo de sistema de IA implicado.

Con Mashfrog hacia una compliance de IA efectiva

Afrontar el AI Act no significa solo cumplir con obligaciones legales: es un proceso complejo que requiere conocimientos técnicos, jurídicos, organizativos y una visión estratégica sobre el papel de la inteligencia artificial en los procesos empresariales. Mashfrog Group, con una experiencia consolidada en el ámbito tecnológico y digital, pone a disposición de las empresas una oferta de consultoría altamente especializada para garantizar una conformidad plena, eficaz y sostenible a lo largo del tiempo.

Las competencias de Mashfrog cubren todo el ciclo de vida de la IA:

• Análisis y evaluación de sistemas de IA: Mashfrog es capaz de realizar evaluaciones en profundidad de los modelos de IA utilizados por las empresas, clasificándolos según los niveles de riesgo establecidos por el reglamento. Esto permite definir rápidamente las prioridades de intervención y los requisitos normativos específicos a cumplir.
• Diseño y gobernanza ética de la IA: La empresa apoya la creación de marcos de gobernanza, garantizando que cada fase del desarrollo o uso de la IA —desde el diseño hasta su puesta en producción— cumpla con los principios del AI Act. Se introducen auditorías internas, mecanismos de supervisión humana y directrices de responsabilidad.
• Elaboración de documentación técnica: Mashfrog ofrece competencias metodológicas y redaccionales para la preparación de los expedientes técnicos requeridos, incluyendo detalles sobre conjuntos de datos, algoritmos, rendimiento, mitigación de riesgos y medidas de seguridad.
• Auditorías de IA y pruebas de sesgo: Mediante análisis independientes, Mashfrog lleva a cabo controles sobre la presencia de sesgos en los modelos, la solidez técnica y la transparencia de los resultados, para garantizar fiabilidad y respeto de los derechos fundamentales.
• Formación empresarial especializada: La empresa organiza programas de formación técnica y normativa para los equipos implicados en proyectos de IA, promoviendo una cultura de responsabilidad y conciencia ética en el uso de las tecnologías.
• Apoyo a la certificación y cumplimiento operativo: Mashfrog acompaña a las empresas en el proceso de certificación, colaborando con organismos notificados y preparando la documentación necesaria. También ofrece herramientas de software y servicios post-implementación para asegurar que el cumplimiento se mantenga en el tiempo.

Gracias a un equipo multidisciplinario compuesto por data scientists, ingenieros de software, expertos legales y consultores de negocio, Mashfrog se posiciona como el patrocinador estratégico ideal para todas las empresas que desean adoptar un enfoque estructurado, seguro y competitivo hacia la inteligencia artificial en el nuevo escenario normativo europeo.

De desafío a oportunidad: transformar el cumplimiento en una ventaja competitiva

El AI Act representa un desafío significativo para las empresas europeas, pero también una gran oportunidad para fortalecer la confianza de los clientes y mejorar el posicionamiento competitivo mediante la construcción de sistemas más transparentes, fiables, competitivos y responsables a través del uso de la inteligencia artificial.

Para afrontar con éxito estos desafíos, es fundamental anticiparse a los cambios que exige el AI Act. Es importante comprender que el cumplimiento normativo no es una tarea puntual, sino un proceso continuo que requiere un compromiso constante. Los profesionales deberán integrar nuevas prácticas en su rutina diaria y dedicar especial atención a la documentación y a la gestión de los datos.

Nuestra consultoría especializada e integral permite a las empresas adaptarse de manera rápida y eficaz a esta nueva realidad normativa, no solo cumpliendo con la ley, sino también transformando las obligaciones en una verdadera ventaja competitiva.