AI Act: ¿Qué cambia para las empresas a partir del 2 de agosto?

El pasado 2 de agosto comenzaron a aplicarse nuevas obligaciones del Reglamento Europeo de Inteligencia Artificial (AI Act), la primera norma del mundo que regula de forma integral el uso de la inteligencia artificial.

Su objetivo es claro: fomentar una IA segura, transparente y respetuosa con los derechos fundamentales de las personas, al tiempo que impulsa la innovación y la competitividad en Europa.

¿A quién afecta el AI Act?

Una idea muy extendida es que el AI Act solo afecta a quienes desarrollan modelos de inteligencia artificial. Sin embargo, la realidad es muy distinta.

El Reglamento distingue diferentes actores dentro del ciclo de vida de un sistema de IA:

• Proveedores (quienes desarrollan o comercializan sistemas de IA).
• Desplegadores o usuarios profesionales (las empresas que utilizan sistemas de IA en su actividad).
• Importadores y distribuidores (las empresas que introducen en el mercado de la UE un sistema de IA procedente de un país tercero).
• Fabricantes que integran IA en sus productos.

Por tanto, si tu empresa utiliza herramientas como ChatGPT, Microsoft Copilot, Gemini o cualquier otro sistema de IA para apoyar el trabajo diario de sus empleados, en la mayoría de los casos actuará como desplegador (deployer) y tendrá determinadas obligaciones.

La alfabetización en IA

Una de las novedades más relevantes es la obligación de promover la alfabetización en inteligencia artificial (AI Literacy).

Esto significa que las organizaciones deben procurar que las personas que utilizan sistemas de IA dispongan de conocimientos suficientes para comprender:

• Qué es la inteligencia artificial y cómo funciona.
• Cuáles son sus capacidades y limitaciones.
• Qué riesgos puede generar.
• Cómo utilizarla de forma segura, responsable y conforme a la normativa.

No se trata únicamente de aprender a escribir mejores prompts. También implica comprender aspectos relacionados con la privacidad, la protección de datos, la supervisión humana, los sesgos, la confidencialidad de la información y el uso responsable de estas herramientas.

El AI Act va mucho más allá de la formación

Aunque la alfabetización es una de las obligaciones más conocidas, el Reglamento incorpora muchos otros aspectos que las organizaciones deberían conocer.

Entre ellos destacan:

• La clasificación de los sistemas de IA según su nivel de riesgo.
• La prohibición de determinadas prácticas consideradas inaceptables.
• Requisitos específicos para los sistemas de alto riesgo.
• Obligaciones de transparencia en determinados casos.
• La necesidad de establecer mecanismos de supervisión humana.
• La importancia de la gobernanza y la trazabilidad del uso de la IA dentro de la organización.

Todo ello persigue que la inteligencia artificial se utilice de forma controlada, segura y alineada con los derechos de las personas.

¿Existen sanciones?

Sí.

El AI Act establece un régimen sancionador que varía en función de la gravedad del incumplimiento y del tipo de organización.

Las sanciones pueden alcanzar varios millones de euros o un porcentaje del volumen de negocio anual en los casos más graves, mientras que otros incumplimientos pueden dar lugar a multas de menor cuantía, como las relacionadas con facilitar información incorrecta a las autoridades competentes.

Por decir algunas cifras, el incumplimiento de la prohibición de ciertas prácticas de IA como el uso de técnicas subliminales o que exploten las vulnerabilidades de una persona o grupo específico se sancionará con multas de hasta 35 millones o el 7 % de su volumen de negocio.

Más allá de las sanciones, el verdadero reto para muchas empresas será demostrar que utilizan la inteligencia artificial de forma responsable y que cuentan con procedimientos adecuados para gestionar sus riesgos.

¿Cómo puede prepararse una empresa?

La mejor estrategia consiste en comenzar cuanto antes.

Algunas acciones recomendables son:

• Identificar qué herramientas de IA se utilizan en la organización.
• Analizar los riesgos asociados a su uso.
• Formar a los empleados en un uso seguro y responsable.
• Definir una política interna de utilización de la IA.
• Establecer mecanismos de gobernanza y supervisión.
• Revisar periódicamente la evolución de la normativa y de las herramientas disponibles.

¿Cómo podemos ayudar desde data-major?

En data-major ayudamos a las organizaciones a adaptarse al AI Act desde una perspectiva práctica.

No solo impartimos formación sobre el Reglamento y el uso responsable de la inteligencia artificial. También acompañamos a las empresas en la definición de políticas internas, la implantación de modelos de gobernanza, la identificación de riesgos y la adopción de buenas prácticas para que puedan aprovechar todo el potencial de la IA con seguridad y confianza.

La inteligencia artificial ya forma parte del día a día de muchas empresas. Adaptarse al AI Act no debería verse únicamente como una obligación legal, sino como una oportunidad para implantar un uso más seguro, eficiente y responsable de esta tecnología.