Proveedor y Desplegador: Cómo Gestionar Múltiples Roles en la IA

¿Qué significa ser proveedor y desplegador bajo el EU AI Act?

El Reglamento (UE) 2024/1689, comúnmente conocido como el EU AI Act, establece una jerarquía de roles para las entidades que desarrollan y utilizan inteligencia artificial en Europa. Los proveedores son aquellos que desarrollan o fabrican sistemas de IA, mientras que los desplegadores son las entidades que utilizan estos sistemas en el mercado. En muchos casos, una empresa puede asumir ambos roles, lo que plantea desafíos únicos en la gestión de obligaciones y responsabilidades.

¿Por qué una empresa podría ser tanto proveedor como desplegador?

Casos prácticos donde se asumen múltiples roles

1. Desarrollo interno de IA: Una empresa que desarrolla su propio software de IA y luego lo implementa en sus operaciones internas es tanto proveedor como desplegador.
2. Servicios de IA a terceros: Si una empresa ofrece un sistema de IA a otras empresas y también lo utiliza internamente, asume los roles de proveedor para sus clientes y de desplegador para sus propias operaciones.
3. Plataformas de IA: Las plataformas que permiten a otros desarrollar y desplegar sus propios modelos de IA son proveedoras para sus usuarios y desplegadoras del software que ellos crean.

¿Cuáles son las obligaciones de un proveedor bajo el EU AI Act?

Los proveedores deben cumplir con varias obligaciones según el Art. 9 del reglamento, que incluyen:

• Evaluación de riesgos: Realizar una evaluación de riesgos de los sistemas de IA antes de su comercialización.
• Documentación técnica: Mantener una documentación técnica adecuada que incluya la descripción del sistema, su propósito, y los resultados de la evaluación de riesgos.
• Transparencia: Proporcionar información clara y adecuada sobre el funcionamiento del sistema de IA a los usuarios finales.

¿Cuáles son las obligaciones de un desplegador bajo el EU AI Act?

Los desplegadores, según el Art. 6, tienen sus propias obligaciones que deben gestionar:

• Uso responsable: Asegurar un uso responsable del sistema de IA en su organización.
• Monitoreo y mantenimiento: Implementar mecanismos para monitorear el rendimiento del sistema y realizar mantenimientos regulares.
• Reportes de incidentes: Notificar a las autoridades competentes sobre cualquier incidente grave relacionado con el sistema de IA.

¿Cómo gestionar las obligaciones de ambos roles?

Estrategias para una gestión eficaz

1. Desarrollo de políticas internas: Crear políticas que aborden las obligaciones tanto de proveedor como de desplegador.
2. Formación del personal: Implementar programas de formación sobre las responsabilidades bajo el EU AI Act para todos los empleados involucrados.
3. Herramientas de autoevaluación: Utilizar plataformas como AICONTEXT para realizar autoevaluaciones y llevar a cabo la documentación necesaria para ambos roles.
4. Colaboración con expertos: Establecer conexiones con profesionales que puedan ayudar a validar las prácticas y procedimientos de la empresa.

¿Cuándo debe una empresa prepararse para estas obligaciones?

La preparación para cumplir con las obligaciones del EU AI Act debe comenzar de inmediato, ya que la fecha límite para la implementación completa es agosto de 2026. Las empresas deben anticiparse a estos requerimientos para evitar contratiempos en el futuro.