Riesgo limitado frente a alto riesgo: el árbol de decisión real

¿Qué es el riesgo limitado y el alto riesgo en el contexto del EU AI Act?

En el contexto del Reglamento (UE) 2024/1689, el riesgo asociado a los sistemas de inteligencia artificial (IA) se clasifica en diferentes categorías. El riesgo limitado se refiere a aquellos sistemas que, si bien pueden tener un impacto, no representan un peligro significativo para los derechos y la seguridad de las personas. Por otro lado, el alto riesgo implica un potencial considerable de daño o impacto negativo en la vida de las personas, lo que conlleva obligaciones más estrictas en términos de documentación y transparencia.

¿Cómo identificar si un sistema de IA es de riesgo limitado o alto riesgo?

Para determinar el nivel de riesgo de un sistema de IA, se puede utilizar un árbol de decisión. Este árbol permite a los proveedores y desplegadores evaluar las características de sus sistemas y clasificarlos adecuadamente. Los criterios para esta clasificación están descritos en el Anexo III del reglamento, donde se definen los sistemas de alto riesgo y sus respectivas obligaciones.

¿Cuáles son los criterios del árbol de decisión?

Los criterios para clasificar un sistema como de alto riesgo incluyen:

• Finalidad del sistema: Si el sistema afecta decisiones fundamentales, como el acceso a servicios esenciales, se considera de alto riesgo.
• Impacto en los derechos humanos: Sistemas que pueden influir en los derechos fundamentales, como la privacidad o la no discriminación.
• Uso en sectores críticos: Aplicaciones en áreas como la salud, la educación o la justicia.

¿Por qué la documentación es crucial en la evaluación de riesgos?

La documentación es esencial para resolver las dudas en la clasificación de riesgo. Un registro claro y detallado de cómo se ha evaluado el riesgo de un sistema de IA, las medidas de mitigación implementadas y los resultados de pruebas previas a la implementación, ayuda a los desplegadores y proveedores a justificar sus decisiones. Además, esta documentación es fundamental para cumplir con las obligaciones establecidas en el Art. 9 y Art. 15 del reglamento, que requieren que los proveedores mantengan un registro de sus sistemas de IA.

¿Qué obligaciones tienen los proveedores y desplegadores según el nivel de riesgo?

Obligaciones para sistemas de alto riesgo

Los proveedores de sistemas de alto riesgo deben:

• Realizar una evaluación de conformidad antes de poner en marcha el sistema.
• Documentar el proceso de desarrollo y los resultados de las evaluaciones.
• Implementar medidas de mitigación de riesgos y garantizar la supervisión humana efectiva, como se menciona en el Art. 26.

Obligaciones para sistemas de riesgo limitado

Los sistemas de riesgo limitado, aunque no requieren un proceso tan exhaustivo, también tienen responsabilidades. Los proveedores deben:

• Garantizar que los usuarios estén informados sobre el uso y las limitaciones del sistema.
• Mantener un registro de sus sistemas, aunque menos detallado que en el caso de los sistemas de alto riesgo.

¿Cómo puede AICONTEXT ayudar en este proceso?

AICONTEXT ofrece herramientas de autoevaluación y documentación que permiten a las empresas identificar su rol como proveedores o desplegadores y clasificar sus sistemas de IA correctamente. Mediante una metodología estructurada, AICONTEXT asiste en la creación de la documentación necesaria para cumplir con las obligaciones del EU AI Act. Esto incluye guías específicas sobre cómo documentar un sistema de IA de terceros, asegurando que las empresas estén preparadas para cualquier eventualidad.

Conclusión

Distinguir entre riesgo limitado y alto riesgo es fundamental para los proveedores y desplegadores de IA. Utilizando un árbol de decisión claro y documentando adecuadamente el proceso, se pueden cumplir mejor las obligaciones impuestas por el Reglamento (UE) 2024/1689. La documentación no solo proporciona claridad, sino que también protege a las empresas de posibles repercusiones legales y mejora la confianza del público en sus sistemas de IA. Para una autoevaluación efectiva y una documentación precisa, AICONTEXT se posiciona como una solución útil y accesible para todas las empresas involucradas en la IA.