Plataformas educativas con IA y el EU AI Act

Introducción

Las plataformas educativas que integran inteligencia artificial (IA) están transformando el aprendizaje y la enseñanza, ofreciendo experiencias personalizadas y eficientes. Sin embargo, con la implementación del Reglamento (UE) 2024/1689 (EU AI Act), estas plataformas deben cumplir con obligaciones específicas, especialmente en lo que respecta a la transparencia. En este artículo, analizaremos cómo las plataformas educativas con IA se ven afectadas por este reglamento y cuáles son sus responsabilidades según las disposiciones legales.

¿Qué es el EU AI Act?

El EU AI Act es un marco regulatorio que busca establecer un sistema armonizado para la IA dentro de la Unión Europea. Se centra en garantizar que las aplicaciones de IA sean seguras y respeten los derechos fundamentales. Las plataformas educativas que utilizan IA, como aquellas que analizan el rendimiento de los estudiantes o personalizan el contenido de aprendizaje, deben estar atentas a sus disposiciones para asegurar una adecuada autoevaluación y documentación.

¿Quiénes se ven afectados por el EU AI Act en el ámbito educativo?

Las obligaciones del EU AI Act afectan a varios actores en el ecosistema educativo:

• Proveedores de IA: Empresas que desarrollan herramientas de IA para la educación.
• Responsables del despliegue: instituciones educativas que utilizan estas tecnologías bajo su propia autoridad.
• Estudiantes y docentes: no tienen obligaciones como tales; son las personas expuestas a los sistemas, a quienes protege el Reglamento.

¿Cuáles son las obligaciones de transparencia del EU AI Act?

Hay que distinguir dos bloques. Los sistemas que interactúan con personas o generan contenido sintético están sujetos al art. 50. Y los sistemas educativos de alto riesgo (anexo III, punto 3: admisión, evaluación de los resultados del aprendizaje, determinación del nivel educativo o vigilancia de exámenes) deben cumplir además los requisitos del capítulo III, entre ellos:

• Proveer información clara sobre el funcionamiento del sistema de IA.
• Informar a las personas físicas afectadas de que están expuestas a un sistema de alto riesgo, obligación del responsable del despliegue (art. 26.11).
• Que los conjuntos de datos de entrenamiento, validación y prueba sean pertinentes, suficientemente representativos y, en la mayor medida posible, sin errores, con medidas para detectar, prevenir y mitigar sesgos (art. 10, obligación ligada al proveedor).

¿Cómo pueden las plataformas educativas cumplir con estas obligaciones?

Para prepararse, las plataformas educativas pueden:

1. Documentar los procesos de IA: Esto incluye la forma en que se recopilan, utilizan y almacenan los datos de los estudiantes.
2. Proporcionar formación: Capacitar a los docentes y administradores sobre el uso de la IA y sus implicaciones.
3. Realizar autoevaluaciones: Utilizar herramientas como AICONTEXT para llevar a cabo evaluaciones internas de sus sistemas de IA, y documentar su relación con las exigencias del EU AI Act.

¿Cuándo deben cumplir estas obligaciones las plataformas educativas?

Depende de la obligación (art. 113): la alfabetización en IA (art. 4) y las prohibiciones (art. 5) —incluida la de inferir emociones en centros educativos— aplican desde el 2 de febrero de 2025; la transparencia del art. 50, desde el 2 de agosto de 2026; y los requisitos de los sistemas educativos de alto riesgo del anexo III, desde el 2 de diciembre de 2027. Esto significa que una parte de las obligaciones ya es exigible y que, para los sistemas educativos de alto riesgo, aún hay margen para prepararse y adaptarse a los requisitos establecidos. La autoevaluación y la documentación deben ser procesos continuos que permitan a las instituciones educativas estar listas para la implementación del reglamento.

¿Por qué es importante la transparencia en las plataformas educativas con IA?

La transparencia es esencial para construir confianza entre los usuarios y las instituciones educativas. Al ser claros sobre cómo se utiliza la IA, se fomenta un entorno de aprendizaje más seguro y efectivo. Además, ayuda a mitigar riesgos asociados con sesgos en los algoritmos y fomenta un uso responsable de la tecnología.

Conclusión

Para las plataformas educativas que utilizan inteligencia artificial, el EU AI Act presenta tanto desafíos como oportunidades. Cumplir con las obligaciones de transparencia no solo es un requerimiento legal, sino también una práctica que fortalece la relación con estudiantes y docentes. Utilizar soluciones como AICONTEXT para la autoevaluación y la documentación puede facilitar el proceso de adaptación a estas nuevas normativas.