En un hito histórico, la Cámara Europea ha otorgado su aprobación definitiva al AI Act, marcando la inauguración de los primeros estándares globales sobre Inteligencia Artificial (IA). Con un apoyo abrumador reflejado en 523 votos a favor, frente a 46 en contra y 49 abstenciones, la Unión Europea se posiciona como pionera mundial en la regulación de esta tecnología emergente.

Este reglamento tiene el ambicioso objetivo de salvaguardar los derechos fundamentales, promover la democracia, el Estado de derecho, y la sostenibilidad ambiental, frente a los desafíos que plantean los sistemas de IA de alto riesgo. Simultáneamente, busca fomentar la innovación y asegurar el liderazgo europeo en este campo crucial.

Bajo las nuevas disposiciones, se prohíben ciertas aplicaciones de IA que representen una amenaza para los derechos de los ciudadanos, tales como sistemas de categorización biométrica basada en características sensibles, reconocimiento de emociones en entornos laborales y educativos, sistemas de puntuación social, y prácticas de vigilancia policial predictiva.

No obstante, se contemplan excepciones bajo circunstancias específicas y reguladas estrictamente, permitiendo a las fuerzas de seguridad el uso de sistemas de identificación biométrica en casos justificados, como la búsqueda de personas desaparecidas o la prevención de ataques terroristas, siempre bajo estrictas garantías y autorización judicial o administrativa.

Los sistemas de IA catalogados como de alto riesgo deberán cumplir con exigentes requisitos, incluyendo la evaluación y mitigación de riesgos, mantenimiento de registros, transparencia, precisión y la garantía de supervisión humana.

En una adición significativa respecto a la propuesta original de la Comisión, se establecen reglas específicas para los sistemas de IA de propósito general, los cuales deberán adherirse a criterios de transparencia y respetar las normas de derechos de autor de la UE. Los modelos de IA más potentes, capaces de generar riesgos sistémicos, enfrentarán obligaciones adicionales orientadas a la evaluación de riesgos y la información sobre incidentes.

Además, para combatir la propagación de deepfakes, se exige que las imágenes y contenidos audiovisuales generados o manipulados mediante IA sean claramente identificados mediante marcas de agua.

Los Estados miembros de la UE tendrán la responsabilidad de implementar espacios de experimentación regulatoria accesibles a nivel nacional, con el fin de apoyar a las pymes y startups en el desarrollo y prueba de sistemas innovadores de IA antes de su lanzamiento comercial.

El reglamento entrará en vigor veinte días después de su publicación en el Diario Oficial de la UE y comenzará a aplicarse 24 meses después, con la excepción de algunas disposiciones que tendrán plazos específicos para su implementación.

Este paso adelante en la regulación de la IA no solo reafirma el compromiso de Europa con la ética y la seguridad en el desarrollo tecnológico, sino que también establece un modelo regulatorio para que el resto del mundo pueda seguir.