El Consejo de la Unión Europea acaba de aprobar el Reglamento de Inteligencia Artificial. La inteligencia artificial (IA) es un conjunto de tecnologías en rápida evolución que contribuye a generar beneficios económicos, medioambientales y sociales en todos los sectores económicos y las actividades sociales. Sin embargo, dependiendo de las circunstancias relativas a su aplicación, utilización y nivel de desarrollo tecnológico concretos, la IA puede generar riesgos y menoscabar los intereses públicos y los derechos fundamentales que protege el Derecho de la Unión.

Es conveniente establecer normas comunes para los sistemas de IA de alto riesgo con el objetivo de garantizar un nivel elevado y coherente de protección de los intereses públicos en lo que respecta a la salud, la seguridad y los derechos fundamentales. Estas normas regularán la introducción en el mercado, la puesta en servicio y la utilización de determinados sistemas de IA, asegurando el buen funcionamiento del mercado interior y permitiendo que dichos sistemas se beneficien del principio de libre circulación de mercancías y servicios.

El Reglamento de Inteligencia Artificial se divide en cuatro grandes secciones:

1. Aplicaciones Prohibidas

– Categorización biométrica basada en datos sensibles y la extracción no dirigida de imágenes faciales de Internet o de CCTV para crear bases de datos de reconocimiento facial.

– Reconocimiento de emociones en el lugar de trabajo y las escuelas, puntuación social, vigilancia policial predictiva.

– IAs que manipulen el comportamiento humano o exploten las vulnerabilidades de las personas.

2. Exenciones de Aplicación de la Ley

Los sistemas de identificación biométrica remota (RBI) por parte de las autoridades están prohibidos en principio, excepto en situaciones enumeradas exhaustivamente y de forma estricta.

3. Obligaciones para Sistemas de Alto Riesgo

Basadas en su potencial daño significativo a la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho; por ejemplo, establecerá, implantará, documentará y mantendrá un sistema de gestión de riesgos en relación con los sistemas de IA de alto riesgo.

4. Requisitos de Transparencia

Los sistemas de IA de propósito general (GPAI), y los modelos GPAI en los que se basan, deben cumplir ciertos requisitos de transparencia, incluidos el cumplimiento de la ley de derechos de autor de la UE y la publicación de resúmenes detallados del contenido utilizado para la capacitación.

Fuente: https://blog.segu-info.com.ar/2024/05/el-consejo-de-la-ue-aprueba-el.html