El Consejo Europeo aprueba definitivaente la primera ley sobre inteligencia artificial

En un movimiento histórico, el Parlamento Europeo aprobó el miércoles la revolucionaria Ley de Inteligencia Artificial. Esta normativa pionera garantiza la seguridad y los derechos fundamentales mientras impulsa la innovación tecnológica, pero criticada por algunos que dicen que puede dejar a Europa en el atraso tecnologico.

Un Paso Hacia el Futuro o no…

Con una abrumadora mayoría de 523 votos a favor, 46 en contra y 49 abstenciones, la Eurocámara respaldó un reglamento que equilibra la protección de los derechos y la democracia con el fomento de la innovación. La ley fija obligaciones según los riesgos y el impacto de las aplicaciones de IA, asegurando un desarrollo tecnológico seguro y ético.

¡Adiós a las IA Peligrosas!

La nueva normativa prohíbe aplicaciones de IA que ponen en riesgo los derechos de los ciudadanos. Entre las prohibiciones más destacadas están:

• Sistemas de categorización biométrica basados en características sensibles.
• Captura masiva de imágenes faciales de internet o cámaras de vigilancia para bases de datos de reconocimiento facial.
• Reconocimiento de emociones en el trabajo y escuelas.
• Sistemas de puntuación ciudadana.
• Actuación policial predictiva basada en perfiles personales.
• IA que manipule el comportamiento humano o explote vulnerabilidades.

Como siempre…Excenciones para las Fuerzas de Seguridad

El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad estará muy restringido y sujeto a autorizaciones judiciales o administrativas. Solo en situaciones críticas como la búsqueda de personas desaparecidas o la prevención de atentados terroristas se permitirá su uso en tiempo real, siempre bajo estrictas salvaguardias.

Control Riguroso para Sistemas de Alto Riesgo

Los sistemas de IA considerados de alto riesgo tendrán que cumplir con estrictas obligaciones para evitar daños a la salud, seguridad, derechos fundamentales, medio ambiente, democracia y Estado de derecho. Esto incluye sectores como infraestructuras críticas, educación, empleo, servicios esenciales, seguridad, migración, justicia y procesos democráticos.

Transparencia y Responsabilidad

Los sistemas de IA y sus modelos deben ser transparentes, respetar los derechos de autor y publicar resúmenes detallados del contenido utilizado para su entrenamiento. Los modelos más poderosos tendrán que realizar evaluaciones adicionales y mitigar riesgos, además de informar sobre incidentes. Las creaciones artificiales de imágenes, audio o video deberán etiquetarse claramente como tales.

¡Impulso a la Innovación y Apoyo a Pymes!

Para fomentar la innovación, se crearán espacios controlados de pruebas para que las pymes y startups puedan desarrollar y entrenar IA antes de su comercialización. Esto permitirá un desarrollo seguro y eficiente de nuevas tecnologías.

¿Qué Sigue?

El reglamento pasará por una última revisión jurídica-lingüística antes de su aprobación definitiva por el Consejo. Entrará en vigor veinte días después de su publicación oficial y será plenamente aplicable veinticuatro meses después, con plazos específicos para diversas obligaciones.

Respuesta a la Conferencia sobre el Futuro de Europa

La Ley de IA responde a las propuestas ciudadanas de la Conferencia sobre el Futuro de Europa, buscando una sociedad segura, fiable y competitiva en sectores estratégicos, promoviendo la innovación digital y el uso responsable de la IA.

Esta ley marca un hito en la regulación de la inteligencia artificial, asegurando que Europa no solo lidere en innovación, sino también en la protección de derechos y valores fundamentales.

Según un artículo publicado por Daniel J. Solove en cuanto a la Privacidad y la Inteligencia Artificial

«La IA implica algoritmos que ingieren entradas y generan salidas. Tanto las entradas como las salidas generan problemas de privacidad. La recopilación de entradas enfrenta problemas de recolección de datos, mientras que la producción de salidas involucra la generación de datos, la toma de decisiones y el análisis de datos. 

Tradicionalmente, la regulación de la privacidad se ha basado en el modelo de «autogestión de la privacidad», donde los individuos controlan sus propios datos. Sin embargo, con la IA, este modelo es insuficiente. La complejidad y escala de la IA superan la capacidad de los individuos para entender sus implicaciones en la privacidad. Para una protección efectiva, la ley debe aliviar la carga sobre los individuos y exigir a las organizaciones que mitiguen riesgos y daños, asegurando su responsabilidad.

Las nuevas leyes de IA están adoptando un enfoque basado en daños y riesgos, lo cual es un avance positivo. Sin embargo, este enfoque plantea preguntas importantes: ¿Quién debe determinar los daños y riesgos? ¿Las organizaciones que desarrollan y utilizan IA? ¿O una agencia gubernamental? Además, ¿cuándo debe intervenir la ley? ¿Antes de que la IA se despliegue (ex ante) o después de su implementación (ex post)? Si la regulación es demasiado ex ante, podría frenar la innovación; pero si es demasiado ex post, podría no prevenir daños graves.

La IA nos obliga a repensar cómo protegemos nuestra privacidad y adaptarnos a un mundo donde la tecnología avanza rápidamente.»  A Regulatory Roadmap to AI and Privacy, 2024 por Daniel J Solovove.