Ley de IA - Asegurando los primeros pasos

La Unión Europea está haciendo historia con su innovadora Ley de Inteligencia Artificial, el primer marco legal integral para la IA en el mundo. Esta legislación, piedra angular de la estrategia digital de la UE, busca establecer un ecosistema equilibrado para el desarrollo y uso de la IA, asegurando que aporte numerosos beneficios sociales y económicos mientras protege los derechos fundamentales y la seguridad. En el siguiente post analizaremos algunas consideraciones de esta normativa que comienza a dar forma al panorama actual.

Entendiendo el Alcance y la Visión

En abril de 2023, ya se ha propuesto un primer marco de regulación para la Unión Europea, ahora la Ley de IA en desarrollo es un intento ambicioso de la Unión Europea por regular la inteligencia artificial y sus aplicaciones. Refleja el deseo de aprovechar los beneficios de la IA —mejoras en la atención médica, transporte más seguro, fabricación más eficiente y soluciones energéticas sostenibles— mientras se abordan los riesgos y desafíos inherentes.

Un Enfoque Basado en el Riesgo

Una característica clave de la legislación es su clasificación de sistemas de IA basada en el riesgo. Este enfoque categoriza las aplicaciones de IA según el nivel de riesgo que representan para los usuarios, con grados variables de regulación para cada categoría. Con una propuesta priorizando garantizar la seguridad, transparencia, trazabilidad y el cuidado del medio ambiente.

Esta ley pretende también establecer una definición uniforme que pueda aplicarse en futuros sistemas.

#0 - Riesgos Inaceptables

La Ley de IA identifica ciertas prácticas de IA como de 'riesgo inaceptable' y propone su prohibición por considerarse una amenaza para las personas.

Entre estas se incluyen:

- Manipulación cognitiva de comportamiento de grupos vulnerables (Ej.: Juguetes que puedan poner en riesgo a los niños)
- Sistemas de puntuación social por parte de gobiernos (Lo hemos visto en Netflix y si, se está regulando)
- Sistemas de identificación biométrica remota en tiempo real (con excepciones específicas para interés público significativo.)

#1 - Sistemas Alto Riesgo

Para los sistemas de IA considerados 'de alto riesgo', la ley propone requisitos estrictos. Estos incluyen IA utilizada en áreas críticas de seguridad de productos (como aviación y dispositivos médicos, automóviles, ascensores) y sectores clave como la aplicación de la ley, empleo y servicios privados y públicos, educación, migración y fronteras, asistencia jurídica, para estos casos se establecerá un registro.

#2 - IA Generativa: Transparencia y Responsabilidad

La ley exige que los sistemas de IA generativa, como ChatGPT, adhieran a estándares de transparencia, revelen contenido generado por IA, prevengan la generación de contenido ilegal y proporcionen información sobre los datos utilizados en su entrenamiento.

#3 - Sistemas de IA de Riesgo Limitado

Los sistemas de IA con riesgo limitado deben cumplir requisitos mínimos de transparencia para garantizar la conciencia y toma de decisiones informadas del usuario. El usuario debe poder decidir continuar utilizándolas. El usuario debe poder reconocer que está interactuando con la IA, incluso al utilizar contenido de audio, video, imagen creados digitalmente (Ej.: Deepfakes)

Futura Hoja de Ruta

A partir del 14 de junio de 2023, los legisladores de la UE han establecido su posición negociadora sobre la Ley de IA. Las próximas discusiones darán forma a la ley final, con el objetivo de llegar a un acuerdo para fin de año. La Ley de IA representa un equilibrio delicado entre fomentar la innovación en IA y garantizar la seguridad pública y los derechos. Establece un precedente para la gobernanza mundial de la IA, influenciando potencialmente futuras regulaciones a nivel mundial.

Conclusión

Si bien la Ley es un paso adelante, su implementación plantea desafíos, incluyendo garantizar el cumplimiento, adaptarse a los avances tecnológicos y equilibrar los intereses de diferentes partes interesadas. La Ley de Inteligencia Artificial de la Unión Europea es un paso importante en la regulación de la tecnología de IA. Refleja un compromiso con el desarrollo ético de la IA, asegurando que la tecnología sirva a la humanidad mientras se salvaguarda contra sus posibles peligros.


Más información

- Ley de IA de la UE: primera normativa sobre inteligencia artificial (Parlamento Europeo)
- Informe: Ley sobre inteligencia artificial