La Ley que regula la inteligencia artificial en la Unión Europea: implicaciones y aspectos clave

La Unión Europea aprobó la primera normativa integral de inteligencia artificial a nivel mundial. Esta legislación establece regulaciones destinadas a salvaguardar a los ciudadanos y asegurar la responsabilidad y transparencia en el desarrollo y aplicación de esta tecnología, incluyendo su implementación en el ámbito empresarial.

¿Quieres conocer todas las claves de esta normativa que afectará a todos los ciudadanos que se encuentren en territorio europeo? ¡Sigue leyendo!

Introducción a la regulación de la inteligencia artificial en la Unión Europea

La creciente expansión en el desarrollo y uso de Inteligencias Artificiales en los últimos dos años ha llevado a la Unión Europea a reconocer la necesidad de regular su aplicación y comercialización. Esta iniciativa busca garantizar la seguridad y el respeto de los derechos y valores de los ciudadanos, asegurando que las IAs sean transparentes, no discriminatorias, respetuosas y supervisadas por personas reales. En respuesta a esta necesidad, la Unión Europea ha presentado la primera ley integral de regulación de la Inteligencia Artificial en el mundo.

Este marco normativo abarca diversos ámbitos, incluyendo el sector privado, educativo y empresarial, excluyendo únicamente el ámbito militar. Su objetivo es fomentar la innovación a partir de las IAs, garantizando al mismo tiempo la protección de la población. Es importante destacar que la normativa se aplica a cualquier sistema inteligente utilizado dentro de la UE, independientemente de su lugar de desarrollo original.

Ley europea de inteligencia artificial: algunos aspectos clave

Aprobada a finales de 2023, la ley de la UE sobre Inteligencia Artificial establece puntos clave que definen obligaciones y derechos tanto para los usuarios como para los desarrolladores. Se clasifican las IAs según el riesgo percibido en tres categorías:

• Riesgo limitado. Deben cumplir con obligaciones de transparencia, permitiendo a los usuarios tomar decisiones informadas sobre su funcionamiento. Además, deben ofrecer la posibilidad de ser desactivados conscientemente. Ejemplos de estas IAs incluyen aquellas que generan imágenes o vídeos que pueden parecer reales, pero son falsos.
  
  
• IA generativa. En el caso de IAs generativas, como el ChatGPT y similares, es necesario que cumplan con ciertas obligaciones:
  
  -Informar claramente cuando el contenido ha sido creado por la inteligencia artificial y no por una persona.
  -El diseño del modelo debe ser cuidadoso para prevenir la generación de contenido ilegal, como material difamatorio o que infrinja los derechos de autor.
  -Si se utilizan datos protegidos por derechos de autor para entrenar la Ia, se deben compartir extractos que no revelen toda la información original protegida.
  
  
• Alto riesgo. Las IAs de alto riesgo, que amenacen la seguridad y violen derechos básicos, se dividen en dos categorías distintas:
  
  -IAs en áreas específicas de trabajo que deben incluirse en una base de datos de la UE. Esto abarca la identificación biométrica de personas, gestión de infraestructuras críticas, educación, empleo, gestión de trabajadores, acceso al autoempleo, servicios esenciales y públicos, aplicación de la ley, gestión de migración, control de fronteras y asistencia en la interpretación jurídica. Estas IAs serán evaluadas antes de su comercialización y durante su uso.
  -IAs utilizadas en bienes y servicios que requieren regulación de seguridad, como productos médicos, juguetes o vehículos.
  
  
• Riesgo inaceptable, que representan una amenaza clara. Su uso estará prohibido salvo en algunas excepciones, como las siguientes:
  
  -Aquellas que realicen reconocimientos biométricos desde la lejanía en tiempo real. Quedan excluidas aquellas que se emplean para prevenir y solventar delitos peligrosos, previa aprobación legal y jurídica.
  -Manipulen cognitivamente a las personas o ciertos grupos de personas, sobre todo los más sensibles, como puede ser el caso de los juguetes destinados a los niños.
  -Categoricen a los individuos en función de su conducta, posición económica o atributos individuales.

Además, se prohíbe el uso de IAs que representen un riesgo inaceptable, como:

• Equipos policiales predictivos, ya sea para prever delitos o comportamientos sociales. Esta restricción se fundamenta en que estas inteligencias basan su funcionamiento en criterios no objetivos, lo que podría resultar en fallos.
  
  
• Identificación de emociones a través de reconocimiento facial o datos biométricos. No se consideran éticas y contravienen los derechos de privacidad.
  
  
• Aplicación de tecnología biométrica con fines de vigilancia, ya que también supone una amenaza para la privacidad de los usuarios.

¿Cómo afectará esta ley a las empresas?

Con el creciente uso de IAs, muchas empresas han invertido en ellas para estudiarlas y desarrollarlas, pero también para mejorar servicios y procesos internos. Es el caso de Google y Microsoft, que siguen invirtiendo millones en crear y mejorar las distintas inteligencias artificiales. También hay otros negocios que las utilizan para procesos de selección y contratación, seguros o diagnósticos médicos.

La nueva ley implica que estas compañías deberán cumplir con trámites adicionales, retrasando la introducción de sus sistemas en el mercado. Además, se requieren medidas adicionales para proteger datos y privacidad, asegurando la transparencia en las decisiones tomadas por las IAs. Como indicamos anteriormente, estas IAs deben diseñarse para evitar recopilar y utilizar de forma ilegal o abusiva los datos personales, así como garantizar transparencia en las decisiones tomadas.

Las empresas también deben considerar el impacto ético de sus IAs, evitando sesgos y discriminación en los algoritmos. Para ello, se llevarán a cabo evaluaciones periódicas que garanticen que no se generan resultados injustos o perjudiciales para determinados grupos de personas.

Aunque inicialmente puede haber ralentización y mayores inversiones, la seguridad y privacidad mejoradas generarán mayor confianza por parte de los usuarios en los sistemas empresariales.

Cajasiete, el socio incondicional para tu empresa

En Cajasiete comprendemos los desafíos económicos actuales y estamos comprometidos en respaldar a las empresas de Canarias que buscan expandirse internacionalmente en 2024.

Nuestros servicios especializados en comercio exterior proporcionan seguridad en operaciones internacionales, gracias a productos como los avales internacionales o los créditos documentarios de exportación. Además, ofrecemos servicios de cambio de moneda para facilitar las transacciones en divisas extranjeras.

Para obtener más información, visita nuestra oficina más cercana o contáctanos a través de nuestra página web. ¡Te esperamos!