Europa alcanzó el primer acuerdo mundial para regular la inteligencia artificial (IA), lo que podría influir en regulaciones internacionales.

El proyecto de ley se centra en los riesgos que la IA puede generar y distingue entre tres niveles de riesgo: inadmisible, alto y leve, en función de su impacto en los derechos fundamentales de las personas.

Clasificar por creencias, raza o identidad sexual

El uso de la inteligencia artificial plantea riesgos inadmisibles, como la discriminación por orientación sexual en procesos de selección laboral, basada en la categorización biométrica.

Se prohíbe el reconocimiento facial y de emociones, por intromisión en la privacidad, altos márgenes de error y control excesivo en espacios públicos, educativos y laborales.

Prohibido vigilar en el trabajo

El uso de tecnologías de reconocimiento facial y control de emociones en entornos laborales ha generado incomodidad entre los trabajadores, quienes se sienten vigilados constantemente.

Te puede interesar: Unión Europea logra histórico acuerdo para regular la inteligencia artificial

Además, las empresas podrían tomar medidas para aumentar la productividad basándose en estas detecciones, lo que plantea riesgos sobre la privacidad y el control excesivo.

Aunque su uso podría tener aplicaciones positivas, como prevenir accidentes, su utilización para control migratorio o justificación de acciones policiales genera controversia.

Comportamiento controlado

En China, se estableció un sistema de puntos para evaluar a los ciudadanos, con consecuencias como restricciones de viaje o acceso limitado a créditos y empleo.

La nueva regulación busca prohibir el uso de la IA para explotar vulnerabilidades y manipular el comportamiento humano.

Aunque no prohíbe el uso policial de sistemas de identificación biométrica, establece restricciones y autorización judicial en casos específicos como la búsqueda de víctimas o la prevención de amenazas de terrorismo.