En este blog, ya hemos tenido la oportunidad de hablar de la inteligencia artificial, tanto de sus inicios regulatorios en “Derechos Humanos e Inteligencia Artificial” como de sus potencialidades y riesgos en “Robots y cyborgs: los modernos prometeos”.
En el presente artículo, nos proponemos abordar el actual marco regulatorio que se está gestando en la Unión Europea a partir de la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Ley de Inteligencia Artificial) planteada por la Comisión Europea el 21 de abril de 2021 y en actual tramitación en la UE.
Esta propuesta fue el resultado de un largo proceso de análisis, estudios previos y consultas llevadas a cabo por las instituciones comunitarias ante la necesidad de abordar una tecnología disruptiva que ya está aquí, como hemos visto, y que ya está afectando no sólo nuestros derechos fundamentales, sino cómo trabajamos y nos relacionamos y el funcionamiento mismo de nuestra sociedad.
En la propia exposición de motivos de la propuesta, se determinan los siguientes objetivos para el marco reglamentario sobre Inteligencia Artificial:
- “garantizar que los sistemas de IA introducidos y usados en el mercado de la UE sean seguros y respeten la legislación vigente en materia de derechos fundamentales y valores de la Unión;
- garantizar la seguridad jurídica para facilitar la inversión e innovación en IA;
- mejorar la gobernanza y la aplicación efectiva de la legislación vigente en materia de derechos fundamentales y los requisitos de seguridad aplicables a los sistemas de IA;
- facilitar el desarrollo de un mercado único para hacer un uso legal, seguro y fiable de las aplicaciones de IA y evitar la fragmentación del mercado.”
¿A quién resultará de aplicación el Reglamento?
Centrándonos ya en el texto normativo, el artículo 2.1 de la Propuesta de Reglamento de Inteligencia Artificial determina que el mismo será aplicable a los siguientes sujetos:
- “los proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA en la Unión, con independencia de si dichos proveedores están establecidos en la Unión o en un tercer país;
- los usuarios de sistemas de IA que se encuentren en la Unión;
- los proveedores y usuarios de sistemas de IA que se encuentren en un tercer país, cuando la información de salida generada por el sistema se utilice en la Unión.”
Eso sí, el apartado 3 del citado artículo excluye expresamente de su aplicación a “los sistemas de IA desarrollados o utilizados exclusivamente con fines militares.”
¿Y qué es la Inteligencia Artificial para esta normativa?
Sin duda, la definición más importante que apunta la Propuesta es, precisamente, lo que se entiende por «Sistema de inteligencia artificial (sistema de IA)». Así, el mismo se describe en su artículo 3.1) como “el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.”
Si nos vamos al citado Anexo I, vemos que describe las siguientes técnicas y estrategias como de Inteligencia Artificial a efectos del Reglamento:
- “Estrategias de aprendizaje automático, incluidos el aprendizaje supervisado, el no supervisado y el realizado por refuerzo, que emplean una amplia variedad de métodos, entre ellos el aprendizaje profundo.
- Estrategias basadas en la lógica y el conocimiento, especialmente la representación del conocimiento, la programación (lógica) inductiva, las bases de conocimiento, los motores de inferencia y deducción, los sistemas expertos y de razonamiento (simbólico).
- Estrategias estadísticas, estimación bayesiana, métodos de búsqueda y optimización.”
Como vemos es una definición general y abierta, aunque inclusiva de las actuales aplicaciones de inteligencia artificial, incluido el consabido “machine learning”, de importancia capital para el funcionamiento de muchas de estas tecnologías ya en ejecución.
Eso sí, el artículo 4 de la Propuesta otorga poderes extraordinarios a la Comisión Europea para que pueda revisar y actualizar el Anexo I “con miras a adaptar dicha lista a la evolución del mercado y los avances tecnológicos sobre la base de características que sean similares a las técnicas y las estrategias incluidas en ella.”
Prohibiciones para la Inteligencia Artificial
Más allá del resto de disposiciones, requisitos y exigencias contemplados en esta propuesta normativa, el artículo 5.1 del Reglamento dispone ya la prohibición de las siguientes prácticas de inteligencia artificial:
- “La introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que se sirva de técnicas subliminales que trasciendan la conciencia de una persona para alterar de manera sustancial su comportamiento de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra.
- La introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que aproveche alguna de las vulnerabilidades de un grupo específico de personas debido a su edad o discapacidad física o mental para alterar de manera sustancial el comportamiento de una persona que pertenezca a dicho grupo de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra.
- La introducción en el mercado, la puesta en servicio o la utilización de sistemas de IA por parte de las autoridades públicas o en su representación con el fin de evaluar o clasificar la fiabilidad de personas físicas durante un período determinado de tiempo atendiendo a su conducta social o a características personales o de su personalidad conocidas o predichas, de forma que la clasificación social resultante provoque una o varias de las situaciones siguientes:
- un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos enteros en contextos sociales que no guarden relación con los contextos donde se generaron o recabaron los datos originalmente;
- un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos enteros que es injustificado o desproporcionado con respecto a su comportamiento social o la gravedad de este.
- El uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de aplicación de la ley, salvo y en la medida en que dicho uso sea estrictamente necesario para alcanzar uno o varios de los objetivos siguientes:
- la búsqueda selectiva de posibles víctimas concretas de un delito, incluidos menores desaparecidos;
- la prevención de una amenaza específica, importante e inminente para la vida o la seguridad física de las personas físicas o de un atentado terrorista;
- la detección, la localización, la identificación o el enjuiciamiento de la persona que ha cometido o se sospecha que ha cometido alguno de los delitos mencionados en el artículo 2, apartado 2, de la Decisión Marco 2002/584/JAI del Consejo 62 , para el que la normativa en vigor en el Estado miembro implicado imponga una pena o una medida de seguridad privativas de libertad cuya duración máxima sea al menos de tres años, según determine el Derecho de dicho Estado miembro.”
Una vez se apruebe el Reglamento, entrará en aplicación a los dos años y veinte días de su publicación en el Diario Oficial de la Unión Europea, en base a lo dispuesto en su artículo 85.
Esperemos que se tramite con celeridad dado que esta norma es especialmente urgente habida cuenta del acelerado desarrollo de las tecnologías de inteligencia artificial en los últimos años.
Estaremos pendientes.
Artículo publicado originalmente en: https://pintos-salgado.com/2022/06/10/inteligencia-artificial-a-regulacion-en-la-ue/
Trackbacks/Pingbacks