{"id":2371,"date":"2024-10-25T09:10:03","date_gmt":"2024-10-25T08:10:03","guid":{"rendered":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/?p=2371"},"modified":"2024-10-24T13:11:05","modified_gmt":"2024-10-24T12:11:05","slug":"practicas-prohibidas-en-el-reglamento-de-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/2024\/10\/25\/practicas-prohibidas-en-el-reglamento-de-inteligencia-artificial\/","title":{"rendered":"Pr\u00e1cticas prohibidas en el Reglamento de Inteligencia Artificial"},"content":{"rendered":"

En un art\u00edculo anterior nos centramos en el \u00c1mbito de Aplicaci\u00f3n del Reglamento (UE) 2024\/1689 sobre inteligencia artificial (RIA)<\/a>. En \u00e9ste hablaremos de un aspecto clave de esta norma: el de las pr\u00e1cticas de IA prohibidas<\/strong>.<\/p>\n

El RIA<\/a> no solo establece un marco legal para el uso de IA en Europa, sino que, como destaca su Considerando 26<\/strong>, adopta un enfoque basado en el riesgo. Este enfoque busca proporcionar un conjunto de normas proporcionadas y eficaces, que var\u00edan seg\u00fan la intensidad y el alcance de los riesgos que plantean los distintos sistemas de IA. En consecuencia, se proh\u00edben pr\u00e1cticas de IA que se consideran inaceptables<\/strong>, se imponen requisitos espec\u00edficos para los sistemas de alto riesgo y se establecen obligaciones de transparencia.<\/p>\n

Hoy nos centraremos en las pr\u00e1cticas de IA que est\u00e1n expresamente prohibidas<\/strong> por el RIA, y c\u00f3mo estas prohibiciones buscan proteger nuestros derechos fundamentales en esta era digital.<\/p>\n

El art\u00edculo 5<\/strong> del RIA enumera claramente dichas pr\u00e1cticas, debido a los riesgos que representan para las personas, sus derechos y su seguridad. Vamos a desglosar estas prohibiciones:<\/p>\n

    \n
  1. Manipulaci\u00f3n y t\u00e9cnicas subliminales<\/strong><\/li>\n<\/ol>\n

    El Reglamento proh\u00edbe los sistemas de IA que utilicen t\u00e9cnicas subliminales<\/strong> o deliberadamente manipuladoras para influir en el comportamiento de las personas sin que estas sean plenamente conscientes de ello. Estas t\u00e9cnicas, que alteran la capacidad de las personas para tomar decisiones informadas, est\u00e1n prohibidas si pueden provocar da\u00f1os considerables. La protecci\u00f3n frente a este tipo de manipulaciones es fundamental en un mundo donde la IA tiene el poder de influir en nuestras decisiones de maneras invisibles.<\/p>\n

      \n
    1. Explotaci\u00f3n de vulnerabilidades<\/strong><\/li>\n<\/ol>\n

      El Reglamento tambi\u00e9n proh\u00edbe el uso de sistemas de IA que exploten las vulnerabilidades de personas debido a su edad, discapacidad o situaci\u00f3n social y econ\u00f3mica<\/strong>. Si un sistema de IA afecta de forma negativa el comportamiento de personas que pertenecen a estos colectivos vulnerables, causando da\u00f1os significativos, queda fuera de los l\u00edmites permitidos. Esta prohibici\u00f3n busca proteger a quienes son m\u00e1s susceptibles a la influencia indebida de la tecnolog\u00eda.<\/p>\n

        \n
      1. Evaluaciones basadas en el comportamiento social<\/strong><\/li>\n<\/ol>\n

        Otra prohibici\u00f3n significativa es la que impide el uso de sistemas de IA para evaluar o clasificar a las personas en funci\u00f3n de su comportamiento social<\/strong>. Estas evaluaciones, que recuerdan al concepto de \u201cpuntuaci\u00f3n social\u201d, pueden llevar a un trato discriminatorio en contextos donde esos comportamientos no son relevantes, o a decisiones desproporcionadas respecto al comportamiento de los individuos. Este tipo de pr\u00e1cticas no solo son invasivas, sino que tambi\u00e9n pueden tener consecuncias sociales profundamente negativas, por lo que est\u00e1n expl\u00edcitamente prohibidas.<\/p>\n

        \"\"<\/p>\n

          \n
        1. Evaluaci\u00f3n del riesgo de cometer delitos<\/strong><\/li>\n<\/ol>\n

          El uso de IA para predecir la probabilidad de que una persona cometa un delito bas\u00e1ndose \u00fanicamente en su perfil personal est\u00e1 prohibido. Sin embargo, si una IA se utiliza para apoyar la evaluaci\u00f3n humana<\/strong> en investigaciones que ya cuentan con pruebas objetivas, su uso s\u00ed est\u00e1 permitido. Esta distinci\u00f3n es clave para evitar que las decisiones en el \u00e1mbito del derecho penal se basen \u00fanicamente en perfiles generados por IA, sin un respaldo factual s\u00f3lido.<\/p>\n

            \n
          1. Creaci\u00f3n de bases de datos de reconocimiento facial<\/strong><\/li>\n<\/ol>\n

            Otra prohibici\u00f3n notable es la creaci\u00f3n de bases de datos de reconocimiento facial<\/strong> mediante la extracci\u00f3n no selectiva de im\u00e1genes de internet o c\u00e1maras de vigilancia. Esta pr\u00e1ctica vulnera gravemente la privacidad de las personas, por lo que est\u00e1 completamente fuera de los l\u00edmites permitidos por el RIA. La protecci\u00f3n de los datos biom\u00e9tricos y la privacidad es uno de los ejes clave de esta normativa.<\/p>\n

              \n
            1. Inferir emociones en el trabajo o la educaci\u00f3n<\/strong><\/li>\n<\/ol>\n

              Los sistemas de IA dise\u00f1ados para inferir las emociones de las personas en el lugar de tarbajo o en centros educativos tambi\u00e9n est\u00e1n prohibidos, excepto en casos espec\u00edficos como fines m\u00e9dicos o de seguridad. Esta prohibici\u00f3n protege a los trabajadores y estudiantes de una invasi\u00f3n no deseada de su privacidad emocional, impidiendo que las IA monitoreen su estado emocional en contextos sensibles.<\/p>\n

                \n
              1. Categorizaci\u00f3n biom\u00e9trica por datos sensibles<\/strong><\/li>\n<\/ol>\n

                El Reglamento tambi\u00e9n proh\u00edbe el uso de IA para clasificar a las personas seg\u00fan sus datos biom\u00e9tricos<\/strong>con el objetivo de deducir caracter\u00edsticas sensibles, como la raza, opiniones pol\u00edticas o afiliaci\u00f3n sindical. Si bien se permiten ciertas excepciones en el \u00e1mbito de la ley, esta prohibici\u00f3n busca evitar la discriminaci\u00f3n y el mal uso de la tecnolog\u00eda biom\u00e9trica.<\/p>\n

                  \n
                1. Identificaci\u00f3n biom\u00e9trica remota en tiempo real<\/strong><\/li>\n<\/ol>\n

                  El uso de sistemas de identificaci\u00f3n biom\u00e9trica remota en tiempo real<\/strong> en espacios p\u00fablicos para fines policiales est\u00e1 estrictamente prohibido, excepto en casos muy espec\u00edficos como la b\u00fasqueda de v\u00edctimas de secuestros o la prevenci\u00f3n de ataques terroristas. Incluso en estos casos, se requiere una autorizaci\u00f3n previa de una autoridad<\/strong> judicial o administrativa independiente. Este control estricto busca evitar el abuso de estas tecnolog\u00edas en la vigilancia masiva de la poblaci\u00f3n.<\/p>\n

                  A la luz de lo visto, el enfoque basado en el riesgo del Reglamento de Inteligencia Artificial de la UE asegura que las tecnolog\u00edas m\u00e1s invasivas y peligrosas queden prohibidas o muy restringidas. Estas prohibiciones reflejan el compromiso de la Uni\u00f3n Europea con la protecci\u00f3n de los derechos fundamentales<\/strong> y la privacidad de sus ciudadanos, al tiempo que permite el desarrollo de la inteligencia artificial de manera \u00e9tica y segura.<\/p>\n

                  La normativa establece los l\u00edmites que no se deben cruzar, y coloca a Europa a la vanguardia de la regulaci\u00f3n de la IA. En los pr\u00f3ximos art\u00edculos de esta serie, seguiremos explorando c\u00f3mo este reglamento impacta en el uso de la IA en distintos sectores, asegurando que el futuro tecnol\u00f3gico respete los derechos humanos y garantice un equilibrio justo entre innovaci\u00f3n y protecci\u00f3n.<\/p>\n

                  El camino hacia agosto de 2026, cuando el reglamento ser\u00e1 plenamente aplicable, ser\u00e1 una oportunidad para que empresas, administraciones y ciudadanos se adapten a estas nuevas normas, asegurando que la inteligencia artificial se desarrolle de manera segura, \u00e9tica y en beneficio de todos.<\/p>\n

                  Tic tac \u2026<\/p>\n

                   <\/p>\n

                  Art\u00edculo publicado originalmente en: https:\/\/pintos-salgado.com\/practicas-prohibidas-en-el-reglamento-de-inteligencia-artificial\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

                  En un art\u00edculo anterior nos centramos en el \u00c1mbito de Aplicaci\u00f3n del Reglamento (UE) 2024\/1689 sobre inteligencia artificial (RIA). En \u00e9ste hablaremos de un aspecto clave de esta norma: el de las pr\u00e1cticas de IA prohibidas. El RIA no solo establece un marco legal para el uso de IA en Europa, sino que, como destaca […]<\/p>\n","protected":false},"author":180,"featured_media":2373,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0,"footnotes":""},"categories":[1],"tags":[247895,247962,247892,247961,247959],"class_list":["post-2371","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-ia","tag-ia-prohibida","tag-inteligencia-artificial","tag-prohibiciones","tag-reglamento-ia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2371","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/users\/180"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/comments?post=2371"}],"version-history":[{"count":3,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2371\/revisions"}],"predecessor-version":[{"id":2375,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2371\/revisions\/2375"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/media\/2373"}],"wp:attachment":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/media?parent=2371"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/categories?post=2371"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/tags?post=2371"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}