{"id":2267,"date":"2022-07-08T07:29:51","date_gmt":"2022-07-08T06:29:51","guid":{"rendered":"http:\/\/blogs.lavozdegalicia.es\/victorsalgado\/?p=2267"},"modified":"2022-07-07T08:34:58","modified_gmt":"2022-07-07T07:34:58","slug":"ley-aplicable-a-algoritmos","status":"publish","type":"post","link":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/2022\/07\/08\/ley-aplicable-a-algoritmos\/","title":{"rendered":"Ley aplicable a algoritmos"},"content":{"rendered":"<p style=\"font-weight: 400\">Puede que seamos o no conscientes de ello, pero cada vez es m\u00e1s habitual que los <a href=\"https:\/\/elpais.com\/retina\/2019\/11\/22\/tendencias\/1574448048_476000.html\">algoritmos tomen decisiones que influyen en nuestra vida<\/a> y, como no, en nuestros derechos.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-large wp-image-2268\" src=\"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2022\/07\/cryptography-6867704_1280-1024x576.jpg\" alt=\"\" width=\"1024\" height=\"576\" srcset=\"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2022\/07\/cryptography-6867704_1280-1024x576.jpg 1024w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2022\/07\/cryptography-6867704_1280-300x169.jpg 300w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2022\/07\/cryptography-6867704_1280-768x432.jpg 768w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2022\/07\/cryptography-6867704_1280-1080x608.jpg 1080w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2022\/07\/cryptography-6867704_1280.jpg 1280w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/p>\n<p style=\"font-weight: 400\">Desde el algoritmo que decide el camino que debemos tomar cuando buscamos una ruta en el GPS (<a href=\"https:\/\/www.xataka.com\/aplicaciones\/google-maps-no-recomendara-siempre-camino-rapido-ruta-defecto-sera-contaminante\">que no necesariamente es la m\u00e1s r\u00e1pida<\/a>), hasta el que decide que hemos cometido una infracci\u00f3n de tr\u00e1fico por exceso de velocidad y nos env\u00eda una multa a casa. Todos estos procesos y muchos otros, en mayor o menor medida, se realizan sin intervenci\u00f3n humana, de manera totalmente automatizada y gobernado por algoritmos m\u00e1s o menos opacos.<\/p>\n<p style=\"font-weight: 400\">Si nos paramos a pensarlo, resulta inquietante e, incluso, aterrador. Sin ir m\u00e1s lejos, <a href=\"https:\/\/www.eldebate.com\/motor\/20220705\/noche-taxirobots-enloquecieron-colapsaron-san-francisco.html\">hace unos d\u00edas la ciudad de San Francisco sufri\u00f3 un colapso parcial de su tr\u00e1fico<\/a> debido a que una serie de taxis aut\u00f3nomos, actualmente en pruebas en dicha urbe, tomaron misteriosamente la decisi\u00f3n de agruparse y pararse en una de sus principales calles. De hecho, tuvieron que intervenir de urgencia los propios t\u00e9cnicos y desplazarse a tomar el control de sus veh\u00edculos manualmente dado que se negaban a recibir \u00f3rdenes o ser controlados a distancia. Todo guiado por sus propios algoritmos que lo decidieron de manera totalmente misteriosa, al menos hasta hoy.<\/p>\n<p style=\"font-weight: 400\">\u00bfPodr\u00eda suceder algo as\u00ed en Europa? \u00bfC\u00f3mo nos protegemos ante las decisiones aparentemente opacas y\/o arbitrarias de los algoritmos?<\/p>\n<p style=\"font-weight: 400\">M\u00e1s all\u00e1 de la <a href=\"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/2022\/06\/13\/inteligencia-artificial-a-regulacion-en-la-ue\/\">normativa sobre Inteligencia Artificial en ciernes que hemos tenido ya ocasi\u00f3n de comentar en el blog<\/a>, lo cierto es que nuestra legislaci\u00f3n ya cuenta con importantes herramientas que regulan el uso de algoritmos y que se pueden esgrimir para proteger nuestros derechos.<\/p>\n<p style=\"font-weight: 400\">En primer lugar, la <a href=\"https:\/\/www.boe.es\/buscar\/act.php?id=BOE-A-2015-10566\">Ley 40\/2015, de 1 de octubre, de R\u00e9gimen Jur\u00eddico del Sector P\u00fablico<\/a> regula, en su art\u00edculo 41, las llamadas <em>actuaciones administrativas automatizadas<\/em> que se definen como <em>\u201ccualquier acto o actuaci\u00f3n realizada \u00edntegramente a trav\u00e9s de medios electr\u00f3nicos por una Administraci\u00f3n P\u00fablica en el marco de un procedimiento administrativo y <strong>en la que no haya intervenido de forma directa un empleado p\u00fablico<\/strong>.\u201d<\/em><\/p>\n<p style=\"font-weight: 400\">As\u00ed, hablamos de actos administrativos dictados directamente por un algoritmo o programaci\u00f3n previa en los que se toma una decisi\u00f3n con efecto en los ciudadanos sin intervenci\u00f3n humana. Por ejemplo, una sanci\u00f3n tramitada y notificada autom\u00e1ticamente al titular de un veh\u00edculo fotografiado a partir de la medici\u00f3n de un exceso de velocidad por radar.<\/p>\n<p style=\"font-weight: 400\">En estos supuestos, el apartado 2 del citado art\u00edculo 41 dispone que deber\u00e1 <strong>establecerse previamente<\/strong> lo siguiente:<\/p>\n<ul>\n<li>El \u00f3rgano u \u00f3rganos competentes, seg\u00fan los casos, para la definici\u00f3n de:\n<ol>\n<li>las especificaciones,<\/li>\n<li>programaci\u00f3n,<\/li>\n<li>mantenimiento,<\/li>\n<li>supervisi\u00f3n,<\/li>\n<li>control de calidad y<\/li>\n<li>auditor\u00eda del sistema de informaci\u00f3n y de su c\u00f3digo fuente, en su caso.<\/li>\n<\/ol>\n<\/li>\n<li>Asimismo, se indicar\u00e1 el <strong>\u00f3rgano que debe ser considerado responsable<\/strong> a efectos de impugnaci\u00f3n.<\/li>\n<\/ul>\n<p style=\"font-weight: 400\">Por tanto, es necesario especificar estos extremos de forma precisa y siempre antes de poner en funcionamiento cualquier sistema o algoritmo que implique un tr\u00e1mite administrativo automatizado, de modo que el interesado afectado pueda tener dicha informaci\u00f3n y saber ante qui\u00e9n dirigirse para defender sus derechos.<\/p>\n<p style=\"font-weight: 400\">En segundo lugar, el <a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/ES\/TXT\/HTML\/?uri=CELEX:32016R0679\">Reglamento (UE) 2016\/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protecci\u00f3n de las personas f\u00edsicas en lo que respecta al tratamiento de datos personales y a la libre circulaci\u00f3n de estos datos<\/a> y por el que se deroga la Directiva 95\/46\/CE (Reglamento General de Protecci\u00f3n de Datos &#8211; RGPD), en su art\u00edculo 22, se refiere a las llamadas <em>decisiones individuales automatizadas <\/em>aludiendo a que <em>\u201ctodo interesado tendr\u00e1 <strong>derecho a no ser objeto de una decisi\u00f3n basada \u00fanicamente en el tratamiento automatizado<\/strong>, incluida la elaboraci\u00f3n de perfiles, que produzca efectos jur\u00eddicos en \u00e9l o le afecte significativamente de modo similar\u201d.<\/em><\/p>\n<p style=\"font-weight: 400\">As\u00ed, dichas decisiones automatizadas, por defecto, estar\u00e1n prohibidas salvo que se pueda acreditar lo dispuesto en el apartado 2 del citado art\u00edculo 22, es decir, que dicha decisi\u00f3n:<\/p>\n<p style=\"padding-left: 40px\"><em>a) es <strong>necesaria para la celebraci\u00f3n o la ejecuci\u00f3n de un contrato<\/strong> entre el interesado y un responsable del tratamiento;<\/em><\/p>\n<p style=\"padding-left: 40px\"><em>b) est\u00e1 <strong>autorizada por el Derecho<\/strong> de la Uni\u00f3n o de los Estados miembros que se aplique al responsable del tratamiento y que <strong>establezca asimismo medidas adecuadas para salvaguardar los derechos y libertades y los intereses leg\u00edtimos del interesado<\/strong>, o<\/em><\/p>\n<p style=\"padding-left: 40px\"><em>c) se basa en el <strong>consentimiento expl\u00edcito<\/strong> del interesado.<\/em><\/p>\n<p style=\"font-weight: 400\">En lo que se refiere a los puntos a) y c) anteriores, el apartado 3 obliga a que el responsable adopte las <em>\u201cmedidas adecuadas para salvaguardar los derechos y libertades y los intereses leg\u00edtimos del interesado\u201d<\/em>.<\/p>\n<p style=\"font-weight: 400\">Entre dichas medidas deber\u00e1n figurar, como m\u00ednimo:<\/p>\n<ul>\n<li>El <strong>derecho a obtener intervenci\u00f3n humana<\/strong> por parte del responsable,<\/li>\n<li>El derecho a <strong>expresar su punto de vista<\/strong> y<\/li>\n<li>El derecho a <strong>impugnar la decisi\u00f3n<\/strong>.<\/li>\n<\/ul>\n<p style=\"font-weight: 400\">Por tanto, hablamos de tres derechos m\u00ednimos que se deben conceder al interesado cuando excepcionalmente se apliquen algoritmos para la toma de decisiones con efectos jur\u00eddicos en \u00e9l mismo o que, de otro modo, le afecten significativamente.<\/p>\n<p style=\"font-weight: 400\">A estos tres derechos, se le suma, obviamente, el derecho a ser informados de la utilizaci\u00f3n de los citados algoritmos y de la l\u00f3gica aplicada por ellos. Dicho derecho se incluye en los art\u00edculos 14.1.g) y 15.1.h) del RGPD para los casos de informaci\u00f3n al interesado cuando los datos no se hayan obtenido del mismo y de la que se debe facilitar como resultado de un ejercicio de derecho de acceso instado por el interesado a sus datos.<\/p>\n<p style=\"font-weight: 400\">En ambos supuestos, se debe informar al interesado de lo siguiente:<\/p>\n<ul>\n<li>la existencia de decisiones automatizadas, incluida la elaboraci\u00f3n de perfiles,<\/li>\n<li>su <strong>l\u00f3gica aplicada<\/strong>,<\/li>\n<li>su importancia y<\/li>\n<li>las consecuencias previstas de dicho tratamiento para el interesado<\/li>\n<\/ul>\n<p style=\"font-weight: 400\">En caso de que no se facilite dicha informaci\u00f3n, esto ya es un hecho denunciable ante la Autoridad de Control (en nuestro caso, la Agencia Espa\u00f1ola de Protecci\u00f3n de Datos) que puede conllevar importantes sanciones econ\u00f3micas para el infractor, a la par que una eventual indemnizaci\u00f3n por da\u00f1os y perjuicios al agraviado si se reclama ulteriormente por v\u00eda judicial.<\/p>\n<p style=\"font-weight: 400\">Como vemos y a la espera de nueva regulaci\u00f3n, ya estamos protegidos ante el uso y abuso de algoritmos en nuestro Derecho. S\u00f3lo queda conocerlo y, lo m\u00e1s importante, aplicarlo.<\/p>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n<p>Art\u00edculo publicado originalmente en: <a href=\"https:\/\/pintos-salgado.com\/2022\/07\/07\/ley-aplicable-a-algoritmos\/\">https:\/\/pintos-salgado.com\/2022\/07\/07\/ley-aplicable-a-algoritmos\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Puede que seamos o no conscientes de ello, pero cada vez es m\u00e1s habitual que los algoritmos tomen decisiones que influyen en nuestra vida y, como no, en nuestros derechos. Desde el algoritmo que decide el camino que debemos tomar cuando buscamos una ruta en el GPS (que no necesariamente es la m\u00e1s r\u00e1pida), hasta [&hellip;]<\/p>\n","protected":false},"author":180,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0,"footnotes":""},"categories":[247892,7122],"tags":[247915,247912,247914,247895,247892],"class_list":["post-2267","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial","category-proteccion-de-datos","tag-actuaciones-administrativas-automatizadas","tag-algoritmos","tag-decisiones-automatizadas","tag-ia","tag-inteligencia-artificial"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2267","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/users\/180"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/comments?post=2267"}],"version-history":[{"count":3,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2267\/revisions"}],"predecessor-version":[{"id":2271,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2267\/revisions\/2271"}],"wp:attachment":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/media?parent=2267"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/categories?post=2267"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/tags?post=2267"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}