{"id":2191,"date":"2017-03-17T09:15:56","date_gmt":"2017-03-17T08:15:56","guid":{"rendered":"http:\/\/blogs.lavozdegalicia.es\/victorsalgado\/?p=2191"},"modified":"2017-03-17T09:22:14","modified_gmt":"2017-03-17T08:22:14","slug":"derechos-humanos-e-inteligencia-artificial-leyes-de-la-robotica-en-la-ue","status":"publish","type":"post","link":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/2017\/03\/17\/derechos-humanos-e-inteligencia-artificial-leyes-de-la-robotica-en-la-ue\/","title":{"rendered":"Derechos humanos e inteligencia artificial: Leyes de la rob\u00f3tica en la UE"},"content":{"rendered":"<p>La inteligencia artificial <strong>ya est\u00e1 aqu\u00ed<\/strong>.<\/p>\n<p>Desde que <a href=\"http:\/\/www.eltiempo.com\/archivo\/documento\/CMS-16505647\" target=\"_blank\" rel=\"noopener\">Deep Blue gan\u00f3 al campe\u00f3n de ajedrez Gary Kasparov<\/a> en 1997, era cuesti\u00f3n de tiempo que el hardware y el software evolucionaran para ir rivalizando con el ser humano en otras muchas \u00e1reas. Lo ha hecho <a href=\"https:\/\/www.wayerless.com\/2008\/11\/aplicacion-busqueda-por-voz-para-el-iphone-ya-disponible-en-la-app-store\/\" target=\"_blank\" rel=\"noopener\">Google con la primera app de reconocimiento de voz en 2008<\/a>, IBM tambi\u00e9n <a href=\"http:\/\/www.elperiodico.com\/es\/noticias\/tecnologia\/ordenador-ibm-gana-concurso-preguntas-respuestas-jeopardy-825011\" target=\"_blank\" rel=\"noopener\">ganando con Watson al Jeopardy<\/a> en 2011 y, finalmente, el bot <a href=\"http:\/\/www.ungeekencolombia.com\/por-primera-vez-un-programa-supera-test-de-turing\/\" target=\"_blank\" rel=\"noopener\">Eugene Goostman logrando superar el famoso \u201cTest de Turing\u201d<\/a> en 2014. Hoy se habla ya sin ambajes de conducci\u00f3n aut\u00f3noma y de f\u00e1bricas plenamente automatizadas, por no hablar de la <a href=\"http:\/\/www.ticbeat.com\/innovacion\/robots-oficina-japon\/\" target=\"_blank\" rel=\"noopener\">inminente destrucci\u00f3n de empleos en dichas \u00e1reas y en otras,<\/a> copadas paulatinamente por los llamados robots inteligentes.<\/p>\n<div id=\"attachment_2381\" style=\"width: 1034px\" class=\"wp-caption alignnone\"><a href=\"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2017\/03\/robotica2.jpg\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-2381\" class=\"wp-image-2381 size-large\" src=\"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2017\/03\/robotica2-1024x768.jpg\" alt=\"\" width=\"1024\" height=\"768\" srcset=\"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2017\/03\/robotica2-1024x768.jpg 1024w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2017\/03\/robotica2-300x225.jpg 300w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2017\/03\/robotica2-768x576.jpg 768w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2017\/03\/robotica2-510x382.jpg 510w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2017\/03\/robotica2-1080x810.jpg 1080w, https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/files\/2017\/03\/robotica2.jpg 1280w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/a><p id=\"caption-attachment-2381\" class=\"wp-caption-text\">Pixabay<\/p><\/div>\n<p><strong>\u00bfHasta d\u00f3nde podemos llegar?<\/strong><\/p>\n<p>La <strong>ciencia ficci\u00f3n lleva d\u00e9cadas anticipando<\/strong> esta nueva realidad as\u00ed como de las posibles consecuencias m\u00e1s funestas de la misma: desde la fr\u00eda l\u00f3gica del computador <a href=\"https:\/\/es.wikipedia.org\/wiki\/HAL_9000\" target=\"_blank\" rel=\"noopener\">HAL 9000<\/a> en \u201c2001: Una Odisea del Espacio\u201d, pasando por el terror\u00edfico <a href=\"https:\/\/es.wikipedia.org\/wiki\/Skynet_(Terminator)\" target=\"_blank\" rel=\"noopener\">Skynet<\/a> de \u201cTerminator\u201d o el Matrix de 1999, hasta la conmovedora pero inquietante <a href=\"http:\/\/www.filmaffinity.com\/es\/film889720.html\" target=\"_blank\" rel=\"noopener\">\u201cHer\u201d de 2013<\/a>.<\/p>\n<p>Y es que, m\u00e1s all\u00e1 de lo que nos haya podido contar el imaginario del cine o la literatura sobre las <a href=\"http:\/\/www.muyinteresante.es\/tecnologia\/articulo\/ventajas-y-riesgos-de-la-inteligencia-artificial-651449483429\" target=\"_blank\" rel=\"noopener\">consecuencias que puede tener la inteligencia artificial para la humanidad<\/a>, lo cierto es que se abre una nueva \u00e9poca llena de inc\u00f3gnitas y <strong>el Derecho debe intentar regularla<\/strong>, como nueva realidad que es.<\/p>\n<p>Pero, antes de entrar en esta posible regulaci\u00f3n, <strong>\u00bfqu\u00e9 derechos tenemos los seres humanos ante el surgimiento de la nueva IA?<\/strong><\/p>\n<p>Como no pod\u00eda ser de otro modo, tenemos los derechos cl\u00e1sicos recogidos en <a href=\"https:\/\/www.boe.es\/diario_boe\/txt.php?id=BOE-A-1978-31229\" target=\"_blank\" rel=\"noopener\">nuestra Constituci\u00f3n de 1978<\/a>. Entre ellos:<\/p>\n<ul>\n<li>El <strong>derecho a la vida y a la integridad<\/strong> f\u00edsica y moral (art\u00edculo 15);<\/li>\n<li>La <strong>libertad<\/strong> de pensamiento, movilidad y desplazamiento (arts. 16, 17 y 19);<\/li>\n<li>El derecho a la <strong>intimidad, a la propia imagen <\/strong>y a la privacidad (art. 18);<\/li>\n<li>La libertad de <strong>expresi\u00f3n e informaci\u00f3n<\/strong> (art. 20) y<\/li>\n<li>El <strong>derecho al honor<\/strong> (art. 18.1).<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p>Todos ellos son derechos humanos b\u00e1sicos, a los que se pueden sumar otros como el <strong>derecho al trabajo<\/strong>, reconocido en el art\u00edculo 35 aunque no goza de la condici\u00f3n de derecho fundamental en nuestra Constituci\u00f3n.<\/p>\n<p>Obviamente, todos <strong>estos derechos deben ser respetados en un nuevo escenario<\/strong> en que la inteligencia artificial desaf\u00ede y, por qu\u00e9 no decirlo, se imponga al ser humano en muchas de las \u00e1reas en las que ahora goza de hegemon\u00eda.<\/p>\n<p>En esta l\u00ednea, <a href=\"https:\/\/es.wikipedia.org\/wiki\/Tres_leyes_de_la_rob\u00f3tica\" target=\"_blank\" rel=\"noopener\">Isaac Asimov propuso en sus obras de ficci\u00f3n, ya en 1942, las famosas tres leyes de la rob\u00f3tica<\/a>, de obligatorio cumplimiento para todo robot inteligente:<\/p>\n<ol>\n<li><em>Un robot no har\u00e1 da\u00f1o a un ser humano ni permitir\u00e1 que, por inacci\u00f3n, \u00e9ste sufra da\u00f1o. <\/em><\/li>\n<li><em>Un robot obedecer\u00e1 las \u00f3rdenes que reciba de un ser humano, a no ser que las \u00f3rdenes entren en conflicto con la primera ley. <\/em><\/li>\n<li><em>Un robot proteger\u00e1 su propia existencia en la medida en que dicha protecci\u00f3n no entre en conflicto con las leyes primera y segunda.<\/em><\/li>\n<\/ol>\n<p>&nbsp;<\/p>\n<p>A las que se le a\u00f1adi\u00f3 posteriormente la cuarta llamada Ley Cero, que se antepone al resto:<\/p>\n<ul>\n<li><em>Un robot no har\u00e1 da\u00f1o a la humanidad ni permitir\u00e1 que, por inacci\u00f3n, esta sufra da\u00f1o.<\/em><\/li>\n<\/ul>\n<p>Sin duda, ser\u00eda deseable <strong>partir de una regulaci\u00f3n por defecto en la inteligencia artificial<\/strong> que, al menos, respetara estas leyes as\u00ed como el resto de los derechos humanos expuestos.<\/p>\n<p><strong>\u00bfSe ha avanzado algo en ello?<\/strong><\/p>\n<p>Pues algo s\u00ed. Por lo pronto, tenemos ya <strong>dos propuestas regulatorias<\/strong> de ambos lados del charco y ambas muy recientes:<\/p>\n<ol>\n<li>En <strong>Estados Unidos<\/strong>: el <a href=\"https:\/\/obamawhitehouse.archives.gov\/blog\/2016\/10\/12\/administrations-report-future-artificial-intelligence\" target=\"_blank\" rel=\"noopener\">Plan Nacional Estrat\u00e9gico de Investigaci\u00f3n y Desarrollo en Inteligencia Artificial, de octubre de 2016, del Consejo Nacional de Ciencia y Tecnolog\u00eda<\/a>.<\/li>\n<li>En la <strong>Uni\u00f3n Europea<\/strong>: la <a href=\"http:\/\/www.europarl.europa.eu\/sides\/getDoc.do?type=TA&amp;reference=P8-TA-2017-0051&amp;language=ES&amp;ring=A8-2017-0005\" target=\"_blank\" rel=\"noopener\">Resoluci\u00f3n del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisi\u00f3n sobre normas de Derecho civil sobre rob\u00f3tica<\/a>.<\/li>\n<\/ol>\n<p>&nbsp;<\/p>\n<p>Bien es cierto que la primera se aprob\u00f3 bajo la Administraci\u00f3n Obama y, huelga decir, que tiene un futuro incierto bajo la actual presidencia de Trump. Como en tantas otras cosas, habr\u00e1 que esperar y ver.<\/p>\n<p>Por su parte, la <strong>Resoluci\u00f3n del Parlamento Europeo goza de plena salud<\/strong> y supone ya una <strong>propuesta formal para que la Comisi\u00f3n Europea pueda presentar un borrador de normativa<\/strong> en los pr\u00f3ximos meses.<\/p>\n<p><strong>Pero \u00bfqu\u00e9 dice la propuesta regulatoria europea?<\/strong><\/p>\n<p>M\u00e1s all\u00e1 de que <a href=\"http:\/\/www.abc.es\/tecnologia\/informatica\/soluciones\/abci-leyes-robotica-propone-europa-201701161941_noticia.html\" target=\"_blank\" rel=\"noopener\">ya se est\u00e9 hablado de las nuevas leyes de la rob\u00f3tica de la UE<\/a>, lo cierto es que se plantean interesantes cuestiones que, en mi opini\u00f3n, <strong>llegan en el momento justo en el que la industria se preparara<\/strong> para el gran salto hacia delante.<\/p>\n<p>La primera de ellas es lo que se puede convertir en la primera piedra de una <strong>futura \u201cpersonalidad electr\u00f3nica\u201d, reconocida jur\u00eddicamente para la inteligencia artificial<\/strong>. Para ello, la Propuesta UE habla de la necesidad de dar una <strong>definici\u00f3n \u00fanica de \u201crobot inteligente\u201d (RI) a nivel europeo<\/strong>. Aunque no llega a darla, s\u00ed podemos hablar de los elementos necesarios para ello. Ser\u00edan los siguientes que, como m\u00ednimo, deber\u00eda tener este ente artificial:<\/p>\n<ol>\n<li>Capacidad de <strong>adquirir autonom\u00eda <\/strong>mediante sensores y\/o mediante el intercambio de datos con su entorno (interconectividad) y el intercambio y an\u00e1lisis de dichos datos;<\/li>\n<li>Capacidad de <strong>autoaprendizaje<\/strong> a partir de la experiencia y la interacci\u00f3n con su entorno (esto se considera opcional y no necesario en todos los casos);<\/li>\n<li><strong>Soporte f\u00edsico <\/strong>m\u00ednimo;<\/li>\n<li>Capacidad de <strong>adaptar su comportamiento <\/strong>y acciones al entorno; e<\/li>\n<li><strong>Inexistencia de vida<\/strong>, al menos en el sentido biol\u00f3gico.<\/li>\n<\/ol>\n<p>&nbsp;<\/p>\n<p>Una vez definidos, el Parlamento Europeo <strong>propone crear un Registro de Robots Inteligentes<\/strong>, a modo de Registro de Tr\u00e1fico o de Registro Civil de \u201cpersonas electr\u00f3nicas\u201d, para tener a los RI inscritos e identificados.<\/p>\n<p>Sentada esta base, la propuesta europea se lanza a regular los que ser\u00e1n los <strong>derechos y obligaciones tanto de los usuarios como, muy especialmente, de los ingenieros, investigadores y dise\u00f1adores de robots<\/strong> e inteligencias artificiales. Y ello lo hace, ni m\u00e1s ni menos, que a trav\u00e9s de una <strong>verdadera \u201cCarta sobre Rob\u00f3tica\u201d<\/strong> donde plantea tanto <strong>aspectos jur\u00eddicos como \u00e9ticos<\/strong> para esta futura regulaci\u00f3n de la inteligencia artificial.<\/p>\n<p>Como <strong>principios generales<\/strong> de esta regulaci\u00f3n, la antedicha Carta plantea ya los siguientes:<\/p>\n<ol>\n<li><strong>Principio de Beneficencia<\/strong>: por el cual, los robots deben actuar siempre en beneficio del hombre;<\/li>\n<li>Principio de <strong>no perjuicio o maleficencia:<\/strong> por el que establece la doctrina de \u00abprimero, no hacer da\u00f1o\u00bb, en virtud del cual los robots no deber\u00edan nunca perjudicar a las personas (se parece a la primera Ley de Asimov, no? ;-);<\/li>\n<li><strong>Principio de Autonom\u00eda<\/strong>: la capacidad de tomar una decisi\u00f3n con conocimiento de causa e independiente sobre los t\u00e9rminos de interacci\u00f3n con los robots; y<\/li>\n<li><strong>Principio de Justicia<\/strong>: o la distribuci\u00f3n justa de los beneficios asociados a la rob\u00f3tica y la asequibilidad de los robots utilizados en el \u00e1mbito de la asistencia sanitaria a domicilio y de los cuidados sanitarios en particular.<\/li>\n<\/ol>\n<p>&nbsp;<\/p>\n<p>Todo esto est\u00e1 muy bien pero, <strong>\u00bfen qu\u00e9 se traduce en t\u00e9rminos pr\u00e1cticos?<\/strong><\/p>\n<p>Pues, ante estos principios, la Resoluci\u00f3n del Parlamento Europeo ya entra en <strong>propuestas concretas<\/strong> de las que podemos destacar las siguientes:<\/p>\n<ul>\n<li><strong>Reversibilidad<\/strong> y <strong>teclas de interrupci\u00f3n de urgencia:<\/strong> La posibilidad de deshacer la \u00faltima acci\u00f3n o secuencia de acciones de un robot o una IA, que permita al usuario anular las acciones no deseadas o, en caso de emergencia, desconectarlo totalmente. \u00c9ste es el famoso \u201cbot\u00f3n rojo\u201d <a href=\"https:\/\/techcrunch.com\/2016\/12\/13\/ieee-puts-out-a-first-draft-guide-for-how-tech-can-achieve-ethical-ai-design\/\" target=\"_blank\" rel=\"noopener\">tambi\u00e9n propuesto por otras entidades y expertos<\/a> para garantizar que el control \u00faltimo de la inteligencia artificial resida siempre en los humanos;<\/li>\n<li><strong>Privacidad:<\/strong> Los individuos no ser\u00e1n personalmente identificables, salvo en caso de consentimiento expl\u00edcito del afectado, el cual tiene que recabarse antes de cualquier interacci\u00f3n hombre-m\u00e1quina.<\/li>\n<li><strong>Transparencia:<\/strong> Las etapas de toma de decisi\u00f3n del robot inteligente deben ser claras y poder ser objeto de reconstrucci\u00f3n y trazabilidad en todo momento.<\/li>\n<li><strong>Seguridad y previsibilidad:<\/strong> La respuesta y ejecuci\u00f3n de los robots y de las IA deben realizarse teniendo en cuenta la incertidumbre en la interpretaci\u00f3n y en la acci\u00f3n, as\u00ed como los posibles fallos de los robots o del hombre. La idea es dar un margen de seguridad respecto a la posible falibilidad e imperfecciones de la comunicaci\u00f3n humano-m\u00e1quina.<\/li>\n<li><strong>Identificaci\u00f3n<\/strong>: El aut\u00f3mata debe ser identificado como tal al relacionarse con humanos. Es decir, en ning\u00fan caso, se podr\u00e1 dise\u00f1ar un androide o IA que nos enga\u00f1e al hacerse pasar por un humano. Debemos tener claro siempre que al otro lado hay una m\u00e1quina, a la hora de interactuar con ella.<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p>Finalmente, la Propuesta del Parlamento Europeo se completa con el <strong>contenido m\u00ednimo de la Licencia de Uso de la Inteligencia Artificial<\/strong>. En dicha licencia se tendr\u00e1n que contemplar, al menos, los <strong>derechos y obligaciones para los usuarios<\/strong> de robots inteligentes que resumimos a continuaci\u00f3n:<\/p>\n<ol>\n<li>Derecho a <strong>no temer perjuicio<\/strong> f\u00edsico ni psicol\u00f3gico;<\/li>\n<li>Derecho a esperar que el <strong>robot ejecute sus tareas<\/strong> propias, para las que fue dise\u00f1ado;<\/li>\n<li>Obligaci\u00f3n de <strong>aceptar las limitaciones<\/strong> de percepci\u00f3n, cognici\u00f3n y acci\u00f3n del robot inteligente;<\/li>\n<li>La inteligencia artificial deber\u00e1 <strong>respetar la fragilidad y emotividad humana<\/strong>, no generando confusi\u00f3n en cuanto a la realidad de los sentimientos simulados por la m\u00e1quina;<\/li>\n<li><strong>Derecho a la intimidad<\/strong>: el robot deber\u00e1 respetar la vida privada y, por ejemplo, desactivar sus videomonitores en momentos \u00edntimos;<\/li>\n<li>No tratar <strong>datos de personas<\/strong> sin el consentimiento expl\u00edcito y previo de las mismas;<\/li>\n<li>Obligaci\u00f3n de no usar a los robots <strong>contra la Ley ni contra la \u00c9tica<\/strong>; y<\/li>\n<li>En ning\u00fan caso, modificar <strong>robots para ser usados como armas<\/strong>.<\/li>\n<\/ol>\n<p>&nbsp;<\/p>\n<p>De los derechos de los robots, mejor hablamos otro d\u00eda \ud83d\ude09<\/p>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n<p><em>Este art\u00edculo deriva de la ponencia <strong>\u201cLos nuevos Derechos Humanos ante el Avance de la Inteligencia Artificial\u201d<\/strong> impartida en el evento <a href=\"http:\/\/legalthinking.org\/\" target=\"_blank\" rel=\"noopener\">#LegalThinking : Derecho 2.0: reflexiones de abogad@s TIC sobre tecnolog\u00eda, rob\u00f3tica e inteligencia artificial<\/a>, el <a href=\"http:\/\/eventosjuridicos.es\/es\/eventos\/derecho-20-reflexiones-de-abogads-tic-sobre-tecnologia-robotica-e-inteligencia-artificial\/11214\/\" target=\"_blank\" rel=\"noopener\">17 de marzo de 2017 en la Facultad de Derecho de la Universidad de A Coru\u00f1a<\/a>.<\/em><\/p>\n<p>Publicado originalmente en: <a href=\"http:\/\/pintos-salgado.com\/2017\/03\/17\/derechos-humanos-e-inteligencia-artificial-leyes-de-la-robotica-en-la-ue\/\" target=\"_blank\" rel=\"noopener\">http:\/\/pintos-salgado.com\/2017\/03\/17\/derechos-humanos-e-inteligencia-artificial-leyes-de-la-robotica-en-la-ue\/<\/a><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La inteligencia artificial ya est\u00e1 aqu\u00ed. El Derecho debe dar respuesta. Vemos los derechos humanos afectados y la Propuesta PE sobre Derecho civil en rob\u00f3tica.<\/p>\n","protected":false},"author":180,"featured_media":2381,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0,"footnotes":""},"categories":[9167,1],"tags":[247901,247898,247900,1444,247895,247892,247902,247894,247899,247897,247893,247896],"class_list":["post-2191","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-eventos","category-general","tag-boton-rojo","tag-carta-sobre-robotica","tag-derechos-fundamentales","tag-derechos-humanos","tag-ia","tag-inteligencia-artificial","tag-legalthinking","tag-leyes-de-la-robotica","tag-licencia-de-uso","tag-personalidad-electronica","tag-robots","tag-robots-inteligentes"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2191","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/users\/180"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/comments?post=2191"}],"version-history":[{"count":14,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2191\/revisions"}],"predecessor-version":[{"id":2383,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/posts\/2191\/revisions\/2383"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/media\/2381"}],"wp:attachment":[{"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/media?parent=2191"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/categories?post=2191"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.lavozdegalicia.es\/victorsalgado\/wp-json\/wp\/v2\/tags?post=2191"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}