2016/07/15

Javier Antonio Nisa Ávila: «Robótica e Inteligencia Artificial, ¿legislación social o nuevo ordenamiento jurídico?»




El Derecho



«La inteligencia artificial y la robótica han sido siempre uno de los grandes anhelos de la ciencia y del hombre. Los primeros intentos de adquirir dichos conocimientos y poder ser aplicados nos remontan al siglo VIII con los hermanos Banu Musa, en lo que era la antigua Persia.

»Los hermanos Banu Musa crearon sistemas basados en válvulas presurizadas, sistemas de control de presencia automatizados y sentaron las futuras bases de la ciencia robótica con robots muy primitivos gracias a diferentes investigaciones e inventos que actualmente se siguen utilizando. Los manuscritos persas facilitaron la creación de los primeros “autómatas” o “robots” en el siglo XII por parte del científico Al-Shaykh Ra'is al-A'mal Badi' al-Zaman Abu al-'Izz ibn Isma'il ibn al-Razzaz al-Jazari, donde los perfeccionaría con sus autómatas.

»Aquellas bases puestas por los hermanos Banu Musa, creando robots que servían té y otras bebidas frías o calientes, así como también cantaban y simulaban la voz humana, pudiendo reprogramarse mediante discos perforados en el año 1232. Todos estos manuscritos que ellos elaboraron estuvieron siglos en el olvido hasta su redescubrimiento en el siglo XVI.

»Estas bases científicas nos hablan de más de 1.000 años de antigüedad en un campo donde cada vez nos encontramos más cerca de conseguir el sueño de la ciencia y la humanidad; crear un robot con plenas capacidades asemejadas a las humanas.

»Pero todo ello implica cambios legales, sociales, morales, científicos e incluso éticos. Todo el desarrollo tanto industrial como científico se encuentra actualmente regulado, pero únicamente bajo el prisma de conseguir un standard de calidad internacional en sus respectivos campos sin atender a ningún otro criterio como principal vertebrador. La robótica es muy diferente; mucho más avanzada y se inmiscuye en más campos de la vida cotidiana de todos los ciudadanos, y sobre dicho aspecto se necesita crear una conciencia social entorno a este campo de investigación con una nueva conciencia jurídica. La gran pregunta antes de seguir no es que legislación puede regular eso sino:

»¿Qué entendemos por robótica? ¿Es la robótica el principal prisma bajo el que hay que legislar, o existen otras variables más importantes? ¿Influye en algo el concepto inteligencia artificial o la “singularidad”?

»Para empezar, deberíamos definir tanto sociológicamente como jurídicamente que es un robot o la robótica. Sociológicamente la robótica sería todo aquello incapaz de aparecer de manera espontánea fuera del hábitat del ser humano o de cualquier derivación de dicho hábitat y que tiene una relación socio-técnica con los integrantes de una sociedad y presenta profundas interacciones con los mismos.

»La definición jurídica de robótica es más compleja de lo que parece, puesto que prácticamente no existe una legislación exacta en ningún país que defina qué es un robot más allá de un vago concepto jurídico que tenemos derivado de la maquinaria actual existente en cadenas de montaje o temas sanitarios o militares; donde dicha maquinaria podría considerarse un robot. Pero un robot dentro del escalón más bajo en robótica al ser únicamente maquinaria sofisticada. La ciencia robótica va mucho mas allá y de la esfera jurídica se debería de esperar lo mismo.

»Para poder definir jurídicamente lo que es un Robot antes debemos ver qué legislación existe a diferentes niveles, su ámbito de referencia y cómo nos afecta, nacional o internacionalmente.

»En primer lugar, y la primera en regular de forma industrial la robótica atendiendo a conceptos únicamente de seguridad industrial, de salud en el trabajo y calidad de fabricación fue el organismo internacional no gubernamental ISO. Las normativas ISO más destacables son las ISO 10218-1:2011, Robots and robotic devices - Safety requirements for industrial robots, pasando por la ISO 13855, Safety of machinery - Positioning of safeguards with respect to the approach speeds of parts of the human body y la ISO/TS 15066:2016(en) Robots and robotic devices - Collaborative robots.

»En esta normativa nos encontramos con cientos de normas relativas a calidad de fabricación, atendiendo únicamente a medidas y capacidades relativas a seguridad industrial y salud en el trabajo; donde se parte de la base de que no son maquinas autónomas o inteligentes sino controladas directa o indirectamente por operarios, es decir, no cuentan con ningún tipo de inteligencia artificial. ISO tiene como normativa certificadora a nivel industrial la previsión y prevención de incidentes por fallos mecánicos, niveles de presión de la maquinaria respecto al operario en el caso que la manipule, para no dañar a dicho operario en caso de fallo mecánico o al usuario final al que se le presta el servicio; a cuyo caso se refiere la ISO/TS 15066:2016 sobre robótica colaborativa, que está enfocada principalmente al sector sanitario.

»ISO solo define cuestiones industriales, no tiene capacidad normativa y son certificaciones comerciales de carácter privado que únicamente otorgan parámetros de calidad relativa a investigaciones sin carácter vinculante a nivel estatal ni jurídico, en materia de calidad en los servicios o en productos elaborados; por lo que es una perfecta declaración de intenciones revestida del aura de una institución de un calado importante.

»No obstante el análisis y aplicación de las normas ISO solo es una de las partes que se necesitan para una definición jurídica concreta y correcta de Robot y robótica.

»Podemos acudir antes de definir dicho concepto a las actuales legislaciones exclusivas en materia de robótica. La primera en analizar; Corea del Sur, con la primera legislación básica real sobre robótica del mundo, donde nos habla por primera de vez de la relación maquina-hombre-máquina únicamente desde el prisma de una regulación jurídica y vinculante a todos los sectores involucrados en el diseño, fabricación, utilización y desmantelamiento de “robots”.

»Estamos hablando de la Korean law on the development and distribution of intelligent robots (2005) y de la Legal Regulation of Autonomous Systems in South Korea de 2012, ambas junto con las diferentes guías creadas en Japón; Guidelines to Secure the Safe Performance of Next Generation Robots y la New Robot Strategy - Japan’s Robot Strategy - Vision, Strategy, Action Plan y la Headquarters for Japan’s Economic Revitalization de Febrero de 2015 y en la Unión Europea con la Regulating Robotics: A Challenge For Europe, propuesta sin actual correspondencia legal presentada por un proyecto financiado por la Unión Europea para evaluar la necesidad de regulación legal ante el Directorate General For Internal Policies Policy Department C of European Union: Citizens' Rights And Constitutional Affairs Legal Affairs en 2014; forman el actual ordenamiento jurídico existente a nivel mundial.

»Corea del Sur y Japón son los únicos países que cuentan realmente con una primera legislación sobre robótica e interacción humana e impacto social, a priori; en cambio la Unión Europea se centra más en la standarización de patrones industriales aplicados a los actuales sectores donde existe robótica como concepto de ayuda humana al desempeño de tareas, que no el verdadero concepto que utilizan Corea del Sur y Japón en sus legislaciones. Primero vamos a realizar varias distinciones conceptuales previas antes de pasar a definir legalmente qué es un robot en los diferentes ordenamientos jurídicos; donde sí recogen esta definición.

»Antes de nada se debe diferenciar entre cuatro conceptos, niveles o categorías de robots existentes a regular jurídicamente para poder alcanzar a generar una correcta definición que abarque completamente su naturaleza jurídica. Estamos hablando de “sistemas inteligentes programados”, “Robots no autónomos”, el concepto “robots autónomos” e “Inteligencia Artificial”:

»- NIVEL 1: Sistemas inteligentes programados son, según la “Robot Strategy” de Japón y el proyecto “Regulating Robotics: A Challenge For Europe” de la Unión Europea, aquellas máquinas que llevan integrados sistemas robóticos que ayudan a sus operadores o dueños a realizar tareas automatizadas, pero que no son en sí mismo robots por resultar nada más que un pequeño sistema robótico integrado dentro de otro no robótico donde predomina este último. (P.ej: Coches autónomos).

»- NIVEL 2: Robots no autónomos, según la “Korean law on the development and distribution of intelligent robots” de Corea del Sur, son aquellos que en su totalidad a nivel de construcción industrial son robots y se dedican a realizar tareas programadas simples sin necesidad de asistencia humana, y que con mayor o menor medida son capaces de tomar decisiones mecánicas vinculadas exclusivamente a su tarea ante imprevistos o situaciones de contingencia. (P.ej: robótica sanitaria, asistencia en el hogar, limpieza automática en el hogar...)

»- NIVEL 3: Robots autónomos son, según la “Korean law on the development and distribution of intelligent robots” de Corea del Sur, la “Robot Strategy” de Japón y “Legal Regulation of Autonomous Systems” de Corea, aquellos que tienen capacidad de desarrollar tareas encomendadas complejas, listando las mismas, priorizando y tomando o creando sus propias decisiones con libertad dentro de su ámbito de trabajo, en base a unos objetivos encomendados sin necesidad de asistencia humana, con suficiente autonomía para que en base a una orden dada por un operador humano realizar las tareas según lo considere más adecuado o efectivo para el cumplimiento de dicho objetivo, y teniendo siempre como base última la protección de productos o maquinarias y de usuarios o humanos como primer objetivo subyacente. (P.ej: Sistemas de diseño industrial autónomo, de navegación aéreo automatizado, ferroviario…)

»- NIVEL 4: Inteligencia Artificial es el último nivel y el mayor dentro de la evolución en robótica donde, según la “Korean law on the development and distribution of intelligent robots” de Corea del Sur y la Robot Strategy de Japón, ambas legislaciones vigentes, son aquellos sistemas mecánicos que perciben el ambiente externo por sí mismo sin necesidad de órdenes preprogramadas externas, con capacidad para discernir diferentes circunstancias que acontezcan a su alrededor y con capacidad para moverse de forma voluntaria. Asimismo los sistemas de inteligencia artificial deben de obedecer tanto órdenes de otros sistemas de inteligencia artificial como las humanas que interaccionan con él. La Robótica basada en inteligencia artificial debe obedecer a un estructurado sistema jurídico organizado bajo un código de conducta establecido para las personas implicadas en el desarrollo, fabricación y uso de robots inteligentes con el fin de prevenir diversos tipos de efectos nocivos o perjudiciales que pudieran surgir del desarrollo de las funciones del desempeño de la inteligencia artificial en robots inteligentes (actualmente no existe ningún robot con estas características pero tanto Corea como Japón ya lo tienen regulado legalmente y están iniciando estudios sociológicos a la población).


»La pretensión es prevenir la destrucción del orden social derivado de dicha revolución industrial y social, estimulando únicamente a la robótica como sustituto masivo en todos los ámbitos. Se pretende mediante un estructurado sistema jurídico muy metódico que los robots inteligentes contribuyan a la mejora de las condiciones de vida de los seres humanos y de los propios robots, creando un ambiente socialmente correcto entre robots y seres humanos y sin diferencias en ningún estadio.

»De esta forma podemos definir legalmente a la robótica como el compendio de mecanismos, hardware y software con capacidad de toma de decisiones asistida o no asistida para el desarrollo de tareas y funciones programadas por un operador humano, el desarrollo de tareas indicadas por seres humanos o ejecución de tareas, incluyendo a aquellos que, con condiciones de funcionamiento bajo libre albedrío y programados bajo inteligencia artificial, sean capaces de seguir unos objetivos; siempre en todo caso para fines socialmente correctos no violentos, ni nocivos; ni para humanos ni para los propios robots. (Roboethics Roadmap - partners European Robotics Research Network/Japan/Korea y toda la legislación anteriormente citada).

»Una vez hemos unificado en una sola definición el concepto de robótica que existe disperso entre la Unión Europea, Corea y Japón, tenemos que pasar a evaluar y analizar de los cuatro grupos de robots, qué se ha legislado más allá del simple concepto jurídico por parte de los ejecutivos de dichos territorios.

»Podemos decir, sin posibilidad de equivocaciones, que la regulación legal en todos los legisladores indicados y obviando la correcta jurídica definición elaborada sobre robótica por sus legislaciones; no va al final más allá de una mera regulación técnica sobre diseños industriales básicos en materia de robótica no autónoma o sistemas inteligentes programados; entrando solo en campos como el de los drones, vehículos autónomos, maquinaria médica o doméstica y normativas legales técnicas en materia de utilización de radiofrecuencia y espacio radioeléctrico. Solo evalúan medidas de prevención de mal funcionamiento de maquinarias o de limitaciones de presión en caso de contacto humano para los robots algo más evolucionados que puedan tener un comportamiento erróneo por fallo mecánico de sus sistemas.

»En ningún momento nadie entra más allá de dichos conceptos, remitiéndose en el caso de Japón a las normativas ISO como elementos inspiradores para el inicio de la elaboración de normativa más profunda. Posteriormente, tras un análisis sociológico, evolucionaría dicha legislación y se completaría para todos los estadios de la robótica en base al impacto de dicha tecnología en el ser humano.

»Para ello Japón crea una agenda 2015-2019 para un desarrollo jurídico completo en la materia, pero a día de hoy no han comenzado los trabajos y se encuentra en la fase preliminar de discusión conceptual de qué necesidades jurídicas reales existen entorno a dicho campo de investigación. La problemática sobre la influencia en la economía y el recelo a legislar sobre un campo que acabaría limitando las capacidades de investigación por la puesta en vigor de normativas estatales e internacionales, está retrasando la tarea.

»Para Corea, el desarrollo es similar, pero en lugar de remitirse a normativas ISO se remiten a su propia normativa de control y fabricación industrial, exigiendo que cualquier empresa debe encontrarse acreditada antes de iniciar ninguna investigación o fabricación por el organismo estatal responsable, y no entrando en ningún aspecto más profundo actualmente en su legislación.

»Tanto Corea como Japón coinciden en sus dos grupos de investigación legal que las relaciones sociales robot-humano y su regulación legal es necesaria para que la robótica no provoque daños económicos, sociales, laborales o físicos por defectos de fabricación o problemas derivados de la programación en inteligencia artificial. El ordenamiento jurídico necesita de nuevas leyes y contenidos jurídicos que organicen correctamente dicho campo de desarrollo con presencia en su estructura social del concepto de robótica avanzada con o sin inteligencia artificial.

»No obstante, todos los países no se quedan en la superficie, y algunos países como Taiwan, consideran que antes de lanzar normativas que conlleven una expectación mediática prefieren realizar una labor de investigación conjunta entre diferentes dispositivos y disciplinas que a priori parecen diferentes. Taiwan desarrolla una labor de investigación en este campo entre el Ministerio del Interior Taiwanés, el National Nano Device Laboratories (NDL), el Departamento de Ciencias de la Computación de la Universidad Nacional de Chiao Tung y la National Taiwan University College of Law en Taipei, los cuales consideran necesario realizar lo que es la más acertada línea de desarrollo legal en este campo bajo mi punto de vista.

Algunos países como Taiwan, consideran que antes de lanzar normativas que conlleven una expectación mediática prefieren realizar una labor de investigación conjunta entre diferentes dispositivos y disciplinas que a priori parecen diferentes. Taiwan desarrolla una labor de investigación en este campo entre el Ministerio del Interior Taiwanés, el National Nano Device Laboratories (NDL), el Departamento de Ciencias de la Computación de la Universidad Nacional de Chiao Tung y la National Taiwan University College of Law en Taipei.

»El sistema que está actualmente desarrollando el grupo de investigación en robótica-legal de Taiwan es una triple vía de desarrollo legislativo basada en niveles de conceptualización legal:

»Primer nivel de investigación e implantación: investigación y desarrollo legal básico completo en materia de robótica en sus cuatro campos de actuación descritos.

»Segundo nivel de investigación e implantación: investigación y desarrollo legal en materia de tecnología legal e ingeniería.

»Tercer nivel de investigación e implantación: investigación y desarrollo de campos técnicos en ingeniería vinculados a la interpretación técnica de tecnología legal.


»Las tres vías de investigación funcionan en cascada. La teoría doctrinal generada por los juristas Taiwaneses indican que es necesaria la colaboración indisoluble para el futuro de tres equipos técnicos que funcionen casi de forma jerarquizada y de tres disciplinas entrelazadas. Primer Nivel: juristas especializados en tecnologías avanzadas, segundo nivel: juristas especializados en robótica y en este caso con conocimientos de ingeniería y tercer nivel: Ingenieros informáticos y robótica con nociones en derecho.

»Las normas irían desde el primer nivel que las diseña en su estructura (legislación básica), el segundo que las define hasta su total especificidad más ínfima y genera un documento llamado “Legal Natural Language”, que será el que siente las bases tecnolegales con todos los parámetros normativos y jurídicos así como especificaciones técnicas básicas para el desarrollo en el tercer nivel (legislación de desarrollo); y un tercer nivel que desarrolla en base al “Legal Natural Language” todo el desarrollo en robótica, que generará a la misma vez su propio documento y técnica de programación-legal llamada “Legal Machine Language”, que sería un lenguaje de programación nuevo y especial, creado expresamente para programar robótica legal de todos los niveles pero sobre todo del nivel 3 y 4, que son lo realmente complejo y peligroso.

»Los conceptos sobre los cuales se trabaja actualmente son los del primer nivel, pero con un desarrollo real más allá del simple concepto jurídico, algo totalmente completo en todos los ámbitos, sentando las bases jurídicas (legislación de bases) sobre las cuales se desarrollará toda la normativa de construcción de robótica, con la firme intención de generar una regulación legal donde situar todas los escenarios posibles.

»No obstante, lo de Taiwan, aunque es una vía muy interesante y la más adecuada, no deja de ser un proyecto que todavía no tiene transposición legal en el ordenamiento jurídico, pero que es ejemplo a seguir para todos los legisladores nacionales e internacionales. El concepto “multidisciplina” como método de trabajo para desarrollar normativa más adecuada.

»Todavía queda mucho recorrido en robótica y más en inteligencia artificial, pero vista la velocidad del desarrollo tecnológico y la investigación, es necesario ahora más que nunca que, desde el punto de vista de el “Derecho” se forme a una nueva generación de Juristas y Abogados que de forma progresiva irán caminando a una sociedad donde la robótica y la inteligencia artificial acabará compartiendo con nosotros el día a día, creando una gran revolución social e industrial.

»Pero ello genera muchas incertidumbres y necesidades en todos los campos legales, desde la construcción, interacción social, generación de datos y tratamiento, interacción humana, tratamiento laboral, incluso seguridad ciudadana y robótica, dado que la investigación pretende crear sistemas inteligentes, autónomos y libres. Aunque parezca ciencia ficción, es una gran realidad que en algunos años estará entre nosotros y como indica el grupo de trabajo legal en robótica del gobierno de Japón en 2015:

»“Necesitaremos medios y sistemas donde en caso de que un robot provoque algún daño a humanos, derivado de fallos, o intencionadamente; podamos desconectarlo con la total seguridad, sin temores de que él mismo, y empujado por el afán de investigación de los humanos no hayamos creado sistemas que se salten todas las normas de convivencia entre robots y humanos. No nos olvidemos que estamos creando sistemas para que nos ayuden; no estamos creando vida. Para ello necesitamos una legislación que alinee todos los intereses y delimite en base a una conciencia de especie donde se encuentran los límites a la robótica como ciencia amparada bajo un prisma jurídico del nuevo siglo”.

»Nos encontramos en un momento donde la Ley tiene que servir para su verdadera esencia por la que nació, organizar socialmente los seres humanos para que todos podamos convivir en armonía y siguiendo una serie de pautas. Ahora sucede que estamos camino de la llamada “singularidad”; donde tanto humanos como robots, vamos a convivir, dentro de un ordenamiento jurídico, creado con nueva normativa legal para una nueva sociedad.»





La ejecución de la innovación

No hay comentarios:

Publicar un comentario