Diario de Navarra

Volvemos de las vacaciones ¡pero seguimos disfrutando del verano! Nos fuimos hablando de robots con Andy Stalman y seguimos conversando sobre ellos. Hoy tenemos la gran oportunidad de entrevistar a la coordinadora del Departamento Jurídico de INCIBE, María José Santos González. El Instituto Nacional de la Ciberseguridad es la entidad de referencia para el desarrollo de la ciberseguridad y confianza digital de la ciudadanía en España, por lo que quién mejor que Santos para acercarnos algunas cuestiones legales sobre los robots. Unos robots que en poco tiempo no dependerán tanto de los humanos, serán parte de nuestra rutina diaria y con quienes mantendremos conversaciones o incluso relaciones en entornos offline y online. María José reflexiona desde el conocimiento y desde su experiencia legal en ciberseguridad abriéndonos un debate más que interesante del que toda la ciudadanía deberíamos tener conocimiento. Nos escribimos por email y su cercanía y profesionalidad se hace patente en cada respuesta. Os dejo sus palabras con mucho interés por seguir descubriendo novedades en este tema. ¡Gracias María José! ¿Qué nos depara el futuro más próximo en la robótica? Que los robots son parte de nuestro entorno es algo indiscutible, como también lo es que cuanto mayor sea la inteligencia artificial de los robots mayor será su autonomía y su dependencia de los humanos disminuirá. Por ello, en un futuro más próximo de lo que pensamos, entorno al 2027, conviviremos con robots inteligentes no simples robots. Estos robots podrán interactuar con el entorno de manera autónoma e independiente del control humano. Creo que los robots se instaurarán en todos los ámbitos de nuestra vida: sanidad, campo militar, vigilancia y seguridad, educación, tareas domésticas, nos cuidarán y trabajaremos mano a mano con robots en las empresas. Pero además, usaremos la robótica para mejorarnos y surgirán los cyborgs. Como los robots realizarán tareas que ahora solo hacemos los humanos y conviviremos con ellos es posible que el ser humano empatice con ellos y debamos darles una protección específica. Como comentábamos con otros profesionales, los robots participan del contenido digital tanto en el análisis de datos, como en la toma de decisiones y cada vez más en la generación de contenido ¿actualmente existe alguna normativa relacionada con esta temática? A los robots actuales se les aplica el régimen jurídico de las cosas, pero la incorporación de la inteligencia artificial va a revolucionar el derecho de la robótica. Los futuros robots inteligentes serán capaces de tomar decisiones y aprender e interactuar con el entorno de manera autónoma, pero no podemos olvidar que han sido creados por el ser humano y la realidad es que carecerán de consciencia de sí mismos e intuición como los humanos por lo que considero que deben tener una regulación separada. Actualmente, no existe una regulación específica para este tipo de robots avanzados. La ley debe definir principios y normas que permitan resolver los conflictos éticos, legales y de seguridad derivados de la robótica y la inteligencia artificial. A nivel Europeo la Estrategia global para la política exterior y de seguridad de 2016 de la Unión Europea recoge la necesidad de disponer de “normas mundiales en ámbitos tales como la biotecnología, la inteligencia artificial, la robótica y los aparatos pilotados a distancia, con el fin de evitar riesgos de seguridad y aprovechar sus beneficios económicos” Por ello el Parlamento Europeo ha aprobado en febrero de 2017 unas recomendaciones destinadas a la Comisión sobre normas de derecho civil sobre robótica y tienen como objetivo asegurar que los robots estén y sigan estando al servicio de los seres humanos. Esta recomendación recoge aspectos como la creación de una Agencia Europea de robótica e inteligencia artificial y del Código de Conducta ético voluntario para regular la responsabilidad de los actos u omisiones de los robots inteligentes. También se está trabajando en la elaboración de una Carta sobre Robótica para la identificación de los principios éticos fundamentales a implementar en el diseño y desarrollo de los robots. Incluso se está trabajando en la necesidad de dotar a los robots de personalidad propia para dirimir la responsabilidad en caso de daños. Considero que la Estrategia Europea de Ciberseguridad también debería incluir la robótica. Tenemos por delante un bonito reto; decidir cómo queremos que se regulen las relaciones entre los humanos y los robots, qué datos podrán ser tratados por los robots y si vamos a poner limitaciones al desarrollo técnico de la robótica en aras de la protección de la raza humana. Con todo lo que hace un robot conectado, los robots tendrán una identidad digital, como existe la de marcas personales, comerciales... ¿cómo será? ¿existirá una identidad legal, de marca...? Esta cuestión es controvertida y además tiene grandes connotaciones morales. Es un debate abierto y del que tendremos que llegar a un consenso. Desde mi punto de vista debe regularse una identidad legal de los robots, aunque creo que no deberíamos hablar de identidad o persona electrónica cuando hablemos de ellos. Considero que debemos modelar el lenguaje y reservar para las personas ciertas palabras como personalidad, persona, identidad y crear uno nuevo y especifico en robótica, ¿por qué hablar de personas electrónicas cuando podemos hablar de robots inteligentes? Por supuesto, será necesario crear un identificador de los robots similar a la matrícula de los vehículos o al DNI de las personas pero con características propias y datos relacionados con la tecnología. ¿Cómo podremos enseñar a peques y personas adultas a diferenciar entre la identidad digital de un robot y la de una persona? Esto es, ¿cómo diferenciarles en una conversación online? Hay una discusión actualmente sobre que los robots adquieran el aspecto de los seres humanos. No todos nos identificaremos y empatizaremos con los robots, pero según estudios psicológicos es muy probable que los robots nos evoquen emociones y que queramos protegerlos. Al final, nos van a cuidar en un hospital o nos harán compañía en nuestra casa. A este respecto la Consultora Gartner afirma que en el 2020 tendremos más conversaciones con robots que con nuestras parejas. Es posible que exista confusión entre lo real y lo artificial y por ello son las normas técnicas en el diseño y la ética que decidamos implantar la que nos ayudarán a diferenciar entre la identidad digital de una persona y la de un robot. ¿Las nuevas leyes que se pretenden armonizar en Europa a petición de la comisión de Asuntos Jurídicos del Parlamento Europeo recogen la regulación de esta identidad? Sí, ya que como comentaba antes, una de las recomendaciones es la creación de un estatuto de persona electrónica, pero está todo por crear. Lo primero que tenemos que hacer es acordar una definición de robot inteligente y crear una clasificación o categorización de los tipos de robots para regularlos. No parece una tarea fácil debido a la multifuncionalidad de los robots. Entorno a la identidad digital se pueden adoptar varias alternativas como puede ser considerar al robot una cosa con ciertas particularidades, aplicarles el régimen jurídico de los animales o de las personas jurídicas o incluso dotarles de derechos y obligaciones similares a las de las personas físicas. Desde mi punto de vista, debemos crear un estatuto o categoría jurídica propia que se mueva entre la regulación de cosas y personas físicas, pero con una denominación que huya de la palabra persona. Dar derechos y obligaciones a los robots puede parecer extraño, aunque la personalidad ficticia no es nueva; ya la hemos regulado antes para las personas jurídicas. ¿En qué sentido la llegada de los robots pide realizar un nuevo enfoque de la ciberseguridad? Los robots tienen las características de tener una parte física y otra lógica. Por ello, tendremos que implementar principios de seguridad y privacidad integrados en el diseño de robótica e inteligencia artificial que velen por la seguridad de ambos entornos. La ciberseguridad se está configurando como un derecho de los ciudadanos y un deber de los Estados para garantizar el ejercicio de los derechos fundamentales de la ciudadanía. Los robots inteligentes no estarán exentos de sufrir ataques y amenazas como el ciberespionaje, el malware, la denegación de servicios, perdida de información, spam o daño físico. También un error de programación es un riesgo de seguridad de los robots. Así, los riesgos se asocian a aspectos básicos de la ciberseguridad como la confidencialidad, la integridad y la disponibilidad, por lo que debemos establecer medidas que eviten estos incidentes. ¿Qué pasaría si se hackeara un robot inteligente que trabaja para una infraestructura crítica, por ejemplo, una empresa eléctrica? ¿Y si este robot está además interconectado con otros? Los riesgos y amenazas de los robots deberán ser analizados en cada caso y, desde mi punto de vista, habrá que crear estándares y nuevos procedimientos de seguridad ya desde el diseño de los robots. Por supuesto, deberemos decirles a nuestros programadores qué consideramos moralmente aceptable o no ante determinadas situaciones. Otro aspecto importante en materia de ciberseguridad es la protección de la información, pues sobre esta base el robot tomará sus decisiones. Y si hablamos de datos personales se nos plantearán retos como qué datos del entorno puede almacenar el robot y si hay tratamiento de datos de manera indiscriminada debemos exigir la implementación de medidas técnicas de anonimato y encriptación y tendremos que ponderar derechos como la seguridad y la privacidad. Esto nos lleva a cuestionarnos ¿si se anonimiza la información cómo afectará a la toma de decisiones del robot? ¿Qué pasa si el robot es comprometido y la información que maneja es manipulada? También se habla de derechos y obligaciones de los robots ¿qué quiere decir exactamente? ¿cómo le explicamos a nuestras niñas y niños que sus robots tienen derechos y obligaciones? Creo que nuestros pequeños lo van a entender mucho más fácil que los adultos, ellos han nacido con la tecnología y se van a interrelacionar con los robots de manera más natural que como lo hacemos los adultos. Básicamente se trata de convivir en paz y de regular las relaciones humanas y los conflictos que puedan derivar de la existencia de los robots. Ya hemos regulado los derechos y obligaciones de los animales, esto sería un paso similar, eso sí, teniendo en cuenta que los robots podremos configurarlos para que su forma de tomar decisiones y actuar se asimile a los humanos, algo que no es posible con los animales. Creo que va a ser más natural de lo que parece. Fíjate que en las mesas de debate los miedos son que se asimilen tanto a los humanos que se cree una ficción tan real que el ser humano identifique el robot como una persona con sus derechos y obligaciones. Se habla incluso que llegará un día que tengamos que regular la posibilidad de matrimonios entre robot y personas. Parece una locura pero la verdad es que Isaac Asimov lo imaginó y lo escribió en libros que luego fueron película como “El hombre bicentenario” y ahora se están dando los pasos para que se haga realidad. En cualquier caso, esto llevará años ahora estamos en una fase más previa. En una frase ¿cuál es el futuro de la ciberseguridad en relación a los robots? La existencia de los robots depende de la confianza que su existencia genere y, para ello, la ciberseguridad es una pieza clave. Sin ciberseguridad el desarrollo de la robótica y el cambio social positivo que representa podría estar en riesgo. ------------------- Con estos retos tan interesantes e importantes para nuestro futuro como sociedad, e incluso como especie, retomamos las reflexiones tecnológicas de verano. Sin duda, la educación será clave para entender nuestras relaciones con los robots, aunque, quién sabe, quizá tengas un amor de verano muy robótico ;).

Diario de Navarra

“Tenemos el reto de decidir cómo queremos regular las relaciones entre humanos y robots”

Comentarios

Controlado un incendio en un campo cosechado en Aranguren

Cruchaga revela por qué rechazó al Athletic y a la Real: "Soy muy navarro"

El Mundial de Víctor Muñoz tendrá que esperar por otro problema muscular

La feria de Estella cambia formato y apuesta por jóvenes toreros

El poema que registró la guerra de Navarrería en 1276 vuelve a ver la luz