Diario de Navarra

Las posibilidades, y también los riesgos, que las nuevas tecnologías y la inteligencia artificial han despertado en el ámbito de la neurología han impulsado a la Sociedad Española de Neurología a crear una división dedicada a estos temas. A su frente está uno de sus vicepresidentes, el navarro David Ezpeleta Echávarri (Pamplona, 1968). Este viernes 9 de agosto será uno de los participantes en el curso de verano que se celebra en Ujué, organizado por la academia vasca Jakiunde dentro del marco de los cursos que organiza la UPNA, y que se centra precisamente en la inteligencia artificial. Ezpeleta hablará de un concepto que parece nuevo y no lo es tanto, los neuroderechos. ¿Qué nos debe esperanzar y qué nos debe preocupar de los últimos avances en neurotecnología? La neurotecnología es un concepto muy amplio, son todas aquellas técnicas que sirven para el estudio del conocimiento de cómo funciona el cerebro o para el estudio de las enfermedades. Pero también para influir en él, restaurando sus funciones cuando está enfermo, mejorando las funciones del cerebro sano, o incluso controlándolo, que sería uno de los riesgos. Últimamente se han ido publicando trabajos espectaculares en relación con interfaces cerebro-ordenador, en las que se ha visto cómo es posible decodificar la señal cerebral y saber lo que una persona está escuchando, reconstruir el lenguaje de personas que llevaban años sin poder hablar, o permitir caminar a una persona con una lesión medular mediante un puente entre el cerebro y la médula espinal. Son experimentos con neuroprótesis muy complejas en muy pocos sujetos, pero se ha demostrado que son factibles y seguras, lo cual abre un campo muy esperanzador para la neurorehabilitación y la neurorestauración. También se abre la puerta a la posibilidad de utilizar esta tecnología para la neuromejora, el aumento de las funciones motoras, cognitivas o sensoperceptivas de cerebros sanos. Y se abre otra puerta, peligrosa, a desarrollar neurotecnologías cada vez menos invasivas que salten del campo puramente académico o médico a un campo comercial, al bienestar, etcétera. Ahí entran los neuroderechos. De los neuroderechos se habla actualmente porque se le ha puesto ese nombre, pero la sospecha sobre las consecuencias que surgen cuando se manipula el cerebro están desde hace muchos años. Sin irnos más lejos, desde que en los años 30, Egas Moniz empezó a hacer las primeras leucotomías que tenían unos efectos secundarios inadmisibles. El término ‘neuroderechos’ fue acuñado en 2017 por dos investigadores, Marcello Ienca y Roberto Andorno, que hablaron de ellos desde una perspectiva ética y jurídica, viendo los avances que se estaban produciendo. Ya se conocían las consecuencias de la estimulación cerebral profunda, que se usa especialmente para la enfermedad de Parkinson. Muchos de los enfermos muestran efectos secundarios del comportamiento, con hipersexualidad, apatía o depresión, cambios de personalidad... Entonces se vio que había que empezar a plantearse que los pacientes debían ser informados, y que era algo que podía trasladarse a otras técnicas de manipulación cerebral. Por otro lado, el equipo de Rafael Yuste (neurobiólogo español,) trabajando a nivel experimental con ratones, consiguió mediante técnicas de optogenética implantar memorias de unos ratones a otros. Se dio cuenta de que era posible manipular cerebros a nivel experimental. Entonces, él es quien impulsa a nivel mundial su iniciativa de neuroderechos. Se han resumido en cinco. Si uno analiza los cinco neuroderechos que ha propuesto el grupo de trabajo de Rafael Yuste, parecen un brindis al sol, pero tenemos que enfocarlos con una visión del futuro, teniendo en cuenta los rápidos avances que se están dando. Entonces, tienen bastante sentido. El primero quizás sería el de la privacidad de la mente. Los experimentos de los últimos dos años han demostrado que es posible, mediante resonancia magnética, decodificar la señal cerebral de un paciente que está escuchando a alguien hablar, y reconstruir con gran alto grado de precisión lo que está escuchando. Eso es un hecho. Otros trabajos son capaces de reconstruir lo que el paciente está viendo. Algún trabajo incluso lo consigue con técnicas no invasivas, simplemente con electrodos de superficie, lo cual ya es el paso del mundo científico al mundo comercial. Hay riesgo para que con técnicas ya a la venta, como diademas, cascos para juegos ... se pueda analizar esa señal cerebral. Actualmente lo hacen de forma burdas, pero en el futuro de modo más sofisticado, se podrá conocer lo que ese sujeto está pensando en ese momento. Eso es una intromisión en la privacidad cerebral. Eso sería ilícito hacerlo sin el consentimiento del sujeto. Y si se conoce el pensamiento, el libre albedrío está en riesgo. Todos los derechos están relacionados. Los siguientes neuroderechos serían a la identidad personal y al libre albedrío. Éstos dependen, no de que alguien conozca lo que estás pensando, sino de que se pueda influir en tu cerebro para que tú tomes determinada decisión. Si tienes una tecnología que sabe lo que estás pensando, por ejemplo, y produce una pequeña descarga en el momento de tomar una decisión para que tomes otra, esto estaría alterando tu facultad de decidir libremente. Y si tienes una tecnología que altera tu personalidad, te está alterando tu identidad. Lo de la identidad personal está bien comprobado a nivel clínico. Pacientes con depresión, a los que se les ha hecho estimulación cerebral profunda, se han quejado que a la hora de tomar determinadas decisiones no sabían si la tomaban ellos, el estimulador o la depresión. Ahí se ve perfectamente como la tecnología puede alterar tu identidad personal. ¿Cuáles son los otros dos neuroderechos? El otro sería el derecho a un acceso justo y equitativo al aumento cognitivo. Eso también es un poco un brindis al sol. Si en un futuro vamos a poder mejorar nuestras funciones cognitivas, motoras, perceptivas etc., gracias a la tecnología, este neuroderecho busca tener acceso a esa tecnología en igualdad de condiciones independientemente de nuestro nivel económico, social, etc. ¿Y el quinto? La protección contra sesgos. Este está más relacionado con la inteligencia artificial, cuando se hacen modelos predictivos por ejemplo de determinados tipos de enfermedades. Si olvidas determinadas poblaciones en los datos de entrenamiento de un modelo, cuando lo aplicas no va a funcionar. Eso se ha visto en modelos de predicción de mortalidad o de ictus en una población concreta de Estados Unidos porque no se introdujo un grupo étnico. Hay además otra variante de los sesgos, que yo creo que es más interesante. ¿Cuál sería? Si entrenas un modelo de inteligencia artificial generativa con información sesgada, te va a dar respuestas sesgadas. Esto se ha visto recientemente con los últimos modelos de Google. Hace poco una noticia que OpenAI hizo un contrato con medios de izquierdas para alimentar sus entrenamientos. Esto puede ser tan malo como lo contrario, porque el problema es que están entrenando modelos a imagen y semejanza de los dueños de las empresas de inteligencia artificial. Seguramente sería, posiblemente, el problema más importante a fecha de hoy, es el más vigente. ¿Puede la inteligencia artificial deteriorar nuestra capacidad de pensamiento? Puede que sea así. Todavía ha pasado poco tiempo para saber si la delegación del pensamiento y del razonamiento en las IA generativas nos está atrofiando el cerebro. Pero, si nos atenemos a los datos de otras tecnologías que sí llevamos años utilizando, las noticias no son buenas. Llevamos años delegando la información en Google, destrozando la atención gracias al uso de los teléfonos móviles y las redes sociales. Todos los indicadores educativos en niños y adolescentes del informe PISA de los últimos años están cayendo, por ejemplo en comprensión lectora. El uso de los GPS nos está haciendo que cada vez nos orientemos peor. La tecnología en este sentido está teniendo datos negativos en todos los parámetros, ya no solamente de desempeño cognitivo en niños, adolescentes e incluso adultos, sino también de salud mental. Ahora lo que se plantea es que si el uso de la inteligencia artificial, es decir, delegar el pensamiento y el razonamiento en la IA generativa, nos va a volver más tontos. ¿Qué opina? Que es posible. Hay gente que dice que no, que les hace más productivos y creativos, que les ahorra tiempo.... Quizá en esas personas sea así, pero no todos somos esas personas. Es posible que ese riesgo se convierta en la mayoría de las personas en una realidad. Eso sí, quizá no sea tan generalizable como otra tecnologías, porque utilizar una IA generativa no es tan fácil.

Diario de Navarra

El navarro David Ezpeleta advierte sobre la Inteligencia Artificial, que "podría volvernos más tontos"

El vicepresidente de la Sociedad Española de Neurología señala que pronto habrá "diademas o cascos para juegos capaces de leer el pensamiento". Este viernes hablará sobre ello en un curso de verano en Ujué

Comentarios

Más de 900 aspirantes en la segunda prueba de la OPE de Administrativo

Youness Assehli y Maitane Melero se estrenan en el palmarés de la Media Maratón de Pamplona

El 18 % de los navarros ha sufrido alguna estafa bancaria en Internet, según Irache

Una campeona de 13 años

El violonchelista Steven Isserlis debuta en Pamplona con un concierto dedicado a Haydn, Beethoven y Arriaga