Diario de Navarra

Mikel Galar Idoate (Pamplona, 1986) aparece en muchas de las noticias sobre Inteligencia Artificial (IA) que surgen en Navarra. La última, la concesión de una beca Leonardo, una de las 58 entre 1.423 que ha dado la Fundación BBVA, para su proyecto de promover el desarrollo de modelos de inteligencia artificial más justos y éticos que no discriminen a ciertos grupos de población. También está al frente de la cátedra de Tracasa y la UPNA que organizará del 14 al 18 de octubre la Semana de la Inteligencia Artificial. ¿Hasta qué punto vivimos ya con la inteligencia artificial sin que nos demos cuenta? La inteligencia artificial está en Google, en su ranking de páginas , o cuando Amazon recomienda diferentes cosas que puedes comprar , que ya supone un 30% de sus ventas. Los anuncios en las web tienen un modelo de inteligencia artificial que predice qué anuncio es probable que vayas a clicar. Los Siri, Alexa... Todo esto ya tiene inteligencia artificial por detrás. Lo que pasa es que no habían tenido un impacto tan brutal como lo que se está viendo ahora, cuando pueden estar atacando a los empleos. Parece que la IA nos va a inundar, pero seguro que habrá obstáculos que la limiten ¿Hasta dónde podemos pensar que puede llegar? Es algo dificilísimo de decir... Ya ChatGPT nos sorprendió a todos, ha sido toda una revolución. Empieza a haber robots humanoides a un coste asequible y que pueden tener cierta destreza incluso para manejar los dedos de una mano. Se puede pensar en que nos sustituirán en ciertas tareas repetitivas. Muchos empleos van a cambiar. Por ejemplo, los diseñadores gráficos tendrán que pasar de crear una portada desde cero a coger ideas con la IA para hacer su diseño. Pero eso va a impactar en que va a haber menos diseñadores porque de repente se hacen las cosas mucho más rápido. El coche autónomo es otro proyecto de futuro, pero tiene que pasar los obstáculos legales. ¿Cómo va a estar de aquí a 10 años? Hoy parece que nos va a inundar la IA, pero seguro que hay una serie de obstáculos que van a limitarla. ¿Qué recomienda a los oficios amenazados? ¿Lo mejor, adaptarse? Cuanto más hagamos como si la IA no existe, más nos perjudicará No nos queda otra. Cuanto más hagamos como que no existe la IA, más nos va a perjudicar. Hay que intenta usarla, familiarizarte con lo que es, con lo que te puede aportar; quedarse con lo positivo y dejar que no te sirva. Necesitas ir adaptándote a esta nueva tecnología. Está aquí y si no lo haces al final te van a sustituir o van a venir otros que sí están adaptados y van a hacer lo mismo que tú pero mucho más rápido. De todos modos, el pensamiento crítico con estos modelos generativos de lenguaje es una cuestión importante. Hay que ser conscientes de que lo que nos está devolviendo puede no ser veraz. El texto que te devuelve tiene mucha consistencia, siempre está muy bien escrito, mucho mejor que lo hacen alumnos de universidad, pero quizá no sea veraz . Si le pides la fecha de nacimiento de Pedro Sánchez, por ejemplo, te puede decir: “el 16 de abril de 1976” y es posible que lo creas (en realidad nació el 29 de febrero de 1972). Para ChatGPT, es una fecha coherente, tiene sentido con lo que tú le has preguntado, pero no lo ha comprobado ni puede comprobarlo. Ramón López de Mántaras, uno de los pioneros en la IA en España, dice que la inteligencia artificial no es inteligente, que simplemente repite. Claro que no tiene nuestra inteligencia. No ha llegado a ese punto. Pero sí sorprenden las cosas que es capaz de hacer. Cierto que todavía falla mucho, por ejemplo, en temas de razonamiento, aunque ya hay un modelo que dicen que alcanza la capacidad de un estudiante de un doctor en físicas, matemáticas o programación. No es poca cosa. Pero la realidad es que hay cosas triviales en las que sigue fallando. Tiene otros problemas. Nosotros los humanos podemos aprender de manera continua a lo largo del tiempo sin olvidar el conocimiento pasado o al menos olvidando solo una pequeña parte. Pero cuando tienes un modelo de IA y quieres aprender un poquito más, tienes que entrenarlo desde cero. No tenemos modelos capaces de aprender a lo largo del tiempo. Hay muchas cosas en las que todavía estamos en pañales. Pero en otras da una sensación de ser algo tan avanzado que nos da mucho miedo. ¿Hasta qué punto han detectado que los sesgos son un problema? Hay muchísimos análisis que muestran claramente que los sesgos están presentes. Es muy común ver que si pides a la inteligencia artificial la imagen de un ‘nurse’, un enfermero sin especificar el género, te genera una mujer de raza blanca. Si pides un trabajador de un restaurante de comida rápida, va a tender a alguien latino. Son sesgos que están en nuestra sociedad, que están en Internet y la IA ha aprendido a replicar lo que le hemos dado como alimento. Muchas veces le reclamamos más ética a los modelos que a la propia sociedad. Pero se han llegado a casos extremos. Si le solicitas. a través de Google, que ha intentado evitar todo tipo de sesgos, una imagen de soldados alemanes de la Segunda Guerra Mundial, te empieza a generar soldados negros, lo cual ya no es coherente con la realidad. Tenemos que tener un cuidado en cómo mitigamos esos sesgos sin descuidar la realidad. Si pides a la IA la imagen de una enfermera, genera una mujer blanca. Son sesgos que están en la sociedad y la IA ha aprendido a replicarlos ¿Cómo se puede hacer? Nuestro proyecto se centra es analizar cómo se transfieren estos sesgos de los datos a los modelos. Tradicionalmente culpamos a los datos como origen de esos sesgos, aunque hay otros orígenes. En un estudio previo, trabajando la detección de expresiones faciales, de emociones basada en los rostros, identificamos dos tipos de sesgos principales. Uno es representacional, cuando tienes, más ejemplos de una raza que de otra, o más mujeres que hombresc. Es el sesgo típico al que siempre achacamos esos problemas. Sin embargo, hay otro tipo de sesgo, es el estereotípico, cuando tienes una sobrerepresentación, por ejemplo, de mujeres felices o de hombres cabreados. El modelo tiende a predecir que la mujer está feliz y que el hombre está cabreado. Lo que queremos estudiar es cómo estos sesgos se transfieren y diseñar una metodología para medir esa transferencia desde los datos al modelo y luego poder extrapolar esto a otro tipo de modelos . El paso posterior es meternos en técnicas de mitigación. Un caso grave ha sido la aparición de imágenes de desnudos de menores creador con inteligencia artificial. ¿Cómo se pueden evitar situaciones como esa? No tienes otra que evitarlo a nivel normativo. La tecnología está ahí, es libre. La hay incluso open source, que puede descargarse y usarse. Aunque lo prohíban, siempre va a haber gente que puede encontrar esos modelos y utilizarlos para hacer el mal. La única forma de penalizar es una normativa adecuada, pero no implica tanto regular la IA en sí misma, sino el hecho de hacer cosas que ya estaban mal incluso cuando no existía IA. Antes se podía hacer con Photoshop, pero se tardaba mucho y había que ver cómo de profesional queda el resultado. Con la IA lo descargas y en 10 segundos tienes una imagen perfecta. Se trata de penalizar este tipo de situaciones. La legislación europea puede frenar la competitividad de la UE frente a EE UU o China ¿Qué opina de la regulación europea de la IA? Hay que ver cómo avanza y cómo impacta. Una parte es muy razonable, la relacionada con los usos de la inteligencia artificial. Yo creo que nadie queremos un sistema de scoring que en la calle nos esté dando puntuaciones si cruzamos el semáforo en verde o en rojo, y dependiendo de eso podamos hacer unas cosas sí y otras no, como parece ocurrir en China. Todos estamos de acuerdo en que eso tiene que estar prohibido. También han regulado los sistemas de inteligencia artificial de propósito general, pero mi sensación es que se ha hecho muy rápido porque la ley europea ya estaba casi terminada cuando salió ChatGPT. Algunos modelos van a tener que pasar muchas auditorías, mostrar con qué datos han sido entrenados y eso en el fondo va a limitar a Europa, mientras Estados Unidos o China pueden correr mucho sin esas limitaciones. Puede repercutir en la competitividad de la Unión Europea en este ámbito. ¿Cree que la inteligencia artificial supone un riesgo para nuestra capacidad de pensamiento? Puede que la IA nos convierta en algo más tontos, igual que lo han hecho las pantallas Hay que pensar es que lo que nos va a permitir es pensar en otras cosas que nos interesen más. Pero, como todo, hay que tener cuidado. Por ejemplo, nos permiten usar la calculadora tras haber aprendido a sumar, a restar y a multiplicar, pero cuando la usas las neuronas dedicadas a esas operaciones se destinan a otras. Yo creo que con la IA y con los modelos generativos va a pasar lo mismo. Es cierto que a veces te hace, no sé si más tonto, pero por lo menos más perezoso. Ocurre que antes de pensar tú, esperas a ver qué te dice ChatGPT. Además, nos hace tender todo un poco hacia la media. Si miras todos los textos generados por IA generativa, al final todos son muy parecidos. Eso como sociedad nos hace que perdamos un poco de diversidad y originalidad. Así que es posible que sí, que nos convierta en un poco más tontos, igual que lo han hecho las pantallas, que nos han provocado perder atención. Profesor y uno de los científicos más reconocidos ¿Cuándo entró en contacto con la IA por primera vez? Cuando estudié la carrera, en segundo, hacia 2005, teníamos IA. Eran modelos muy tontos, de búsqueda, algoritmos relativamente sencillos. No se acercaban a la inteligencia que hemos desarrollado. ¿Permite a sus alumnos usar ChatGPT? Les puede ayudar si ellos lo utilizan para razonar. Por ejemplo, si no entienden un programa, se lo pueden preguntar, y se lo va a explicar línea. Eso es como ir a tutorías, pero al momento. Así que si quieren utilizarlo bien, fantástico. Pero luego van a tener un examen en papel sin ningún tipo de ayuda. Y otro práctico en el que tampoco van a poder tirar de ChatGPT. Al final hay que valorar sus capacidades para afrontar los problemas sin esa ayuda. ¿De dónde le viene la vocación por la ingeniería informática? A muchos de nosotros nos llaman la atención los videojuegos. Cuando se estaba acercando la universidad había una pequeña consola portátil en la que podías programar. Yo no sabía hacerlo, pero me llamaba mucho la atención poder hacer un videojuego sencillo para ese tipo de consolas. Veía que la informática era el camino. Hice mis pequeños videojuegos, pero luego descubres otras cosas, como la inteligencia artificial. Ser uno de los autores más citados tiene que sentar muy bien. Está bien el reconocimiento, peros soy consciente de que en esto de las citas tiene que ver un poco la suerte de que hayas caído en la temática adecuada en el momento adecuado y que hayas hecho, por supuesto, un buen trabajo. Pero hay que valorar a la gente que hace trabajos muy buenos y porque no ha sido en el momento adecuado o no ha caído en la revista adecuada no ha tenido esa repercusión.. Mikel Galar Idoate nació en Pamplona en 1986. Vecino del barrio de Iturrama, estudió ingeniería informática en la UPNA y es doctor con premio extraordinario de doctorado en 2009 y 2012, respectivamente. En la Universidad ha sido profesor ayudante, ayudante doctor y contratado doctor y desde 2021 es profesor titular de Ciencias de la Computación e Inteligencia Artificial . Además, dirige la Cátedra Tracasa de Inteligencia Artificial y lidera el grupo de investigación Artificial Intelligence and Machine Learning Research. Desde 2018 es asesor científico de Tracasa Instrumental. Es cofundador de Neuraptic AI, una Spin-off de la UPNA. Vecino de Ripagaina, está casado y tiene una niña de 4 años.

Diario de Navarra

El pamplonés que pasó de programar videojuegos a ser una referencia de la inteligencia artificial

El ingeniero Mikel Galar Idoate es el director de la cátedra que organiza la Semana de la Inteligencia Artificial que se celebra del 14 al 18 de octubre en Pamplona y acaba de conseguir una beca Leonardo para investigar los sesgos que reproducen programas como ChatGPT

Comentarios

Cientos de personas acuden al funeral de Carlos Garaikoetxea en Pamplona

Fotos del adiós en la iglesia de San Francisco Javier a Carlos Garaikoetxea

Fotos del adiós en la iglesia de San Francisco Javier a Carlos Garaikoetxea

La reina Letizia preside este jueves en Pamplona la conmemoración del Día Mundial de la Cruz Roja y la Media Luna Roja

Un navarro que estuvo en el 'MV Hondius' antes de la alerta sanitaria: "Me llamó la atención lo limpio que tenían todo"