Diario de Navarra

Este miércoles es un gran día para la profesora de la UPNA Paula Gordaliza Pastor. Será una de las seis personas que recibirán un prestigioso premio, el Vicent Caselles, que otorga la Real Sociedad Matemática Española y la Fundación BBVA. Se lo ha ganado investigando cómo corregir los sesgos en los algoritmos que están detrás de la inteligencia artificial, la consecución de operaciones que permiten que las máquinas logren predicciones a veces más precisas que las de los expertos o tareas hasta hace poco reservadas para los expertos. ¿Qué es un sesgo? En estadística sesgo significa solo que algo tiene un comportamiento diferente a lo esperado. Ahora, con la inteligencia artificial, la palabra ha adquirido una connotación negativa, porque entra en juego información sensible, como el género, la raza, la edad… Pero sesgos los hay en ámbitos donde esa información sensible no existe. Por ejemplo, en reconocimiento de imágenes existe una herramienta para identificar perros, en la que un algoritmo tiene que distinguir entre un husky o un lobo. Como el lobo aparece normalmente con fondo blanco de nieve, se produce un sesgo por ese fondo blanco (identifica como lobos los husky que estén en un fondo blanco). ¿Esos sesgos vienen de los datos de los que se alimenta la inteligencia artificial? Eso es. Los algoritmos aprenden de datos y esos datos hay que cuidarlos. No importa solo el procedimiento que modeles sino que los datos sean de calidad. Además, hay que crear procedimientos matemáticos para que los algoritmos sean capaces de funcionar bien a pesar de que las bases de datos tengan sesgo. Eso es lo que ha investigado usted. Cuando comenzamos a investigar sobre la equidad algorítmica, era un problema que solo emergía, sobre todo desde lo matemático. Lo que hemos intentado es poner bases matemáticas para estudiar esos problemas de aprendizaje con rigor matemático. Desarrollamos una herramienta para reparar las bases de datos que te permite eliminar una variable sensible (sexo, edad, raza…. ) y entrenar el algoritmo a partir de ahí. Conseguimos un procedimiento que permite un equilibrio entre cuánto reparas esa base de datos y la precisión del algoritmo, para que se borre la influencia de esa variable sensible sin perder la información buena. ¿Hasta qué punto esta investigación es aplicable a la vida real, a la inteligencia artificial que nos afecta día a día? Influyen muchas cosas. La investigación siempre va por delante de las aplicaciones a corto o medio plazo. Pero en los últimos años hay una demanda muy fuerte para tratar de dar soluciones a los problemas y los retos que se plantean, cada vez más complejos. También influye la ética, se trabajan con datos de individuos y asuntos con consecuencias en la vida de los seres humanos. La aplicación de los avances matemáticos es cada vez más tangible e inmediata, pero se necesita alinear un conjunto de factores importantes. ¿La velocidad a la que va la inteligencia artificial supera todo? Los avances han sido vertiginosos, sí. La investigación ha avanzado mucho pero está motivada por los problemas de la vida real. ¿No es normal que la sociedad tenga miedo cuando ve casos como el de los desnudos falsos de Almendralejo? El temor de la sociedad hasta los sistemas de inteligencia artificial es en parte fundado. La población tiene la sensación de que las soluciones que toman los algoritmos son buenas pero que se toman de forma opaca, sin trazabilidad del proceso que se ha seguido. El gran objetivo de las matemáticas es abrir las cajas negras de la inteligencia artificial y contribuir a que se reduzca la desconfianza hacia los algoritmos, que contribuyen a un avance. La ciencia avanza para mejorar la calidad de vida, pero los cambios de paradigma siempre generan temor. Y está pasando con la inteligencia artificial. De hecho, hay mucha gente que teme por sus oficios. Claro, pero la gente tiene que confiar en que la ciencia avanza para bien de la comunidad. Va a reducir jornadas, va a mejorar la calidad de vida…. Hay que formarse, estudiar sobre todo matemáticas y estadística, que va a proveer de solvencia y de rigor a esas herramientas, sin dejar de lado que son problemas interdisciplinares. ¿Formarse? Habla de matemáticas difíciles, al menos para la población en general. Es que hay que resolver problemas difíciles y la herramienta es la matemática, que permite ver lo que hay detrás de todo, que estructura el pensamiento para solventar problemas en todos los ámbitos. Sé que la elaboración de los currículos escolares es algo delicado, que deben decidir los expertos, pero se habla de una sobredigitalización en detrimento de otras facetas como el pensamiento abstracto, la formalización, la memorización… Hay que apostar por que se mantengan las materias que nos proveen de estas aptitudes básicas. ¿Pese a los sesgos, la inteligencia artificial merece la pena? La inteligencia artificial está llegando a todos los niveles de la sociedad. Se usan algoritmos para decidir la concesión de trabajos o la aplicación de tratamientos médicos. Es un avance tecnológico y cualquier avance es ventajoso, pero hay que garantizar que lo que se hace se hace bien. Y para eso se necesitan matemáticas. Hay quien pide un parón en la inteligencia artificial, para pensar antes de seguir. ¿Imposible? Ese proceso, explorar un camino, creer que no va bien, parar y dejar reposarlo, eso es el procedimiento científico. Así evoluciona la ciencia. Se ve solo lo que sale bien pero antes muchas vías han fracasado. DNIPaula Gordaliza Pardo nació en Valladolid 12 de mayo de 1994 (29 años). Estudió matemáticas en su localidad natal y realizó su tesis en la Universidad de Toulouse-Paul Sabatier. “Fue en la pandemia. La defendí desde mi casa, por videoconferencia”. Investigadora postodoctoral en el Basque Center for Applied Mathematics de Bilbao, vive en Pamplona desde 2021, cuando su pareja comenzó a trabajar en Navarra. En enero de 2023 entró en la UPNA como profesora asociada y este octubre comienza como profesora ayudante doctor. “Hoy ves caras de admiración hacia los matemáticos” Paula Gordaliza es hija de un matemático catedrático de universidad, que le divertía con juegos de lógica. “Me encantaban. Conforme me hice mayor, vi además que la matemática era una herramienta para resolver problemas, que se necesitaba para todo.” Comenzó hace 11 años una carrera que entonces no tenía el prestigio de hoy. “Entonces parecía que solo podías ser profesora. Cuando terminé la tesis, ya te ponían caras de admiración. He visto la conciención de la sociedad hacia la utilidad y la necesidad de esta ciencia”. De hecho, ahora lo que faltan son matemáticos que den clase. “Se van a otros sitios. Les necesitan en todos los lados”. Es más, inclinarse por la docencia tiene sus sacrificios. “Para mí es vocacional, pero es una decisión dura, porque tus compañeros tienen trabajos con condiciones a las que difícilmente vas a poder llegar. Debería dársele una vuelta a la vida académica. Los jóvenes necesitamos más cariño para poder decidir tomar esta vía”.

Diario de Navarra

Paula Gordaliza: "Las matemáticas deben abrir las cajas negras de la inteligencia artificial"

La profesora de la UPNA recibe este miércoles uno de los premios Vincent Caselles que reconocen a jóvenes científicos que impulsan avances en la investigación matemática. Ella investiga cómo eliminar sesgos en la inteligencia artificial

Comentarios

La oda al amor de Carlos Rivera

Fotos del concierto de Carlos Rivera en el Navarra Arena

Fernando Nuin, concejal de Mañeru: “Los vecinos hemos aplicado el protocolo del plan de incendios”

Controlado el incendio forestal declarado cerca de las ruinas romanas de Las Vistillas en Lerín

Los bomberos rescatan ileso a un parapentista que se había quedado enganchado en un árbol en Baztan