Diario de Navarra

Le hacemos una sencilla petición a ChatGPT, uno de los sistemas de inteligencia artificial más populares hoy, que nos escriba un párrafo sobre la importancia de la inteligencia artificial. La máquina responde: “La inteligencia artificial ha dejado de ser una simple innovación tecnológica para convertirse en el latido del siglo XXI, transformando cada aspecto de nuestra sociedad. Desde revolucionar la forma en que trabajamos y nos comunicamos hasta revivir industrias enteras, su influencia es innegable. En nuestra era digital, la inteligencia artificial no solo impulsa el progreso científico y económico, sino que también plantea preguntas cruciales sobre ética y equidad. Exploramos cómo esta tecnología está moldeando nuestro mundo, desdibujando las fronteras entre lo posible y lo imaginado, y cómo, en última instancia, redefine lo que significa ser humano en una era cada vez más automatizada”. Dice poco de los problemas, como los sesgos con los que trabaja a veces. De ellos sí hablará este miércoles Iris González Catena, pamplonesa de 30 años, estudiante de doctorado, investigadora y profesora de la UPNA, especializada precisamente en la inteligencia artificial y sus problemas. Interviene en una semana de debates y talleres organizados por la UPNA en torno a este fenómeno que abre hoy el divulgador Carlos Santana, conocido como Dot CSV (Condestable, 18h). ¿Qué sesgos tiene la inteligencia artificial? Inteligencia artificial la hay fuerte, esa que parece que va a pensar como en las películas, y la hay débil, que hace tareas sencillas, que está muy desplegada y es la que tiene sesgos muy claros. Uno de los primeros casos fue el de Amazon, que usaba un sistema automático para determinar a qué personas contrataban. Esas inteligencias débiles aprenden sobre datos históricos, sobre las personas que habían sido contratadas en el pasado. Y como habían sido desproporcionadamente hombres, la inteligencia artificial descartaba a las mujeres. ¿A qué colectivos pueden afectar esos sesgos? A cualquiera. Pero como trabajamos con grandes cantidades de datos que se basan en lo que hemos visto en el pasado, por tanto los grupos que hemos discriminado antes son los que podremos discriminar más tarde. Un ejemplo se dio en EE UU, con un sistema de reconocimiento automático de caras para localizar a personas en busca y captura. En su entrenamiento no había tantas personas negras como blancas, y por eso tendía a confundirse: era muy fácil que a una persona negra inocente la identificara como un criminal. Por lo general, suelen encontrarse motivos de raza y etnia, de género, de edad... Pero eso varía. ¿Por ejemplo? En sistemas de traducción automática puede haber problemas por los acentos, o con el tipo de lenguaje que usamos. A veces son sesgos buscados. Hay una compañía en EE UU que dice mejorar la calidad de telemarketing y asistencia telefónica. Si tienen a un indio que habla inglés con acento muy fuerte, lo eliminan y hace que suene como un blanco estadounidense. La discusión ahí es si queremos que dejen de oírse esos acentos. Es el problema del alineamiento, de hasta qué punto somos capaces de conseguir entrenando a una inteligencia artificial que se alinee con los valores que queremos como personas y como sociedad. Hay que tener en cuenta que son sistemas automáticos, relativamente tontos, que trabajan con grandes cantidades de datos y lo que hacen es repetir, repetir y repetir. Muchos de esos datos se recogieron sin pensar en que iban a usarse con estos objetivos. Antes, con ChatGPT o con otros sistemas de texto y generación de imágenes nos obsesionábamos con darles datos de calidad. Ahora hemos descubierto que si les damos una cantidad astronómica de datos de malísima calidad, también son capaces de aprovecharlos. Esos sistemas que tanta gente utiliza son lo que menos están por cuidar que los datos no tengan sesgos. Están entrenados en Internet, con todo lo bueno y todo lo malo. ¿Cómo se puede solucionar? ¿Hay respuestas técnicas? Cuando somos capaces de medir esos sesgos, de ponerles incluso un número y detectarlos antes de que esa inteligencia se despliegue al mundo, podemos intentar corregirlo. También hay otro gran campo, la inteligencia artificial ética o justicia algorítmica, que trata plantear dónde y cómo vamos a desplegar una inteligencia artificial y qué impacto social va a tener. El otro gran problema es que se usen las inteligencias artificiales sin entender qué hacen. ¿Cómo es eso? Por ejemplo, la gente no es consciente de que el recomendador de vídeos de YouTube o el de noticias de cualquier red social son inteligencia artificial y acaban produciendo sesgos. Por ejemplo, tienden a dar las noticias más extremistas, por eso las redes tienden a llenarse de odio o conflicto. Con Chat GPT y otras herramientas similares recomiendo cierto cuidado. Son muy potentes, muy útiles, pero cuanto menos entendamos cómo funcionan, más precaución debemos tener con ellas. Por lo que dice, no es extraño que la gente les tenga miedo. La inteligencia artificial es una herramienta potentísima, que nos permite conseguir nuevos medicamentos a gran velocidad o traducir en tiempo real discursos en otros idiomas. No hay que tenerle miedo, sí respeto. Lo que me preocupa es cómo la usamos los seres humanos. Si la desplegamos de forma masiva sin tener en cuenta cómo va a afectar a ciertos mercados laborales, tenemos un problema como sociedad. ¿El miedo que hay por ciertos oficios lo ve justificado? Hay profesiones que van a desaparecer, otras cambiarán, y surgirán otras nuevas. Es lo que ha ocurrido cuando ha surgido cualquier tecnología. Tendremos que tener el suficiente apoyo social para la gente que pueda verse afectada. ¿Las leyes van por detrás? Por ejemplo, en el caso de los desnudos falsos de Almendralejo parece que había lagunas. En Europa tenemos suerte. Existen leyes potentes de protección de datos y se está desarrollando un gran cuerpo legal. Pero casos como esos, el de los bit fakes, son difíciles. Hay que ser consciente de que estamos en una sociedad en la que va a haber en Internet imágenes falsas, audios falsos... Tendremos que aprender a distinguir imágenes falsas de las reales. En imágenes, y en audios, es ya imposible, algunas no se pueden distinguir. Lo que tiene que saber es de donde viene esa imagen, ¿de un periódico del que me puedo fiar o de una web en la que puede publicar cualquiera? Tenemos que ser avispados. Es una cultura que tendremos que expandir.

Diario de Navarra

Iris Domínguez Catena: "Ya es imposible distinguir las imágenes falsas que crea la inteligencia artificial"

La profesora de la UPNA investiga los sesgos y otros problemas de sistemas como ChatGPT. Hablará de ellos en un ciclo de conferencias

Comentarios

Más de 20.800 alumnos estudian en la UNED en diversos programas

Sanción de 24 partidos al jugador que agredió a un árbitro en la Segunda Juvenil navarra

Cientos de personas y alta presencia política en el funeral de Carlos Garaikoetxea en Pamplona

Fotos del adiós en la iglesia de San Francisco Javier a Carlos Garaikoetxea

Fotos del adiós en la iglesia de San Francisco Javier a Carlos Garaikoetxea