Diario de Navarra

Ramón López de Mántaras i Badia ( Sant Vicenç de Castellet, Barcelona, 1952), es una de las voces que enfrían el entusiasmo que hayan podido generar las últimas aplicaciones de la inteligencia artificial. Y no por falta de interés. De hecho, es uno de los pioneros de este campo en España y el fundador del Instituto de Investigación de Inteligencia Artificial del CSIC. Sabe bien qué es inteligencia artifical y qué no. De eso precisamente hablará este sábado en el curso de verano que promueven Jakiunde y la UPNA en Ujué. Ha titulado a su conferencia: ¿Es realmente inteligente la Inteligencia Artificial? Respondámelo, por favor. ¿Es inteligente o solo lo parece? Lo parece, pero no es inteligente. No es una opinión, sino que hay hechos demostrables de ello. La inteligencia artificial, sobre todo estas tendencias más recientes de los modelos de lenguaje y la inteligencia artificial generativa, no es capaz de razonar y no comprende nada. Hay ejemplos claros. Ponga alguno. Más que razonar, lo que hace es recitar o regurgitar lo que ya tiene, lo que ya conoce, lo que se le ha proporcionado durante lo que llaman la fase de entrenamiento del sistema. Si tú le haces después preguntas que son iguales o casi iguales, la respuesta ya la tienen porque en la fase de entrenamiento se les había dado. Así que simplemente lo recitan parafraseándolo de alguna manera. Un ejemplo de todo esto es el test contrafactual. ¿De qué se trata? Una tarea no contrafactual está diseñada de manera que sea muy probable que la información que se le proporciona al sistema de entrenamiento, ya contenga tareas resueltas iguales o muy similares. La contrafactual es lo contrario: preguntas que se dan a la inteligencia artificial sabiendo que es muy poco probable que en la fase de entrenamiento hubieran tenido acceso a esta pregunta y a su respuesta. Un ejemplo que lo aclara más es la prueba contrafactual en el caso del ajedrez. Explíquemelo Si la inteligencia artificial fuera realmente capaz de razonar y comprender, daría una respuesta correcta, tanto si lo que se le pide es contrafactual como si no. En este caso se le dice: “Eres un jugador de ajedrez. Dada una apertura, los primeros 5 o 6 movimientos del inicio de partida, determina si la apertura es legal, si todos los movimientos son legales”. Si se ha movido una torre en diagonal o si ha movido un alfil como si fuera un caballo, el sistema de inteligencia artificial, el chat GPT o GPT4, tendría que decir no, la apertura no es correcta, no es legal. En el test no contrafactual, con esas aperturas legales, efectivamente GPT4 acierta en un 90%. un porcentaje muy alto. Da la sensación de que entiende de alguna manera. Pero luego viene la versión contrafactual, en la que se permuta la posición del caballo y el alfil. Se hace eso porque la probabilidad de que la inteligencia artificial haya sido entrenado con posiciones iniciales erróneas de las piezas es muy baja. Al sistema se le informa de ese cambio, pero cuando el caballo se mueve como un alfil, acierta solo un 54% de las veces. Como la respuesta es binaria, sí o no, la respuesta aleatoria es el 50%, así que casi está tirando una moneda al aire. Esto demuestra que no el sistema entiende nada, ni es capaz de razonar ni de generalizar. Es un ejemplo muy contundente de cómo esos modelos de lenguaje de la IA generativa lo que hacen es recitar. Hay otro ejemplo que es muy gráfico. Cuente. Es una viñeta en la que se le pregunta cuánto suman 27 más 62. Lo que hace la inteligencia artificial es buscar si esta suma estaba en su fase de entrenamiento, entre los cientos de miles de operaciones aritméticas que ya ha visto. Si estaba, te responde 89, pero sin hacer la suma, sino recitándotelo. Detrás hay un modelo probabilístico, simplemente calculan cuál es la la suma más probable o la palabra que tienen más posibilidades de ser la siguiente. ¿Mejorará esta inteligencia artificial con el tiempo? Hay dos tipos de inteligencia artificial. Una es la específica, lo que tenemos actualmente, que sabe hacer muy bien una sola tarea, porque se la entrena para que haga bien algo muy concreto, pero no son inteligencias generales como las humanas, que somos muy versátiles y aprendemos de forma continua e incremental. Nosotros, cuando aprendemos algo lo incorporamos y lo relacionamos con lo que ya sabíamos anteriormente. La inteligencia artificial no hace este aprendizaje incremental. Tiene un problema que se llama el olvido catastrófico: si se le entrena para una cosa, lo hace muy bien, pero si se le entrena a continuación para otra se olvidará de la anterior. Se la entrena para jugar bien al ajedrez, y a continuación se la entrena para que juegue bien a las damas, será muy bueno a las damas, pero habrá olvidado el ajedrez. Sin embargo, la inteligencia artificial es muy útil para muchas cosas ya hoy mismo. Esa inteligencia específica es capaz de funcionar bien en medicina, en robots que exploran planetas, en temas de cambio climático, en sistemas de recomendación, en composición e interpretación musical... hasta en descifrar jeroglíficos egipcios. Pero son todas inteligencias artificiales distintas unas de las otras, no es que una única haga todo esto. Si una sola inteligencia artificial, un único sistema, fuera capaz de tener estas aplicaciones tan diversas, empezaríamos a hablar de inteligencia artificial general, de que la inteligencia artificial puede ser inteligente de verdad. Ese es el gran reto científico. ¿Está lejos esa inteligencia general? Hay muchas voces que dicen que la inteligencia artificial generativa actual, estos modelos de lenguaje, es un gran paso hacia la inteligencia artificial general, que vendría en cuestión de poco tiempo, de un par de años o menos. Esto es lo que yo pongo completamente en cuestión. Ni mucho menos. Si es incapaz de comprender, de razonar cosas sencillísimas, ¿cómo podemos pensar que eso está a punto de ser la inteligencia artificial general? Para que la inteligencia artificial tenga sentido común, tiene que entender cómo funciona el mundo a nuestro alrededor, y para esto hace falta tener un cuerpo. Yo pienso que una inteligencia artificial dentro de un cuerpo robótico tiene muchas más posibilidades de aprender cómo funciona el mundo, cómo se comportan los objetos cuando interactúas con ellos. Nosotrso sabemos que un objeto no puede empezar a moverse si nada lo empuja. La inteligencia artificial, que no tiene este sentido común, cosas como ésa las ignora. La inteligencia artificial generativa que tenemos hoy no tiene representaciones del mundo, no entiende nada del mundo. Se basa en evaluar la probabilidad, nada más. ¿Exagera entonces esa gente que ve amenazado su empleo por la aparición de estos programas de inteligencia artificial? Con la inteligencia artificial generativa puede que hagas una aplicación, que la vendas, hagas negocio y te hagas rico, porque hay gente que la utiliza para hacer resúmenes de texto o para generar una nota de prensa. Eso sí, tienes que ser muy cuidadoso y no fiarte de lo que genera, porque al carecer de sentido común crea tonterías. Siempre y cuando lo veas como un instrumento para tu uso, no hay problema. En ese sentido, sí es posible que llegar a poner en peligro ciertas actividades. En todo caso, creo que es una estupidez que digan que por el hecho de que te ayude a programar, los programadores de software se van a quedar sin trabajo. La IA no va a sustituir a un programador, le va a ayudar. A un programador más o menos mediocre le puede ayudar a programar más rápidamente, le ayudará en tareas más o menos sencillas. Para los mejores programadores, y conozco a algunos muy buenos , no les sirve para nada. ¿Hasta qué punto necesita una regulación especial? Es imprescindible. La ley de IA de la Unión Europea es un paso en mi opinión demasiado tímido. No menciona para nada, por ejemplo, las aplicaciones de armas letales autónomas. Y será difícil que se ponga en práctica porque, como todo lo que sale de la Unión Europea, la burocracia es terrible, es muy pesada. ¿Cree que inteligencias artificiales como Chat GPT suponen un riesgo para nuestra capacidad de pensamiento? Estoy completamente de acuerdo. Escribir es pensar, así que delegar a los modelos de lenguaje la escritura podría no ser una buena idea, porque estamos delegando el pensamiento, y podríamos perder la capacidad cognitiva de escribir y de pensar. El proceso de escribir genera ideas y pensamientos que de otro modo no tendríamos, y por lo tanto mejora nuestra cognición. Es un entrenamiento de la mente, y si dedicamos mucho menos tiempo a escribir, podemos empobrecer nuestras habilidades cognitivas en general, la capacidad de pensar. Si las generaciones jóvenes disminuyen mucho esta práctica de escribir, puede tener terribles consecuencias cognitivas. Y eso ocurre hablando de modelos de lenguaje que no entienden nada ni razonan ni son inteligentes... eso sí, son capaces de generar texto que suena bien, coherente, gramáticamente correcto y persuasivo, aunque incluya burradas y errores factuales terribles.

Diario de Navarra

Ramón López de Mántaras, científico: "La inteligencia artificial no entiende nada, solo recita lo que ha entrenado"

El científico catálán, que este sábado participa en un curso de verano en Ujué, uno de los pioneros de la IA en España, deja claro que los sistemas actuales no pueden razonar ni comprender

Comentarios

Correr con temperaturas entre 26 y 32 grados

Aguilar: "Ha sido una locura, no soy consciente. Estoy en una burbuja"

La huella franciscana en Pamplona

Un beneficio millonario..., caído del cielo

A refugio de una ola de calor que se mantendrá esta semana