Diario de Navarra

¿Qué pensaría de saber que esta entrevista ha sido preparada con inteligencia artificial? [ríe] Antes de leer un libro que esté en un soporte digital, ahora tienes la posibilidad de decirle que te haga un resumen. Si el libro es demasiado gordo, le puedes decir que te lo resuma en menos páginas. ¿Ese tipo de lectura es útil? Espero que la gente se lea este libro ['Una teoría crítica de la inteligencia artificial'] desde el principio al final [ríe], pero si un libro no ofrece un gran interés me parece bien. Creo que nos relacionamos con los objetos a distintos niveles —hay cosas que nos interesan mucho, poco o demasiado— y que hay espacio para relacionarse con los objetos de la cultura de maneras muy diversas. ¿Qué tipo de preguntas cree que le haría la inteligencia artificial sobre su libro? Seguramente, si le dices a la inteligencia artificial qué me podrías preguntar, un 90% de las preguntas serán correctas y adecuadas. Pero te perderás el 10% de creatividad tuya, como periodista a la que se le ocurren cosas que no están en la red. Por lo tanto, apóyate para el 90% en cosas que te quitan trabajo —me estoy poniendo un poco paternalista [sonríe]—, pero no renuncies al componente creativo de periodista preguntando cosas insólitas que a una inteligencia artificial no se le habrían ocurrido o no se le habría ocurrido así de bien. ¿Usted utiliza la inteligencia artificial? Muy poco. Pero, lógicamente, utilizo internet para buscar mil cosas. En el libro también se explica cómo, para una fase inicial de la investigación, nuestro trato con los datos tiene que ser crítico, contextual, reservado... Ahora toda la investigación empieza con una búsqueda en Google, pero en cuanto sabes un poco, Google ya no te sirve. Lo malo sería que te quedaras ahí. Precisamente, una de las cosas que dice en el libro es que los datos no son neutrales, ante la idea errónea de que lo único neutral son los datos. En absoluto son neutrales. Un dato depende del tipo de pregunta que hagas a la realidad. Hay datos que en un contexto tienen pleno sentido, pero hay una famosa trampa que todos los informáticos conocen que es tomar un dato válido en un contexto y ponerlo en otro contexto en el que ya no son tan válidos como no son en absoluto válidos. Con lo cual, los datos nunca nos van a eximir de la tarea de interpretarlos. Lo que ocurre es que hay toda una mitología de que los problemas se resolverían si tuviéramos infinitud de datos. Y eso solo vale para un tipo de problemas. ¿Por ejemplo? Pensemos en la vida cotidiana. Hay problemas que uno resuelve simplemente acarreando más datos. ¿Cuáles son los bares que se han presentado a la semana de la croqueta? Es una operación que hace Google, no vas a hacer una investigación. Pero si quieres saber cómo va a ser afectada la democracia por la inteligencia artificial, esta te va a dar una respuesta bastante convencional, una síntesis de lo que ya está dicho en Internet. Lo comenta también en el libro: la inteligencia artificial trabaja con el pasado, y como muchas veces queremos saber cosas del futuro, no nos dará una buena respuesta porque está obsoleta en ese sentido. El futuro no está presente en la inteligencia artificial, que sintetiza muy bien lo que ya existe. Y en el caso de que haga predicciones para el futuro, son predicciones que se basan en el presupuesto de que nuestro comportamiento futuro o los eventos futuros del mundo van a estar en continuidad con los del pasado, lo cual es verdad casi siempre, porque somos seres muy conservadores, muy repetitivos. Pero lo que caracteriza al ser humano es eso que Hannah Arendt llamaba 'la natalidad', la capacidad de dar origen a cosas imprevisibles de vez en cuando. Que los humanos seamos muy previsibles no nos debería hacer renunciar al derecho a la imprevisibilidad. La mayor parte de las crisis desde 2000 hasta ahora no estaban en los radares, la inteligencia artificial no las hubiera anunciado: los gobiernos que tienen grandes sistemas de prevención, las organizaciones globales, la OMS, el FMI... no se enteraron de la crisis financiera y de la crisis pandémica, y son las cosas más relevantes que han pasado en estos 25 años del siglo XXI. Con lo cual, ojo con confiarlo todo a mecanismos que son ontológicamente conservadores por su propia naturaleza. “El futuro no está presente en la inteligencia artificial”, dice. Y, sin embargo, hasta hace nada ciencia ficción, futuro e inteligencia artificial parecían metidos en la misma bolsa. Hay una paradoja muy bonita: al mismo tiempo que es cierto que se trata de una tecnología que solo percibe el futuro como prolongación previsible del presente, toda la narrativa de la ciencia ficción nos lo pinta de una manera muy disruptiva. Hay otra paradoja sobre la que me gusta llamar la atención: ¿por qué estamos tan obsesionados con que la inteligencia artificial nos va a superar? Cosa completamente inverosímil, desde mi punto de vista. ¿Qué prejuicio nos lleva a pensar que, si alguien es muy listo o algo es muy listo, va a ser malvado?, ¿qué atavismo considera que los listos son malos y los buenos son tontos?, ¿por qué la inteligencia artificial que nos superaría, que no lo creo, iría contra nuestros intereses?, ¿de qué película nos hemos atiborrado? Pues igual de un tipo de cine con esas máquinas que esclavizan al ser humano... Hay una antropomorfización de la inteligencia artificial a la que le ponen forma humana. Cuando empecé a escribir este libro hace ya unos cuantos años, lo único que tenía claro al principio es que no iba a poner un robot en la portada porque el 99% de los artefactos de inteligencia artificial no tienen forma humana, ni la van a tener. Nos empeñamos en eso. Y otra cosa que me daba mucha rabia era que los libros de inteligencia artificial fueran de color azul, un color que sugiere inmaterialidad, la nube... cuando la inteligencia artificial es marrón. ¿Marrón? Porque es muy sucia, consume una gran cantidad de recursos, agua, energía... Tendemos a pensar que la automatización y la inteligencia artificial describen un mundo vacío de humanos, cosa que en parte es verdad —ya no hay un ujier dándole al botón del ascensor, las puertas se abren automáticamente, en los satélites geoestacionarios no hay nadie, lo campos ya se cultivan en muchos sitios sin que haya una persona en el tractor...—, pero de ahí a pensar que es un mundo despoblado de humanos hay un paso enorme. Es más, detrás de la inteligencia artificial, además de mucho consumo de recursos, de mucha basura digital y de mucha guerra por el litio, hay muchas granjas del click: hay mucha gente corroborando manualmente una corrección que nosotros hemos hecho en un traductor idiomático. Hay mucho más trabajo humano oculto en la inteligencia artificial de lo que solemos pensar a la vista de lo que observamos. Y ese trabajo muchas veces lo hacen proletarios del click, mal pagados. Con lo cual, una teoría crítica de la inteligencia artificial debe también ser una revelación de la cantidad de explotación y de impacto ecológico que hay detrás de una tecnología que aparenta ser todo lo contrario. Uno de los grandes desafíos que tenemos es inteligencia artificial verde: unir las dos transiciones, la digital y la ecológica. Se trata de intentar hacer modelos que requieran menos datos, modelos de cálculo de cosas que requieran menos datos. Y la competición no va a ser solamente más performance, más velocidad, sino más ahorro. Porque esa es una de las grandes cosas que nos diferencia a los humanos de las máquinas: tenemos un consumo energético muy pequeño para una actividad tan extraordinaria como pensar, hablar o comunicar. De hecho, usted publica que está hecho el cálculo del gasto energético del cerebro en un periodo de ochenta años: 1.200 euros. El hecho de que los seres humanos seamos capaces de hacernos cargo de una situación compleja con pocos datos y con cierta rapidez, cometiendo no demasiados errores, nos pone en una situación de ventaja competitiva con respecto a las máquinas que serían más precisas, pero necesitarían muchísimo más datos para conseguir esa precisión. ¿Hasta qué punto las decisiones humanas pueden ser sustituidas por procesos informáticos controlados por algoritmos? Seguramente no va a haber una distinción de territorios o una división del trabajo tan estricta como la que estamos hablando entre lo específicamente humano y lo maquínico, sino que más bien ocurre que hay una hibridación, de tal manera que la distinción entre humanidad y tecnología es solo analítica. “La inteligencia artificial puede traducir textos, realizar diagnósticos médicos, imitar patrones de conducta humana, pero sin comprender realmente nada de ello”, dice en el libro. ¿Y entonces por qué le llamamos inteligencia? Porque nos equivocamos. Mejor: porque en el año 54 unos informáticos, hartos de que los gobiernos no les dieran dinero para investigar, decidieron llamarle inteligencia artificial a una cosa que era cibernética de segundo o tercer orden, y así consiguieron pasta. Puro márketing. Puro márketing. No lo digo para que los gobiernos desconfíen de los investigadores, que es mi campo [ríe]. Ellos pensaron que la expresión tenía 'sex appeal', y lo ha tenido, hasta el punto de generar incluso una cierta confusión en las conciencias. Yo no lo hubiera llamado inteligencia. Lo hubiera llamado... no sé cómo, la verdad. Pero lo que tenemos que hacer ahora es escribir libros como este que digan “no es exactamente inteligencia, no es exactamente artificial”. Nos queda un trabajo de conceptualización del que partimos con una cierta desventaja porque hay que empezar diciendo que no es lo que parece. Es como esas películas españolas de enredo donde alguien pillado en una situación incómoda dice "no es lo que parece". ¿En ese “no es lo que parece” está que la inteligencia artificial no va a estar por encima del ser humano ni lo va a sustituir? ¿Por qué pensar siempre en términos tan supremacistas? Esto es un atavismo de nuestra manera de pensar demasiado humana: pensar que, cuando hay dos cosas o dos personas o dos sistemas, uno tiene que estar encima y otro abajo, que tiene que haber alguien dominando, cuando realmente lo que descubrió la cibernética —la ciencia anterior a la inteligencia artificial— es que había un fenómeno que llaman recursividad. Hay un ejemplo fabuloso: en una relación entre el termostato y la calefacción, ¿quién manda?, ¿el termostato regula el comportamiento de la calefacción o es al revés? Es una metáfora para explicar también muchas cosas que pasan en el mundo. ¿Realmente los gobiernos mandan sobre la gente? Es cierto, pero también los gobiernos andan detrás de la gente intentando conseguir su legitimidad, su apoyo, obsesionados con las encuestas. Eso quiere decir que el mundo complejo en el que vivimos se constituye como un mundo en el cual, más que estructuras jerárquicas, lo que hay es actores que compiten y colaboran en relaciones no jerárquicas. Usted viene a decir que la inteligencia artificial se ha puesto en marcha por una serie de personas pero no saben explicar por qué la inteligencia artificial hace lo que hace. Sí, porque la gran novedad de esta tecnología comparada con la que está detrás de un interruptor, por ejemplo, es que ponemos en marcha un proceso cuyo resultado final no está completamente definido por el diseño. Precisamente por eso utilizamos la expresión 'machine learning': porque no hay una programación que controle todo el desarrollo de la tecnología. Eso es lo que hace que este tipo de tecnologías sean tan poderosas y al mismo tiempo tan inquietantes, pues nos gustaría ejercer mayor control sobre ellas. Un ejemplo que se entiende bien. Si te encontraras con una manada de jabalíes en la carretera y te dejaras llevar por tu instinto y el coche lo respetara, ya te habrías matado, pues tu instinto es frenar de tal manera que vuelcas. Pero hemos diseñado el coche con frenos ABS para que sea capaz de servir al objetivo final que nos interesa, salvar la vida, y no al objetivo inmediato, frenar todo lo posible. Esa combinación indica una inteligencia fabulosa que tiene que ver con nuestra capacidad de autolimitación: la dimensión más sofisticada de nuestra inteligencia tiene que ver con la capacidad de autolimitación. Dar órdenes, salirse con la suya, imponer la propia voluntad, suele ser un comportamiento a veces menos brutal y siempre menos inteligente que una autolimitación calculada en las relaciones humanas. “La dimensión más sofisticada de nuestra inteligencia...”, dice. Y todavía no hemos hablado del sentido común, que solo tenemos los seres humanos, que es lo más básico y que es muy difícil de explicar. En clase siempre pongo este ejemplo: si a Gemini, la inteligencia artificial de Google, le dices que en el mundo tenemos un problema porque el 90% de las fotografías son de hombres blancos y que hay que ir a un modelo equilibrado, más plural, más diversificado, al pedirle fotos de soldados nazis, Gemini, con un gran sentido moral pero sin sentido común, te muestra a una negra, a un chino, a un soldado gitano... Esa inteligencia artificial puede ser empática, incluso hacer juicios morales, y no tener sentido común, lo cual significa que no tiene ni empatía ni moralidad. Es como cuando nos aprendemos una norma pero no entendemos su sentido, que, por ejemplo, nos permitiría hacer una excepción en algunos casos. La gente muy rígida moralmente se aprende un principio moral y lo aplica incluso haciendo un daño terrible en contextos en los cuales debería encontrar una excepción. Una máquina no sabe qué es ese manejo de normas que valen casi siempre y de excepciones en las cuales esas normas no valen si queremos respetar el objetivo de la norma. ¿Es posible tener una relación menos histérica con el mundo digital? Sí, pero es necesario que pasemos a otra fase de desarrollo tecnológico. La historia de la inteligencia artificial, y de las tecnologías en general, pasa por momentos de gran desarrollo y mesetas donde no se avanza casi nada. Siempre que hay un momento de gran desarrollo, como ahora mismo, crecen exponencialmente los miedos y las expectativas ilusorias. Creo que en cuanto se agoten las posibilidades de este modelo actual, seguramente entremos en una larga meseta, en un largo invierno, como lo ha habido a finales del siglo pasado, donde en los periódicos no salía nada de inteligencia artificial. Han salido ya en esta conversación palabras como conciencia, moral, empatía... ¿Se le puede exigir ‘humanización’ a la inteligencia artificial? Hay gente que así lo piensa y comete dos errores: se empeña en una cosa que no va a conseguir y se empeña en algo que no tiene ningún sentido. Es como exigir a los animales que se comporten como nosotros. Me parece mucho más útil pensar cuál es la especificidad de la inteligencia humana, cuál la de la inteligencia artificial y tratar de buscar la complementariedad. Empeñarse en que piensen igual que nosotros no es posible y además no es necesario. Si voy a un psicólogo, enseguida se hace cargo de mi situación. Pensemos en sustituir a un psicólogo por una máquina: puede que en algunas cosas lo haga mejor, pero creo que se le escaparán muchas otras y sobre todo hará falta un montón de información que una inteligencia humana no necesita. “Los filósofos no damos por supuesto que la IA sea demasiado inteligente ni artificial", anota en el libro”. ¿Ustedes dan por supuesto algo? Estamos habituados a no dar nada por supuesto. Eso hace que nuestro oficio sea muy divertido, muy intenso y de alto riesgo. Sobre todo de alto riesgo de hacer el ridículo estrepitosamente porque la gente ‘normal’ da por supuestas demasiadas cosas, y los filósofos, que somos poco normales, tendemos a cuestionar demasiadas cosas. Esto hace que nos hagamos preguntas sobre el sentido de la vida, de la justicia, de la realidad, de la libertad, de la democracia... a todas horas, que estemos todo el día cuestionando los marcos. Para nosotros no hay preguntas impertinentes, y nos planteamos preguntas ante las cuales no podemos más que fracasar porque nunca se terminan de clarificar del todo. No estamos acostumbrados a resolver problemas, sino a darle patadas al balón hacia adelante. Y, de algún modo, a fracasar. ¿Y cuándo empezó a hacerse las preguntas de este libro? Hace 30-35 años tuve una idea de la que no me he apeado y que me ha perseguido como una obsesión: los conceptos con los que pensamos la sociedad contemporánea, la política y la democracia, son demasiado simples para explicar la complejidad del mundo actual. Empecé a trabajar esa idea en varios aspectos: en el tiempo, y escribí 'El futuro y sus enemigos'; en el espacio, y escribí 'Un mundo de todos y de nadie'; en el conocimiento, y escribí 'La democracia del conocimiento'; en Europa, y escribí 'La democracia en Europa'. Y en todo este itinerario me rondaba desde hace mucho tiempo la idea de que la tecnología, y sobre todo esta tecnología que tiene un crecimiento tan exponencial y tan poco previsible, ocupaba un lugar cada vez más relevante y no lo estábamos sabiendo pensar bien. Por tanto, era inevitable para mí terminar escribiendo este libro. Y luego además me gusta mucho meterme en los terrenos de otros, y en este caso en los de la ingeniería y las ciencias de la computación, que es una cosa aparentemente muy ajena a lo mío. Los filósofos somos cazadores furtivos por naturaleza [ríe]. A propósito de cazadores furtivos, Elon Musk ha dicho que los propósitos y la filosofía de su nuevo proyecto enfocado en la IA es el conocimiento de la verdad plena. [se queda callado un instante] Quiero ver qué digo de Elon Musk que no sea muy despectivo, porque me parece un personaje siniestro por varios motivos. No es un modelo de creatividad, sino un hombre que compra y vende empresas y que tiene una visión muy simple del mundo contemporáneo, en virtud de la cual los problemas que tenemos se resuelven solo tecnológicamente. Es un tecnosolucionista, que además se ha creído aquello de que la democracia ya no es el contexto en el cual la mayor parte de los problemas que tiene la humanidad se pueden resolver, y por tanto hay que buscar soluciones fuera de la democracia, sobre todo a través de una tecnología completamente emancipada de sus obligaciones sociales y políticas. Peligroso... Me parece una idea muy dañina porque están jugando con la seducción de que, si no resolvemos los problemas, es porque tenemos un aparato estatal regulador que no hace más que prohibir y limitar la libertad creativa de unos tecnólogos. Y, claro, va muy rápido porque se ahorran la gran pregunta que en una democracia nos hacemos: cómo afecta esta tecnología a la gente y qué lugar tiene que tener la gente afectada por esa tecnología al definirla. Eso es la democracia. No puedo aplicar una tecnología sin tomar en consideración el impacto social y el impacto ecológico que va a tener. Si me ahorro ese trámite, la tecnología va a ir muy deprisa, pero estoy seguro de que vamos a llegar a un sitio donde los humanos estaremos peor y el planeta estará más destrozado de lo que está. Con lo cual creo que ahora mismo el gran campo de batalla no confronta tanto a derecha e izquierda como a rápidos y lentos: una rapidez conseguida a costa de ahorrarse los procedimientos de la democracia, y la democracia es procedimental básicamente, y una lentitud que consiste en reivindicar el papel de la deliberación, del debate, de la toma en consideración... de los afectados a la hora de construir la voluntad popular, que es la que legitima cualquier cosa. Daniel Innerarity Grau (Bilbao, 4 de septiembre de 1959) reside en Zariquiegui. Catedrático de Filosofía Política, investigador Ikerbasque en la UPV, director del Instituto de Gobernanza Democrática y profesor en el Instituto Europeo de Florencia, donde es titular de la cátedra Artificial Intelligence & Democracy, sus últimos libros son 'La política en tiempos de indignación' (2015), 'La democracia en Europa' (2017), 'Política para perplejos' (2018), 'Comprender la democracia' (2018), 'Una teoría de la democracia compleja' (2020), 'Pandemocracia. Una filosofía de la crisis del coronavirus' (2020), 'La sociedad del desconocimiento' (2022), 'La libertad democrática' (2023) y 'Una teoría crítica de la inteligencia artificial' (2024). Es colaborador habitual de opinión en El País, El Correo/ Diario Vasco y La Vanguardia.Ha recibido, entre otros, el Premio Euskadi y el Premio Nacional de Ensayo, así como el Premio Príncipe de Viana de la Cultura 2013 y el Premio Nacional de Investigación Ramón Menéndez Pidal en el área de Humanidades, en 2022. Este 2025 ha sido nombrado Chevalier des Palmes Académiques por el gobierno francés. 'UNA TEORÍA CRÍTICA DE LA INTELIGENCIA ARTIFICIAL'Autor: Daniel Innerarity. Editorial: Galaxia Gutenberg. Número de páginas: 552.Precio: 24 euros.

Diario de Navarra

Daniel Innerarity, filósofo: "El futuro no está presente en la inteligencia artificial"

A finales del año pasado ganó el Premio Eugenio Trías con 'Una teoría crítica de la inteligencia artificial', obra con la que estará en la Feria del Libro de Navarra el lunes 2 de junio

Comentarios

El navarro Óscar Arroyo, de nuevo en acción tras desbloquearse la ruta de ascenso al Everest

El festival En Vivo de la Ciudadela completa su cartel con la banda ETS

La escuela concertada sale a la calle contra el cierre de 14 aulas

Domínguez se reúne con los jefes de servicio del Hospital Universitario de Navarra, con los que seguirá negociando sus demandas

Víctor Muñoz, lesionado