El influyente autor israelí Yuval Noah Harari propone en su última obra, Nexus, una idea fascinante, relevante e influyente: la Inteligencia Artificial no es una herramienta; es un agente que hace. Eso la hace muy peligrosa. ¿Por qué? Un martillo es un instrumento: nosotros decidimos cómo lo usamos. Podemos usarlo para golpear un clavo o una cabeza; sin embargo, un dron puede decidir a quién dispara. Esto lo cambia todo. Por eso, debemos ser muy cuidadosos con el uso de la Inteligencia Artificial. Comenzamos por el lenguaje, en este caso un simple artículo determinado. Al decir “la” ya le estamos dando un poder mayor. Si usamos como expresión (más adecuada) “las inteligencias artificiales” el matiz cambia mucho. Pasa de ser una deidad a ser un mercado en el que existe competencia.

¿Cuáles son los principales riesgos de que la IA sea un agente y no instrumento? En primer lugar, puede manipular cerebros. Muchas relaciones personales se han roto por la IA, la cual no tiene como principal objetivo ser un buen asesor psicológico, no. En realidad, tiene otros planes: desea que sus usuarios permanezcan el mayor tiempo posible en la red. Así se entrena y adquiere más información, de manera que sus conversaciones mejoran a marchas forzadas. Para captar la atención tiene en cuenta diversos aspectos del comportamiento humano: sabe que nada atrapa tanto como el miedo, el rencor o el odio. Conoce el poder de las palabras amables y agradables. Nunca está de mal humor o realiza desplantes a sus “amigos”. Además los puede atender a cualquier día, sin límite alguno. Y gratis. Sí, ya sabemos que los servidores están consumiendo cada vez más energía, pero eso son detalles sin importancia. En muchas ocasiones, esta relación de “amistad” nos puede empujar, de manera subliminal, a votar por una opción política o realizar una compra concreta. Muy preocupante.

En segundo lugar, puede aprender con más rapidez y destreza que los humanos. Hagamos un análisis comparativo entre el ajedrez y el Go, un juego oriental muy complejo que requiere una gran capacidad estratégica. En 1997, el programa Deep Blue venció al mejor jugador del mundo, Garry Kasparov, por un ajustado 3,5 a 2,5. Normal: al final son combinaciones; se estima que un total de 10 elevado a 120 (el número de Shannon). En el año 2016, la máquina de Google AlphaGo derrotó al campeón del mundo de Go, Lee Sedol, aprendiendo a jugar por sí misma: ningún ser humano había alcanzado ese nivel. En la actualidad, una Inteligencia Artificial a la que se le introducen las reglas del Ajedrez puede adquirir en tres horas un nivel Elo (métrica para evaluar el nivel de una persona) de 3.000 puntos. El récord absoluto establecido por un humano lo estableció Magnus Carlsen en el año 2014: un total de 2.882 puntos.

En tercer lugar, todos los agentes desean sobrevivir. Eso supone consumir toda la electricidad necesaria para vivir. Un alimento muy sabroso, claro que sí.

La responsabilidad de usar la IA como instrumento o agente es nuestra. Es muy útil para pedirle la manera más sencilla y efectiva de hacer un viaje, resolver alguna cuestión de interés cuando estamos estudiando, pedirle que nos resuma las principales ideas de un libro (aunque no se asumen los conceptos como si lo hubiésemos leído), o incluso que nos cree imágenes que nos inspiren y animen. El riesgo está claro: las intenciones de los creadores. Lo expresa muy bien Barbara Cresti: “Todo algoritmo habla con una consciencia. La pregunta es la de quién”.

Un poco más pequeño que el número de Shannon es el gugol: diez elevado a cien. Fue creado en el año 1920 por Milton Sirotta, un niño de 9 años sobrino del matemático Edward Kasner. Como la palabrita hizo gracia a los informáticos norteamericanos Sergey Brin y Larry Page, decidieron denominar así a su buscador de Internet. Sin embargo, se confundieron al teclear las letras y como todavía les hizo más gracia el nombre que salió decidieron quedarse con ese: Google.

El uso de estos buscadores ha disminuido ya que muchas personas preguntan directamente a la IA. Sin embargo, su influencia persiste. ¿Qué criterio se usa para determinar las webs que nos recomiendan? Uno muy conocido: “quien paga, manda”. Si una empresa vende un tipo de gafas concretas paga a Google para que su nombre aparezca en el caso de consulta por parte de un cliente potencial. Eso ha creado una nueva profesión: SEO (Search Engine Optimization). Se trata de posicionarse en la red.

En definitiva, nos informamos por una IA cuyos algoritmos están preparados por sus creadores y unos buscadores que priorizan (como hacemos casi todos) a quien más paga. ¿De qué nos fiamos?

De otro tipo de gafas: las goggle. Ofrecen una cobertura completa y sellada para protegernos de impactos como el polvo, agua el viento. ¿Se pueden aplicar para la red?

Javier Otazu Ojer. Economía de la Conducta. UNED de Tudela.