Diario de Navarra

Los tres protagonistas de este reportaje reconocen que hay características comunes que vinculan al salvaje Oeste con el basto e inexplorado territorio que representa actualmente la inteligencia artificial (IA). Como aquellos intrépidos colonos que se lanzaban hacia lo desconocido con la promesa de alcanzar una vida mejor, los actuales exploradores del algoritmo se adentran con idéntico entusiasmo por un ciberespacio repleto de oportunidades y riesgos. La elaboración en Europa de la primera normativa a escala mundial para acotar los usos de esta prometedora tecnología ha tenido como efecto indeseado, según explican Maite Sáenz (CEO de la revista ORH), Marisa Cruzado (CEO de la consultora de comunicación CVA) y Jesús López Fidalgo (director del Instituto de Ciencia de los Datos e Inteligencia Artificial de la Universidad de Navarra), que muchas empresas hayan echado el freno a la hora de usar las aplicaciones que ya están disponibles en el mercado. El riesgo de ser sancionadas con cuantiosas multas les ha llevado a optar por la prudencia hasta que se aclare el panorama. “Entre los grandes protagonistas en el juego de la inteligencia artificial tienes, por un lado, a Estados Unidos. La todavía primera potencia económica mundial ha visto la oportunidad y ya la tiene muy desarrollada en muchas cosas. Por otro está China, que ha visto que esto funciona y lo está copiando perfectamente para aplicarla a usos como el control social”, explican Marisa Cruzado y Marta Sáenz. Esto ha llevado a que países como Francia y Alemania “no estén muy conformes con el contenido de la nueva ley” al limitar demasiado “la capacidad de innovación”. En cualquier caso, admiten que resulta “muy difícil” lograr un equilibrio entre el respeto a los derechos fundamentales y que la velocidad en el desarrollo de una IA europea esté acorde al ritmo de las grandes potencias mundiales. “Ni desarrollamos, ni copiamos. Solo le ponemos normas a lo que hacen otros”, lamentan. No todo son inconvenientes en la propuesta europea para regular el uso de la IA. Los tres admiten que la futura ley incide mucho en la necesidad de estudiar la aplicación de los algoritmos inteligentes con un enfoque multidisciplinar, algo que ellos mismos han corroborado empíricamente que “es absolutamente cierto”. Así lo han comprobado a la hora de sacar adelante el proyecto para poner en marcha un sello que garantice el uso ético de la IA en la gestión de personas bautizado como IA+Igual. DOS PERIODISTAS Y UN RETO TÉCNICO El hecho es que el germen de este proyecto surgió inicialmente en el seno de la consultoría de comunicación CVA en 2019, a la que poco después se unió la revista especializada en recursos humanos ORH. Coincide que ambas organizaciones están lideradas por periodistas, Marisa Cruzado y Maite Sáenz, que buscaron en la incorporación de IN2 la pata tecnológica y en la Universidad de Navarra, que se sumó en enero de este año, la visión académica e investigadora. Tras unos primeros años titubeantes por culpa del estallido de la pandemia, durante los que todos los recursos gubernamentales se volcaron en la lucha contra el coronavirus, fue necesario esperar a la puesta en marcha de los planes de recuperación europeos para reactivar el proyecto. Gracias a una subvención de un millón de euros concedidos por la Comunidad de Madrid mediante los fondos europeos Next Generation, la idea cobró vida en julio del año pasado. Los trabajos se centran ahora en la elaboración de un libro blanco que servirá de guía para confeccionar el sello ético, una labor que debería dar sus frutos dentro de un año. “El objetivo del proyecto es ver cómo desde las empresas y sus departamentos de recursos humanos se puede y se debe hacer un uso de la inteligencia artificial que asegure la equidad de las personas en el acceso al mercado de trabajo y en su desarrollo profesional”, comentan. En una primera etapa, los esfuerzos se centraron en recopilar todos los datos y experiencias reales para conocer el punto de partida en el que se encontraban las compañías a la hora de usar la IA para gestionar personas. Se pusieron en contacto con cuantas compañías pregonaban a través de los grandes medios de comunicación que habían incorporado alguna tecnología con algoritmos inteligentes. La sorpresa llegó cuando constataron que había muy poco contenido detrás de unos anuncios que, en realidad, tenían mucho de humo. “Empezamos a buscar a las empresas con las que trabajar en el proyecto, porque al final se trata de auditar algoritmos que están funcionando. Luego te sentabas con ellos y te dabas cuenta que no había tanto que conocer”, admiten. APARIENCIAS Y FUGA DE TALENTO Los promotores del sello ético coinciden en que existe una “burbuja” en torno a la inteligencia artificial que tiene mucho de aparentar que se está a la vanguardia. Pese a ello, recalcan que han aprendido mucho de las experiencias con IA en el mundo real. Una de las lecciones ha sido que la predictibilidad del algoritmo es “incuestionable”, pero luego hay que valorar el tipo de decisiones empresariales que ello puede acarrear. Uno de los ejemplos que se encontraron fue un sistema capaz de predecir la fuga de talento. “Era capaz de detectar con total fiabilidad qué personas iban a dejar la organización en un plazo de tres meses. Una vez que tienes esa información, ¿qué haces? Algunas empresas pueden optar por analizar los motivos para buscarles remedio y otras, que tienen intención de reducir plantilla, pueden no hacer nada y ahorrarse los despidos”, señalan como ejemplo de dos comportamientos éticamente opuestos. Ante la duda de cómo puede funcionar una IA capaz de detectar fugas de talento y el tipo de datos que analiza para determinarlo, los promotores del proyecto aseguran que la recopilación de información no tiene que ser de carácter personal, sino que se emplean variables como “la distancia del trabajo a casa, si tienen hijos o si la flexibilidad es la necesaria para las circunstancias personales”. El algoritmo en cuestión fue capaz de descubrir que había “un claro problema de liderazgo del manager” de uno de los departamentos que no se daba en los demás. “La empresa en cuestión adoptó medidas para minimizar ese mal clima, que pasaron por ayudar al líder a mejorar sus capacidades con cursos de gestión”, afirman. Frente a quienes ven en la IA una revolución tecnológica, los promotores del sello ético defienden que es una “revolución humana”. Por sí misma, no es “ni buena ni mala” y todo depende del uso que se le dé a estas herramientas. A partir de este planteamiento, abogan por convertir la IA en un “copiloto” para las personas en su labor profesional, lo que requiere apostar “por la formación”. “La IA no es perfecta y tiene fallos que te llevan por caminos incorrectos y aportan información falsa. Quienes la manejen deben ser capaces de discernir cuándo lo hace bien y cuándo no. Necesitamos gente bien preparada para ser capaz de utilizar la tecnología como apoyo y sea capaz de dominarla”, exponen. PERFILES COMPLEMENTARIOS Ante el desafío de lograr es evitar los sesgos inconscientes que todas las personas y organizaciones tienen, aunque la mayoría crea que no es así, el proyecto para el sello ético ha contado con la colaboración de “un equipo multidisciplinar” compuesto, entre otros perfiles, por filósofos, sindicalistas, abogados o ingenieros. Es un punto en el que admiten que, acertadamente, incide mucho la nueva ley europea sobre la IA. Lo tuvieron que aprender por las malas cuando comenzaron a poner los cimientos del proyecto hace un año: “Teníamos que desarrollar un modelo del que se responsabilizó la parte técnica. El resultado no fue el esperado porque encararon la labor con sus propios sesgos y limitaciones”. Confirman que fue complicado convencer a los técnicos de que, pese a que la ejecución era teóricamente irreprochable, no habían tenido en cuenta requisitos necesarios. El problema radicaba en que se habían limitado a aplicar un criterio estrictamente técnico a un ámbito tan polifacético como los recursos humanos. Finalmente aceptaron la necesidad de ampliar su enfoque cuando el consejo asesor se puso analizar el trabajo que habían hecho y aportar todo lo que veían claro que faltaba. “La ley de inteligencia artificial en Europa habla de la necesidad de los equipos multidisciplinares y nosotros hemos corroborado empíricamente que es absolutamente cierto. Esto no puede seguir en manos solamente técnicos metidos en sus laboratorios”, consideran. Maite Sáenz y Marisa Cruzado admiten que la entrada del Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra ha supuesto un empujón importante a la hora de enriquecer la propuesta que están elaborando. La variedad de visiones a la hora de confeccionar el libro blanco resulta “enriquecedora”, pero también complica la coordinación de personas cuyos conocimientos provienen de mundos tan diferentes. “Lo estamos sufriendo en nuestras propias carnes. Todos y cada uno de nosotros vivimos en nuestra propia parcela y tenemos una punto de vista sesgado de la realidad”, confiesan. No obstante, prefieron quedarse con lo positivo de la experiencia como “la proactividad y el empeño” de todos los participantes que está consiguiendo que unos aprendan de los otros. El proyecto no terminará cuando los trabajos terminen dentro de un año con el libro blanco, sino que requerirá un seguimiento continuo debido a la propia naturaleza de la IA, cuyos avances y capacidades aumentan de mes en mes. “Todo va tan rápido que es muy difícil ponerle coto. Eso nos va a obligar a tener en cuenta el ritmo al que avanza la tecnología. Es uno de los problemas que afrontamos”, concluye Jesús López Fidalgo. El director de DATAI considera que, para lograrlo, lo más eficaz sería redoblar la apuesta por “educar en vez de legislar”. Argumenta que la normativa siempre va a estar varios pasos por detrás de la tecnología, por lo que la clave va a residir principalmente en lograr que las personas que manejan la IA sepan distinguir “por dónde ir y por dónde no”. Ansiolíticos para ellas y pruebas médicas para ellos a partir de un mismo diagnóstico A lo largo de los últimos meses, quienes impulsan el proyecto IA+Igual han ido acumulando evidencias de sesgos que perjudican a las personas a la hora de aplicar algoritmos inteligentes. Uno de los casos más llamativos fue aportado por el socio tecnológico en el proyecto, la empresa IN2. Habían trabajado para una administración autonómica en el desarrollo de un algoritmo que tenía que ayudar a los médicos de Atención Primaria. “Básicamente, pretendían definir las pautas médicas para las dolencias habituales”, comentan. Tras introducir todos los datos de los pacientes, el algoritmo empezó a trabajar y sus conclusiones se aplicaron durante unos meses. Unos meses después, alguien tuvo “la genial idea” de comprobar qué efecto estaba teniendo el uso de esta herramienta y se dieron cuenta de que se había disparado “de una manera brutal la pauta de ansiolíticos”. Se pusieron a indagar y descubrieron que las mujeres a partir de los 45 años que iban a la consulta con problemas de sueño se les recetaba automáticamente este medicamento sin otras consideraciones. Sin embargo, si era un hombre el que tenía los mismo síntomas se optaba por hacerle analíticas y pruebas para encontrar las causas. “Era un sesgo que estaba en los datos”, destacan. Aquella experiencia les llevó a hacer una pequeña prueba con ChatGPT, al que facilitaron el currículo de cuatro comerciales varones. En una segunda tanda, introdujeron otros cuatro currículos de tres mujeres y un hombre. Luego solicitaron a la herramienta de IA generativa que propusiera el mejor perfil para una vacante. El sistema eligió a uno de los hombres pese a que ellas contaban con mejores referencias profesionales. “Cuando metimos los cuatro currículos de hombres saltó un mensajito muy bien redactado que recordaba la necesidad de aportar datos diversos en cuanto al género y otras perspectivas. Sin embargo, cuando empezamos a bichear y pedirle conclusiones apareció el sesgo”, advierten. Los impulsores del proyecto IA+Igual mencionan otro de los casos más sonados en los que los algoritmos inteligentes funcionaron mal cuando se emplearon en materia laboral. La plataforma Deliveroo empleaba en Italia un sistema para adjudicar las rutas a los repartidores en bicicleta. Tenía en cuenta las ausencias o el tiempo que empleaban para entregar un pedido, pero lo hacía sin tener en cuenta otros parámetros importantes. “No se estaban teniendo en cuenta derechos de los trabajadores como, por ejemplo, hacer huelga. O cuestiones tan pedestres como quedar bloqueado en un atasco o no poder pasar porque hay una manifestación que cortaba la calle”, explican. El resultado fue que las autoridades italianas les tiraron para atrás la herramienta porque estaba siendo injusta en el reparto de las rutas al favorecer a aquellos que encajaban con el sesgo que había sido introducido en el sistema. Frente a la inapelable lógica del algoritmo, que se limita a aplicar aquello que se le pide y con los datos que se le facilitan, la responsabilidad de las empresas al emplear la IA pasa por asegurarse que no provocan situaciones injustas.

Diario de Navarra

La búsqueda de un uso ético de la IA para gestionar a personas

La Universidad de Navarra participa en un proyecto que busca elaborar un libro blanco de buenas prácticas que servirá para implantar un sello ético a la hora de aplicar algoritmos inteligentes en las empresas

Comentarios

El sorprendente 2x1 de Verdeliss en 24 horas

El sueño del Tudelano fue muy real

El Pamplona golpea primero

El Osés, a la épica, se cuela en la final de ascenso a Liga Endesa

El Cross Aitzkibil corre en Urdiain por Palestina