La  UPNA tiene un proyecto para “generar a largo plazo el mapa del odio digital”. Lo han llamado xenometer y lo han presentado en unas jornadas internacionales que terminaron este jueves y que han reunido en Pamplona a expertos internacionales de Estados Unidos, Colombia, El Salvador, Alemania y España para analizar el papel de la tecnología en algunos de los mayores desafíos de nuestro tiempo.

Xenometer se basa en la inteligencia artificial, pero está construida con una fuerte base humana, equipos que en los distintos países que participan en el proyecto que crean las bases de datos con las que trabajará después la máquina. “Esos equipos monitorizan los discursos en las redes sociales y los clasifican manualmente basándose en una categorías que hemos definido previamente”, dice Sergio García-Magariño, profesor de la UPNA,  investigador del instituto I-COMMUNITAS y coordinador de las jornadas. “Tiene una dimensión individual ya que una persona etiqueta una serie de mensajes y otra colectiva, para evitar sesgos, en la que esos mismos mensajes se clasifican por tres personas, que además se juntan cada tres semanas o un mes para ver dónde ha habido conflicto”.

Esa base de datos creada por equipos humanos es “el punto fuerte del proyecto”.  Esos mensajes son clasificados con un cero, cuando se aborda el tema de las migraciones de manera neutra, con positivos, desde los que hablen para bien del asunto de manera sutil, que sería un 1,  hasta quienes llaman a la acción  “para que se implementen acciones positivas para la población migrante”, que se clasifica con un 3. También existe una escala negativa, que van desde los mensajes donde se puede ver  una velada intención xenófoba (-1) hasta  los que llaman a actuar contra la inmigración (-3).  “Esa dimensión del proyecto,  la manual, que la inventaron en la Universidad  Cornell  es bastante sólida,  aunque conlleva mucho trabajo y tiempo, porque para que el algoritmo funcione bien, necesita por lo menos tener entre 5.000 y 7.000 mensajes redistribuidos equitativamente en todas las categorías”, señala Sergio García-Magariño de un proyecto en el que están involucrados la Universidad Cornell de EE UU,  la UCA de El Salvador, la Universidad Cooperativa de Colombia, además del instituto  de investigación social de la UPNA, I-COMMUNITAS . “La segunda pata, que aunque parezca mentira es la más sencilla: entrenar un algoritmo. La gente que está formada en ese ámbito  entrena bastante bien los algoritmos, siempre y cuando les proporciones una buena base de datos. El xenometer en España funciona con bastante efectividad aunque  todavía no es capaz de diferenciar bien algunas categorías”, señala el profesor del centro navarro, que apunta que este proyecto quiere cumplir otro objetivos secundario: “formar a un grupo interdisciplinar y  a estudiantes en lo mejor de las ciencias sociales y de la tecnología”.

Los resultados que pueda dar el xenometer saldrán varias direcciones. Por un lado, hacia la Administración Pública para ayudar a las iniciativas “que pretenden forzar a las plataformas tecnológicas a retirar mensajes explícitamente de odio que puedan incurrir en delito”.  Por otro lado, a las propias Fuerzas y Cuerpos de Seguridad del Estado. “Tienen mucho interés en el instrumento porque hay algunos ámbitos que  monitorizan que se beneficiarían mucho si se automatizaran un poco más”, señala García-Margariño. Un tercer propósito, que se quiere hacer en la UPNA a través del instituto de investigación social avanzada, es “avanzar hacia un observatorio internacional de la convivencia. Por eso el proyecto implica trabajar en red con otros países . Estamos intentando que la red sea cada vez más amplia. El xenometer sería como un proyecto permanente que va actualizando el mapa del odio digital en el mundo, pero después se podrían abordar otras área”. Un cuarto objetivo es contribuir a la alfabetización tecnológica de la población. “No me estoy refiriendo al uso de la tecnología, sino a que ser capaces de discernir los valores que hay detrás de cada dispositivo tecnológico para tomar decisiones informadas sobre si usarlo o no”.