Sería ético que una empresa utilizara la inteligencia artificial (IA) para autorizar o rechazar el alta en un seguro médico privado, la concesión de una beca a una persona estudiante con pocos recursos o la contratación de alguien para un puesto de trabajo, en función de su historial de bajas por enfermedad? Estos casos exagerados podrían ocurrir y, de hecho, algunos ya han sucedido a menor escala, en tiempos recientes. La inteligencia artificial ha llegado para quedarse y sus aplicaciones abren múltiples puertas para el progreso de la humanidad, pero también nos asoma a un abismo insondable de discriminación y manipulación, si no se acompaña con una regulación normativa a nivel mundial.

Han pasado ya dos años desde que la Comisión Europea presentara, el 21 de abril de 2021, la propuesta de Reglamento de Inteligencia Artificial con el objetivo de definir el primer marco legal en torno a estas nuevas tecnologías, enfocado en los riesgos relacionados con la inteligencia artificial. Y, al parecer, hasta el 2024 no entraría en vigor. Ya vamos tarde.

¿Qué está ocurriendo mientras tanto? En 2018, Amazon creó un programa para automatizar los procesos masivos de selección de personas apoyado en la inteligencia artificial. Dado que el software había sido alimentado con datos de seleccionados con éxito en los últimos 10 años y el perfil era mayoritariamente masculino, el algoritmo practicaba una discriminación femenina inconsciente, perjudicando así la contratación de mujeres. Google lanzó en 2019 el proyecto Nightingale en colaboración con una empresa propietaria de 2.600 hospitales y consultas en Estados Unidos, para compartir resultados de laboratorio, diagnósticos e historiales médicos, sin que pacientes ni doctores fueran informados. Google declaró públicamente, al ser cuestionado, que el proyecto cumplía con la normativa. El pasado mes de marzo, una serie de conversaciones en la plataforma social Reddit ha despertado la atención de expertos en informática y sociólogos debido a prácticas de violencia. Según contaba la revista Muy interesante, se exponían diversas conversaciones de adultos con la aplicación digital Replika, que permite crear chatbots “femeninos” con tecnología capaz de mantener conversaciones de texto con cierta coherencia. Insultos de género, descripciones de actos de violencia e incluso abuso psicológico han sido constatados por usuarios de la plataforma. Unos comportamientos que bien pueden reforzarse para luego repetirlos en el mundo real.

¿Y si avanzáramos un pasito más y nos pusiéramos en modo distópico, que tan de moda está? ¿Podría el uso de la inteligencia artificial condicionar el mecanismo evolutivo del ser humano?

Existen múltiples evidencias que demuestran que el cerebro, esa masa de kilo y medio aproximado que todos tenemos, se ha ido modificando a lo largo del tiempo. El homo sapiens sufrió 3 cambios evolutivos principales: una reducción en la importancia del olfato, un incremento en la visión y un enorme desarrollo en el neocórtex, donde el cerebro trabaja la parte del razonamiento lógico. Con esos 3 cambios, hoy hemos llegado aquí.

Ejemplo de evolución: a partir de la modificación de la dieta humana y el uso de herramientas, la naturaleza, sabia y eficiente, economiza recursos, que se traducen en la paulatina desaparición de las muelas del juicio, cuya necesidad va en detrimento. En el norte de Argentina, en una zona minera de los Andes, se producen filtraciones sistemáticas de arsénico en las aguas que consume la población. La exposición o ingesta de arsénico provoca patologías varias como diversos cánceres, cardiopatías, enfermedades de piel, etc. Sin embargo, los habitantes de la zona no presentan unos ratios superiores a la media. Habrían experimentado una adaptación genética que evita que esa sustancia afecte a su salud. Hace 4 años se hizo un estudio en la Universidad Kings College London con 600 estudiantes, para ver cómo afectaba el bulling al cerebro de las personas. Se constató que quienes habían sufrido acoso padecían modificaciones cerebrales: éste había perdido volumen en las zonas que afectaban a la motivación y la atención. Por último, cuando los psicólogos hablan de la educación de los más pequeños afirman que tienen que aprender a decidir, acorde a su edad, porque eso facilita su maduración y que, cuando no se produce, con educadores o padres que sobreprotegen o coartan, los niños no evolucionan y surgen problemas de asertividad, seguridad, etc. En estos momentos, con la reciente aparición del ChatGPT (el modelo de IA más avanzado de los conocidos como “modelos masivos de lenguaje”, lanzado al mercado en 2022 por OpenAI), ¿qué podría ocurrir si nos acostumbrásemos a preguntarle sistemáticamente alternativas o soluciones en lugar de buscar nosotros mismos esas respuestas en base al análisis y la reflexión? ¿Qué sucedería con niños y adolescentes a la hora de elaborar trabajos escritos en diversas asignaturas? De hecho, ese riesgo ha provocado que el Departamento de Educación de Nueva York ha decidido ya prohibir el uso de ChatGPT a estudiantes y profesores.

¿Podría nuestro cerebro interpretar que su capacidad decisoria es algo poco útil y terminar minimizándola en pro de otras funciones más utilizadas? ¿Qué ocurriría, cientos de años después, en ese caso con los jueces que tendrían que determinar la culpabilidad o no de las personas con una capacidad de decisión mermada? ¿Y qué decisiones adoptarían los políticos? ¿Seguirían apareciendo personas emprendedoras, con visión, ideas novedosas y energía tractora para desarrollar su proyecto? La anticipación es la clave del éxito. Trabajemos ya desde diferentes foros en una regulación humanista del uso de la inteligencia artificial.

Yolanda Zubillaga Mendive. Consultora en Gestión de RRHH. Autora del libro “El talento en las pymes. Guía para gestionar personas en el siglo XXI”