Diario de Navarra

La inteligencia artificial (IA) está llamada a cambiar el mundo de un modo que no tiene precedentes. Por lo pronto ha empezado a modelar una nueva sociedad en la que todavía no se sabe cómo convivirán ni de que forma humanos y máquinas. Un nuevo escenario que no está exento de riesgos y plantea importantes desafíos éticos para salvaguardar los derechos fundamentales. Repasar la historia y sus revoluciones quizás le ayude ahora que nos enfrentamos a una nueva revolución que no pocos expertos asemejan ya a la aparición de internet. El progreso sigue dando vértigo. Pero la historia siempre (o casi) se repite. La revolución industrial, impulsada por la invención de la máquina de vapor y el aumento de la disponibilidad de recursos como el carbón y el hierro, provocó uno de los mayores rechazos de la historia al avance de la tecnología, pero terminó dejando como legado un periodo, si no el mayor, de gran progreso para la humanidad desterrando para siempre la necesidad de la fuerza de trabajo humana. Aunque muchos trabajadores perdieron su empleo, otros tantos, y la sociedad en su conjunto, se acabaron beneficiando de los cambios tecnológicos y económicos que dejó. Hoy, a una velocidad que no tiene precedentes, son las capacidades intelectuales de las personas las que están siendo sustituidas cada vez con mayor eficiencia por los avances tecnológicos: un proceso que, desde hace algunos años, está tomando un ritmo vertiginoso con el desarrollo de la inteligencia artificial. Los ejemplos son numerosos y su aplicación se extiende a la práctica totalidad de los sectores económicos. En las informaciones recogidas en este medio sobre la IA se ha repasado cómo está impactando en la mayor parte de los sectores industriales una inteligencia que tiene el potencial de optimizar los servicios de prácticamente cualquier industria. Hay desde inteligencias artificiales que realizar diagnósticos más precisos que el mayor de los expertos, a otras generativas como ChatGPT que elaboran textos, imágenes o vídeos imposibles de diferenciar de los que haría un ser humano lo que suscita el miedo de muchas personas a volverse prescindibles. Pero, ¿dónde están los límites? ¿Qué papel debe tener la ética en la Inteligencia Artificial? LA ESTRATEGIA EUROPEA: REGULACIÓN COMO SALVAGURDA DE DERECHOS FUNDAMENTALES La Unión Europea (UE) ya cuenta con la primera ley del mundo que permitirá regular y establecer un estándar global sobre el uso de la inteligencia artificial (IA). El Pleno de Parlamento Europeo aprobó en marzo la directiva y en mayo el Consejo -que reúne a los representantes de los 27 gobiernos- dio, sin debate y por unanimidad, el aprobado definitivo a una legislación calificada de “histórica”. La normativa se aplicará de forma gradual hasta su plena entrada en vigor en 2026. Un periodo que para no pocos expertos parece demasiado largo. “Puede que en dos años estemos ya en otra generación de IA y ya no sirva lo aprobado”, reflexiona Ana Azurmendi, Catedrática de Derecho Constitucional de la Facultad de Comunicación de la Universidad de Navarra para quien el gran problema que se plantea es cómo conseguir el equilibrio entre mantener el nivel de empleo que la economía necesita y las mejoras que conlleva la IA. “Si la IA se aplicara de una manera radical en todos los sectores y servicios el nivel de paro se puede ir de las manos porque hay muchos trabajos, sobre todo no cualificados, que son fácilmente sustituibles”, razona. El objetivo de la nueva regulación europea es fomentar el desarrollo y la adopción de sistemas de IA seguros y confiables en todo el mercado único de la UE por parte de actores públicos y privados, además de garantizar el respeto de los derechos fundamentales de los ciudadanos y estimular la inversión y la innovación en Europa. LAS DIRECTRICES ÉTICAS PARA UNA IA FIABLE Aunque no será hasta 2026 cuando entre en vigor el código de buenas prácticas que recoge la normativa europea y será de obligado cumplimiento, como recuerda Azurmendi, ya está plenamente operativa la guía ética para IA fiable que aprobó la Comisión Europa en 2019 y que en buena medida ha marcado el camino del código de buenas prácticas que entrará en vigor en nueve meses. Lo que busca es promover una inteligencia artificial fiable en base a tres componentes que deben satisfacerse a lo largo de todo el ciclo de vida del sistema. Por un lado, que la IA debe ser lícita, es decir, cumplir todas las leyes y reglamentos aplicables. También ética, para garantizar el respeto de los principios y valores y, además, robusta, tanto desde el punto de vista técnico como social, puesto que los sistemas de IA, incluso si las intenciones son buenas, pueden provocar daños accidentales. “La UE quiere adelantarse de alguna manera al crecimiento exponencial que va a tener la IA que quiere que tenga como centro a la persona y sea un sistema fiable y robusto”. UN ENFOQUE BASADO EN LOS RIESGOS Y SISTEMAS PROHIBIDOS La nueva regulación europea sigue un enfoque basado en los riesgos. Es decir, que cuanto mayor sea el peligro para la sociedad más estrictas serán las normas. Por ejemplo, los sistemas de IA que presenten solo un riesgo limitado estarán sujetos a obligaciones de transparencia muy leves, mientras que los sistemas de IA de alto riesgo estarán autorizados, pero tendrán que cumplir requisitos y obligaciones más estrictos para obtener acceso al mercado de la UE. También prohibirá los sistemas de manipulación cognitivo-conductual y puntuación social porque su riesgo se considera inaceptable y el uso de IA para vigilancia policial predictiva basada en perfiles y sistemas que utilizan datos biométricos para clasificar a las personas según categorías específicas como raza, religión u orientación sexual. Además, estarán prohibidos los sistemas destinados a crear bases de datos faciales captados de manera indiscriminada a través de Internet o de grabaciones audiovisuales. La normativa también establece que los modelos de inteligencia artificial generativa, como ChatGPT, tendrán que dejar claro si un texto, una canción o una fotografía se han generado a través de la IA y garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor. De la sociedad industrial al nihilismo tecnológico Gracias a las máquinas se cambiaron los paradigmas del trabajo, como la producción en cadena, se crearon nuevos trabajos y otros se perdieron casi para siempre. A principios del siglo XX las máquinas habían logrado conquistar casi todas las actividades del ser humano y apareció una nueva máquina: el ordenador, diseñado para sustituir al ser humano en trabajos relacionados con la información. Junto con las comunicaciones, fue uno de los baluartes de la construcción de una nueva sociedad: la del conocimiento. Al principio, las computadoras solo realizaban cálculos simples, pero rápidos. Con el tiempo, fueron capaces de ejecutar cualquier tarea representable mediante un algoritmo. Sin embargo, muchas tareas consideradas como inteligentes no pueden ser reducidas a un algoritmo. Es aquí donde surgen los procesos inteligentes o la inteligencia artificial, que funcionan a partir del aprendizaje, la experiencia o la heurística. Lo que hoy conocemos como inteligencia artificial no es más que una evolución que se origina en una máquina que nace en la sociedad industrial y que poco a poco va sustituyendo el trabajo intelectual del ser humano. “Nacida hace siete décadas del empeño utópico de la ciencia moderna de imitar la inteligencia humana, solo quiere superarla desprovista de sus defectos. Tanto que, ahora, corre descontrolada y a velocidad de vértigo hacia la meta de una consciencia que le hará creerse perfecta”. Con estas palabras, José María Lacalle imagina en su nuevo libro “Civilización Artificial” las consecuencias de esta nueva civilización en la que humanos y máquinas convivirán aunque todavía no se sabe de qué forma ni cómo. “¿Queremos impedir que se imponga un nihilismo tecnológico que maximice la voluntad de poder de la IA como apoteosis de sí misma? ¿O deseamos ofrecer una alternativa humana que ponga el poder de la IA al servicio de un propósito superior, que nos haga evolucionar del Homo digitalis que somos, al Homo deus que podemos ser?”, se pregunta el autor. Sistemas de IA que prohíbe el reglamento europeoLos que desplieguen técnicas subliminales con el objetivo de distorsionar el comportamiento de una persona de manera que pueda causarle daños físicos o psicológicos a él o a otros.Los que exploten vulnerabilidades de un grupo específico de personas por su edad, discapacidad o situación social o económica de forma que distorsionen el comportamiento de estas personas y probablemente les causen daños a ellas o a otras.Sistemas que elaboren perfiles de personas según su comportamiento, creando un “baremo social” que pueda resultar en que personas o grupos reciban un trato desproporcionadamente desfavorable al comportamiento observado, o en un trato desfavorable en un contexto que no es aquél donde ser recogieron los datos.Se prohíbe el uso para aplicaciones policiales o de orden público de la identificación biométrica en tiempo real en lugares accesibles al público por parte de las fuerzas y cuerpos de seguridad, o en su nombre, salvo en estos casos: búsqueda de víctimas potenciales de delitos; prevención de amenazas específicas y sustanciales sobre infraestructuras críticas o sobre personas físicas; prevención de ataques terroristas; y persecución de crímenes punibles con más de cinco años de privación de libertad. Antes se valorará la probabilidad y escala del daño posible sin esos sistemas y del daño que esos podrían ocasionar; mediará autorización judicial o administrativa; y se impondrán limitaciones temporales, geográficas y personales. Fuera de estos casos, la identificación biométrica también está sujeta al RGPD 2016/679 y la Directiva de tratamiento de datos personales por las autoridades 2016/680.

Diario de Navarra

La encrucijada de la nueva civilización artificial

La inteligencia artificial (IA) ha empezado a modelar una nueva sociedad que plantea importantes desafíos éticos para salvaguardar derechos fundamentales

Comentarios

Un incendio iniciado en un vehículo se extiende a la vegetación en Traibuenas

El Gobierno ha reclamado al final a Sendaviva que devuelva 652.200 euros

Una lesión emborrona el estreno de Jon Sanz en Valladolid y se despide de la cita

Fotos del chupinazo de fiestas de Barañáin 2026

Las autoescuelas navarras piden la dimisión de la jefa provincial de Tráfico: "Nos promete mejoras que nunca llegan"