La Inteligencia Artificial (IA) que posibilita cribados más efectivos de cáncer de mama y que ya es capaz de predecir el avance del fuego en los bosques de Las Hurdes (Cáceres) gracias a unos sensores en los árboles es la misma que ha puesto al líder del PP, Alberto Núñez Feijóo, a hablar inglés, vistió al Papa con un plumífero de Balenciaga, 'arrestó' a Donald Trump y también ha desnudado digitalmente a una treintena de chavalas de Almendralejo (Badajoz), cuyas fotos se han difundido por redes sociales. Es la cara y la cruz de esta prometedora tecnología que abre esperanzas y alienta miedos casi a partes iguales. Y que obliga a introducir la dimensión ética en el debate sobre a dónde nos lleva el acelerado desarrollo de una herramienta sobre la que sus artífices han expresado temores.

En marzo, los padres de la IA llamaban a parar un tiempo para frenar lo que ellos mismos calificaban de "carrera descontrolada". En junio, el Parlamento Europeo acordaba regular el uso de la IA y promovía un código de buenas prácticas voluntario para empresas tecnológicas. Pero estos días, el grotesco caso de las fotos manipuladas de las niñas de Almendralejo ha puesto en evidencia que estas medidas y advertencias se han vuelto papel mojado en la práctica. "El discurso actual de la Inteligencia Artificial se ha quedado en la trampa. Pero no pongamos la mirada solo en la tecnología, como si esas imágenes y vídeos falsos se hicieran solos. Antes de internet, las chicas tenían que aguantar en el colegio comentarios sobre lo corta o larga que llevaban la falda. Pero internet, y especialmente la IA, han supuesto un cambio de escala", reflexiona Amparo Lasen, socióloga experta en tecnología, género y juventud.

A finales del año pasado, cuando la aplicación de IA ChatGPT consiguió el hito de convertirse en semanas en palabra de uso cotidiano nos entreteníamos con las monerías que era capaz de hacer la máquina. Era la novedad, un juguete con el que, a golpe de click, podías convertir tu localidad en un escenario de la película 'Star Wars' o colocar a Tom Cruise fotografiándose en la plaza del pueblo... No tardaron en asomar los pícaros: una imagen creada con IA burló a los jueces y ganó un concurso de arte y en un certamen de cuentos infantiles organizado en el País Vasco descubrieron que uno de cada cinco relatos presentados no lo había escrito el estudiante que lo firmaba, sino un programa informático.

La cosa pasó a mayores y elevó el tono del debate mediático cuando esos mismos estudiantes se pusieron a hacer trampas en los exámenes. Ya no tenían que buscar en 'El rincón del vago' para copiar un trabajo porque ChatGPT lo hacía más rápido.

 ¿NUESTRO SISTEMA EDUCATIVO EN CRISIS? 

"Yo no demonizaría estas herramientas. Lo que tenemos que hacer es repensar los sistemas de evaluación. No califiques al alumno con un resumen de un libro que puede sacar, sin leerlo, de una app de IA. Mándale que haga una reflexión personal sobre el tema que aborda ese libro o un trabajo de campo, labores que ChatGPT no sabe hacer", propone Amparo Lasen, también profesora de la Universidad Complutense de Madrid.

Leyendo 'Mein Kampf' Pero esa 'vigilancia' que pueden extremar los profesores en el aula no puede luchar contra las noticias falsas que se camuflan entre las verdaderas en el gigantesco universo mediático digital. El actor Stephen Fry, narrador de los audiolibros de 'Harry Potter', denunciaba que habían utilizado sin permiso su voz para un documental: "Podían haberme hecho leer cualquier cosa, desde una llamada para asaltar el Parlamento hasta porno duro". De hecho, a otra actriz de la misma saga, Emma Watson, una aplicación de clonación de voz le puso a leer en Twitter (ahora X) un fragmento del 'Mein Kampf' de Adolf Hitler. El también intérprete Bruce Willis aparece en anuncios que nunca ha rodado y a Messi, Belén Esteban, Chelo García Cortés o Núñez Feijóo, entre otros famosos, les han puesto a hablar inglés solo por hacer burla con ellos.

Ana Rosa Quintana recurrió a la IA para publicitar su nuevo programa, 'TardeAR', presentándose con una imagen de hace 35 años, pero eso fue a propósito. No así lo que le sucedió a Susana Griso, que contaba con fastidio y sorpresa que en una exposición de ARCO vio una imagen suya y de otras presentadoras simulando felaciones en una obra de carácter sexual: "Pregunté si era denunciable y me dijeron que era arte", ha contado Griso. "En el caso de las personas famosas, el círculo de protección de su intimidad no es tan amplio. Habría que valorar la gravedad de la burla en cada caso, si se ha podido cometer un delito de injurias o contra la integridad", orienta Mónica Caellas, profesora de Derecho Penal Tecnológico en UIC Barcelona.

Más allá del perjuicio para los afectados, está la posibilidad de equívoco para el internauta. ¿Cómo saber ya qué es real y qué no? Para evitar estos errores, el Parlamento Europeo quiere etiquetar los contenidos creados con Inteligencia Artificial (imágenes, vídeos, textos.) con una 'marca de agua' que permita reconocer de un primer vistazo que esa imagen ha sido manipulada. "Pero cualquier ley debe ser, como mínimo, europea, y mejor mundial. No sirve que España imponga límites al desarrollo de un software determinado si Francia no lo hace", opina Mónica Caellas.

Y advierte: "Poner límites al desarrollo de la Inteligencia Artificial es complicado porque también es una tecnología positiva que traerá grandes avances en medicina y en otros campos". Aunque eso tendrá su precio: la Organización para la Cooperación y el Desarrollo Económico calcula que en España hay un 28% de empleos en riesgo de automatizarse en los próximos años por esta causa y algunos sectores lo están sufriendo ya. El cine, por ejemplo. Una docena de empresas de comunicación estadounidenses -Disney, CNN...-, han bloqueado ChatGPT en sus webs para evitar que recopile contenidos. Y los guionistas han levantado la voz porque, si existe una herramienta capaz de generar un guion de película o de teatro a partir de una sola frase que explique el argumento, ¿qué pasará con ellos? Hasta 9 años si son adultos "La Inteligencia Artificial tiene esa doble cara", alerta Mónica Caellas. Y estamos viendo la más fea: "Algo está fallando. Estamos asistiendo a episodios de violencia". Se refiere a los desnudos falsificados con una aplicación de Inteligencia Artificial de una treintena de chavalas en Almendralejo y al caso de Ayamonte (Huelva), en el que veinte chicas fueron desnudadas no con IA, pero sí con Photoshop. La Policía ya ha identificado a una decena de menores de entre 12 y 14 años en el caso extremeño y a un adolescente de 16 como presunto responsable del delito de Huelva.

- ¿Estamos protegidos por la ley ante estos casos o hace falta tipificar nuevos delitos? 

Caellas: El Derecho va a la velocidad que va, mientras que la tecnología avanza tremendamente deprisa. Ese desfase, que ya existía, es exagerado con la irrupción de la Inteligencia Artificial. Pero el Código Penal contempla ya los delitos en los que se encuadran estas actuaciones. En el caso de las menores de Almendralejo estamos ante un posible delito de pornografía infantil. Podría haber otro delito vinculado, el ataque a la intimidad y a la integridad moral. Habría que valorar el daño causado a las víctimas a nivel reputacional, las lesiones psíquicas que pudieran presentar derivadas de la publicación de esas fotos manipuladas. Si el autor de las mismas fuese un adulto, prosigue Caellas, "podrían caerle hasta 9 años de cárcel por el delito de pornografía y hasta 2 en el caso de vulnerar la integridad de las menores".

- Pero todos son menores.

Caellas: Lo que es delito para un mayor lo es para un menor. La diferencia radica en las consecuencias. Si tiene menos de 14 años es inimputable, no se puede hacer nada por la vía penal. Pero sí por la civil, reclamando una indemnización a la familia o tutores de ese chaval. Si han cumplido ya 14 en el momento de los hechos lo más grave es el internamiento por 2 años, además de la indemnización. Ambos procesos pueden ir por separado o integrarse en uno solo.

En todo caso, se está en el inicio y el protocolo es claro. Lo explica a este periódico un portavoz del Tribunal Superior de Justicia de Extremadura: "La Policía tiene que hacer llegar el atestado al Juzgado de Instrucción. Cuando el delito lo ha cometido un menor se pasa a la Fiscalía de Menores (en este caso, a la de Badajoz). Si tienen menos de 14 se archiva la causa; si tienen más, se instruye para definir qué delito se ha cometido e imponer así la pena".

"YA NO HAY QUE ROBAR FOTOS A LA CHICA. TE LAS INVENTAS" 

  "Nunca habíamos llegado a estos extremos. Nos está sorprendiendo", reconoce María Bernal, secretaria general de la Asociación Española de Mujeres Juristas. Se refiere a los falsos desnudos de las adolescentes de Almendralejo y Ayamonte. "Se nos están presentando situaciones caóticas. Hay una libertad tremenda de acceso a herramientas informáticas, cualquier chaval tiene un móvil, sabe manejarlo y se están cometiendo delitos en el ámbito escolar, en grupos de amigos... Es un caos", advierte la letrada, que no ve un futuro mejor: "El problema de estas situaciones es que invitan a copiar. 'Si estos chavales lo han hecho, ¿por qué no nosotros?'". Comparte la preocupación la socióloga Amparo Lasen. Pero no tanto la sorpresa. "La conversación masculina sobre las mujeres siempre ha existido. La cosa es que ahora es pública, la dimensión cambia. Los chavales, aunque no nazcan con el rol, aprenden que los chicos tienen el poder de controlar y humillar a las chicas y que la labor de ellas es intentar que no les pase". Las redes posibilitaron la difusión masiva de fotos de este tipo, pero la Inteligencia Artificial ha puesto la puntilla. "Muchas chicas habían dejado de hacer topless en la playa por miedo a que les hicieran una foto, pero ahora ya no hace falta robarles la foto. ¿Para qué si te la puedes inventar usando una herramienta de IA?".

CÓMO RETIRAR ESAS IMÁGENES DE LAS WEBS

Además de la vía judicial, las víctimas de los falsos desnudos y otros 'fakes' de la IA tienen un segundo camino: la Agencia Española de Protección de Datos, que en 2019 creó el 'Canal Prioritario'. "Se trata de una iniciativa pionera que permite solicitar la retirada urgente de contenidos sexuales o violentos publicados en internet sin consentimiento. En el caso de Almendralejo, la Agencia ha contactado con el Ayuntamiento para que difundan que se puede solicitar la retirada de las imágenes