Diario de Navarra

Crece la preocupación por el mal uso de las herramientas de Inteligencia Artificial (IA) o la gestión de cuentas anónimas en Tik-Tok por parte de los adolescentes navarros. Las unidades de Delitos Informáticos de Policía Foral y Guardia Civil ya han intervenido en varios centros a raíz de situaciones de conflicto derivadas de conductas que han incurrido en delitos, con víctimas que en muchos casos son también menores. En otras las vejaciones se han dirigido contra compañeros, pero también han afectado al honor de profesores, por ejemplo. De forma general, lo que está claro es que los menores usan de forma generalizada este tipo de herramientas y trasladan a redes comportamientos que muchas veces no identifican como delitos graves, aunque sí lo sean. “En lo que respecta al Grupo de Delitos Informáticos de Policía Foral, hemos notado la irrupción de este fenómeno a raíz de la aparición de denuncias ciudadanas sobre el uso de IA para la creación y difusión de imágenes sexualizadas o desnudos falsos, fenómeno llamado “deepfakes”. A menudo los jóvenes perciben la generación de este tipo de imágenes como una “broma”, sin dimensionar las consecuencias legales y psicológicas reales que genera en las víctimas” explica un subinspector de esta unidad de la policía autonómica. Lo ve de igual forma el responsable del grupo de Delitos Informáticos de la Guardia Civil de Navarra, que admite que son temas “en ebullición” en los institutos y colegios de la Comunidad foral, donde el desconocimiento de la repercusión de algunas de estas acciones es otra constante. “Los chavales han trasladado bromas del ámbito privado a los foros que ahora son su día a día. Pero no es ninguna tontería, hacer una foto de un compañero en la ducha es producción de pornografía infantil. Ya no digo nada sexualizarla o modificarla para mostrarla en un acto sexual y si a eso le sumamos la posibilidad de difundirla...”. Son varios los centros que se han dirigido a estos policías para que intervengan en algunas situaciones y en otras directamente se han cursado denuncias penales que darán lugar a procedimientos judiciales y responsabilidad civil. La Policía Foral ha tenido denuncias de menores cuyas imágenes se han modificado y sexualizado por parte de otros compañeros de clase y la Guardia Civil ha llegado a practicar detenciones en casos similares, tanto con la sexualización de compañeras de clase como con ‘deepfakes’ de un alumno respecto de otro. “Las consecuencias legales que pueden acarrear este tipo de creaciones por IA son varias. En primer lugar, se trata de un delito, no es ninguna broma. Con la legislación actual el hecho crear, solicitar, poseer y difundir imágenes explícitas o sexualizadas de menores manipuladas mediante IA constituye un delito grave contra la integridad moral, revelación de secretos o posesión/difusión de pornografía infantil entre otros”, suscriben los investigadores. A partir de los 14 años, los adolescentes ya son plenamente responsables penalmente de sus actos según la Ley de Responsabilidad Penal del Menor, pudiendo enfrentarse a medidas judiciales, antecedentes y penas accesorias. Por otro lado, estaría la responsabilidad civil de los padres como responsables subsidiarios de las indemnizaciones económicas derivados de los daños causados por sus hijos a las víctimas”. Por un uso responsable La convivencia con la IA, el uso de las redes y la adolescencia en un entorno digital son realidades irrenunciables, en las que también hay que educar. “Hay que sensibilizar a los menores sobre la violencia digital. Explicarles que desnudar la imagen de un compañero/a vulnera de forma irreversible su intimidad y dignidad. También, saber decir “no” cuando sus amigos o compañeros les incitan a utilizar diferentes aplicaciones para la creación y difusión de este tipo de imágenes, ya que no denunciar o seguir difundiendo también los convierte en cómplices. Por otro lado, hacerles reflexionar sobre el sufrimiento psicológico, la humillación pública, la ansiedad y las consecuencias emocionales que puede sufrir la víctima”. En la Guardia Civil recuerdan que llevan años informando de modo divulgativo de códigos de uso responsable, como aquellos retos que llevan a cabo en la Ciberliga, competición pensada para alumnado de 4º de la ESO. “Hay que tratar estos temas con ellos, tarde o temprano van a usarlos y cuanto más conozcan, mejor”. También coinciden los investigadores en que la prevención de este tipo de hechos comienza desde casa. “Hay que hablar con ellos y, sería conveniente además saber utilizar herramientas de control parental. Por ejemplo, aplicaciones como Google Family Link, Apple Screen Time u otro tipo de controles para limitar la descarga de aplicaciones no autorizadas y bloquear el acceso a sitios web catalogados de contenido explícito o generadores de imágenes sin filtros. También, fomentar el uso de la tecnología en zonas comunes para evitar su uso durante largos periodos sin supervisión o alargar lo máximo posible la entrega de un dispositivo móvil a un menor de edad. En base a nuestra experiencia, la mayoría de denuncias se producen entre personas que mantienen una relación de proximidad. Por ejemplo, compañeros de colegio, de instituto, amigos o amigos virtuales en diferentes redes sociales. En muchas ocasiones, los autores comienzan utilizando aplicaciones de IA por curiosidad o diversión, sin ser conscientes de que la creación y difusión posterior de determinadas imágenes puede constituir delito. “Por eso es clave fomentar la educación digital, respetar la privacidad ajena y el uso responsable de las herramientas de IA, especialmente entre menores”.

Diario de Navarra

Crece la preocupación por el mal uso de la IA y las redes entre adolescentes navarros: "Sexualizar fotos de compañeras de clase puede ser un delito de pornografía infantil"

Policía Foral y Guardia Civil intervienen a raíz de varios casos en centros

Comentarios

Yon Bustamante vuelve a un Mundial

La soprano navarra Sofía Esparza, premio 'Cantante Joven Más Prometedor' de Ópera Actual

Herido de gravedad al caer al foso de la Taconera de Pamplona de forma accidental

Los 14 centros de salud de Pamplona prescribirán la receta deportiva

El waterpolo navarro aúna fuerzas