Cada día, las redes sociales se llenan de imágenes de personajes famosos editadas o generadas con inteligencia artificial. Pero en Almería esta practica ya habitual ha ido un paso más allá y la Fiscalía mantiene abierta una investigación por un presunto delito de pornografía infantil después de que se hubieran generado con IA imágenes de 18 menores de edad alumnas de un instituto de la provincia, a quienes habrían desnudado en estas fotografías.

Así lo ha puesto de manifiesto hoy el fiscal provincial de Criminalidad Informática y de Tutela Penal de la Igualdad y Delitos de Odio, David Calvo, durante unas jornadas desarrolladas en la Universidad de Almería bajo el título 'Inteligencia artificial y derechos fundamentales' y que ha reunido a expertos de las Fuerzas y Cuerpos de Seguridad del Estado, así como representantes judiciales e ingenieros, quienes han debatido sobre los límites legales y éticos del uso de la inteligencia artificial.

Desnudos al pulsar un botón

Ha sido en el transcurso de estas jornadas, organizadas por la Guardia Civil, donde se ha conocido el caso de estas 18 menores de edad almerienses que habrían sido desnudadas mediante el uso de una aplicación de IA, que, ha explicado Calvo, es usada generalmente por hombres y con ella se generan miles de desnudos de mujeres cada día.

El salto tecnológico es significativo. Frente a los montajes tradicionales, las nuevas aplicaciones permiten generar desnudos o escenas sexuales completas de forma automática. “Coges la foto de tu compañera de instituto, pulsas un botón y automáticamente aparece desnuda o participando en una escena sexual”, explicó el fiscal delegado de criminalidad informática, David Calvo. Estas herramientas, basadas en sistemas de Deepfake, son capaces de producir imágenes hiperrealistas que, en muchos casos, resultan indistinguibles de las reales.

Herramientas potentes y daño enorme

La investigación se ha presentado como modelo de lucha contra los delitos digitales acometidos con la IA en una jornada celebrada en la Universidad de Almería, organizada por la Guardia Civil, centrada en los riesgos de la inteligencia artificial y su impacto en los derechos fundamentales. En este foro, Calvo ha insistido en la necesidad de concienciar tanto a los jóvenes como a sus entornos sobre el uso de estas tecnologías y sus consecuencias legales: “Estamos ante herramientas muy potentes que, mal utilizadas, pueden provocar un daño enorme y con consecuencias penales muy serias”.

Calvo advirtió además de la dimensión del fenómeno. Según ha expuesto, algunas de estas aplicaciones han llegado a generar millones de imágenes en pocos días, con una capacidad de producción masiva que multiplica el riesgo de difusión y revictimización. “El problema es que no solo se crea la imagen, sino la facilidad con la que se comparte y se reproduce sin control”, ha señalado, incidiendo en el impacto que esto tiene especialmente entre menores.

Desde el punto de vista jurídico, el fiscal ha recordado que cuando las imágenes presentan un alto grado de realismo pueden ser consideradas pornografía infantil, aunque no exista una escena real detrás. En los casos en los que no alcanzan ese nivel, la conducta puede encajar igualmente en delitos contra la integridad moral, al suponer un ataque directo a la dignidad de la persona.

Este nuevo caso, aún en fase de investigación, marca un punto de inflexión en la provincia: del uso de imágenes manipuladas de forma más rudimentaria se ha pasado a un escenario en el que la inteligencia artificial permite generar contenido falso con una calidad y rapidez inéditas.