Alumnas españolas son víctimas de falsos desnudos con IA, pero ¿es delito?

Cuando volvieron al colegio tras las vacaciones de verano, más de veinte chicas de Almendralejo, una ciudad del sur de España, recibieron fotos suyas desnudas en sus teléfonos móviles.

Ninguna de ellas había tomado las fotos, pero parecían completamente reales.

Las imágenes habían sido robadas de sus cuentas de Instagram, alteradas mediante una aplicación de inteligencia artificial y luego compartidas en grupos de Whatsapp.

Las adolescentes estaban completamente vestidas en las fotos reales, pero la aplicación hizo que la desnudez pareciera completamente real.

Ahora, padres y fiscales se preguntan si se ha cometido un delito, aunque las fotos sean realmente reales: ¿podrían considerarse pornografía infantil?

«Los montajes son súper realistas, es muy perturbador y una auténtica barbaridad», escribió Miriam Al Adib, una de las madres de las niñas, en su cuenta de Instagram.

«Mi hija me dijo con gran disgusto: ‘Mamá, mira lo que me han hecho'», añadió.

Al Adib llegó a afirmar que las fotos podrían haber llegado a portales de internet como Onlyfans o páginas pornográficas. Durante todo ese tiempo, las chicas soportaron los comentarios de sus compañeros.

La menor de las niñas sólo tiene 11 años y aún no está en el instituto.

Las madres de algunas de las víctimas denunciaron lo ocurrido.
Canva

Otra madre, Fátima Gómez, declaró a Extremadura TV que su hija había sido chantajeada.

En una conversación con un chico en las redes sociales, este le pidió dinero y cuando ella se negó, le envió una foto desnuda.

Las madres se han organizado para denunciar lo ocurrido y la Policía Nacional ha abierto una investigación y ya ha identificado a varios menores presuntamente implicados.

Algunos de ellos son compañeros de clase de las chicas, según reveló un político local.

El caso ha sido remitido a la Fiscalía de Menores, y el propio alcalde de la localidad advirtió: «Puede haber empezado como una broma, pero las implicaciones son mucho mayores y podrían tener graves consecuencias para quienes hicieron estas fotos».

10 euros por 25 fotos de desnudos

Las creaciones hiperrealistas de inteligencia artificial, más conocidas como deepfakes, fueron realizadas con la app ClothOff.

Con el eslogan «Desnuda a cualquiera, desnuda a chicas gratis», la app permite a los usuarios quitar la ropa a cualquiera que aparezca en la galería de fotos de su teléfono. Cuesta 10 euros crear 25 imágenes desnudas.

Aunque los desnudos no son reales, las madres dicen que la angustia de las niñas al ver su foto es muy real.

«No sois conscientes del daño que habéis hecho a estas niñas y tampoco sois conscientes del crimen que habéis cometido», dijo Al Adib en su cuenta de Instagram en un mensaje dirigido a las personas que compartieron las imágenes.

«A mi hija le dijo uno de ellos que había hecho ‘cosas’ con su foto», declaró otra de las madres al diario español El País.

Pero, ¿se puede castigar legalmente a los deepfakes?

«Una cuestión es si se debe castigar y otra es si se puede castigar por cómo está redactada la ley en España y en otros países de la UE», explica a Euronews Manuel Cancio, catedrático de Derecho Penal de la Universidad Autónoma de Madrid.

El especialista señala que existe una laguna legal porque la utilización de rostros de menores en fotografías afecta a su intimidad, pero cuando se trata de delitos en los que se difunden imágenes íntimas, es la imagen en su conjunto la que vulnera la intimidad.

«Al estar generada por deepfake, la intimidad real de la persona en cuestión no se ve afectada. El efecto que produce (en la víctima) puede ser muy similar al de una foto de desnudo real, pero la ley va un paso por detrás», añade.

Cancio dice que el marco legal que podría funcionar en este caso sería un delito contra la integridad moral, «una especie de cajón de sastre para delitos que nadie sabe dónde meter».

En marzo de 2022, la Comisión Europea propuso tipificar este tipo de delitos en una directiva sobre ciberdelincuencia. Según el profesor, el Código Penal holandés es el único que cuenta con una disposición al respecto.

La Policía Nacional ha abierto una investigación y ya ha identificado a varios menores presuntamente involucrados.
Canva

¿Puede considerarse pornografía infantil?

Los expertos están divididos sobre si el delito podría considerarse distribución de pornografía infantil, lo que conllevaría una pena mayor, y prefieren pecar de cautelosos.

Para Leandro Núñez, abogado especializado en nuevas tecnologías del bufete Audens, la clave no es si la foto es 100% real, sino si lo parece.

«Lo más importante es si la cara es identificable. Podemos estar hablando de pornografía infantil, de delitos contra la integridad moral o de distribución de imágenes de contenido sexual no consentido», explica el abogado a Euronews.

«En el caso de un delito contra la integridad moral, se consideraría un delito menor, por lo que conllevaría una pena menor de seis meses a dos años de prisión», añade.

Otros expertos, como Eloi Font, abogado del bufete Font Advocats, especializado en derecho digital, creen que podría tipificarse como un delito similar a la reproducción de imágenes sexuales de menores.

En este caso, la pena podría ser de entre cinco y nueve años de cárcel.

Source link