Deepfakes y la Amenaza a la Intimidad de las Mujeres

La creación y difusión mediante herramientas de Inteligencia Artificial (IA) de falsos desnudos de menores en Almendralejo (Badajoz) hace algunas semanas ha llamado la atención de la opinión pública sobre las implicaciones de los deepfakes en la violencia machista.

En particular, de los deepfakes basados en imágenes reales de mujeres, utilizadas sin su consentimiento y que pueden suponer un abuso para la intimidad, con posibles consecuencias penales y multas elevadas para los infractores.

Deepfakes y sus Implicaciones Legales

En este caso, una veintena de madres denunció ante la Policía Nacional la existencia de imágenes de sus hijas que circulaban por redes sociales, imágenes falsas creadas con IA para que las menores apareciesen desnudas.

Los identificados como presuntos autores de los falsos desnudos, tienen entre 12 y 14 años, y “a priori todo apunta a que son del entorno de las víctimas”, según ha informado la Policía.

La Inteligencia Artificial Generativa y su Papel en Almendralejo

Se trata de uno de los primeros hechos de este tipo que ha saltado a la portada de los medios de comunicación y al debate público, una prueba de los efectos de la generalización de las herramientas basadas en la inteligencia artificial, que ya están al alcance de personas sin conocimientos técnicos avanzados.

En particular las relacionadas con la IA generativa, que tantos titulares ha ocupado desde el lanzamiento de ChatGPT.

En el caso de Almendralejo, la inteligencia artificial de la aplicación utilizada forma parte de
una tecnología denominada LoRA (Low-Rank Adaptation) que se comparte libremente en múltiples páginas web. Se trata de modelos de IA básica que luego el usuario puede entrenar en una determinada capacidad.

Según las primeras informaciones, se ha utilizado una LoRA entrenada especialmente en
desarrollar contenido sexual explícito mediante IA.

No obstante, estos sistemas pueden ser entrenados en cualquier tipo de capacidad si se les proporciona la base de datos adecuada.

Acceso Fácil a la Inteligencia Artificial Generativa

Hasta ahora, para usar este tipo de sistemas con un entrenamiento especial el usuario debía descargarlos a su dispositivo o usar los que otros usuarios hubieran subido a esas páginas especializadas.

Si ya era un proceso simple, que no requiere conocimientos avanzados, la aplicación que utilizaron los menores en Badajoz es aún más directa: el usuario no tiene que descargar nada ni buscar información sobre cómo utilizar los programas para interactuar con la IA. Sólo tiene que subir una foto de una mujer y esperar a que el sistema genere un desnudo.

La Difusión Rápida y la Huella digital

No hay que olvidar que la llegada de estas nuevas tecnologías presenta una nueva amenaza para la intimidad, especialmente en lo que respecta a las mujeres y a la difusión de imágenes de su cuerpo.

La Agencia Española de Protección de Datos cuenta con un mecanismo para frenar la difusión de imágenes -su canal prioritario- aunque lo cierto es que es muy complicado eliminar por completo la huella digital de estos contenidos, que se difunden con mucha celeridad por la Red.

El Desafío Legal y la Regulación de las Herramientas de IA

La llegada de este tipo de aplicaciones de IA ha pasado de ser un problema teórico a uno real en muy poco tiempo.

Como a menudo en el mundo digital, la legislación va con retraso al uso y las herramientas ya están disponibles y al alcance de los usuarios sin que la ley esté totalmente adaptada a las nuevas realidades. Y los casos que comienzan a surgir están planteando el debate sobre la regulación o prohibición de dichas herramientas.

La UE está ultimando un nuevo Reglamento para la Inteligencia Artificial que previsiblemente se aprobará durante la presidencia española.

El Debate sobre la Prohibición vs. la Regulación

Uno de los puntos que se está debatiendo en la UE es la posibilidad de prohibir los LoRA para los que no se pueda aplicar una supervisión efectiva; establecer normas que impidan que cualquier usuario pueda descargar inteligencias artificiales de código libre y las entrene de la forma que desee.

En el lado contrario del debate, se encuentran especialistas que explican que los LoRA son solo una herramienta y que la mera prohibición no es la estrategia adecuada.

Además, otro reto para los reguladores será la unificación y armonización de las reglas internacionales, para evitar que los infractores puedan alojarse en países sin los mismos niveles de regulación. En noviembre también se celebrarán debates sobre inteligencia artificial en el Reino Unido y Japón.