Site icon Panda Security Mediacenter

Deepfakes con imágenes de satélite, nuevo problema para los gobiernos

Cuando pensamos en deepfakes, tendemos a imaginar falsificaciones de imágenes o vídeos de personas, generados mediante Inteligencia Artificial. Pero las posibilidades de esta tecnología son mucho más amplias; cada vez más expertos advierten sobre su posible aplicación en otros campos como la geografía o la cartografía, la manipulación de imágenes de paisajes urbanos y rurales, etc. En concreto, los geógrafos están preocupados por la difusión de deepfakes de imágenes satelitales, que abren la puerta a múltiples amenazas y aportan un arma más a las campañas de desinformación.

Éstas podrían, por ejemplo, utilizarse para desacreditar historias basadas en imágenes vía satélite reales que un determinado gobierno quiera mantener ocultas o para crear bulos sobre incendios forestales o inundaciones. Los deepfakes sobre cartografía podrían ser incluso un problema de seguridad nacional, ya que es probable que rivales geopolíticos se sirvan de ellos para tratar de confundir a los respectivos servicios de información.

Un primer paso para abordar estas cuestiones, según los expertos, es concienciar de que el problema existe. En este sentido, investigadores del departamento de geografía en la Universidad de Washington han publicado recientemente un artículo sobre los llamados Deepfakes geográficos, que incluye sus propios experimentos de generación y detección de estas imágenes. “Mientras que muchos profesionales de los SIG [sistemas de información geográfica] han estado celebrando los méritos técnicos del aprendizaje profundo y otros tipos de IA para la resolución de problemas geográficos, pocos han reconocido o criticado públicamente las amenazas potenciales de los deepfakes en el campo de la geografía”, escriben los autores.

Redes generativas adversariales

Aunque los deepfakes son la última versión, se inscriben en una larga tradición en lo que se refiere a la falsa geografía, que se remonta a milenios. Los seres humanos llevan mintiendo con los mapas prácticamente desde que estos existen, por ejemplo las geografías mitológicas ideadas por los fenicios para mantener ocultas sus rutas comerciales o los mapas de propaganda distribuidos por los servicios de contraespionaje. Un caso especialmente curioso es el de las llamadas ciudades de papel o las calles trampa, una técnica que utilizan algunos autores que insertan en sus mapas detalles falsos para detectar quién ha reproducido su trabajo sin permiso.

Como parte de su estudio, los investigadores de la Universidad de Washington han creado un software de generación de imágenes falsas, utilizando el mismo método básico de IA (una técnica conocida como redes generativas adversariales, o GAN) que siguen programas populares como ThisPersonDoesNotExist.com. A continuación, crearon otro software de detección capaz de identificar las falsificaciones basándose en características como la textura, el contraste y el color. El problema es que los autores señalan que cualquier herramienta de detección necesita actualizaciones constantes para mantenerse al día con las mejoras en la generación de falsificaciones.

Por otro lado, subrayan que es más fácil producir imágenes de satélite falsas que vídeos falsos de seres humanos: en las imágenes lejanas de un satélite, resoluciones bajas pueden ser igual de convincentes. Además, como medio, son intrínsecamente creíbles, ya que la mayoría están firmadas por profesionales o agencias oficiales, de forma que el público suele confiar en ellas. Esa confianza es, para los autores del estudio, uno de los grandes peligros potenciales: “Si seguimos sin ser conscientes de los deepfakes y sin estar preparados contra ellos, corremos el riesgo de entrar en una distopía de la geografía falsa”.

Exit mobile version