Des chercheurs de l’université de Washington ont démontré récemment qu’une intelligence artificielle pouvait modifier les images satellite et changer l’apparence d’une ville. Selon eux, il est primordial d’anticiper la possibilité que des personnes mal intentionnées ne se mettent à manipuler des photos aériennes.

Aujourd’hui, les deepfakes sont devenus si sophistiqués qu’il est quasiment impossible de différencier le vrai du faux. On l’a vu récemment avec le deepfake d’un faux Tom Cruise ou les fausses interventions politiques et scientifiques créées dans les milieux complotistes pour convaincre les foules.

Que se passerait-il si le phénomène des deepfakes manipulait le rendu des cartes satellite aériennes ?

Des chercheurs de l’université de Washington, dirigés par Bob Zhao, ont ainsi voulu montrer les risques encourus en créant une IA ayant cette capacité. Le but de cette étude est de montrer que cette IA est très facile à mettre en place et que ses conséquences pourraient être catastrophiques et dangereuses.

Antivirus Gratuit

L’équipe de chercheurs a alors formé l’IA avec les images satellites de 3 villes différentes : Seattle, Tacoma et Pékin. Vue du ciel, chacune a une apparence différente, sauf que I’IA est capable de donner l’apparence de Pékin à Seattle et vice-versa.

Quelles conséquences des deepfakes géographiques ?

La prolifération de telles images pourrait être désastreuse. Elles pourraient, par exemple, être utilisées pour nier les impacts du réchauffement climatique ou effacer des preuves de violation des droits de l’homme, ou permettre à un gouvernement d’effacer la présence de camps d’emprisonnement dans un pays en guerre, fausse preuve à l’appui.

Dans le domaine militaire, elle pourrait induire en erreur un ennemi en positionnant un pont là où il n’y en a pas ou dessiner une route dans une autre direction.

De telles images pourraient aussi grandement tromper le public, comme le déclarent les chercheurs : « Notre étude met en garde contre l’émergence et la prolifération de deepfakes en géographie, tout comme les « mensonges » dans les cartes. Nous suggérons la mise en place de systèmes de détection de deepfakes dans les données géospatiales et des stratégies d’adaptation appropriées si nécessaire. Plus important encore, nous encourageons à cultiver une culture critique des données géospatiales et à comprendre ainsi les impacts à multiples facettes de la géographie deepfake sur les individus et la société humaine ».

Les chercheurs espèrent ainsi éveiller les consciences et les gouvernements sur la nécessité d’agir au plus vite pour contrecarrer l’émergence de telles images dangereuses.