Depuis leur émergence il y a peu de temps, les deepfakes n’ont cessé de faire des ravages et de s’améliorer techniquement. Ces vidéos truquées grâce à l’intelligence artificielle montraient jusqu’à présent des célébrités ou des hommes politiques disant ou faisant des choses complètement farfelues, avec un résultat hyper réaliste, à tel point qu’il est difficile sur certaines de détecter le vrai du faux.

Depuis quelques semaines, un vaste système très élaboré de deepfakes pornographique a émergé, dont l’ampleur et la simplicité technique sont inédites. Ce système aurait touché plus de 100 000 femmes sur l’application de messagerie Telegram. Le principe ?

Un bot associé à une intelligence artificielle spécialisée dans l’imagerie permet à des personnes malintentionnées d’aller piocher dans les photos personnelles de femmes et de les fournir au logiciel qui se charge de dénuder ces femmes artificiellement à leur insu. Ces photos sont ensuite partagées à une communauté de 25 000 membres sur Telegram.

Le résultat visuel est plus ou moins convaincant selon les cas, mais certaines photos semblent tout à fait réelles et concernent parfois – et c’est d’autant plus grave – des jeunes filles mineures.

Pour les membres de ce groupe, ces deepfakes sont juste « un divertissement », mais pour les victimes, les dommages peuvent être évidemment incommensurables. Et n’importe qui peut être piégé, puisque le système ne nécessite aucune connaissance technique particulière : vengeance personnelle ou simple blague, cela peut aller très loin, et être partagé en masse sur les réseaux sociaux, totalement à l’insu des personnes concernées.

Jusqu’ici, les femmes les plus touchées par les deepfakes pornigraphiues étaient les célébrités comme les mannequins ou les actrices. Mais désormais, des femmes et des jeunes filles anonymes sont concernées à grande échelle et risquent un « revenge porn » ou un chantage : on pourrait leur demander de l’argent pour retirer la fausse photo du web.

Pour le moment, la Russie et plusieurs pays d’Europe de l’est sont concernés, mais nous voyons émerger ce type de malveillance partout dans le monde.

Que dit la loi en France ?

La loi française interdit toute forme de diffusion de montage pornographique sous peine de risquer jusqu’à un an d’emprisonnement et 15 000€ d’amende si l’on publie « par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention. »

D’autre part, la loi du 22 décembre 2018 relative à la lutte contre la manipulation de l’information oblige les géants du web comme Pornhub, Twitter, Gfycat et Reddit à applique une politique de suppression systématique des deepfakes et de fermer tout compte ou espace d’échange qui en proposent.

Compte tenu de ces récentes révélations, il y a encore du travail pour empêcher toutes ces nouvelles formes de nuisances.

Download Panda FREE antivirus