change language     -         


L'IA fait basculer le fake porn dans une nouvelle ère

December 23, 2017, 9:11 am

Type: SCIENCE_TECHNOLOGIE

       




news_image

Quelqu'un a utilisé un algorithme de machine learning pour copier-coller le visage de l'actrice Gal Gadot sur celui d'une performeuse X.


 

Vous avez vu la vidéo de Gal Gadot qui couche avec son demi-frère ? Elle traîne sur Internet depuis quelques temps. Ce n’est juste pas le corps de Gal Gadot. Ce n’est presque pas son visage non plus, d’ailleurs. C’est une expérience, une approximation, un face-swap conçu pour donner l’illusion que l’actrice israélienne a vraiment tourné dans une vidéo pornographique fauxcest.

Les images en question ont été créées à l’aide d’un algorithme de machine learning. La mauvaise nouvelle, c’est que n’importe quel individu doté d’un minimum de connaissances dans le domaine du deep learning aurait pu bricoler cette formule dans son coin. Le code nécessaire est accessible en open-source.

 

Le spectateur attentif remarquera rapidement que quelque chose cloche dans la vidéo. Par moment, le visage ne “s’accroche” pas correctement à la tête. Du coin de l’oeil, par contre, ça passe.

Le plus frappant, c’est que tout ceci est l’oeuvre d’un seul individu. Deepfakes - c’est son pseudonyme sur Reddit - n’a pas eu besoin de l’aide d’un studio d’effets spéciaux de pointe pour créer sa Gal Gadot artifcielle : il s’est contenté d’outils de machine learning open-source comme TensorFlow, une bibliothèque logicielle distribuée gratuitement par Google.

Comme cet outil Adobe qui permet de faire dire n’importe quoi à n’importe qui ou l’algorithme Face2Face, ce genre de fake montre que nous sommes sur le point de basculer dans un univers où rien n’est plus facile que fabriquer des vidéos complètement truquées.

Pour le moment, deepfakes a appliqué sa méthode à Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza et Gal Gadot. Les résultats de toutes ses expériences sont disponibles sur Reddit. Motherboard a signalé l’existence de ces vidéos aux personnes et entreprises qui représentent les actrices concernées. En cas de retour, cet article sera mis à jour.

Les montages pornographiques de personnalités forment un genre ancien et populaire. Le subreddit sur lequel deepfakes poste ses créations compte plus de 40 000 membres. Beaucoup sont fans de son travail ; certains vont même jusqu’à le décrire comme annonciateur d’une nouvelle ère du fake porn.

 

Contacté par Motherboard, deepfakes a refusé de dévoiler sa véritable identité par crainte de l’opinion publique mais il accepté de nous en dire plus sur ses outils. Son logiciel est basé sur plusieurs librairies logicielles open-source comme Keras et TensorFlow. Pour compiler le visage des célébrités qui l’intéressent, il utilise la recherche par image de Google, des stock photos et des vidéos YouTube.

Les systèmes de deep learning reposent sur des réseaux de noeuds conçus pour “digérer” les informations qui lui sont fournies, l’input. (Dans ce cas précis, Deepfakes a entraîné l’algorithme à l’aide de vidéos X et d’images du visage de Gal Gadot.) À force d’input, les noeuds s’organisent pour accomplir au mieux une tâche particulière : reconnaître des visages, des objets, manipuler de la vidéo en direct…

Contacté par mail, le chercheur en intelligence artificielle Alex Champandard a indiqué à Motherboard qu’une bonne carte graphique grand public suffisait pour ce genre de tâche. À l’en croire, même un processeur pourrait faire le travail. “Tout ceci n'est vraiment pas sorcier”, a-t-il ajouté.

La méthode de deepfakes est inquiétante de facilité. Au-delà de son aspect technique, elle ne demande rien d’autre qu’un nombre suffisant d’images de la personne à faker. Quand on sait que les humains ont uploadé 24 milliards de selfies sur Google Photos entre 2015 et 2016, on n’a pas de mal à imaginer que le programmeur-amateur qui créera votre sextape sans vous est déjà né.

 

Deepfakes nous a affirmé qu’il n’était pas un chercheur professionnel, juste un programmeur qui s’intéresse au machine learning.

“J’ai juste trouvé une manière astucieuse de faire du face swap, affirme-t-il à propos de son algorithme. Avec des centaines d’images de visage, je peux facilement générer des millions d’images déformées pour entraîner le réseau. Après ça, si je mets le visage de quelqu’un d’autre dans le réseau, il va essayer de le modifier pour qu’il ressemble au visage avec lequel il a été entraîné.”

Au détour d’un fil de commentaires sur Reddit, deepfakes affirme qu’il utilise un algorithme similaire à celui qu’utilisent les chercheurs de Nvdia pour transformer instantanément une scène estivale en scène hivernale, entre autres. Les chercheurs de Nvidia qui ont développé cet algorithme ont refusé de commenter ses applications éventuelles pour Motherboard.

Presque toutes les images diffusées par deepfakes sont imparfaites. Dans la vidéo de Gal Gadot, une boîte apparaît parfois autour du visage de l’actrice - c’est l’image originale qui ressurgit. Ses yeux et sa bouche ne cadrent pas toujours avec les mots prononcés par l’actrice. Ceci dit, en plissant un peu les yeux, on pourrait se laisser convaincre. D’autres vidéos de deepfakes sont encore plus convaincantes.

L’actrice pornographique Grace Evangeline nous a expliqué que les performeurs X étaient habitués à voir leurs images partagées sans leur accord sur des tubes gratuits comme SendVid, où la vidéo de Gal Gadot a été uploadée. Elle nous a aussi dit que tout ça était différent et qu’elle n’avait jamais rien vu de tel.

 

“Il y a un truc important qui doit toujours être présent, le consentement, insiste Evangeline. Ça marche pour la vie privée comme pour les plateaux. Faire des scènes pornographiques fake sans le consentement des personnes concernées, c’est mal.”

Même les personnes qui gagnent leur vie face caméra ont du mal à tolérer qu’on viole leur intimité. Nous avons montré la vidéo de Gal Gadot à Alia Janine, une actrice qui a travaillé 15 ans dans l’industrie du X avant de prendre sa retraite. “C’est vraiment perturbant, nous a-t-elle déclaré par téléphone. Ça montre à quel point certains hommes ne voient les femmes que comme des objets qu’ils peuvent manipuler pour leur faire faire tout ce qu’ils veulent… Ça dénote un manque de respect total pour les performeuses et pour les actrices concernées.”

Nous avons demandé à deepfakes s’il se souciait des questions éthiques soulevées par son travail. Le consentement, le revenge porn et le chantage l’avaient-ils inquiété pendant qu’il développait l’algorithme ?

“Toute technologique peut être utilisé à des fins de nuisance, c’est impossible de lutter contre ça”, nous a-t-il répondu en traçant un parallèle entre son logiciel et la technologie qui a été utilisée pour façonner la performance posthume de Paul Walker dans Furious 7. “La grosse différence, c’est la facilité d’accès. Je ne pense pas que ce soit une mauvaise chose que les gens normaux puissent se lancer dans la recherche en machine learning.”

 

Pour Champandard, deepfakes pose un “énorme” défi éthique. Et si l’utilisation de la technologie à des fins malveillantes est impossible à empêcher, elle peut tout à fait être combattue.

“Nous devons avoir un débat public à ce sujet, a-t-il déclaré. Tout le monde doit savoir à quel point il est facile de créer des photos et des vidéos truquées et qu’il sera impossible de les distinguer d’images originales d’ici quelques mois. Bien sûr, tout ceci est possible depuis longtemps, mais seulement au prix de ressources conséquentes et d’une main d’oeuvre qualifiée. Désormais, cela peut être fait par un seul programmeur derrière un ordinateur récent.”

Champandard pense que les chercheurs peuvent commencer à développer des techniques de détection de vidéos truquées dès maintenant. Il soutient aussi qu’Internet pourrait s’adapter pour gérer au mieux les événements déclenchés par ce genre d’images.

“D’une certaine manière”, c’est une bonne chose, explique-t-il. “Nous devons nous employer à transformer notre société pour qu’elle soit capable de gérer tout ça.”


Source de l'article: Motherboard



allnews_image

Le sucre de tombe pas du ciel, et encore moins sur Mars. Et parce qu’on ne pourra pas tout emporter dans les bagages, il est primordial de pouvoir exploiter les ressources locales pour obtenir des composés utiles. En ce sens, la NASA propose un concours.

Lire l'article


allnews_image

Plusieurs dizaines de personnes auraient reçu un mail de Google leur signalant qu'elles sont la cible d'une enquête du FBI. Partager

Lire l'article


allnews_image

Une équipe de chercheurs américains de l’Université du Minnesota annonce avoir imprimé en 3D un œil bionique. Si l’on est encore loin des yeux retrouvés dans certains films de science-fiction, un nouveau pas vient d’être franchi.

Lire l'article



allnews_image

L’énergie libre : une énergie illimitée, gratuite et facile à produire ? Certains pensent qu’elle existe, mais que les industriels nous la cachent… Qu’en est-il vraiment ? Retour sur le mythe de l’énergie libre et sur le mal qu’il fait à notre environneme

Lire l'article


allnews_image

Les gaz à effet de serre sont responsables du réchauffement climatique, mais pas seulement. L’augmentation du dioxyde de carbone dans l’air pourrait aussi impacter notre alimentation. Voici comment.

Lire l'article



allnews_image

Faites-vous partie de ceux qui ressentent un lien fort avec leur âme dans le monde? À différents stades de notre vie, notre âme peut être appelée à un endroit différent sur Terre. Au moment de mon éveil spirituel, j’ai ressenti un appel d’une ville en

Lire l'article


allnews_image

« C'était comme si un homme de ma corpulence avait pris feu et m’avait traversé de part en part. »

Lire l'article


allnews_image

L’agence spatiale américaine a récemment publié une carte du monde montrant les milliers de feux en cours sur notre planète. Comment cette carte a-t-elle été élaborée, et pourquoi ?

Lire l'article


allnews_image

Auparavant, le véganisme était perçu comme une chose hippie, mais le mode de vie est désormais totalement traditionnel. Que les gens fassent le changement pour leur santé ou pour les animaux, il y a eu une augmentation de 600% chez ceux qui s'identifient

Lire l'article


allnews_image

A Chemnitz, la réunification a laissé un sentiment de déclassement. L’AfD a réalisé 27 % aux législatives dans la région.

Lire l'article


allnews_image

L’intelligence artificielle et le Big Data sont deux technologies en plein essor, pleines de promesses pour les entreprises de toutes les industries. Toutefois, le véritable potentiel révolutionnaire de ces deux technologies repose probablement sur leur c

Lire l'article


allnews_image

Vous avez mal lorsque vous devez mettre un tampon ou simplement vous rendre chez le gynécologue ? Pire, vous ne pouvez pas faire l’amour sous peine de subir des douleurs atroces ? Vous souffrez peut-être de vaginisme, un trouble psychologique qui touche 1

Lire l'article


allnews_image

Des chercheurs suisses ont identifié la zone du cerveau capable d’empêcher un comportement agressif en réponse à la colère. Il s’agit du cortex préfrontal dorsolatéral (dlPFC), également impliqué dans la planification et les fonctions exécutives.

Lire l'article


allnews_image

Dans le cadre de la 256e réunion nationale de l’American Chemical Society (ACS), une conférence de presse a eu lieu au Boston Convention & Exhibition Centre le mardi 21 août 2018. Celle-ci présentait de nombreux travaux traitant de divers thèmes scientifi

Lire l'article


allnews_image

Les mécanismes biologiques du sommeil commencent à livrer leurs secrets.

Lire l'article




allnews_image

L'entreprise de Google, DeepMind, spécialisée dans l'intelligence artificielle, a mis au point un logiciel capable de dépister plus de 50 maladies oculaires avec la même précision que des ophtalmologues aguerris.

Lire l'article


allnews_image

Des chercheurs Finnois et Suédois ont voulu savoir s'il y avait un lien entre le bien-être mental d'une personne et le contenu de ses rêves. La réponse est " oui " !

Lire l'article