change language     -         


L'IA fait basculer le fake porn dans une nouvelle ère

December 23, 2017, 9:11 am

Type: SCIENCE_TECHNOLOGIE

       




news_image

Quelqu'un a utilisé un algorithme de machine learning pour copier-coller le visage de l'actrice Gal Gadot sur celui d'une performeuse X.


 

Vous avez vu la vidéo de Gal Gadot qui couche avec son demi-frère ? Elle traîne sur Internet depuis quelques temps. Ce n’est juste pas le corps de Gal Gadot. Ce n’est presque pas son visage non plus, d’ailleurs. C’est une expérience, une approximation, un face-swap conçu pour donner l’illusion que l’actrice israélienne a vraiment tourné dans une vidéo pornographique fauxcest.

Les images en question ont été créées à l’aide d’un algorithme de machine learning. La mauvaise nouvelle, c’est que n’importe quel individu doté d’un minimum de connaissances dans le domaine du deep learning aurait pu bricoler cette formule dans son coin. Le code nécessaire est accessible en open-source.

 

Le spectateur attentif remarquera rapidement que quelque chose cloche dans la vidéo. Par moment, le visage ne “s’accroche” pas correctement à la tête. Du coin de l’oeil, par contre, ça passe.

Le plus frappant, c’est que tout ceci est l’oeuvre d’un seul individu. Deepfakes - c’est son pseudonyme sur Reddit - n’a pas eu besoin de l’aide d’un studio d’effets spéciaux de pointe pour créer sa Gal Gadot artifcielle : il s’est contenté d’outils de machine learning open-source comme TensorFlow, une bibliothèque logicielle distribuée gratuitement par Google.

Comme cet outil Adobe qui permet de faire dire n’importe quoi à n’importe qui ou l’algorithme Face2Face, ce genre de fake montre que nous sommes sur le point de basculer dans un univers où rien n’est plus facile que fabriquer des vidéos complètement truquées.

Pour le moment, deepfakes a appliqué sa méthode à Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza et Gal Gadot. Les résultats de toutes ses expériences sont disponibles sur Reddit. Motherboard a signalé l’existence de ces vidéos aux personnes et entreprises qui représentent les actrices concernées. En cas de retour, cet article sera mis à jour.

Les montages pornographiques de personnalités forment un genre ancien et populaire. Le subreddit sur lequel deepfakes poste ses créations compte plus de 40 000 membres. Beaucoup sont fans de son travail ; certains vont même jusqu’à le décrire comme annonciateur d’une nouvelle ère du fake porn.

 

Contacté par Motherboard, deepfakes a refusé de dévoiler sa véritable identité par crainte de l’opinion publique mais il accepté de nous en dire plus sur ses outils. Son logiciel est basé sur plusieurs librairies logicielles open-source comme Keras et TensorFlow. Pour compiler le visage des célébrités qui l’intéressent, il utilise la recherche par image de Google, des stock photos et des vidéos YouTube.

Les systèmes de deep learning reposent sur des réseaux de noeuds conçus pour “digérer” les informations qui lui sont fournies, l’input. (Dans ce cas précis, Deepfakes a entraîné l’algorithme à l’aide de vidéos X et d’images du visage de Gal Gadot.) À force d’input, les noeuds s’organisent pour accomplir au mieux une tâche particulière : reconnaître des visages, des objets, manipuler de la vidéo en direct…

Contacté par mail, le chercheur en intelligence artificielle Alex Champandard a indiqué à Motherboard qu’une bonne carte graphique grand public suffisait pour ce genre de tâche. À l’en croire, même un processeur pourrait faire le travail. “Tout ceci n'est vraiment pas sorcier”, a-t-il ajouté.

La méthode de deepfakes est inquiétante de facilité. Au-delà de son aspect technique, elle ne demande rien d’autre qu’un nombre suffisant d’images de la personne à faker. Quand on sait que les humains ont uploadé 24 milliards de selfies sur Google Photos entre 2015 et 2016, on n’a pas de mal à imaginer que le programmeur-amateur qui créera votre sextape sans vous est déjà né.

 

Deepfakes nous a affirmé qu’il n’était pas un chercheur professionnel, juste un programmeur qui s’intéresse au machine learning.

“J’ai juste trouvé une manière astucieuse de faire du face swap, affirme-t-il à propos de son algorithme. Avec des centaines d’images de visage, je peux facilement générer des millions d’images déformées pour entraîner le réseau. Après ça, si je mets le visage de quelqu’un d’autre dans le réseau, il va essayer de le modifier pour qu’il ressemble au visage avec lequel il a été entraîné.”

Au détour d’un fil de commentaires sur Reddit, deepfakes affirme qu’il utilise un algorithme similaire à celui qu’utilisent les chercheurs de Nvdia pour transformer instantanément une scène estivale en scène hivernale, entre autres. Les chercheurs de Nvidia qui ont développé cet algorithme ont refusé de commenter ses applications éventuelles pour Motherboard.

Presque toutes les images diffusées par deepfakes sont imparfaites. Dans la vidéo de Gal Gadot, une boîte apparaît parfois autour du visage de l’actrice - c’est l’image originale qui ressurgit. Ses yeux et sa bouche ne cadrent pas toujours avec les mots prononcés par l’actrice. Ceci dit, en plissant un peu les yeux, on pourrait se laisser convaincre. D’autres vidéos de deepfakes sont encore plus convaincantes.

L’actrice pornographique Grace Evangeline nous a expliqué que les performeurs X étaient habitués à voir leurs images partagées sans leur accord sur des tubes gratuits comme SendVid, où la vidéo de Gal Gadot a été uploadée. Elle nous a aussi dit que tout ça était différent et qu’elle n’avait jamais rien vu de tel.

 

“Il y a un truc important qui doit toujours être présent, le consentement, insiste Evangeline. Ça marche pour la vie privée comme pour les plateaux. Faire des scènes pornographiques fake sans le consentement des personnes concernées, c’est mal.”

Même les personnes qui gagnent leur vie face caméra ont du mal à tolérer qu’on viole leur intimité. Nous avons montré la vidéo de Gal Gadot à Alia Janine, une actrice qui a travaillé 15 ans dans l’industrie du X avant de prendre sa retraite. “C’est vraiment perturbant, nous a-t-elle déclaré par téléphone. Ça montre à quel point certains hommes ne voient les femmes que comme des objets qu’ils peuvent manipuler pour leur faire faire tout ce qu’ils veulent… Ça dénote un manque de respect total pour les performeuses et pour les actrices concernées.”

Nous avons demandé à deepfakes s’il se souciait des questions éthiques soulevées par son travail. Le consentement, le revenge porn et le chantage l’avaient-ils inquiété pendant qu’il développait l’algorithme ?

“Toute technologique peut être utilisé à des fins de nuisance, c’est impossible de lutter contre ça”, nous a-t-il répondu en traçant un parallèle entre son logiciel et la technologie qui a été utilisée pour façonner la performance posthume de Paul Walker dans Furious 7. “La grosse différence, c’est la facilité d’accès. Je ne pense pas que ce soit une mauvaise chose que les gens normaux puissent se lancer dans la recherche en machine learning.”

 

Pour Champandard, deepfakes pose un “énorme” défi éthique. Et si l’utilisation de la technologie à des fins malveillantes est impossible à empêcher, elle peut tout à fait être combattue.

“Nous devons avoir un débat public à ce sujet, a-t-il déclaré. Tout le monde doit savoir à quel point il est facile de créer des photos et des vidéos truquées et qu’il sera impossible de les distinguer d’images originales d’ici quelques mois. Bien sûr, tout ceci est possible depuis longtemps, mais seulement au prix de ressources conséquentes et d’une main d’oeuvre qualifiée. Désormais, cela peut être fait par un seul programmeur derrière un ordinateur récent.”

Champandard pense que les chercheurs peuvent commencer à développer des techniques de détection de vidéos truquées dès maintenant. Il soutient aussi qu’Internet pourrait s’adapter pour gérer au mieux les événements déclenchés par ce genre d’images.

“D’une certaine manière”, c’est une bonne chose, explique-t-il. “Nous devons nous employer à transformer notre société pour qu’elle soit capable de gérer tout ça.”


Source de l'article: Motherboard



allnews_image

L’intelligence artificielle gagne du terrain depuis plusieurs années. Elle fascine, intéresse mais fait également peur. Beaucoup craignent, qu’un jour, elle puisse entraver les actions de l’homme l’homme dans son quotidien. Ces craintes ont inspiré de nom

Lire l'article


allnews_image

Mauvaise nouvelle pour la France, sur les 28 États membres de l’Union européenne le pays est en retard sur le développement des énergies renouvelables. En retard par rapport à son objectif annoncé pour 2020, mais en retard également par rapport à ses vois

Lire l'article


allnews_image

Trois astrophysiciens de l'université de Vienne, en Autriche, ont étudié la faisabilité d'installer une station spatiale dans une mine ou une cavité naturelle d'un astéroïde. Une étude tout à fait sérieuse qui montre que cela est possible pour peu que cer

Lire l'article


allnews_image

Nous sommes nombreux à tenir de beaux discours en matière de recyclage. Si nous voulons réellement réduire notre empreinte écologique, nous ne devons pas nous contenter de veiller à séparer le plastique des ordures ménagères. Alors que nous entamons une n

Lire l'article



allnews_image

L’ONG Transports et Environnement et le cercle de réflexion Farm Europe dénoncent la proposition de la Commission européenne concernant l’utilisation de l’huile de palme dans les biocarburants.

Lire l'article


allnews_image

​"Réveille ton enthousiasme", difficile pour la célèbre pâte à tartiner de respecter son slogan. Depuis les 5 dernières années, les parts de marché de l'enseigne sont en chute libre. En effet, Nutella a perdu 10 points pour s'établir aujourd'hui à 75% de

Lire l'article



allnews_image

L’optimisme d’Elon Musk est toujours aussi déconcertant. Le patron de Space X et Tesla mise sur un effondrement du coût du voyage pour Mars. Mais ne vendez pas votre maison tout de suite : comme Musk le signalait récemment, vivre là-bas n’aura rien d’une

Lire l'article


allnews_image

L’année dernière, beaucoup imaginaient 2018 comme l’année qui verrait l’intelligence artificielle émerger. Maintenant que nous commençons l’année 2019, l’intelligence artificielle montre les signes de son omniprésence à venir.

Lire l'article


allnews_image

Selon une étude du cabinet de conseil Asterès pour la banque privée Neuflize OBC, les Millennials détonent dans l’ensemble des millionnaires. Ces jeunes gens entretiennent un rapport différent à la gestion de leurs investissements et de leur patrimoine, c

Lire l'article


allnews_image

Qu’est-ce que la supraconductivité et comment l’a-t-on découverte ? Pourquoi a-t-on besoin de la physique quantique pour expliquer la supraconductivité ? Et comment permet-elle la lévitation quantique ?

Lire l'article


allnews_image

Washington – Le président américain Donald Trump a déclaré vendredi l’état d’urgence nationale, une mesure extraordinaire lui permettant de mobiliser des fonds pour la construction d’un mur à la frontière avec le Mexique, invoquant une “invasion de drogue

Lire l'article


allnews_image

Aux États-Unis, le procédé commence à être utilisé dans des affaires mineures.

Lire l'article


allnews_image

Il y a une désinformation galopante dans les médias sur les dangers des OGM pour la santé, désinformation d'autant plus alarmante que la population humaine va croître alors que l'environnement se dégrade et le réchauffement climatique s'intensifie. Des me

Lire l'article


allnews_image

Depuis quelques années, la France et l'Inde sont en pourparler quant à la construction de la plus grande centrale nucléaire du monde par le géant EDF, à Jaitapur, afin d'aider notamment à mieux électriser le pays au 1,6 milliard d'habitants. Un contrat qu

Lire l'article




allnews_image

Dans l’archipel arctique de la Nouvelle-Zemble, au nord-est de la Russie, les habitants font face à une “invasion” de dizaines d’ours polaires à la recherche de nourriture. L’état d’urgence vient d’être déclaré. Une situation sans précédent, selon les aut

Lire l'article


allnews_image

Un activiste de premier plan sur la question des rayonnements électromagnétiques et de leurs impacts négatifs sur la santé publique a décrit le déploiement de la 5G comme une « expérience sanitaire de grande envergure » qui pourrait « devenir une catastro

Lire l'article


allnews_image

L'herbicide le plus utilisé et le plus controversé au monde va peut-être se faire supplanter par un nouveau sucre. Ce dernier, 100 % naturel, utilise le même mode d'action pour inhiber la croissance des plantes et pourrait aussi servir comme agent antifon

Lire l'article


allnews_image

Bel espoir: la technologie pourrait aider l'agriculture à augmenter les rendements, tout en restreignant l'usage de produits phytosanitaires.

Lire l'article


allnews_image

Une fois les analogies entre la Révolution de 1789 et les «gilets jaunes» repérées, demeure la question: qu’en faire?

Lire l'article