change language     -         


L'IA fait basculer le fake porn dans une nouvelle ère

December 23, 2017, 9:11 am

Type: SCIENCE_TECHNOLOGIE

       




news_image

Quelqu'un a utilisé un algorithme de machine learning pour copier-coller le visage de l'actrice Gal Gadot sur celui d'une performeuse X.


 

Vous avez vu la vidéo de Gal Gadot qui couche avec son demi-frère ? Elle traîne sur Internet depuis quelques temps. Ce n’est juste pas le corps de Gal Gadot. Ce n’est presque pas son visage non plus, d’ailleurs. C’est une expérience, une approximation, un face-swap conçu pour donner l’illusion que l’actrice israélienne a vraiment tourné dans une vidéo pornographique fauxcest.

Les images en question ont été créées à l’aide d’un algorithme de machine learning. La mauvaise nouvelle, c’est que n’importe quel individu doté d’un minimum de connaissances dans le domaine du deep learning aurait pu bricoler cette formule dans son coin. Le code nécessaire est accessible en open-source.

 

Le spectateur attentif remarquera rapidement que quelque chose cloche dans la vidéo. Par moment, le visage ne “s’accroche” pas correctement à la tête. Du coin de l’oeil, par contre, ça passe.

Le plus frappant, c’est que tout ceci est l’oeuvre d’un seul individu. Deepfakes - c’est son pseudonyme sur Reddit - n’a pas eu besoin de l’aide d’un studio d’effets spéciaux de pointe pour créer sa Gal Gadot artifcielle : il s’est contenté d’outils de machine learning open-source comme TensorFlow, une bibliothèque logicielle distribuée gratuitement par Google.

Comme cet outil Adobe qui permet de faire dire n’importe quoi à n’importe qui ou l’algorithme Face2Face, ce genre de fake montre que nous sommes sur le point de basculer dans un univers où rien n’est plus facile que fabriquer des vidéos complètement truquées.

Pour le moment, deepfakes a appliqué sa méthode à Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza et Gal Gadot. Les résultats de toutes ses expériences sont disponibles sur Reddit. Motherboard a signalé l’existence de ces vidéos aux personnes et entreprises qui représentent les actrices concernées. En cas de retour, cet article sera mis à jour.

Les montages pornographiques de personnalités forment un genre ancien et populaire. Le subreddit sur lequel deepfakes poste ses créations compte plus de 40 000 membres. Beaucoup sont fans de son travail ; certains vont même jusqu’à le décrire comme annonciateur d’une nouvelle ère du fake porn.

 

Contacté par Motherboard, deepfakes a refusé de dévoiler sa véritable identité par crainte de l’opinion publique mais il accepté de nous en dire plus sur ses outils. Son logiciel est basé sur plusieurs librairies logicielles open-source comme Keras et TensorFlow. Pour compiler le visage des célébrités qui l’intéressent, il utilise la recherche par image de Google, des stock photos et des vidéos YouTube.

Les systèmes de deep learning reposent sur des réseaux de noeuds conçus pour “digérer” les informations qui lui sont fournies, l’input. (Dans ce cas précis, Deepfakes a entraîné l’algorithme à l’aide de vidéos X et d’images du visage de Gal Gadot.) À force d’input, les noeuds s’organisent pour accomplir au mieux une tâche particulière : reconnaître des visages, des objets, manipuler de la vidéo en direct…

Contacté par mail, le chercheur en intelligence artificielle Alex Champandard a indiqué à Motherboard qu’une bonne carte graphique grand public suffisait pour ce genre de tâche. À l’en croire, même un processeur pourrait faire le travail. “Tout ceci n'est vraiment pas sorcier”, a-t-il ajouté.

La méthode de deepfakes est inquiétante de facilité. Au-delà de son aspect technique, elle ne demande rien d’autre qu’un nombre suffisant d’images de la personne à faker. Quand on sait que les humains ont uploadé 24 milliards de selfies sur Google Photos entre 2015 et 2016, on n’a pas de mal à imaginer que le programmeur-amateur qui créera votre sextape sans vous est déjà né.

 

Deepfakes nous a affirmé qu’il n’était pas un chercheur professionnel, juste un programmeur qui s’intéresse au machine learning.

“J’ai juste trouvé une manière astucieuse de faire du face swap, affirme-t-il à propos de son algorithme. Avec des centaines d’images de visage, je peux facilement générer des millions d’images déformées pour entraîner le réseau. Après ça, si je mets le visage de quelqu’un d’autre dans le réseau, il va essayer de le modifier pour qu’il ressemble au visage avec lequel il a été entraîné.”

Au détour d’un fil de commentaires sur Reddit, deepfakes affirme qu’il utilise un algorithme similaire à celui qu’utilisent les chercheurs de Nvdia pour transformer instantanément une scène estivale en scène hivernale, entre autres. Les chercheurs de Nvidia qui ont développé cet algorithme ont refusé de commenter ses applications éventuelles pour Motherboard.

Presque toutes les images diffusées par deepfakes sont imparfaites. Dans la vidéo de Gal Gadot, une boîte apparaît parfois autour du visage de l’actrice - c’est l’image originale qui ressurgit. Ses yeux et sa bouche ne cadrent pas toujours avec les mots prononcés par l’actrice. Ceci dit, en plissant un peu les yeux, on pourrait se laisser convaincre. D’autres vidéos de deepfakes sont encore plus convaincantes.

L’actrice pornographique Grace Evangeline nous a expliqué que les performeurs X étaient habitués à voir leurs images partagées sans leur accord sur des tubes gratuits comme SendVid, où la vidéo de Gal Gadot a été uploadée. Elle nous a aussi dit que tout ça était différent et qu’elle n’avait jamais rien vu de tel.

 

“Il y a un truc important qui doit toujours être présent, le consentement, insiste Evangeline. Ça marche pour la vie privée comme pour les plateaux. Faire des scènes pornographiques fake sans le consentement des personnes concernées, c’est mal.”

Même les personnes qui gagnent leur vie face caméra ont du mal à tolérer qu’on viole leur intimité. Nous avons montré la vidéo de Gal Gadot à Alia Janine, une actrice qui a travaillé 15 ans dans l’industrie du X avant de prendre sa retraite. “C’est vraiment perturbant, nous a-t-elle déclaré par téléphone. Ça montre à quel point certains hommes ne voient les femmes que comme des objets qu’ils peuvent manipuler pour leur faire faire tout ce qu’ils veulent… Ça dénote un manque de respect total pour les performeuses et pour les actrices concernées.”

Nous avons demandé à deepfakes s’il se souciait des questions éthiques soulevées par son travail. Le consentement, le revenge porn et le chantage l’avaient-ils inquiété pendant qu’il développait l’algorithme ?

“Toute technologique peut être utilisé à des fins de nuisance, c’est impossible de lutter contre ça”, nous a-t-il répondu en traçant un parallèle entre son logiciel et la technologie qui a été utilisée pour façonner la performance posthume de Paul Walker dans Furious 7. “La grosse différence, c’est la facilité d’accès. Je ne pense pas que ce soit une mauvaise chose que les gens normaux puissent se lancer dans la recherche en machine learning.”

 

Pour Champandard, deepfakes pose un “énorme” défi éthique. Et si l’utilisation de la technologie à des fins malveillantes est impossible à empêcher, elle peut tout à fait être combattue.

“Nous devons avoir un débat public à ce sujet, a-t-il déclaré. Tout le monde doit savoir à quel point il est facile de créer des photos et des vidéos truquées et qu’il sera impossible de les distinguer d’images originales d’ici quelques mois. Bien sûr, tout ceci est possible depuis longtemps, mais seulement au prix de ressources conséquentes et d’une main d’oeuvre qualifiée. Désormais, cela peut être fait par un seul programmeur derrière un ordinateur récent.”

Champandard pense que les chercheurs peuvent commencer à développer des techniques de détection de vidéos truquées dès maintenant. Il soutient aussi qu’Internet pourrait s’adapter pour gérer au mieux les événements déclenchés par ce genre d’images.

“D’une certaine manière”, c’est une bonne chose, explique-t-il. “Nous devons nous employer à transformer notre société pour qu’elle soit capable de gérer tout ça.”


Source de l'article: Motherboard



allnews_image

Une cyberattaque «sans précédents» a touché des banques mexicaines. Par mesure de sécurité, les virements de plus de 2100 euros ont été bloqués.

Lire l'article


allnews_image

Avec le retour des sanctions, toute entreprise commerçant avec l'Iran risque de voir ses crédits dénoncés en France à l'échéance du moratoire fixé par Donald Trump.

Lire l'article


allnews_image

A l’occasion des débats sur la loi Alimentation, qui commencent la semaine prochaine à l’Assemblée Nationale, le député LREM Matthieu Orphelin déposera un amendement proposant l’interdiction du glyphosate d'ici à 2021.

Lire l'article


allnews_image

Avec le massacre perpétré par l’armée israélienne contre des civils palestiniens ce 14 mai, la question des partenariats entre l’Union européenne et le gouvernement de Netanyahou se pose. D’autant que Bruxelles y finance des recherches militaires et que d

Lire l'article


allnews_image

Depuis quelques semaines, les autorités se divisent sur l’épineux sujet de la démoustication de la Presqu’île d’Ambès. Le maire juge « insuffisants » les traitements imposés par le préfet, et le conseil départemental refuse de financer un épandage de bioc

Lire l'article


allnews_image

La lutte contre le gaspillage alimentaire, c’est aussi pendant l’été et la Banque Alimentaire à besoin de bénévoles pour ramasser des produits alimentaires et les redistribuer.

Lire l'article


allnews_image

Une équipe de biologistes de l’Université de Californie à Los Angeles rapporte avoir transféré le « souvenir » d’un escargot marin à un autre. Cette recherche pourrait conduire à de nouvelles façons de réduire le traumatisme des souvenirs douloureux, et p

Lire l'article


allnews_image

Le plus récent tournant bizarre de la politique chinoise de Donald Trump, qui accorde des concessions énormes au géant chinois de l'électronique ZTE à la veille de négociations commerciales entre les deux pays, démontre une fois de plus l’ampleur des conf

Lire l'article



allnews_image

Ce 12 mai, la "pêche" sera acceptée dans des commerces de Paris en plus d'une centaine de la ville limitrophe de Montreuil (93) où cette monnaie locale est née. Elle favorise le commerce et l'artisanat local qui l'acceptent en paiement. D'autres monnaies

Lire l'article


allnews_image

INDE La grêle et des orages qui ont abattu des murs, des arbres et des pylônes électriques...

Lire l'article


allnews_image

Discussion autour des jeux et de la réincarnation avec des moines à Wat Chedi Luang Mai, Thaïlande.

Lire l'article


allnews_image

25 illustrations qui font réfléchir sur le monde d’aujourd’hui

Lire l'article




allnews_image

Le territoire syrien a été le théâtre, dans la nuit de mercredi à jeudi, de la plus sérieuse confrontation militaire jamais survenue entre Israël et la République islamique d'Iran. Des dizaines de missiles ou de roquettes ont été tirés de part et d'autre,

Lire l'article


allnews_image

Honoré jeudi par le Prix Charlemagne à Aix-la-Chapelle (Allemagne), Emmanuel Macron en a profité pour envoyer un message à Angela Merkel.

Lire l'article


allnews_image

Un service national d'un mois obligatoire pour tous les jeunes, dont deux semaines d'internat, progressivement mis en place sur sept ans: les propositions du groupe de travail mandaté par l'Élysée sont entre les mains d'Emmanuel Macron, qui doit désormais

Lire l'article


allnews_image

Le lien entre une consommation accrue de poisson et une meilleure santé à long terme pour le cerveau est établi depuis longtemps. Cette recherche de la Chalmers University of Technology (Suède) en identifie une raison possible, la parvalbumine, une protéi

Lire l'article


allnews_image

Blanc et noir et plus petit qu’une pièce d’un centime d’euros, le moustique tigre (Aedes albopictus) est désormais présent dans 42 départements de la Métropole française. Etant donné sa dangerosité et l’épidémie de dengue actuelle à La Réunion, le Ministè

Lire l'article