Les femmes ne sont pas des objets, ce sont des IA

Lire des mangas depuis l’adolescence m’a appris beaucoup de choses sur internet. Par exemple, dans les recoins sombres du web que je fréquentais il y a quinze ans, il existait un mème assez populaire : 2D > 3D. Selon cette vanne douteuse, les héroïnes d’anime japonais étaient supérieures aux femmes en chair et en os. Ces dernières étaient alors qualifiées de « 3D pig disgusting » (ou 3DPD), qu’on pourrait traduire par « des truies en 3D dégueulasses ». Comme souvent quand on parle de mèmes en ligne, difficile de déterminer si c’était ironique. Parfois, ce discours était dégainé pour se moquer de fans de mangas jugés inaptes en société. D’autres fois, il s’agissait d’une forme très claire et assumée de haine des femmes.

Retour en 2023, où des hommes s’extasient sur une nouvelle forme de fiction. Plusieurs images générées par des IA montrant des femmes en sous-vêtements sont récemment devenues virales sur Twitter. Vous pouvez en voir un exemple via ce lien (attention, c’est très NSFW). Elles ont été produites grâce à Unstable Diffusion, une adaptation du modèle d’apprentissage automatique Stable Diffusion (dont le code est en open-source) spécialement dédiée à créer des images pornographiques. Ses utilisateurs se retrouvent sur Discord ou Reddit pour partager leurs créations préférées, ainsi que leurs astuces pour que ces fausses femmes disposent bien de cinq doigts et d’un nombre pas trop absurde de dents.

En soi, pourquoi pas ! Moi aussi, à 15 ans, j’aimais dessiner des dames à gros seins dans mon journal intime. Mais, ce qui est inquiétant, c’est que certains utilisateurs d’Unstable Diffusion sont persuadés qu’ils n’auront bientôt plus besoin de vraies femmes pour s’exciter, et donc pour vivre leur vie (« des vraies meufs sont furieuses de ces images, elles n’arrivent pas à déterminer si elles ont été générées par IA.», se réjouit l’un d’entre eux). Ces propos peuvent paraître étranges. Ils sont en fait dans la droite lignée d’autres pratiques aux relents masculinistes populaires sur internet. C’est, par exemple, le cas du No Nut November, un vieux défi en ligne qui consiste à ne pas se masturber pendant un mois. Il sert maintenant de terreau fertile à des discours anti-travailleuses du sexe et anti-femmes tout court, décrites comme des viles tentatrices qui empêcheraient les hommes d’atteindre leur plus haut potentiel. Quoi de mieux pour se débarrasser des vraies femmes que d’en contrôler des fausses ?

Lorsqu’on s’inquiète des manipulations des IA, il faut d’abord se soucier du cyberharcèlement sexiste

Plus grave encore, certains espèrent se passer des femmes, mais en exploitant quand même leur identité et leur image. La semaine dernière, un streameur américain a été surpris en train de chercher des vidéos deepfakes pornographiques de plusieurs de ses consœurs sur Twitch. L’une des victimes a publiquement dénoncé ce comportement, visiblement choquée et en larmes dans son live : « Voilà ce que ça fait d’avoir l’impression d’être violée. Voilà à quoi ça ressemble de se voir nue sur internet sans son consentement ». Le streameur en question s’est excusé, et le créateur des deepfakes (qui les fabriquait contre de l’argent) a supprimé les vidéos, assurant qu’il n’en ferait plus d’autres. Cette terrible affaire rappelle que lorsqu’on s’inquiète des manipulations des IA, il faut d’abord se soucier du cyberharcèlement sexiste. Les femmes sont les premières victimes des deepfakes en ligne, bien devant les hommes politiques.

l serait facile de considérer ce genre de pratiques comme une exception dégueulasse. C’est une bonne chose que les grands médias et les politiques s’intéressent davantage aux rhétoriques masculinistes en ligne. Mais, je m’inquiète aussi qu’en pointant du doigt une certaine catégorie de personnes (les masculinistes, les incels, les streameurs, etc.), on oublie que toute cette misogynie crasse est aussi le produit d’un système dont nous faisons tous et toute partie. Prenons un autre exemple d’exploitation massive de l’intimité de femmes sans leur consentement. En 2014 explosait le Celebgate, la diffusion de plusieurs centaines de photos privées de célébrités, en très grande majorité des femmes. Combien d’entre nous ont cédé à la tentation en regardant ces images ? Et combien, à l’avenir, seront curieux de regarder des deepfakes réalisés sans le consentement des personnes qu’ils imitent ? Car ces histoires vont se répéter. Utiliser les IA pour remplacer les femmes, c’est l’étape ultime dans notre déshumanisation, qui prend bien des formes dans nos écrans et en dehors. Elle n’est pas le fait que de quelques détraqués, c’est un problème de société. Nous ne sommes même plus des objets. Nous sommes juste des corps à copier.

Source : Numerama