Les deepfakes vont transformer le monde en une « science-fiction dystopique » car les humains « ne feront pas la différence »

Demain l’intelligence artificielle sera délibérément utilisée pour tromper les téléspectateurs en leur faisant croire que le matériau fabriqué est réel. Ces dernières années, cela a déjà conduit à de fausses vidéos de politiciens dépeints comme disant quelque chose qu’ils ne pensaient pas ou à des célébrités apparaissant dans de faux films pornos.

Aujourd’hui les scientifiques ont insisté pour que toutes les plateformes hébergeant des deepfakes soient tenues responsables si elles diffusent des deepfakes. La chercheuse du groupe NCC, Jennifer Fernick, vient de déclarer que « la technologie deepfake progresse à un rythme plus rapide que la technologie pour la reconnaître. Elle a ajouté: « les défenses mécaniques actuelles ne résolvent pas tous nos problèmes. »

Joseph Carson, scientifique en chef de la sécurité chez Thycotic, a déclaré que « les géants de la technologie qui hébergent des deepfakes devraient être punis. Pour aller de l’avant, la meilleure façon de se défendre contre les deepfakes est de tenir pour responsables les plateformes qui hébergent et mettent les deepfakes à la disposition du public. Si aucun type de source ou de contexte de confiance n’a été fourni pour un message, l’étiquetage correct du contenu doit indiquer clairement au spectateur que la source du contenu a été vérifiée, est toujours en cours d’analyse ou que le contenu a été considérablement modifié. »

L’année dernière, Shamir Allibhai, PDG de la société de vérification vidéo Amber, a déclaré qu’il pensait que la technologie deepfake pourrait devenir si réaliste que des innocents pourraient aller en prison. Au départ, les deepfakes seront des manipulations audio ou vidéo existantes, telles que celles de CCTV, d’enregistreurs vocaux, de caméras de police et de téléphones portables de spectateurs. Les humains ont une audition plus faible par rapport à leur vue: je parierais que nous nous laissons d’abord berner par de faux sons. Il est également beaucoup plus facile de créer de faux sons crédibles que de créer de fausses vidéos crédibles. À l’avenir, la vidéo sera générée à partir de zéro, sans aucune base dans les images réelles. »