Les célébrités peuvent désormais payer pour cloner leur voix en utilisant l’IA

Veritone, le créateur du premier système d’exploitation au monde pour l’intelligence artificielle, aiWare, a lancé cette semaine une nouvelle plate-forme appelée Marvel.ai qui permet aux créateurs de contenu et aux célébrités de créer des deepfakes de leur voix.

L’idée est la suivante : les célébrités peuvent payer Veritone pour générer un deepfake de leur voix en utilisant l’intelligence artificielle et des algorithmes d’apprentissage automatique pour reproduire la voix de quelqu’un sur la base d’une série d’échantillons audio. Cela signifie qu’ils peuvent monétiser le contenu audio (apparitions à la radio, livres audio, voix off) sans jamais avoir à mettre les pieds dans un studio.

«Avec un contrôle total sur leur voix et son utilisation, tout influenceur, personnalité ou célébrité peut littéralement être à plusieurs endroits à la fois», a déclaré la société dans un communiqué de presse .

«Cela ouvrirait la porte à un nouveau niveau d’échelle qui n’était pas humainement possible auparavant, leur permettant d’augmenter le nombre de projets, de parrainages et de soutiens qu’ils peuvent faire au cours d’une année donnée.»

Selon Marvel.ai, les clients peuvent également choisir parmi un modèle de voix particulier pour le contenu généré automatiquement. Bien que l’on ne sache pas qui pourra utiliser quelle voix, nous ne pouvons que supposer que ce n’est qu’une question de temps jusqu’à ce que nous puissions louer la voix de Timothée Chalamet ou que Björk chante pour nous dormir avec des berceuses personnalisées.

Dans une interview avec The Verge, le président de Veritone, Ryan Steelberg, a déclaré que les clients peuvent soumettre des clips vocaux pour former les systèmes de Veritone et produire leur propre clone vocal sous licence.

«Quiconque détient le droit d’auteur sur ces voix, nous travaillerons avec eux pour les amener sur le marché», a-t-il déclaré. « Cela dépendra du détenteur des droits et de ce qu’il jugera approprié, mais hypothétiquement, oui, vous pourriez demander à Walter Cronkite de relire les nouvelles du soir. »

Bien sûr, l’idée que nous pourrions bientôt avoir des approximations numériques de personnes vivantes pose de graves énigmes éthiques, qui, par exemple détient les droits légaux à une voix ?

Marvel.ai affirme qu’il peut même ressusciter la voix des morts en utilisant des enregistrements archivés pour entraîner ses systèmes d’IA, ce qui entraîne un tout autre ensemble de dilemmes éthiques. La technologie Deepfake ramène déjà les êtres chers d’entre les morts – est-ce que ce sera la prochaine étape logique ?