La démocratisation de l’intelligence artificielle générative a engendré de nouvelles problématiques qui n’ont pas encore de solution définitive. L’une des plus courantes est l’usurpation d’identité par le biais de deepfakes, qui sont des vidéos ou des images générées par intelligence artificielle imitant une personne réelle. YouTube s’est joint à la lutte contre ce type de contenu frauduleux et, pour cela, a décidé de collaborer avec la Creative Artists Agency (CAA).
YouTube a déjà annoncé en septembre dernier qu’il lancerait des outils pour détecter tout type de contenu généré par IA qui simulerait l’apparence et la voix de n’importe quel créateur. Maintenant, la plateforme a franchi une autre étape avec l’annonce de son alliance avec la CAA.
Dans l’article publié sur le blog officiel de YouTube, il est expliqué que les célébrités seront les premières à accéder à une « phase initiale » de cette technologie, « conçue pour identifier et gérer à grande échelle sur YouTube des contenus générés par l’intelligence artificielle ».
Ce sera au début de 2025 que ces outils commenceront à être testés, prêts à être utilisés, pour l’instant, par des acteurs et des sportifs d’élite. Selon YouTube, cela servira à « perfectionner notre produit avant de le mettre à la disposition d’un groupe plus large de créateurs et d’artistes ».
YouTube affirme que c’est seulement le « premier pas » d’une période de tests beaucoup plus large. Au cours des prochains mois, la plateforme annoncera de nouvelles séries de tests destinées aux créateurs les plus importants de YouTube et à d’autres figures de proue.
Pour le moment, YouTube permet déjà aux labels de musique de demander la suppression de chansons qui imitent la voix d’un artiste, en plus d’exiger des créateurs qu’ils étiquettent les vidéos contenant du contenu généré par l’IA. Si ces mesures seront efficaces ou non pour éviter les usurpations d’identité, seul le temps le dira.
