Il s’est fait attendre, mais il a finalement bougé. Google a commencé à prendre des mesures concrètes pour freiner la prolifération des deepfakes explicites non consentis, un problème sérieux qui ne cesse de s’aggraver avec l’évolution de l’IA. En janvier, des deepfakes de Taylor Swift nue sont devenus viraux sur Twitter, étant probablement l’un des événements qui soulignent le mieux la gravité de ce phénomène.
Selon Henry Ajder, expert en IA générative, les incidents avec des célébrités « ont peut-être fait plus que toute autre chose pour sensibiliser aux risques » et ont incité les entreprises technologiques ainsi que les législateurs à agir. Ajder souligne que nous sommes à un « point de basculement », où la pression exercée par les législateurs et la prise de conscience croissante des consommateurs ont contraint les entreprises à ne plus ignorer le problème.
Dans le cadre de sa réponse, Google a annoncé qu’il facilitera la demande de suppression d’images explicites fausses et non consenties de ses résultats de recherche pour les victimes. De plus, il filtrera ces résultats et réduira le classement des recherches conduisant à du contenu explicite faux. « Cela signifie que les gens devront faire beaucoup plus d’efforts pour le trouver s’ils veulent y accéder », déclare Ajder.
Malgré ces avancées, Ajder pense que Google pourrait en faire plus. « Pourquoi ne traitent-ils pas cela comme les pages web de pornographie infantile et les suppriment complètement des recherches lorsque c’est possible ? », se demande-t-il. De plus, Ajder critique le fait que Google n’ait pas mentionné les vidéos deepfake dans son annonce, se limitant à parler d’images.
Mais les mesures prises par les grandes entreprises sont peu utiles si les pays ne prennent pas les choses en main. La Loi sur l’intelligence artificielle de l’UE et la Loi Defiance aux États-Unis visent à accroître la transparence et à offrir aux victimes un recours juridique pour faire face à ces abus. De plus, le Royaume-Uni a interdit la création et la distribution de deepfakes explicites non consentis, ce qui a conduit des sites web comme Mr DeepFakes à bloquer l’accès aux utilisateurs britanniques.
Source: MIT Technology Review
