Imiter notre voix pour nous pirater ? L’IA parvient à franchir la dernière frontière

On aurait dit que Biden disait aux gens de ne pas voter lors des élections primaires, mais cela aurait pu être une IA. Mais personne ne sait s’il s’agit d’un deepfake ou…

Deepfake voice

Le monde de l’intelligence artificielle ouvre autant de possibilités que de menaces. Et bien que ChatGPT puisse vous faire un résumé de Madame Bovary, un autre outil peut se faire passer pour le Président du pays le plus puissant du monde.

ChatGPT TÉLÉCHARGER

Aux États-Unis, dans le cadre d’une tactique de désinformation en vue des élections présidentielles de fin d’année, quelqu’un a envoyé des appels automatiques se faisant passer pour le président Joe Biden.

Cela sonnait comme si Biden disait aux gens de ne pas voter lors des primaires, mais cela aurait pu être de l’IA. Mais personne, même les vendeurs de logiciels de détection de contrefaçons, ne parvient à se mettre d’accord.

La tentative de fraude électoral pose un autre type de défi

Un article de Bloomberg cette semaine a examiné ce qui aurait pu être la première fausse audio deepfake contre Joe Biden. Mais personne ne sait s’il s’agissait d’un acteur l’imitant ou d’une IA.

Citant deux autres fabricants de détecteurs, ElevenLabs et Clarity, Bloomberg n’a pu trouver aucune certitude.

Le logiciel d’ElevenLabs a jugé improbable que l’attaque soit le résultat d’une fraude biométrique. Cependant, Clarity a apparemment conclu qu’il était probable qu’il s’agisse d’un deepfake à 80%.

Une équipe d’étudiants et d’anciens élèves de l’Université de Californie – Berkeley affirme avoir développé une méthode de détection qui fonctionne avec très peu d’erreurs.

Bien sûr, cela se fait dans un environnement de laboratoire et l’équipe de recherche estime que la méthode nécessitera un « contexte approprié » pour être comprise.

ChatGPT TÉLÉCHARGER

L’équipe a donné à un modèle d’apprentissage profond audio brut pour traiter et extraire des représentations multidimensionnelles. Le modèle utilise ces représentations pour distinguer le réel du faux. Mais il reste encore à l’utiliser dans le monde réel. Il faudra voir ce que dit son test avec l’audio de Biden.

Author: Chema Carvajal Sarabia

{ "de-DE": "Journalist, spezialisiert auf Technologie, Unterhaltung und Videospiele. Über das zu schreiben, was mich begeistert (Gadgets, Spiele und Filme), ermöglicht es mir, bei Verstand zu bleiben und mit einem Lächeln im Gesicht aufzuwachen, wenn der Wecker klingelt. PS: Das stimmt nicht 100% der Zeit.", "en-US": "Journalist specialized in technology, entertainment and video games. Writing about what I'm passionate about (gadgets, games and movies) allows me to stay sane and wake up with a smile on my face when the alarm clock goes off. PS: this is not true 100% of the time.", "es-ES": "Content Manager - Periodista especializado en tecnología, entretenimiento y videojuegos. Escribir sobre lo que me apasiona (cacharros, juegos y cine) me permite seguir cuerdo y despertarme con una sonrisa cuando suena el despertador. PD: esto no es cierto el 100 % de las veces.", "fr-FR": "Journaliste spécialisé dans la technologie, le divertissement et les jeux vidéo. Écrire sur ce qui me passionne (gadgets, jeux et films) me permet de rester sain d'esprit et de me réveiller avec le sourire aux lèvres quand le réveil sonne. PS : cela n'est pas vrai 100 % du temps.", "it-IT": "Giornalista specializzato in tecnologia, intrattenimento e videogiochi. Scrivere di ciò che mi appassiona (gadget, giochi e film) mi permette di mantenere la sanità mentale e di svegliarmi con un sorriso sul viso quando suona la sveglia. PS: questo non è vero al 100% del tempo.", "ja-JP": "", "nl-NL": "", "pl-PL": "", "pt-BR": "Jornalista especializado em tecnologia, entretenimento e videogames. Escrever sobre o que me apaixona (gadgets, jogos e filmes) me permite manter a sanidade e acordar com um sorriso no rosto quando o despertador toca. PS: isso não é verdade 100% do tempo.", "social": { "email": "chemacs91@gmail.com", "facebook": "", "twitter": "https://twitter.com/chematopetazo", "linkedin": "" } }