Imitar nossa voz para nos hackear? A IA consegue ultrapassar a última fronteira

Foi como se Biden estivesse dizendo às pessoas para não votarem em uma eleição primária, mas poderia ter sido a IA. Mas ninguém sabe se é um deepfake ou…

Deepfake voice

O mundo da inteligência artificial abre tantas possibilidades quanto ameaças. E embora o ChatGPT possa fazer um resumo de Capitães de Areia, outra ferramenta pode se passar pelo Presidente do país mais poderoso do mundo.

ChatGPT Download

Nos Estados Unidos, como parte de uma tática de desinformação e em preparação para as eleições presidenciais no final do ano, alguém tem enviado ligações automáticas se passando pelo Presidente Joe Biden.

Parecia que Biden estava dizendo às pessoas para não votarem em uma eleição primária, mas poderia ter sido IA. No entanto, ninguém, nem mesmo os vendedores de software de detecção de falsificações, concorda.

A tentativa de fraude eleitoral apresenta outro tipo de desafio.

Um artigo da Bloomberg desta semana analisou o que poderia ter sido a primeira brincadeira suja de áudio deepfake contra Joe Biden. Mas ninguém sabe se foi um ator imitando-o ou uma IA.

Citando outros dois fabricantes de detectores, ElevenLabs e Clarity, a Bloomberg não conseguiu encontrar nenhuma certeza.

O software da ElevenLabs considerou improvável que o ataque fosse resultado de uma fraude biométrica. Já o Clarity aparentemente encontrou que havia 80% de probabilidade de ser um deepfake.

Uma equipe de estudantes e ex-alunos da Universidade da Califórnia – Berkeley afirma ter desenvolvido um método de detecção que funciona com pouquíssimos erros.

Claro, isso é em um ambiente de laboratório e a equipe de pesquisa considera que o método exigirá um ‘contexto adequado’ para ser compreendido.

ChatGPT Download

A equipe deu um modelo de aprendizado profundo de áudio bruto para processar e extrair representações multidimensionais. O modelo utiliza essas representações para distinguir o real do falso. Mas ainda resta ver como ele é usado no mundo real. Teremos que ver o que o teste com o áudio de Biden diz.

Author: Chema Carvajal Sarabia

{ "de-DE": "Journalist, spezialisiert auf Technologie, Unterhaltung und Videospiele. Über das zu schreiben, was mich begeistert (Gadgets, Spiele und Filme), ermöglicht es mir, bei Verstand zu bleiben und mit einem Lächeln im Gesicht aufzuwachen, wenn der Wecker klingelt. PS: Das stimmt nicht 100% der Zeit.", "en-US": "Journalist specialized in technology, entertainment and video games. Writing about what I'm passionate about (gadgets, games and movies) allows me to stay sane and wake up with a smile on my face when the alarm clock goes off. PS: this is not true 100% of the time.", "es-ES": "Content Manager - Periodista especializado en tecnología, entretenimiento y videojuegos. Escribir sobre lo que me apasiona (cacharros, juegos y cine) me permite seguir cuerdo y despertarme con una sonrisa cuando suena el despertador. PD: esto no es cierto el 100 % de las veces.", "fr-FR": "Journaliste spécialisé dans la technologie, le divertissement et les jeux vidéo. Écrire sur ce qui me passionne (gadgets, jeux et films) me permet de rester sain d'esprit et de me réveiller avec le sourire aux lèvres quand le réveil sonne. PS : cela n'est pas vrai 100 % du temps.", "it-IT": "Giornalista specializzato in tecnologia, intrattenimento e videogiochi. Scrivere di ciò che mi appassiona (gadget, giochi e film) mi permette di mantenere la sanità mentale e di svegliarmi con un sorriso sul viso quando suona la sveglia. PS: questo non è vero al 100% del tempo.", "ja-JP": "", "nl-NL": "", "pl-PL": "", "pt-BR": "Jornalista especializado em tecnologia, entretenimento e videogames. Escrever sobre o que me apaixona (gadgets, jogos e filmes) me permite manter a sanidade e acordar com um sorriso no rosto quando o despertador toca. PS: isso não é verdade 100% do tempo.", "social": { "email": "chemacs91@gmail.com", "facebook": "", "twitter": "https://twitter.com/chematopetazo", "linkedin": "" } }