Hace unos días os trajimos la noticia de que Google se quería poner seria con el contenido modificado o creado mediante inteligencia artificial. De ahí que su idea fuese obligar a los creadores de contenido a que los vídeos que usasen IA lo advirtiesen.
Y, a la vez, Google es la empresa que más trabaja por introducir a la IA en nuestra vida. En nuestras búsquedas de internet, en nuestras fotos y vídeos, en nuestras rutinas de entrenamiento, etc. De ahí que Google se enfrente a sí misma a diario.
¿Y por qué hemos desarrollado la noticia de esta forma? Pues porque su nuevo Pixel 8, el cual presume de una tecnología llamada Best Take (mejor toma) utiliza IA para permitirle intercambiar expresiones faciales en fotos de grupo para obtener tomas “perfectas”. Algo que choca con las nuevas medidas de YouTube.
Google, moderándose a sí misma
YouTube, que acaba de lanzar el primer corte de una política de contenido generado por IA que requiere que “los creadores revelen cuándo han creado contenido alterado o sintético que sea realista”.
La entrada del blog cita específicamente el contenido que “representa de forma realista un evento que nunca ocurrió” como que necesita ser etiquetado, y señala que las sanciones por no etiquetar de forma coherente el contenido sintético realista pueden incluir la eliminación de contenido y la desmonetización.
Pues bien. El Pixel 8 con el Best Take y Magic Editor en Google Fotos puede generar muy claramente fotos realistas de eventos que nunca sucedieron. En concreto, Best Take permite crear momentos entre personas que nunca ocurrieron, eligiendo entre varias expresiones faciales para ellos, y Magic Editor puede simplemente eliminar cosas del fondo.
Es trivial hacer que las personas parezcan estar mirando la misma cosa, o cosas diferentes, o reaccionando entre sí de maneras que nunca ocurrieron – una foto de Taylor Swift y Travis Kelce en el Pixel 8 está potencialmente a solo unos toques de contar una historia muy diferente a la realidad.
Lo mismo ocurre con una foto Best Take de Donald Trump durante las próximas elecciones. Los propios anuncios del Pixel 8 de Google son un gran ejemplo de lo fácil que es, en realidad:
The Verge preguntó a la propia Google al respecto y no tiene claro si en estos casos los creadores deberán marcar el contenido como manipulado con IA. Lo único que parece claro es que las herramientas de Google obligarán a sus propias plataformas a trazar esas líneas muy rápidamente.
