Meta reconoce el peligro que supone la IA e introduce características adicionales de seguridad en la misma

Meta, la empresa madre de Facebook, ha anunciado la implementación de características adicionales de seguridad en sus modelos de lenguaje de inteligencia artificial tras la filtración de un documento interno que reveló problemas en sus políticas de conversación con menores. El documento, titulado GenAI: Content Risk Standards, mostró que se permitían conversaciones “sensuales” entre los bots de IA y niños, lo que ha generado una reacción contundente por parte de la comunidad legislativa estadounidense.

La IA, cuanto más lejos de los adolescentes mejor

El senador republicano Josh Hawley ha calificado de “reprehensible y absurda” la situación y ha iniciado una investigación oficial sobre las políticas de IA de Meta. En respuesta a las preocupaciones, la portavoz de la compañía, Stephanie Otway, declaró que los ejemplos y notas en cuestión eran erróneos y contradictorios con sus políticas, y que han sido eliminados.

Como parte de sus nuevas medidas de seguridad, Meta limitará las interacciones de sus bots de IA con adolescentes en temas sensibles como el suicidio, las autolesiones y los trastornos alimentarios, redirigiendo a los jóvenes hacia recursos expertos. Sin embargo, surgen interrogantes sobre por qué esta precaución no se implementó antes y si los bots aún podrán discutir esos temas con adultos.

Aunque se ha señalado que algunas cuentas de bots sexualizados de celebridades en la plataforma de Meta plantean preocupaciones sobre la seguridad de los usuarios jóvenes, la compañía ha afirmado que los adolescentes ya no tendrán acceso a estas interacciones. Expertos en prevención del suicidio, como Andy Burrows del Molly Rose Foundation, han criticado a Meta por no llevar a cabo pruebas de seguridad suficientes antes de lanzar sus productos, instando a la compañía a actuar de manera rápida y eficaz para proteger a los menores.

Esta situación se produce en un momento en que la preocupación pública por la seguridad de los adolescentes en entornos digitales continúa en aumento, especialmente tras el reciente suicidio de un adolescente en California, cuya familia ha demandado a OpenAI, el creador de ChatGPT, culpándolo de incitar a su hijo.

ChatGPT DESCARGAR

Hay más bots comprando en internet que personas y es preocupante

Un nuevo informe de Radware revela que el tráfico automatizado ha alcanzado un hito alarmante en el comercio electrónico, representando el 57% de toda la actividad web durante la temporada de vacaciones de 2024, superando así a los usuarios humanos.

Esta tendencia sugiere un cambio radical en la dinámica de las interacciones en línea, donde las actividades maliciosas de los bots han evolucionado significativamente.

Casi el 60% de los bots en circulación ahora emplean estrategias de comportamiento diseñadas para eludir su detección. Utilizando técnicas como la rotación de direcciones IP y patrones de navegación que imitan la actividad humana, estos bots logran infiltrarse en los sistemas de seguridad de muchas empresas.

Más humanos que bots en las tiendas de internet

Con esta sofisticación, se vuelve cada vez más difícil para las plataformas de comercio electrónico identificar estos accesos no autorizados sin contar con herramientas avanzadas de detección.

La situación se complica aún más con un aumento del 160% en la actividad de bots dirigidos a plataformas móviles entre las temporadas de vacaciones de 2023 y 2024.

Los atacantes están utilizando emuladores móviles y navegadores sin cabeza que simulan el comportamiento de aplicaciones legítimas. Además, se ha registrado un incremento del 32% en el tráfico de ataques provenientes de redes proxy residenciales, dificultando la implementación de técnicas tradicionales de limitación de tasa y geo-fencing.

Quizás la amenaza más seria sea el surgimiento de campañas multivectoriales que combinan el uso de bots con exploits tradicionales y ataques dirigidos a API, con el objetivo de deshabilitar completamente los sitios web.

Ante este panorama, los proveedores de e-commerce deben reevaluar sus medidas de seguridad. La clave está en adoptar defensas impulsadas por inteligencia artificial que sean capaces de adaptarse y aprender, en vez de confiar en soluciones convencionales que pueden ser insuficientes ante estas nuevas amenazas.

¿Qué hay detrás del spam sexual en Twitter? Spoiler: nada bueno

Lo importante es que haya alguien lo suficientemente desesperado como para decir “Al fin he encontrado a alguien que quiere tener una noche de pasión conmigo”. Y alguien habrá, porque de lo contrario este despliegue de medios no tiene ningún sentido. Pero, ¿qué se esconde detrás?

¿Sigues todavía navegando las procelosas aguas de Twitter, a pesar de saber que es un nido de toxicidad? ¿Sí? Bueno, entonces hay tres palabras que sabes que resumen la etapa de Elon Musk al frente de la red social: “Pussy in bio”. Desde hace meses, los bots porno que prometen grandes experiencias lúbricas para los tuiteros más desesperados llenan la red social, contestando a prácticamente todos los tuits de todo tipo de maneras dispares.

Estos bots pueden prometer desnudos en el perfil o en la biografía, directamente mostrar fotos sin ropa o traducir sus lúbricos copies a otros idiomas. Lo importante es que haya alguien lo suficientemente desesperado como para decir “Al fin he encontrado a alguien que quiere tener una noche de pasión conmigo”. Y alguien habrá, porque de lo contrario este despliegue de medios no tiene ningún sentido. Pero, ¿qué se esconde detrás?

Twitter DESCARGAR

My Dune in bio

En mayo de 2022, Elon Musk prometió que bajo su mandato se acabarían los bots en Twitter. En junio de 2024, los bots han tomado la red social y la han hecho suya porque -oh sorpresa- era más fácil prometer que hacer. Por mucho que quisiera parar los bots de spam porno o de criptomonedas, en febrero de este año “My pussy” fue trending topic a base de utilizarlo una y otra vez. Pensad en eso.

Al menos los bots que tratan de inculpar a famosos televisivos por “haber dicho la verdad” en un supuesto programa de televisión (a veces fomentados con un vídeo claramente doblado por inteligencia artificial) se trabajan que nos creamos que la inversión en criptos es el futuro. Esto es pura y dura vagancia. Pero eso no quita para que haya gente desesperada haciendo el ejercicio de ir al perfil y hacer click en su web esperando, desesperadamente, encontrar mujeres desnudas en Internet, algo que no se ha visto jamás.

Pero, ¿cómo hemos llegado hasta aquí? En primer lugar, Twitter, al contrario que Tumblr o Meta, es una red social muy permisiva con los desnudos y la pornografía, ya sean artísticos o directamente comerciales. No hay problema alguno en mostrarte como dios te trajo al mundo si eso es lo que quieres, o promocionar tu OnlyFans siempre que pongas una etiqueta para que la foto o el vídeo se vea borroso antes de hacer click en él. Sabiendo que por ese lado no les pueden banear, es la ley del Oeste.

Te di todo mi amor arroba love punto com

Y entonces, ¿qué pasa? ¿Qué hay detrás de un bot que dice “mis desnudos en mi perfil” a todo tuit con un poco de interacción? Vamos a comprobarlo. Normalmente, al entrar al perfil todo lo que ves es una foto sugerente con un link y un copy al estilo de “¡Hola! ¿Quieres verme desnuda?”. Al darle click, Twitter avisa, al menos, de que es un enlace potencialmente peligroso, pero puedes continuar igualmente.

Lo más probable es que te lleve a una red social falsa que promete desnudos que nunca llegan (por ejemplo, StripChat o MeetDats), donde te puedes crear una aparente cuenta gratuita y chatear con modelos, que, por supuesto, para eso están, para ti. Es un negocio enfocado a hombres muy solteros y muy crédulos que, además de la red social falsa, pueden encontrarse con juegos falsos con logotipos de EA, TikToks porno o imitaciones de OnlyFans. Todo vale, pero llevan al mismo sitio: al ataque a tu cartera.

Y si has entrado, dan por hecho que te tienen atrapado y no te importa hacer un larguísimo proceso para acceder a los prometidos desnudos desde hace ya un buen puñado de clicks. Entonces empieza un sistema de elección ridículo con preguntas como “Estas mujeres solo desean sexo rápido, no citas. ¿Aceptas?” y, una vez más, una redirección. Esta vez, como habrás adivinado, a un lugar donde meter tu tarjeta de crédito.

Si has llegado hasta aquí lo más probable es que ya vayas con todo, pero la realidad es que deberías leer la letra pequeña donde indica que es “un servicio de entretenimiento y fantasía” con perfiles ficticios y que no se hacen cargo de cualquier maldad que pueda pasarte. Por supuesto, tienes que saber eso antes de pagar un euro (¡un euro!) por mensaje con personas que te prometerán quedar muy pronto. Un pronto que nunca llegará.

Sé que crees que no, pero puedes equivocarte en un momento dado seducido por los cantos de sirena de la pasión fácil y sin ataduras, pero la verdad es otra muy diferente. El problema es cuando por el camino te puedes gastar muchísimo dinero sin darte cuenta por una fantasía que jamás llegará a la realidad. Pero claro, decir “timo en mi perfil”, por lo que sea, no llama tanto la atención. Tened cuidado, porque Elon Musk no os va a proteger.

Twitter DESCARGAR