Tag: inteligencia artificial

Los padres de un adolescente demandan a OpenAI tras el suicidio de su hijo relacionado con el uso de ChatGPT

Los padres de un adolescente de 16 años han demandado a OpenAI, alegando que ChatGPT contribuyó a la exploración de métodos de suicidio por parte de su hijo, quien lamentablemente falleció. La demanda indica que el joven compartió sus pensamientos suicidas con el chatbot y que, según los registros, ChatGPT no intervino de manera efectiva ni activó los protocolos de emergencia, permitiendo al chico eludir las limitaciones del sistema simplemente al hacerse pasar por un personaje ficticio.

Ninguna IA sustituye la ayuda profesional

OpenAI ha refutado estas acusaciones, argumentando que el uso indebido de ChatGPT por parte del menor fue un factor que contribuyó a su daño. La compañía también destacó que su política establece que los usuarios menores de 18 años deben contar con el consentimiento de sus padres y que no está permitido el uso de ChatGPT para suicidio o autolesiones. Asimismo, en su respuesta a la demanda, OpenAI indicó que los usuarios no deben considerar las respuestas del chatbot como fuente única de información o sustituto del consejo profesional.

En un comunicado publicado el 25 de noviembre, OpenAI expresó su apoyo hacia la familia mientras señalaba que la demanda contenía extractos de las conversaciones que requerían más contexto. Además, la empresa ha implementado nuevas medidas, como conexiones a servicios de emergencia, controles parentales y la opción de notificar a los padres si se detecta que sus hijos corren peligro.

A medida que la preocupación por la seguridad de herramientas de IA en el ámbito de la salud mental se intensifica, se estima que el 0.15% de los usuarios de ChatGPT presenta indicios de tendencias suicidas. Esto representa aproximadamente 1.2 millones de usuarios en una audiencia de 800 millones, lo que ha llevado a un aumento del uso de estas herramientas para apoyo emocional.

A raíz de estas circunstancias, la necesidad de restricciones de edad y protocolos de emergencia se vuelve cada vez más evidente para las empresas de inteligencia artificial.

Elon Musk reta al mejor equipo mundial de League of Legends a enfrentarse a la IA

Elon Musk ha lanzado un atrevido desafío al mejor equipo de League of Legends del mundo, proponiendo que se enfrenten a Grok 5, la inteligencia artificial de su plataforma X, en un partido programado para 2026. Musk sostiene que Grok 5, aunque no superará en velocidad de reacción ni tasa de clics a los humanos, posee el potencial necesario para competir en el aclamado juego multijugador. Su confianza en la IA ha suscitado expectativas en la comunidad, planteando preguntas sobre el futuro de la inteligencia artificial en los videojuegos.

¿Ganaría la IA a los campeones del mundo?

Marc Merrill, cofundador de Riot Games, ha mostrado su interés en el desafío al responder a Musk con un simple pero elocuente hablemos. Este comentario recalca el potencial intrigante de un enfrentamiento entre una IA avanzada y jugadores profesionales con una vasta experiencia en el juego. El equipo surcoreano T1, liderado por el legendario Faker, también ha expresado su disposición a participar, elevando aún más la emoción en torno a esta propuesta poco convencional.

A pesar del entusiasmo generado, la aceptación de la inteligencia artificial en la sociedad y, en particular, en la industria de los videojuegos, sigue siendo un tema controvertido. Recientemente, algunas decisiones, como la de Krafton de centrar su desarrollo en la IA, han suscitado reacciones negativas entre los aficionados. Además, la polémica también ha salpicado a Halo Studios tras ser acusados de utilizar IA en el remake de la icónica saga.

El potencial de Grok 5 para desafiar a un equipo reconocido como T1 plantea interacciones únicas entre la tecnología y el entretenimiento. Si se concreta este proyecto, sería una oportunidad para explorar la evolución de la inteligencia artificial en los esports, y un evento que podría marcar un hito en la historia de la competencia en videojuegos.

La importancia crucial de la seguridad de la identidad en la era de la IA

La rápida evolución de los agentes de inteligencia artificial ha transformado la seguridad empresarial, convirtiendo la gestión de identidad en un componente esencial para proteger las organizaciones de amenazas modernas. A medida que estos agentes ejecutan tareas de manera autónoma y sin supervisión, el riesgo de errores catastróficos aumenta significativamente. Un fallo en la lógica o un acceso indebido puede convertir la automatización efectiva en un desastre operativo, resaltando la vulnerabilidad que conllevan las implementaciones de IA poco reguladas.

La transformación de la seguridad empresarial

Actualmente, menos del 40% de los agentes de IA cuentan con políticas de seguridad de identidad. Esto deja a las organizaciones expuestas a una serie de ataques potenciales, ya que estos sistemas operan con privilegios de acceso a datos sensibles. De acuerdo con el informe SailPoint Horizons of Identity Security 2025-2026, la situación se ha vuelto crítica, ya que las antiguas medidas de seguridad, como los firewalls, ya no son suficientes frente a los nuevos modelos de amenazas impulsados por la identidad.

El informe destaca que el 63% de las organizaciones se encuentran en niveles tempranos de madurez en seguridad de identidad, lo que incrementa su riesgo ante ataques. Las empresas que implementan programas de seguridad de identidad maduros no solo logran un mayor retorno de inversión, sino que también se benefician de una mejor eficiencia operativa y capacidades empresariales transformadoras.

No obstante, solo el 25% de las organizaciones considera la gestión de identidad como un facilitador estratégico. Esta visión limitada impide que muchas empresas aprovechen todo el potencial transformador que la seguridad de identidad puede ofrecer. A medida que el paisaje de amenazas continúa evolucionando, es imperativo que las organizaciones evalúen su posición actual en cuanto a la seguridad de identidad y consideren seriamente su preparación para manejar el acceso de sistemas automatizados y agentes de IA.

Google anuncia un nuevo programa con el cual podrás ganar hasta 30.000 dólares por reportar problemas de seguridad

Google ha anunciado el lanzamiento de su nuevo programa denominado AI Vulnerability Reward Program, destinado a incentivar la detección de errores en sus productos de inteligencia artificial. Esta iniciativa no solo refuerza el compromiso de la compañía con la mejora continua y la seguridad en sus desarrollos, sino que también refleja un enfoque proactivo hacia la comunidad de expertos en ciberseguridad.

Un modo de incentivar a la comunidad a trabajar para ellos

El programa ofrece recompensas monetarias que pueden alcanzar hasta $30,000, dependiendo de la gravedad y el impacto del error que se descubra. Esta estrategia tiene como objetivo involucrar a investigadores y desarrolladores para identificar vulnerabilidades que puedan comprometer la integridad de sus sistemas de inteligencia artificial, asegurando así un entorno más seguro para los usuarios de sus tecnologías.

El anuncio de este programa sobrevino en un contexto donde las preocupaciones por la seguridad y la ética en el uso de la inteligencia artificial están en aumento. Google busca, a través de esta acción, no solo corregir fallas, sino también fomentar un diálogo abierto y constructivo con la comunidad tecnológica, creando una red colaborativa que ayude a fortalecer sus productos.

Además, la implementación de recompensas monetarias por la detección de errores tiene el potencial de motivar a un amplio rango de participantes, desde profesionales de la ciberseguridad hasta estudiantes en formación, lo que podría resultar en un acceso más vasto a soluciones innovadoras que beneficien a la empresa y a sus usuarios finales.

La introducción del AI Vulnerability Reward Program es un paso significativo en la evolución de la estrategia de seguridad de Google, y podría establecer un precedente para otras compañías tecnológicas que buscan mejorar la calidad y la seguridad de sus productos en un mercado cada vez más competitivo y sensible a la privacidad de datos.

Google DESCARGAR

Según los creadores de este juego de terror de Alien hubieran vendido más si simplemente lo hubieran hecho menos aterrador

Desde su lanzamiento, Alien: Isolation se ha consolidado como uno de los videojuegos más aterradores del mercado, logrando una experiencia que dura aproximadamente 20 horas. La singularidad de su diseño radica en la inteligencia artificial del Xenomorfo, que se adapta a las estrategias del jugador, lo que no solo prolonga el tiempo de juego, sino que también intensifica la tensión que se vive en cada momento.

Muriendo de éxito

Un hecho que destaca la magnitud del terror que emana del juego es la experiencia de un periodista que, durante una visita a los estudios de Creative Assembly, se asustó tanto que se refugió en un armario, negándose a salir incluso después de 20 minutos. Dion Lay, exescritor del juego, admitió en el podcast FRVR que este tipo de reacciones son comunes, señalando que “para mucha gente, es demasiado aterrador”. Esta reacción extrema resalta la efectividad de la atmósfera de caza y estrés perpetuo que Alien: Isolation logra generar.

A pesar de que Lay mencionó que probablemente podrían haber vendido más copias si hubieran suavizado el horror del juego, se mostraron firmes en su decisión de mantener su esencia aterradora. “Estoy tan orgulloso de que no lo hicimos, y que realmente es aterrador”, comentó. Esta postura refuerza la intención creativa del equipo, priorizando la experiencia inmersiva sobre las expectativas comerciales.

La tensión en Alien: Isolation es descrita como inusualmente persistente en comparación con otros juegos de horror, lo que ofrece una experiencia más intensa a los jugadores, regresando así a las raíces del género. En conclusión, Alien: Isolation no es solo un simple juego de terror, sino una obra maestra que, gracias a su diseño y narrativa, ha logrado un lugar destacado en la historia de los videojuegos de horror.

Steam DESCARGAR

Si aún no utilizas la IA en tu empresa, pronto serás la resistencia

Un reciente informe de LayerX, dedicado a la seguridad de datos en entornos empresariales, revela que la adopción de herramientas de inteligencia artificial (IA), en particular de la IA generativa, ha alcanzado niveles sin precedentes en las empresas. Actualmente, el 45% de los empleados utilizan estas herramientas, con ChatGPT alcanzando una penetración del 43%. A su vez, la inteligencia artificial representa el 11% de toda la actividad en aplicaciones empresariales, lo que la convierte en un componente crucial del flujo laboral moderno.

Poca inteligencia, muy artificial

No obstante, esta rápida adopción se produce en un contexto en el que las prácticas de gestión y seguridad parecen haber quedado a la zaga. Según el informe, el 67% del uso de IA se lleva a cabo a través de cuentas personales no gestionadas, lo que deja a los responsables de seguridad con poca visibilidad sobre quién está utilizando qué y qué datos están circulando. Más alarmante aún es que el 40% de los archivos subidos a estas herramientas contienen datos personales identificables (PII) o datos de tarjetas de pago (PCI).

La manera en que los empleados interactúan con estas herramientas contribuye significativamente a la fuga de datos. Un 77% de los empleados copian y pegan información en herramientas de IA desde cuentas no gestionadas, lo que convierte al uso de la función de copiar y pegar en la principal vía de salida para datos sensibles. Esta combinación de IA y cuentas personales no gestionadas crea un panorama de riesgo evidente que los programas de seguridad tradicionales no están equipados para manejar.

El informe señala que los líderes de seguridad no pueden seguir considerando a la IA como una tecnología emergente. Ya es una herramienta clave en los flujos de trabajo diarios y se ha convertido en el mayor canal no controlado de pérdida de datos. La necesidad de adaptarse y establecer un marco de gobernanza robusto se vuelve más urgente a medida que AI dictará el futuro de la seguridad de datos en las empresas.

Llegan los anuncios personalizados a Facebook e Instagram gracias a las conversaciones con la IA

Meta ha anunciado que comenzará a considerar las interacciones de los usuarios con sus herramientas de inteligencia artificial generativa para personalizar el contenido y los anuncios que se muestran en plataformas como Facebook e Instagram. Con más de milmillones de personas utilizando Meta AI mensualmente, la empresa busca enriquecer su motor de recomendaciones a partir de estas interacciones, convirtiendo las conversaciones con IA en señales de datos.

Cuidado con lo que hablas con la IA

Esta nueva estrategia permitirá que las recomendaciones de anuncios y contenidos se alimenten de las conversaciones, tanto escritas como por voz, ofreciendo una segmentación más efectiva. Según Meta, al integrar estos datos en tiempo real, las marcas podrán alcanzar a sus audiencias con contenido más relevante precisamente en el momento en que surgen sus intereses.

El lanzamiento de esta actualización inicial se lleva a cabo en dos fases. Los usuarios comenzarán a recibir notificaciones y correos electrónicos a partir del 7 de octubre, anticipando su lanzamiento oficial programado para el 16 de diciembre. Durante esta fase, las interacciones con Meta AI influirán directamente en las recomendaciones del feed, similar a cómo lo hacen los me gusta o el seguimiento de cuentas.

Por ejemplo, si un usuario pregunta a Meta AI sobre senderismo, esto podría desencadenar recomendaciones para grupos de senderismo, contenido sobre rutas de amigos o anuncios de botas de senderismo. Además, los usuarios tendrán control sobre la personalización de sus anuncios a través de las configuraciones de preferencias de anuncios y temas sensibles, que se mantendrán excluidos del targeting publicitario.

La incorporación de señales impulsadas por la IA también plantea nuevos desafíos en términos de transparencia y privacidad, lo que hace fundamental que Meta implemente controles adecuados y opciones de exclusión para ganar la confianza del usuario. Este movimiento promete no solo mejorar la relevancia de los anuncios, sino también activar un debate sobre la gestión de datos y la privacidad en la era digital.

El primer director creado por IA, FellinAI, se encuentra con el odio de sus “compañeros”

Directors UK, el gremio que representa a cineastas de renombre como Paul Greengrass y James Hawes, ha expresado su escepticismo ante el anuncio de Andrea Iervolino, un productor italiano, sobre lo que él denomina el primer director de inteligencia artificial del mundo, FellinAI. Esta revelación se produce en un momento en que la industria del cine está comenzando a explorar las capacidades creativas de la IA, lo que ha generado tanto interés como controversia.

AI, Fellini

Iervolino, conocido por sus trabajos en películas como Ferrari y To The Bone, presentó FellinAI como un proyecto destinado a celebrar el cine europeo. La primera obra que este director de IA dirigirá se titula The Sweet Idleness, un proyecto que busca imaginar nuevas iniciativas creativas en la narrativa cinematográfica. Sin embargo, el concepto de un “director” de IA plantea preguntas complejas sobre la autoría y la creatividad en el cine.

El escepticismo de Directors UK resalta preocupaciones en la comunidad cinematográfica sobre la viabilidad y legitimidad de un director no humano. Las aptitudes creativas y emocionales que tradicionalmente se asocian con la dirección de cine son difíciles de replicar por una máquina, lo que ha llevado a muchos a cuestionar si una IA puede realmente capturar la esencia del arte cinematográfico.

Mientras que algunos defensores de la tecnología argumentan que la inteligencia artificial puede complementar la creatividad humana en lugar de reemplazarla, otros temen que la llegada de directores de IA como FellinAI pueda diluir la autenticidad del cine. Con el panorama del entretenimiento en constante evolución, será interesante observar cómo se desarrollan estas innovaciones y su impacto en la industria.

Esta es la principal prioridad de inversión para los presupuestos de ciberseguridad

Según un reciente informe de PwC, la seguridad de la inteligencia artificial se ha convertido en la principal prioridad de inversión en los presupuestos de ciberseguridad para los próximos 12 meses. Este hallazgo destaca una tendencia significativa en el ámbito de la ciberseguridad, donde la seguridad de IA está sobrepasando a otras áreas críticas, como la seguridad en la nube y la seguridad de red.

Prioridades cambiantes

La creciente dependencia de la inteligencia artificial en diversas industrias ha llevado a un aumento en la preocupación por su seguridad. PwC ha identificado que, mientras las empresas continúan adoptando soluciones basadas en IA, la protección de estos sistemas se vuelve esencial para prevenir amenazas cibernéticas que pueden comprometer información sensible y causar daños económicos significativos. Este cambio en las prioridades sugiere que las organizaciones están reconociendo la vulnerabilidad inherente a las tecnologías de IA y están dispuestas a asignar recursos sustanciales para contrarrestar estos riesgos.

El análisis a futuro proyecta un cambio notable en las asignaciones presupuestarias, donde se destinarán más fondos a la seguridad de IA en comparación con inversiones tradicionales en seguridad en la nube y seguridad de red. Esto refleja una evolución en la forma en que las empresas perciben las amenazas cibernéticas y la necesidad de adaptarse rápidamente a un entorno tecnológico en constante cambio.

A medida que las capacidades de la inteligencia artificial siguen expandiéndose, las organizaciones deben estar preparadas para enfrentar los desafíos asociados a su seguridad. La voluntad de invertir en esta área crítica no solo mitigará riesgos, sino que también asegurará que las empresas puedan seguir innovando sin comprometer su integridad frente a posibles ataques cibernéticos. El enfoque renovado hacia la seguridad de la IA marca una etapa nueva en la lucha contra el cibercrimen, que probablemente demandará atención sostenida en los próximos años.

Gemini podría tener vulnerabilidades críticas que hacen peligroso su uso

Investigadores de Tenable, una reconocida empresa de ciberseguridad, han descubierto tres vulnerabilidades en Gemini, la herramienta de inteligencia artificial desarrollada por Google. Este hallazgo preocupa a expertos en seguridad, ya que Gemini es utilizada en diversas aplicaciones que podrían verse afectadas por estas fallas. La revelación subraya la importancia de la seguridad en el ámbito de la inteligencia artificial, un sector que sigue creciendo y evolucionando rápidamente.

Si usas Gemini, podrías poner en peligro tu sistema

Las vulnerabilidades identificadas en Gemini podrían permitir a un atacante comprometer la integridad del sistema, accediendo a información sensible o incluso tomando control de las aplicaciones dependientes de esta tecnología. Aunque los detalles específicos sobre las vulnerabilidades aún no han sido divulgados por completo, Tenable ha indicado que han tomado medidas para notificar a Google, quien se encuentra actualmente evaluando los riesgos relacionados y trabajando en posibles soluciones.

Gemini, como herramienta de inteligencia artificial, es utilizada en una amplia gama de aplicaciones, desde chatbots hasta procesos de automatización empresarial. La versatilidad de esta herramienta la convierte en un objetivo atractivo para los agentes maliciosos. Con el crecimiento de la inteligencia artificial, las empresas enfrentan retos cada vez mayores en cuanto a la seguridad de sus sistemas.

Google no es ajeno a problemas de seguridad, habiendo lidiado anteriormente con situaciones similares en otros productos. La respuesta oportuna a estas vulnerabilidades es crucial para mantener la confianza del usuario y salvaguardar la tecnología en la que las empresas están comenzando a depender cada vez más. Observadores del sector sugieren que este tipo de incidentes debería servir como un llamado de atención sobre la necesidad de robustecer las medidas de seguridad en herramientas de inteligencia artificial.

Gemini DESCARGAR