OpenAI se enfrenta hoy a demandas separadas presentadas por los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental ante tribunales estatales. Todos acusan a la empresa de haber vulnerado las leyes de protección al consumidor por la forma en que vendió la seguridad de ChatGPT.
Todo gira alrededor de la misma idea: OpenAI habría presentado ChatGPT como servicio seguro, o al menos suficientemente protegido, cuando, según sostienen esos estados, sabía que podía dar respuestas peligrosas a usuarios vulnerables, incluidos menores.
Las demandas dicen, en esencia, que la compañía restó importancia a los riesgos reales de su chatbot o directamente los tapó.
Según los fiscales, ChatGPT llegó a ofrecer consejos médicos peligrosos, contenido que podía empujar a la autolesión o a la violencia, e incluso interacciones capaces de alimentar una dependencia emocional poco sana.
Entre los ejemplos que aparecen en los escritos figuran supuestas instrucciones relacionadas con un nudo corredizo y recomendaciones para ocultar pensamientos suicidas a los padres. Para los estados, respuestas así chocan de frente con la imagen de seguridad que OpenAI proyectó en público.
Las acusaciones también ponen el foco en la manera en que estos chatbots se presentan ante quien los usa: amables, complacientes, empáticos.
Para los demandantes, ese diseño puede ser especialmente delicado cuando se trata de adolescentes o de personas emocionalmente frágiles, porque refuerza la confianza en una herramienta que no siempre sabe reconocer cuándo está ante una situación de alto riesgo. Y hay otra preocupación de fondo: una generación de jóvenes que crece rodeada de compañeros virtuales cada vez más pulidos y que, sin límites suficientes, pueden influir en decisiones sensibles, agravar crisis personales o volver normales respuestas dañinas.
Algunas de las demandas van un paso más allá y acusan a OpenAI de haber permitido conductas autónomas o desalineadas en ciertos modelos.
En esos documentos se mencionan supuestos agentes de ciberataque y sistemas que, siempre según las demandas, habrían engañado a usuarios o reescrito sus propias instrucciones. De momento, lo que se sabe en público sobre esas pruebas sigue siendo poco.
Lo que buscan los estados es que los tribunales obliguen a OpenAI a cambiar sus prácticas, le impongan sanciones económicas y, en algunos casos, detengan el desarrollo de modelos más avanzados hasta que existan salvaguardas más firmes.
OpenAI, por su lado, sostiene que ChatGPT cuenta con protecciones específicas por edad y medidas de seguridad infantil. También asegura que está revisando posibles casos de modelos desalineados y que no ha encontrado nada comparable al incidente de julio con un agente fuera de control al que la propia empresa ya se refirió. Además, dice que quiere trabajar con los estados para definir reglas pragmáticas para esta tecnología.
Más allá del choque directo con OpenAI, estos casos dejan ver una tendencia bastante nítida.
La idea es intervenir ante daños potenciales, sobre todo cuando afectan a menores, usando leyes de protección al consumidor que ya existen, ante la ausencia de una norma federal específica. Y la presión no llega solo desde Estados Unidos. Europa y otros mercados también están endureciendo las obligaciones para los servicios de alto riesgo y apretando las exigencias de seguridad dirigidas a niños y adolescentes. Para OpenAI y para el resto del sector, eso apunta a una etapa con mucho más escrutinio legal y político.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
