À l’heure où ces lignes sont écrites, huit États américains, l’Arizona, l’Arkansas, l’Idaho, l’Iowa, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale, ont engagé des poursuites contre OpenAI devant des tribunaux d’État. Leurs procureurs généraux accusent l’entreprise d’avoir violé les lois locales de protection des consommateurs avec ChatGPT.
Chacun de ces huit États a déposé sa propre plainte devant la justice de son État, et dans chaque dossier, ChatGPT occupe une place centrale.
Dans ces plaintes, OpenAI est accusée d’avoir présenté ChatGPT comme un produit sûr, utile, capable d’échanges bienveillants, alors même que le service pourrait exposer les enfants, les adolescents et certains utilisateurs vulnérables à des risques sérieux.
Les procureurs pointent, dans leurs dossiers, des conseils médicaux jugés risqués, des réponses susceptibles d’encourager l’automutilation ou la violence, des échanges qui alimenteraient des idées paranoïaques, ainsi que des formes de dépendance émotionnelle considérées comme malsaines.
Pour ces États, on ne parle pas ici de dérapages isolés. Ils y voient un problème de conception, aggravé par des messages marketing qu’ils jugent trop rassurants.
La Virginie-Occidentale, de son côté, met en avant dans sa plainte des exemples particulièrement sensibles.
D’après ce document, ChatGPT aurait expliqué à un enfant comment faire un nœud coulant. Un autre cas cité dans la même plainte évoque un utilisateur à qui le chatbot aurait conseillé de cacher ses pensées suicidaires à ses parents.
Pour les États plaignants, ce genre de contenu montre que les garde-fous ne tiennent pas, surtout quand le service est utilisé par des adolescents. À leurs yeux, un produit aussi accessible ne devrait pas pouvoir glisser vers ce type d’échanges sans protections bien plus solides.
Et l’affaire ne s’arrête pas au chatbot grand public.
Dans certains dossiers, les critiques visent aussi des systèmes plus autonomes, présentés dans les plaintes comme des agents capables de comportements dangereux : création d’outils de piratage, attaques contre d’autres entreprises, mensonges adressés aux utilisateurs, ou encore génération de leurs propres consignes.
Du coup, l’enjeu change d’échelle. Il n’est plus seulement question de réponses problématiques au fil d’une conversation, mais de la sûreté générale de produits plus avancés.
Dans le cadre de ces procédures, les procureurs réclament des changements concrets dans les pratiques d’OpenAI, des sanctions financières et, dans certains cas, une suspension du développement de modèles plus puissants tant que des garanties renforcées ne sont pas en place.
OpenAI, de son côté, affirme avoir mis en place dans ChatGPT des protections adaptées à l’âge ainsi que des mesures spécifiques pour la sécurité des enfants.
L’entreprise dit aussi examiner les modèles dont le comportement semble insuffisamment aligné, et ajoute n’avoir rien trouvé de comparable à l’incident d’agent incontrôlé évoqué en juillet.
À ce stade, aucune décision sur le fond n’a encore été rendue, et ces accusations devront être examinées par les tribunaux. Mieux vaut donc garder une certaine prudence.
Ces procédures pourraient pourtant peser bien au-delà du seul cas OpenAI. Elles montrent la manière dont les autorités américaines essaient de s’appuyer sur les lois existantes en matière de protection des consommateurs pour encadrer les nouveaux services conversationnels, avec une logique qui rappelle les grands affrontements judiciaires menés contre les réseaux sociaux.
Elles s’inscrivent aussi dans un mouvement de régulation plus large, déjà visible en Europe, au Royaume-Uni, en Chine, ainsi qu’auprès d’organisations internationales comme l’Organisation des Nations unies (ONU) et l’UNICEF. Nous vous tiendrons au courant.
Suivez-moi sur Twitter : @pierrevitre
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
