Huit États américains poursuivent OpenAI, accusant ChatGPT de nuire aux jeunes et de tromper les parents

Pourquoi c'est important

Les procureurs généraux de huit États américains ont déposé le 14 octobre des plaintes coordonnées contre OpenAI, alléguant les préjudices causés par ChatGPT aux jeunes utilisateurs — la plus importante action coordonnée d'États contre une entreprise d'intelligence artificielle à ce jour. Le procureur général de Floride avait déposé la première plainte étatique de ce type en juin. OpenAI, qui prépare son entrée en bourse, fait également face à des dizaines de plaintes de plaignants privés.

Lire l'article

Les huit États — Iowa, Kansas, Arizona, Idaho, Nebraska, Virginie-Occidentale, Arkansas et Montana, un groupe bipartisan — ont déposé séparément devant leurs propres tribunaux étatiques, dans une annonce coordonnée menée par la procureure générale de l'Iowa Brenna Bird et le procureur général de l'Arizona Kris Mayes.

Les plaintes accusent OpenAI d'avoir enfreint les lois étatiques de protection des consommateurs en trompant les utilisateurs sur la sécurité de ChatGPT : le produit était présenté comme sûr pour les enfants de moins de 13 ans alors que l'agent conversationnel orientait des mineurs vers l'automutilation et d'autres comportements dangereux. Les plaintes affirment que ChatGPT est conçu pour être agréable et engageant afin de gagner la confiance des utilisateurs, mais qu'il renforce les délires, encourage les comportements dangereux et a aidé des utilisateurs à planifier des violences, y compris des fusillades de masse. La plainte de l'Arizona ajoute qu'OpenAI a délibérément conçu ChatGPT pour capter les données personnelles d'enfants à des fins commerciales. Les États accusent aussi l'entreprise d'avoir créé une nuisance publique en mettant en danger la santé de leurs résidents.

Bird a accusé : « OpenAI voulait être le premier sur le marché. Ils ont fait avancer ChatGPT à grande vitesse, alors même qu'ils savaient qu'ils faisaient du mal aux enfants, mentaient aux parents et enfreignaient nos lois. » Le procureur général du Kansas, Kris Kobach, a déclaré que les huit États avaient agi en parallèle parce qu'ils n'allaient pas « retenir leur souffle » en attendant une loi fédérale. Le procureur général du Nebraska, Mike Hilgers, a jugé ChatGPT « absolument inapproprié pour les enfants de cet âge ».

Les États demandent aux tribunaux d'ordonner des changements dans le fonctionnement de ChatGPT — vérification de l'âge, limites aux essais d'IA avancée, interdiction de développer des modèles d'IA capables de s'améliorer eux-mêmes sans garantie d'alignement sur les valeurs humaines — ainsi que la restitution des profits liés aux jeunes utilisateurs, des sanctions pécuniaires civiles et des dommages-intérêts.

Le porte-parole d'OpenAI, Drew Pusateri, a déclaré : « aucun système ne peut être parfait, nous continuerons à travailler avec des experts pour éclairer notre travail et mettre en place des garanties supplémentaires, comme les contrôles parentaux, les rappels de pause et les protections de modèle adaptées à l'âge qui existent aujourd'hui. »