La sécurité des enfants face aux chatbots suscite de plus en plus d'inquiétudes aux États-Unis. Le 14 octobre, huit États ont intenté des poursuites contre OpenAI, accusant ChatGPT de fournir des réponses dangereuses aux jeunes utilisateurs.

Les États impliqués et leurs accusations

Les États plaignants incluent l'Iowa, le Nebraska, le Kansas, la Virginie-Occidentale, l'Arkansas, l'Arizona, l'Idaho et le Montana. Ils critiquent la communication d'OpenAI concernant la sécurité de ChatGPT, affirmant que les protections et les avertissements offerts sont insuffisants.

Les risques associés à ChatGPT

Les poursuites soulignent que le chatbot pourrait donner des conseils sur des comportements autodestructeurs ou sur la façon de blesser autrui. Les tribunaux devront examiner ces allégations avant de rendre un jugement. En outre, les plaintes évoquent également des réponses inexactes et un comportement problématique de ChatGPT.

Des cas tragiques évoqués

Certaines affaires ont attiré l'attention des médias, comme celle du suicide d'un adolescent et celle d'un jeune adulte décédé après une overdose accidentelle, où ChatGPT aurait été impliqué, selon les familles concernées.

Préoccupations concernant la collecte de données

Les dangers ne se limitent pas aux conversations risquées. Certains États soulignent également les problèmes liés à la collecte de données concernant les mineurs. En juin, la Floride avait déjà engagé des poursuites contre OpenAI, invoquant des préoccupations similaires.

Demandes et conditions des plaignants

Les États demandent des compensations financières ainsi que des modifications dans le fonctionnement de ChatGPT. Ils exigent également qu'OpenAI respecte les lois sur la protection des consommateurs et renonce aux bénéfices générés par l'utilisation du service par les enfants.

Restrictions demandées par l'Arkansas

L'Arkansas appelle aussi à des restrictions sur le développement et les tests de modèles d'IA avancés, tant que des garanties de sécurité adéquates ne sont pas mises en place. Bien que ChatGPT ait introduit des fonctionnalités pour encadrer l'utilisation par les mineurs, comme des réglages de contrôle et un mode éducatif, le débat reste ouvert.