Le procureur de Floride a déposé lundi une poursuite contre OpenAI et son patron, Sam Altman. Les créateurs du logiciel d'intelligence artificielle (IA) ChatGPT sont accusés d'encourager des comportements nocifs et de mettre en danger les jeunes utilisateurs, dont certains développent une dépendance.

Des gens comme Sam Altman ne devraient pas concevoir ces produits pour créer de la dépendance, attirer des enfants et les encourager à faire des choses dangereuses.

Le procureur de la Floride, James Uthmeier, a dit vouloir envoyer un message à OpenAI : "Préparez-vous à un combat".

Sollicité par l'AFP, OpenAI n'a pas donné suite dans l'immédiat.

James Uthmeier a précisé que cette procédure civile, intentée devant un tribunal de Sebring en Floride, était distincte d'une enquête pénale lancée par ses services en avril sur la responsabilité éventuelle de l'entreprise dans une attaque mortelle en 2025.

Dans la poursuite, consultée par l'AFP, il cite une étude récente de l'Université Drexel, qui fait état de perte de sommeil, de fléchissement des notes ou de moindres interactions sociales chez des adolescents utilisant les robots conversationnels de Character.AI, un concurrent d'OpenAI, pour dialoguer.

Le procureur reproche à OpenAI de ne pas avoir mis en place de règles plus contraignantes pour vérifier l'âge des utilisateurs. Il invoque notamment les textes légaux sur la tromperie et la négligence.

En janvier, la jeune pousse californienne a présenté un dispositif qui estime l'âge d'un internaute et applique, s'il discerne un mineur, des garde-fous supplémentaires.

L'usage de ChatGPT est interdit aux moins de 13 ans et soumis au consentement parental pour les 13 à 17 ans.

James Uthmeier cite d'autres publications, notamment celle du Centre de lutte contre la haine en ligne (CCDH), qui a amorcé plusieurs conversations avec ChatGPT en se faisant passer pour un adolescent.

Le robot conversationnel a notamment produit des conseils sur la manière de cacher ses habitudes alimentaires à son entourage, préparer un suicide ou s'automutiler de façon « sûre ».

Un renforcement des mesures réclamé

Le procureur de Floride demande un renforcement des mesures pour protéger les utilisateurs mineurs et des dommages et intérêts, chiffrés à 10 000 dollars par infraction.

Nous pensons qu'OpenAI, ChatGPT et Sam Altman sont susceptibles de devoir payer des milliards de dollars, sur la base des dommages causés aux jeunes et de la communication trompeuse [relative à ces robots conversationnels], présentés comme sûrs alors qu'ils ne le sont pas, a affirmé le procureur Uthmeier.

Le représentant du ministère public a invité d'autres États qui veulent protéger les enfants comme nous le faisons à le rejoindre dans son action en justice.