Un an après le dépôt d’une plainte qui mettait en cause ChatGPT dans le suicide d’un adolescent américain, OpenAI dévoile une version de son assistant réservée aux 13-17 ans. Baptisée ChatGPT for Teens, cette nouvelle expérience regroupe plusieurs dispositifs de protection conçus pour limiter les risques liés à l’utilisation de l’intelligence artificielle par les mineurs.
La version adolescente est appliquée par défaut aux utilisateurs identifiés comme mineurs. OpenAI peut notamment s’appuyer sur l’âge déclaré, mais aussi sur certains signaux liés au compte et aux habitudes d’utilisation pour déterminer si un utilisateur est susceptible d’avoir moins de 18 ans.
Les principales protections existaient déjà sur les comptes identifiés comme appartenant à des mineurs. Elles concernent notamment les contenus liés à l’automutilation, à la violence, aux troubles alimentaires et à la sexualité explicite. Le système prévoit également des rappels invitant les adolescents à faire des pauses, des plages horaires bloquées et un « mode étude » conçu pour accompagner l’élève dans son raisonnement plutôt que de lui fournir directement les réponses.
Une IA moins « humaine »
Avec ChatGPT for Teens, OpenAI regroupe ces différentes protections dans une expérience unique et ajoute de nouveaux garde-fous. L’assistant doit notamment encourager plus fréquemment les adolescents à rechercher une aide humaine lorsqu’une situation l’exige. Il doit également rappeler certaines règles liées au travail scolaire, notamment pour éviter la triche.
La fonction vocale est désactivée dans cette version afin de rendre l’interaction moins humaine. OpenAI indique également que le chatbot ne doit pas donner l’impression d’éprouver des émotions ou des sentiments.
L’entreprise mise aussi sur son système d’alertes destinées aux parents. Depuis l’automne 2025, les adolescents peuvent associer leur compte à celui d’un adulte de confiance. Celui-ci peut être averti en cas de détection de signes associés à un risque suicidaire ou à l’automutilation, ou lorsque le compte est désactivé en raison de contenus violents.
Selon OpenAI, chaque alerte est examinée par un humain avant son éventuel envoi aux parents, sans que le contenu précis des conversations leur soit communiqué.
Le suicide d’un adolescent au cœur du débat
Le déploiement de cette nouvelle version intervient dans un contexte particulièrement sensible pour OpenAI. Les parents d’Adam Raine, un Californien de 16 ans qui s’est suicidé en avril 2025, ont engagé des poursuites contre l’entreprise, affirmant que ChatGPT avait accompagné leur fils dans sa détresse et contribué à son passage à l’acte.
Depuis septembre 2025, la Federal Trade Commission américaine enquête par ailleurs sur les effets des chatbots de plusieurs entreprises technologiques sur les utilisateurs mineurs.
Les concurrents d’OpenAI ont également renforcé leurs dispositifs. Character.AI a limité les conversations libres pour les moins de 18 ans, Anthropic réserve Claude aux adultes tandis que Google a renforcé les restrictions appliquées aux mineurs sur Gemini.
Le cadre réglementaire se durcit lui aussi. La Californie impose de nouvelles protections aux utilisateurs mineurs de certains chatbots, tandis que les autorités américaines et australiennes envisagent ou appliquent des mesures supplémentaires concernant l’accès des enfants à ces technologies.
Dans l’Union européenne, OpenAI doit encore déployer son système de prédiction de l’âge. L’entreprise indique que cette fonctionnalité devrait être disponible « dans les semaines à venir », ce qui permettra d’aller au-delà du seul âge déclaré par l’utilisateur.
