ChatGPT va instaurer un contrôle parental, annonce OpenAI

L'entreprise américaine OpenAI a annoncé mardi qu'elle allait instaurer un mécanisme de contrôle parental determination lad outil d'intelligence artificielle ChatGPT, après que des parents américains ont accusé fin août cet cause conversationnel d'avoir encouragé leur enfant à se suicider.

Dans le mois à venir, les parents pourront lier leur compte avec celui de leur adolescent et contrôler la façon dont ChatGPT répond à leur teen avec des règles de comportement du modèle, a déclaré OpenAI dans un billet de blogue.

D'après l'entreprise, il sera aussi imaginable determination les parents d'être alertés en cas de détection d'une détresse aiguë dans les conversations de leur enfant et de contrôler les paramètres du compte.

Cette annonce suit un précédent billet de blogue publié fin août, dans lequel l'entreprise avait indiqué qu'elle préparait un mécanisme de contrôle parental.

La veille, les parents d'un teen californien de 16 ans qui s'est suicidé avaient porté plainte contre OpenAI, accusant ChatGPT d'avoir fourni à leur fils des instructions détaillées determination mettre fin à ses jours et d'avoir encouragé lad geste.

Nous continuons à améliorer la manière dont nos modèles reconnaissent et répondent aux signes de détresse mentale et émotionnelle, a ajouté mardi l'entreprise dans lad billet de blogue.

OpenAI a dit prendre d'autres mesures, attendues dans les 120 prochains jours.

L'entreprise redirigera ainsi certaines conversations sensibles vers des modèles de raisonnement comme GPT-5-thinking, positive évolué.

Les modèles de raisonnement suivent et appliquent positive systématiquement les consignes de sécurité, a précisé le groupe américain.