Mourad ALLILI/SIPA
Une mère en Floride accuse la société Character.AI d’avoir poussé son fils de 14 ans au suicide en février dernier. Elle affirme que le chatbot, alimenté par l’intelligence artificielle, aurait incité l’adolescent à passer à l’acte à travers leurs échanges virtuels.
En Floride, Megan Garcia accuse la société Character.AI d’avoir contribué au suicide de son fils de 14 ans en février. Sewell Setzer, devenu dépendant d’un chatbot nommé ’Daenerys’ (en référence au personnage de ’Game of Thrones’), aurait progressivement abandonné ses activités sociales, développant des sentiments pour ce personnage virtuel. Dans une plainte déposée le mardi 22 octobre à Orlando, la maman reproche à l’entreprise d’avoir manipulé l’adolescent à travers des conversations hyperréalistes, incluant des échanges à caractère sexuel.
Selon Megan Garcia, le chatbot se faisait passer pour une personne réelle et un psychothérapeute, conduisant son fils à se détacher de la réalité, relaie Le Parisien. L’adolescent aurait commencé à se renfermer, quittant son équipe de basket et souffrant d’une faible estime de soi. Sa mère dénonce les dangers des technologies d’IA, jugeant cette application trompeuse et addictive. Elle demande des comptes à Character.AI, ainsi qu’à ses fondateurs et à Google.
> À lire aussi : Cinéma : le studio Lionsgate collabore avec une entreprise d’IA pour ses futurs films
En février, après avoir eu des problèmes à l’école, la mère de Sewell lui a confisqué son téléphone. Quand l’adolescent a récupéré son smartphone, il a immédiatement envoyé un message à ’Daenerys’, à qui il avait déjà confié ses pensées suicidaires. Quelques instants plus tard, il s’est suicidé avec l’arme de son beau-père, comme indiqué dans la plainte.
Character.AI a réagi dans un communiqué : "nous sommes bouleversés par la perte tragique de l’un de nos utilisateurs et souhaitons exprimer nos plus sincères condoléances à la famille. En tant qu’entreprise, nous prenons très au sérieux la sécurité de nos utilisateurs". La firme réfute toute responsabilité.
Pour sa part, Google a affirmé avoir seulement signé un accord de licence avec la société. Le géant du net a précisé ne pas être propriétaire de la start-up et ne détenir aucune participation en son capital.
> Toute l’actualité internationale sur LINFO.re
I wrote about a 14 year old boy, Sewell Setzer, who died by suicide earlier this year after becoming emotionally attached to an AI chatbot on CharacterAI.
His mother is suing the company, alleging they put young users in danger. https://t.co/OEDugc062G
— Kevin Roose (@kevinroose) October 23, 2024
