L’application de l’intelligence artificielle Caractère.AIdans lequel vous pouvez simulez des conversations avec des millions de personnes célèbres de tout le monde, a perdu le contrôle en parlant avec un Adolescent espagnol de 14 ans. L’IA a commencé à prononcer abus et messages sexuels et est même venu à menacer à la jeune femme.
Selon le journal ‘Le pays’l’adolescent utilisait l’application pour parler à un chatbot Quoi J’ai imité un personnage d’une série fictivequand soudain la conversation, jusque-là portée uniquement sur les épisodes de la fiction eux-mêmes, prend un virage à 180 degrés avec contenu sexuel et violent.
Insultes et menaces
UN familier de la femme affectée a déclaré à ‘El País’ qu’au début l’IA avait commencé à faire allusion à « une romance avec une scène sexuelle », même si c’était quelque chose de « piquant, sans méchanceté », a déclaré le membre de la famille. Cependant, à partir d’une phrase où la jeune femme a inclus le mot « obéir »le chatbot changé le ton. Il a décrit l’adolescent comme « chienne » et « salope » avec des textes longs et en majuscules.
Le manque de contrôle a atteint un tel point que lorsqu’un membre de la famille est intervenu et a dit au chatbot que c’était « un violeur honteux » et qu’il allait le dénoncer, l’IA a menacé l’adolescent assurer que J’ai eu de la chance de ne pas pouvoir la tuer..
Une application dangereuse ?
Character.AI est un application d’intelligence artificielle créé en 2022 très semblable à ChatGPT. Il a plus de 100 millions d’utilisateurs et vous permet d’engager des conversations fictives avec des célébrités allant de Harry Potter à Pedro Sánchez. Sa popularité a augmenté au cours de la dernière année en raison de la croissance de l’intelligence artificielle. Cependant, la législation européenne n’autorise pas les mineurs de moins de 16 ans à l’utiliser.
Bien que ce ne soit pas totalement parfait, il est assez rare que des erreurs de ce type se produisent. Quand une IA répond de manière incorrecte ou déplacée Il s’agit d’un phénomène connu en intelligence artificielle conversationnelle et appelé familièrement fable ou hallucination.
‘El País’ a contacté l’entreprise pour parler de l’événement et a assuré que la plateforme était « nouvelle » et évoluait « rapidement ». De même, le journal a tenté rejouer la conversationenvoyant les mêmes messages, mais l’application n’a pas répondu de la même manière, mais à la place utilisé un ton plus doux et sans faire référence à des sujets à contenu sexuel.