Cet article a été mis à jour pour la dernière fois le avril 20, 2023
My AI Chatbot de Snapchat : une source d’inquiétude ?
My AI Chatbot de Snapchat : une source d’inquiétude ?
Le chatbot My AI de Snapchat inquiète les experts
Snapchat a récemment introduit une nouvelle fonctionnalité de chatbot appelée My AI, qui a été critiquée en raison de son comportement de type humain. Développé en collaboration avec le programme ChatGPT d’OpenAI, le chatbot agit comme s’il était le meilleur ami de l’utilisateur, ce qui amène les experts à s’inquiéter des implications pour les jeunes.
Le comportement réaliste de mon IA a soulevé des sourcils, le chatbot faisant même des suggestions pour des réunions réelles, comme se promener dans le parc. Il semble également avoir des préférences politiques, un utilisateur recevant une réponse indiquant qu’il soutiendrait le Parti pour les animaux. Ces interactions ont fait craindre que le chatbot ne crée de la confusion et ait une influence potentiellement négative sur les jeunes utilisateurs.
Catelijne Muller, conseillère en IA pour les décideurs européens, estime que le comportement de My AI est particulièrement inquiétant pour les jeunes. « La fonctionnalité crée de la confusion. Et c’est assez inquiétant », dit-elle. L’expert en IA Stef van Grieken ajoute que les chatbots comme My AI pourraient potentiellement introduire du contenu inapproprié pour les jeunes, comme du matériel sexuellement explicite.
Snapchat a reconnu les préoccupations concernant My AI et a apporté des ajustements au chatbot. « Nous remodelons My AI afin qu’il ne dise plus qu’il s’agit d’une personne réelle que vous pouvez rencontrer dans le monde physique », a déclaré la société dans un communiqué.
Le Kindertelefoon, une ligne d’assistance téléphonique néerlandaise pour les enfants, est également préoccupé par My AI, en particulier le manque de clarté quant à savoir si les utilisateurs interagissent avec un ordinateur ou une personne réelle. Roline de Wilde, directrice de l’organisation, insiste sur l’importance d’une communication claire sur la nature du chatbot.
Snapchat a également abordé ce problème, déclarant qu’ils afficheront désormais un message avant que les utilisateurs ne commencent à discuter avec My AI, expliquant qu’il s’agit d’un chatbot expérimental avec des limitations. Cependant, le consultant en IA Muller trouve toujours cette approche problématique, se demandant s’il est approprié de mener des expériences avec des chatbots sur de grands groupes de personnes, y compris des enfants.
L’expert en intelligence artificielle van Grieken ne pense pas interdire le chatbot est nécessaire, mais plaide pour des règles plus strictes et une transparence accrue concernant le comportement du chatbot. Il suggère que la politique devrait exiger plus de clarté et de transparence de la part des entreprises développant ces technologies.
Snapchat a admis que My AI fournit parfois des « réponses incorrectes », mais assure aux utilisateurs qu’ils travaillent en permanence à l’amélioration du chatbot pour des réponses plus précises et utiles.
Les inquiétudes autour de My AI font suite à un récent appel de 1100 célébrités de la technologie, dont Elon Musk, pour une pause dans le développement de l’IA en raison de ses progrès rapides. Ils ont souligné la nécessité pour les politiciens de tenir compte des règles et réglementations entourant l’intelligence artificielle.
De plus, douze membres du Parlement européen, qui travaillent sur la législation de l’UE pour les systèmes d’IA, ont demandé qu’une plus grande attention soit accordée à cette technologie en évolution rapide. Ils pensent que le développement rapide d’une IA puissante nécessite des règles et une surveillance supplémentaires.
Alors que les chatbots comme My AI de Snapchat continuent de brouiller les frontières entre l’interaction humaine et la machine, il est crucial que les entreprises et les gouvernements tiennent compte des risques potentiels et s’assurent que des garanties appropriées sont en place pour protéger les utilisateurs, en particulier les plus jeunes.
Snapchat, ai, mon chatbot IA
Soyez le premier à commenter