Pourquoi Snapchat My AI est potentiellement dangereux ?

SnapChat est l’un des réseaux sociaux les plus utilisés dans le monde. Cette célèbre application est un très bon moyen de communiquer avec sa famille et ses amis, par le biais de partage de photos et de vidéos. Tout récemment, la plateforme a mis en place le chatbot My AI, avec lequel il est possible de discuter à tout moment de la journée.

My AI, un chatbot encore récent, qui se veut le plus opérationnel possible

My AI est la nouvelle intelligence artificielle de la plateforme Snapchat. Lors d’une conversation par chat, cet ami virtuel, intégré dans l’onglet chat de l’application, peut répondre à toutes vos questions et vous conseiller de manière très précise : que ce soit une suggestion pour un cadeau à offrir, l’adresse d’un bon restaurant ou des renseignements plus sérieux comme une idée d’orientation professionnelle ou un comportement à avoir face à une situation donnée, le chatbot tentera alors de répondre au mieux selon les données dont il dispose. Le chatbot est alimenté par la technologie ChatGPT d’OpenAI, avec des améliorations et des contrôles de sécurité supplémentaires propres à SnapChat. Le contenu partagé avec My AI, y compris la localisation de l’utilisateur si celle-ci a été partagée avec SnapChat, est utilisé par My AI pour fournir des réponses pertinentes et utiles aux demandes exprimées. Ce contenu est stocké jusqu’à suppression des messages, qui peuvent être retirés du chat dans les 24 heures. Il est évidemment possible de supprimer les messages plus anciens.

My AI : les limites de ce robot virtuel

Le chatbot étant en pleine évolution, il est donc susceptible de présenter des contenus erronés, nuisibles ou trompeurs. En effet, certains conseils parfois problématiques inquiètent les internautes. Selon certains témoignages, cet interlocuteur virtuel peut encourager une relation amoureuse entre un adolescent de 14 ans et un adulte de 25 ans, ou géolocaliser l’utilisateur sans son assentiment, la fonctionnalité n’étant pas activée sur son téléphone. Ce chatbot est jugé souvent trop intrusif, par exemple en affichant la conversation en haut du profil, et de mauvais conseil, notamment auprès des plus jeunes. En effet, il ne prend pas toujours toutes les données en considération : sans tenir compte de l’âge d’un adolescent, il va lui conseiller d’être prudent quand il consomme de l’alcool sans lui préciser que c’est tout simplement illégal.

Prévention des dangers sur Internet

Face à cette dérive potentielle, comme à toutes sortes de dangers guettant les internautes sur les réseaux sociaux et Internet en général, il est important d’être bien informé et prévenu afin de pouvoir agir et se protéger au mieux. Des ateliers de prévention sont dispensés dans cette perspective, à destination de toutes sortes de publics. Ils ont pour but d’informer et d’accompagner les utilisateurs dans la maîtrise des rouages d’Internet et des réseaux sociaux et dans la pratique de mise en ligne de leurs propres contenus. Des professionnels dans le domaine de la cybersécurité interviennent pour faire prendre conscience de l’importance de la sécurité des données personnelles et aider à détecter les menaces, ou discerner les bonnes informations et les fake news également.

Pour conclure

Comme pour de nombreux outils informatiques et numériques, le robot virtuel My AI peut être très profitable, mais utilisé dans de bonnes conditions. Afin d’en tirer le meilleur, il est donc nécessaire d’en connaître les limites et de savoir l’utiliser à bon escient. Pour cela, il est important d’être formé et accompagné afin de pouvoir ensuite utiliser l’outil efficacement et sans danger. Si vous souhaitez en savoir plus, contactez-nous.