Snapchat force l’intelligence artificielle à ses utilisateurs, devrait-on s’en méfier?

Un nouvel ami appelé My AI vient s’imposer dans l’univers Snapchat de tous les usagers de la planète. C’est un autre robot conversationnel basé sur ChatGPT qui parle à nos enfants et nos ados, allant même jusqu’à leur donner des conseils sur comment vivre et gérer leurs émotions. Le hic, c’est qu’en plus d’avoir été imposé et de ne pas pouvoir être supprimé, il collecte beaucoup d’informations. Qu’est-ce que cet ajout? Est-ce qu’on peut enlever My AI? On vous explique tout ça.

Depuis que ChatGPT est accessible au grand public, de plus en plus de site web et d’application se dote d’un outil d’intelligence artificielle pour complémenter leur offre.

Plus celle-ci se démocratise, et plus sa présence un peu partout ne risque que de s’étendre et de devenir monnaie courante.

Le hic avec Snapchat, c’est que c’est une application qui cible spécifiquement les jeunes et le robot, se voulant amical, pose beaucoup de question qui inquiète beaucoup d’adultes, si bien qu’on voie de plus en plus de témoignages inquiétant sur le web.

Beaucoup d’informations recueillies par le robot

Le but du robot conversationnel de Snapchat, c’est de devenir ami avec nous.

On peut lire sur leur site web que comme pour nos vrais amis, plus on interagi avec My AI, plus il apprend à nous connaître et plus ses réponses sont pertinentes.

Le hic, c’est que pour se faire, il pose des questions assez intrusives.

D’ailleurs, ça a levé un drapeau chez Simon Duguay, un enseignant d’informatique au secondaire qui résume très bien les craintes vécues par beaucoup d’adultes dans une publication Facebook:

Avez-vous vu la nouvelle fonction MyAi de Snapchat?

C’est une intelligence artificielle, qui fonctionne grâce à ChatGPT, qui t’écrit comme si tu étais son ami. Ce nouveau « contact » Snapchat est apparu la semaine dernière pour tous les utilisateurs et ne peut être bloqué que si vous avez la version payante. Il peut être utilisé, par exemple, pour demander des conseils, pour répondre à des questions d’un devoir ou pour discuter de ta journée. Il peut même te suggérer un restaurant proche de chez toi puisqu’il a accès à ta localisation. Le problème? Ce n’est ni un humain ni un ami, mais il agit tout comme si c’était le cas.

Pour avoir essayé la fonction moi-même, j’ai remarqué qu’il me pose beaucoup de questions sur ma vie privée. Par exemple, que fais-tu aujourd’hui? Peux-tu m’envoyer des photos lorsque tu seras au parc? Quel est le nom de ton animal de compagnie ? Quels sont tes passetemps?

Pourquoi ces questions ? Snapchat ne s’en cache pas, les données sont enregistrées et peuvent servir à des fins publicitaires. Le robot va même jusqu’à demander des photos de ces activités, que son IA peut analyser, pour recueillir, encore une fois, des informations sur l’utilisateur.

Contrairement au ChatGPT original, l’IA de Snapchat est paramétrée pour être particulièrement amicale, question de pouvoir entretenir la conversation longtemps. Par exemple, si on lui indique qu’on est triste, l’IA va nous questionner sur le sujet et va même nous proposer des conseils pour aller mieux. Considérant que ce n’est pas un thérapeute (ni même un humain), que l’IA a tendance à inventer des faits et à être biaisée, je vois facilement arriver des situations dans lesquelles une personne pourrait recevoir et mettre en application des conseils peu recommandables concernant sa vie émotive, sa santé ou ses finances. Oui, certains mécanismes dans l’application existent pour contrer cela, mais ils sont facilement contournables. Et que dire de ceux qui pourraient se « lier » d’amitié à cette IA? Un beau scénario de science-fiction devenu réalité, à mon avis.

Comme cette fonctionnalité est maintenant disponible pour tout le monde qui a Snapchat, beaucoup d’adolescents l’ont maintenant sur leur téléphone, sans qu’ils ne l’aient forcément demandé. Vous êtes un parent ou un enseignant et cela vous inquiète? Je pense que la première chose à faire serait d’avoir une discussion à ce sujet. Snapchat ne sera pas la dernière application à intégrer l’IA dans ses fonctions. C’est donc un excellent moment, à mon avis, pour aborder le fait que l’IA n’est pas un humain (ni un ami), qu’il peut inventer des informations fausses, qu’il peut dire des choses inappropriées et surtout qu’il faut faire très attention aux données qu’on lui fournit. Chaque information qu’il apprend et chaque photo qu’on lui envoie sont analysées dans le but de créer un dossier publicitaire et pourraient éventuellement se retrouver en ligne, sur d’autres sites internet (tout ce qui se trouve en ligne est permanent). Comme une de mes collègues a déjà si bien dit: « tout ce que tu lui dis, serais-tu à l’aise de le dire à la télévision? ».

Les photos sous cette publication sont des tests que j’ai faits.

Les captures d’écran jointes à la publication Facebook écrite par l’enseignant Simon Faucher.

Effectivement, on peut lire sur le site web de Snapchat que le contenu partagé avec My AI et notre géolocalisation en ville seront utilisés par My AI. Nos données seront utilisées pour améliorer les produits de Snap et personnaliser votre expérience, publicités incluses.

Bref, le plus sécuritaire serait de ne pas du tout utiliser le robot, c’est certain qu’il vient piquer la curiosité des jeunes, surtout puisqu’ils se sont vus imposer la fonctionnalité My AI.

Une fonctionnalité impossible à supprimer

Le hic avec le nouveau robot conversationnel de Snapchat, c’est qu’il a été ajouté à tous les utilisateurs du réseau social, mais seuls les membres payants peuvent s’en débarrasser.

À la base, toutes nos conversations avec My AI sont stockées, et ce jusqu’à ce qu’on décide de les supprimer.

Pour se faire, on doit passer par les réglages de l’app, dans Contrôles de confidentialité, puis Effacer les données, et finalement dans Effacer les données de My AI.

Si c’est intéressant de savoir qu’on peut au moins supprimer nos conversations avec le robot, le plus gros hic demeure qu’on ne peut pas désactiver My AI.

Seuls les abonnés de Snapchat+ reçoivent un accès anticipé aux fonctionnalités de My AI et ont la possibilité de désépingler ou supprimer My AI de leur fil d’actualités de chat.

En gros, Snapchat a poussé leur robot conversationnel mondialement sans toutefois offrir la possibilité de le supprimer.

Heureusement, comme les abonnés payants y ont accès, on devine que tout le reste du monde pourra éventuellement désactiver le robot dans les semaines à suivre.

Qu’est-ce que Snapchat+? Pour ceux qui se posent la question, c’est en quelque sorte la volonté du réseau social de s’éloigner du modèle publicitaire.

En gros, c’est un abonnement qui, au coût de 5$ par mois, débloque certaines fonctionnalités exclusives, expérimentales et en avant-première.