La prévalence du message « pour vous » soulève d’importantes questions sur l’impact de ces algorithmes sur la façon dont les adolescents se perçoivent eux-mêmes et perçoivent le monde.
Les applications de médias sociaux présentent régulièrement aux adolescents du contenu organisé de manière algorithmique, souvent décrit comme « pour vous », suggérant implicitement que ce contenu n’est pas seulement « pour vous » mais aussi « à propos de vous » – un miroir reflétant des signaux importants sur la personne que vous êtes.
Tous les utilisateurs des réseaux sociaux sont exposés à ces signaux, mais les chercheurs savent que les adolescents se trouvent à un stade particulièrement malléable de formation de leur identité personnelle. Les chercheurs ont commencé à démontrer que la technologie a des effets sur plusieurs générations, non seulement dans la manière dont elle influence les perspectives culturelles, le comportement et la vie privée, mais également dans la manière dont elle peut façonner la personnalité de ceux qui ont grandi avec les médias sociaux.
La prédominance du message « pour vous » soulève d’importantes questions sur l’impact de ces algorithmes sur la façon dont les adolescents se perçoivent eux-mêmes et sur le monde, ainsi que sur l’érosion subtile de leur vie privée, qu’ils acceptent en échange de cette vision.
Les adolescents adorent leur réflexion algorithmique
Inspirés par ces questions, mes collègues John Seberger et Afsaneh Razi de l’Université Drexel et moi-même avons demandé : comment les adolescents naviguent-ils dans cet environnement généré par des algorithmes et comment se reconnaissent-ils dans le miroir qu’il leur présente ?
Notre étude qualitative auprès d’adolescents âgés de 13 à 17 ans a révélé que le contenu algorithmique personnalisé semble présenter ce que les adolescents interprètent comme une image fiable d’eux-mêmes et qu’ils apprécient vraiment l’expérience. pour voir ce reflet dans les médias sociaux.
Les adolescents avec qui nous avons parlé disent préférer les médias sociaux qui leur sont entièrement personnalisés, représentant ce avec quoi ils sont d’accord, ce qu’ils veulent voir et, par conséquent, qui ils sont.
“Si je recherche quelque chose d’important pour moi, cela apparaîtra comme l’un des premiers messages [et] cela montrera, par exemple, les gens [comme moi] qui ont une discussion intéressante.
Il s’avère que les adolescents que nous avons interrogés pensent que les algorithmes des réseaux sociaux, tels que celui de TikTok, sont devenus si performants qu’ils considèrent que les reflets d’eux-mêmes sur les réseaux sociaux sont tout à fait exacts. . À tel point que les adolescents sont prompts à qualifier d’anomalies les incohérences du contenu avec leur image de soi – par exemple, le résultat d’un engagement involontaire avec un contenu précédent, ou simplement un problème.
“À un moment donné, j’ai vu quelque chose à propos de cette émission, peut-être sur TikTok, et j’ai interagi avec sans m’en rendre compte.”
Lorsqu’un contenu personnalisé ne leur convient pas ou ne correspond pas à leur image d’eux-mêmes, les adolescents interrogés déclarent le parcourir en espérant ne plus jamais le revoir. Même lorsque ces anomalies perçues prennent la forme d’un contenu extrêmement hypermasculin ou « mesquin », les adolescents n’attribuent pas cela à quelque chose qui les concerne spécifiquement, ni ne prétendent chercher une explication dans leurs propres comportements. Selon les adolescents interrogés, le miroir des réseaux sociaux ne les incite pas à réfléchir davantage à eux-mêmes ni à remettre en question leur image d’eux-mêmes.
Ce qui nous a surpris, c’est que même si les adolescents sont conscients que ce qu’ils voient dans leur flux « pour vous » est le produit de leurs habitudes de défilement sur les plateformes de médias sociaux, ils l’ignorent en grande partie ou s’en moquent car ces données capturées via les applications contribuent à cette image de soi. Quoi qu’il en soit, ils ne voient pas leur flux « pour vous » comme un défi pour leur perception d’eux-mêmes, et encore moins comme un risque pour leur identité personnelle – ni, d’ailleurs, comme une Source d’inquiétude.
Façonner l’identité
La recherche sur l’identité a considérablement évolué depuis que le sociologue Erving Goffman a proposé la « présentation de soi » en 1959. Selon lui, les individus gèrent leur identité à travers des performances sociales afin de maintenir un équilibre entre ce qu’ils pensent être et la façon dont les autres les perçoivent.
Lorsque Goffman a proposé sa théorie pour la première fois, il n’existait pas d’interface de médias sociaux permettant de présenter un miroir pratique de soi tel que perçu par les autres. Les gens étaient obligés de créer leur propre image en mosaïque, dérivée de multiples sources, rencontres et impressions. Ces dernières années, les algorithmes de recommandation des réseaux sociaux se sont insérés dans ce qui est désormais une négociation à trois entre soi, le public et l’algorithme des réseaux sociaux.
Les offres « Pour vous » créent un espace privé-public dans lequel les adolescents peuvent accéder à ce qu’ils considèrent comme un test largement précis de leur image d’eux-mêmes. En même temps, ils disent qu’ils peuvent facilement l’ignorer s’il ne semble pas correspondre à cette image qu’ils ont d’eux-mêmes.
Le pacte que les adolescents concluent avec les réseaux sociaux, en échangeant des données personnelles et en renonçant à leur vie privée pour garantir l’accès à ce miroir algorithmique, leur semble une bonne affaire. Ils se présentent comme étant capables d’ignorer ou de faire défiler les contenus recommandés qui semblent contredire leur image de soi, mais les recherches montrent le contraire.
En fait, ils se sont révélés très vulnérables à la distorsion de l’image de soi et à d’autres problèmes de santé mentale, en raison des algorithmes des médias sociaux explicitement conçus pour créer et récompenser des hypersensibilités, des fixations et une dysmorphie – un trouble de santé mentale dans lequel les gens se concentrent sur leur apparence. .
Compte tenu de ce que les chercheurs savent du cerveau des adolescents et de ce stade de développement social, et compte tenu de ce que l’on peut raisonnablement supposer sur la malléabilité de l’image de soi basée sur les réactions sociales, les adolescents ont tort de croire qu’ils peuvent contourner les risques des algorithmes lorsqu’il s’agit de à l’identité personnelle.
Interventions
Une partie du remède pourrait consister à créer de nouveaux outils utilisant l’intelligence artificielle pour détecter les interactions dangereuses tout en protégeant la vie privée. Une autre approche consiste à aider les adolescents à réfléchir à ces « doubles de données » qu’ils ont construits.
Mes collègues et moi étudions actuellement de manière plus approfondie la manière dont les adolescents perçoivent le contenu algorithmique et les types d’interventions qui peuvent les aider à y réfléchir. Nous encourageons les chercheurs dans notre domaine à trouver des moyens de remettre en question l’exactitude des algorithmes et de montrer qu’ils reflètent le comportement et non l’être. Une autre partie du remède pourrait consister à doter les adolescents d’outils permettant de restreindre l’accès à leurs données, notamment en limitant les cookies, en ayant des profils de recherche différents et en désactivant la géolocalisation lors de l’utilisation de certaines applications.
Nous pensons que toutes ces mesures sont susceptibles de réduire la précision des algorithmes, créant ainsi des frictions nécessaires entre l’algorithme et l’individu, même si les adolescents ne sont pas forcément satisfaits des résultats.
Impliquer les enfants
Récemment, mes collègues et moi avons organisé un atelier sur la génération Z avec des jeunes d’Encode Justice, une organisation mondiale d’étudiants du secondaire et de l’université qui plaident pour une IA sûre et équitable. L’objectif était de mieux comprendre comment ils envisagent leur vie sous l’influence des algorithmes et de l’IA. Les membres de la génération Z se disent inquiets, mais aussi désireux de participer à façonner leur avenir, notamment en atténuant les effets néfastes des algorithmes. L’un des objectifs de notre atelier était d’attirer l’attention sur la nécessité d’enquêtes menées par des adolescents sur les algorithmes et leurs effets, et d’encourager cette approche.
Les chercheurs sont également confrontés au fait que nous ne savons pas vraiment ce que signifie négocier constamment son identité avec un algorithme. Beaucoup d’entre nous qui étudions les adolescents sont trop vieux pour avoir grandi dans un monde modéré par des algorithmes. Pour les adolescents que nous étudions, il n’y a pas d’« avant l’IA ».
Je pense qu’il est dangereux d’ignorer ce que font les algorithmes. L’avenir des adolescents pourrait être celui d’une société qui reconnaît la relation unique entre les adolescents et les médias sociaux. Cela signifie les impliquer dans les solutions, tout en leur prodiguant des conseils.
Cet article a été initialement publié sur The Conversation.
