Algorithmes et bulles de filtres: Etat des lieux

Résumé : En ligne, tous enfermés dans notre bulle ? La notion de « bulles de filtres » a connu un certain succès ces dernières années. Elle décrit une situation théorique où notre horizon informationnel sur Internet se réduirait à des contenus allant nécessairement dans le sens de nos idées et de nos opinions sous l’action de mécanismes de recommandation automatisés tels que les algorithmes. Dans ce rapport destiné au grand public, aux experts et aux pouvoirs publics, l’équipe d’AlgOpinion déconstruit et nuance l’existence de tels effets, tout en appelant à davantage former les publics à vivre en conscience avec les incidences des algorithmes sur l’accès aux informations.

Algoritmes en filterbubbels: huidige stand van zaken

Het voorliggende verslag maakt een stand van zaken op van de thema’s en uitdagingen
rond het gebruik van aanbevelingsalgoritmes als toegangspoort tot mediacontent. Deze
analyses vloeien voort uit het onderzoeksproject Alg-Opinion, gefinancierd door Innoviris
en mede geleid door de Université St-Louis Bruxelles en door de UCLouvain. Het eerste
deel van dit verslag geeft een overzicht van het onderzoek naar de problematiek van de
filterbubbel en de toegang tot de online-actualiteit. Daaruit putten we een aantal cruciale
uitdagingen voor de ontwikkeling van het Belgische en Europese media-ecosysteem. Het
tweede deel is eerder technisch van aard. Het beschrijft verschillende voltooide of nog
lopende reflecties over het ontwerp van alternatieve designs, waarbij rekening wordt
gehouden met de in het vorige deel opgeworpen uitdagingen. Deze voorstellen gaan over
algoritmische kwesties, maar ook over de uitdagingen verbonden aan de mens-
computerinteractie.
Tot besluit geven we enkele aanbevelingen voor politici, developers en docenten
mediawijsheid die bij hun activiteiten te maken zouden hebben met deze uitdagingen

Les jeunes, l'information, et les réseaux sociaux : tous dans leur(s) bulle(s) ?

Résumé : Ce rapport vulgarisé synthétise les résultats des deux premières années du projet. Un premier constat est que les jeunes utilisent les réseaux sociaux de manière intensive. Bien que les usages puissent varier, des grandes tendances sont mises en évidence. En effet, les jeunes ne sont plus très actifs sur Facebook, utilisent massivement Youtube et Instagram pour s’informer et se divertir et utilisent un mix d’applications (WhatsApp, Messenger, et Snapchat) pour communiquer entre eux et avec leurs proches. L’application TikTok est en train d’émerger.

Les résultats montrent également que les jeunes ont accès une grande variété d’informations et de sources sur Internet. Leur mix informationnel comprend également des médias traditionnels comme la télévision allumée pendant les repas familiaux, la radio dans la voiture ou les articles distribués par l’enseignant en classe.

Ces résultats viennent nuancer la thèse de la « bulle de filtre » qui, si tant est qu’il soit pertinent de garder ce cadre conceptuel, est plus « sociotechnique » que simplement technologique.

Upholding young users’ autonomy and enhancing algorithmic literacy by web design: the case of the ALVEHO website

Young adults’ ability to construct themselves as informed citizens depends on the information they access online on social media platforms on which recommendation algorithms play an important gatekeeping role (Claes et al., 2021). Yet, popular narratives related to recommendation systems tend to overestimate the impact of algorithmic news curation on users while downplaying their agency over the system (see the “filter bubble” theory [Pariser, 2012]). Consequently, these narratives conceal users’ strategies to act upon algorithms and restrict our understanding of the algorithmic public opinion. However, current research on the subject provides us with a more nuanced image of how users interact with recommendation systems (Bruns, 2019; Dahlgren, 2021; Moeller & Helberger, 2018). Other contributions have also highlighted how users adapt their behaviour according to complex sets of representations and imaginaries (Bucher, 2017; Eslami et al., 2015). These tactics and knowledge around algorithms are evidence of an “algorithmic literacy” (Bruns, 2019) that should be studied as it influences users’ exposure to information (Swart, 2021).
For the first part of our communication, we will report the findings of a survey involving 13 young adults from Brussels (Belgium) about how they perceive and interact with algorithms on social media platforms. We will illustrate the tactics they have developed to retrieve some form of authority over the system. However, most of these tactics are limited by the affordances of the system (Davis, 2020). This raises the question of whether it is possible to develop a system that upholds users’ autonomy (Milano et al., 2020) rather than trapping users (Seaver, 2019). In the second part of our communication, we will present an experimental website (ALVEHO) developed in collaboration with the French-speaking public broadcaster in Belgium (RTBF). Our platform aims at enhancing algorithmic literacy by allowing users to tinker with the algorithm thanks to transparency design and control functionalities. In this section, we will report the first experimental results made with ALVEHO and reflect on the features that could potentially encourage users to scrutinise algorithmic recommendations and question their effects.

Eduquer les jeunes publics aux algorithmes : Journée d'étude interdisciplinaire du projet Alg-Opinion

La journée d'étude a eu pour objectif de clôturer et pérenniser les résultats des recherches menées dans le cadre du projet Alg-Opinion (PRB Innoviris) en permettant leur appropriation par des personnes-clefs issues des mondes de l'éducation aux médias, de l'université et des médias. Au cours de la journée, ces personnes ont été réunies au sein de petites cellules interdisciplinaires au sein desquelles elles ont été invitées à discuter afin de proposer des pistes de réponses (pratiques ou théoriques) liées à trois grands enjeux de l'éducation aux algorithmes : Algorithmes et vérité, Algorithmes et démocratie, Algorithmes et émotions. Cet évènement scientifique a permis de faire émerger chez les personnes participantes des idées, des questionnements et des objectifs pouvant être, in fine, intégrés dans leurs pratiques professionnelles respectives.

ALG-OPINION: éducation à l’algorithmique et opinions citoyennes des adolescents​

Face à un public de professionnels de l'enseignement, l'équipe d'Alg-Opinion a présenté les principaux résultats des recherches menées dans le cadre du projet et a exposé les possibilités offertes par la plateforme ALVEHO développée afin de favoriser une littératie algorithmique chez les jeunes publics et les adultes qui les encadrent au sein des milieux (para-)scolaires en Belgique.

Vivre avec les algorithmes de recommandation : le premier test d'une activité d'éducation aux médias inédite

L'équipe du projet Alg-Opinion est en train de développer une activité d'éducation aux médias, en collaboration avec Média Animation asbl, visant à contribuer au développement d'une littératie algorithmique auprès des publics jeunes. Cette animation tire profit de la plateforme ALVEHO développée dans le cadre de cette recherche, qui rend certaines modalités de fonctionnement d'un algorithme de recommandation visibles et qui permet à l'utilisateur de modifier les paramètres de recommandation de l'algorithme présent sur la plateforme.

En décembre 2021, l'équipe a réalisé un premier test de cette animation au cours de l'assemblée générale pédagogique de l'association Action Médias Jeunes (ACMJ).

Young perceptions of content personalisation on social media: a user study

The way in which social networking sites are constructed —providing personalised interfaces through recommendation systems— disrupts how users access and process information as well as, more fundamentally, the processes that form their opinions. In this context, we take on an interdisciplinary perspective mixing media studies, science and technology studies and computer science to examine the relevance of the "filter bubble" theory. This theory asserts that customizing the recommendation and classification of content based on users' past behaviour reduces the proportion of conflicting opinions that are visible to them, thus facilitating the creation of so called “echo chambers” (Sunstein, 2009) or “filter bubbles” (Pariser, 2011).However, several studies invite us to question the validity of this theory (Bruns, 2019; Dahlgren, 2021; Dubois & Blank, 2018; Moeller and Helberger, 2018; Mutz and Young, 2011; Zuiderveen Borgesius et al., 2016). More than trying to identify specific bubbles or quantify them, our work aims at understanding how teenagers and young adults perceive these mechanisms. To understand the relationship between these systems and young users (15-25 years old), we have analysed the discourses of teachers, media experts and young users on this topic gathered during 21 interviews, 19 focus groups and 13 in praxis interviews in Brussels. Our results show that young users have various degrees of understanding of the different mechanisms operating for each platform. If most perceive filtering mechanisms to some extent such as content classification on their Instagram feeds, others don’t and feel that they will find “more diverse” information by scrolling through social networking sites than by watching television or listening to the radio. The fact that the workings of these technologies are completely known to them also brings up fantasized representations such as cross-platform data transfers (for example how watching something on Youtube will influence what appears on other platforms). When it comes to evaluating these personalisation mechanisms, young users have conflicted views. If a few denounce them and feel literally trapped “in a bubble”, most do not have strong opinions and some even enjoy customizationpossibilities which allow them to enjoy the content they crave. Teens then also highlight the possibilities to influence the content offered to them. They develop strategies and tactics (de Certeau, 1990) intending to guide the platforms in personalising content. These are not all aimed at diminishing bubble effects, as some try to accentuate them. This can range from subscribing to, or unsubscribing from, different types of accounts on the platforms, liking content on purpose or directly providing information to the algorithms through feedback the modules of the platforms. These results contribute to deepen the understanding of the roles of young users within those socio-technical infrastructures.

Axe 3 : Perceptions, usages et éducation aux médias automatisés

Algorithmes de recommandation, intelligence artificielle, chatbot, robot journalisme, … Les technologies de l'information et de la communication recourent aujourd'hui de plus en plus à des formes avancées d'automatisation. Les médias qui se basent sur ces technologies peuvent être qualifiés "d'automatisés" : ils ont la particularité de pouvoir s'auto-organiser et présenter aux utilisateurs certains de leurs contenus, sur base de règles établies par leurs créateurs, mais en l'absence de leur intervention et de leur supervision directe. Le recours au traitement informatisé de données massives contribue à reconfigurer les conditions actuelles de production, de diffusion et de réception de ces médias. Ces mécanismes automatisés n’offrent généralement que peu de transparence à leurs utilisateurs. Ceci alimente aujourd’hui de nombreux fantasmes, optimistes ou pessimistes, quant à l’automatisation potentielle de nombreux domaines de la société. La notion d’automatisation soulève au moins trois grandes catégories de questionnements. D’abord, l'automatisation de l’agencement des médias sur les réseaux sociaux à travers des algorithmes de recommandation et de classement tente de répondre au problème global de l’abondance d’information sur Internet. Ces algorithmes sont créés par des individus et ne sont pas neutres. Il convient dès lors de se poser la question de l'automatisation du point de vue de la production, de la hiérarchisation et de la diffusion. Ensuite, l'automatisation de l'interaction avec ces médias engage nos corps. Via des interfaces pensées en profondeur, ils nous encouragent à privilégier nos automatismes au détriment d’usages plus conscients. Les interactions entre humains et machines, les formes que prennent celles-ci ainsi que leur design génèrent donc des questions d’ordre éthique et épistémologique. Enfin, l'automatisation des processus de présentation des contenus a fait basculer le processus de diffusion médiatique d’une validation a priori -historiquement par les journalistes dans les salles de presse- à une vérification a posteriori -par des robots et modérateurs. Cette responsabilité est même accrue si l’on considère que chaque micro-pratique (clic, like, partage, etc.) va modifier non seulement les propositions de contenus pour l’utilisateur mais aussi pour le réseau dans son ensemble, faisant émerger des questionnements autour des perceptions et usages des médias automatisés. Ces évolutions impliquent d'unir praticiens et chercheurs du champ de l'éducation aux médias pour réfléchir ensemble aux enjeux posés par les médias automatisés et leurs utilisations. Comment développer une réflexivité par rapport à ces médias ? Comment encourager des usages critiques ? Selon quelles stratégies éducatives et quelles pédagogies ? Au-delà du travail éducatif à réaliser avec les usagers de ces médias, il convient également de questionner les enjeux éthiques pour les développeurs et les responsables éditoriaux impliqués dans les processus de conception et de diffusion de ces médias. Face à cette automatisation médiatique croissante, nous pouvons être tenté de formuler de nouveaux cadres conceptuels plus à même d’appréhender la nature numérique de ces pratiques. Pourtant, est-ce que les théories médiatiques qui ont contribué à l’analyse de ces enjeux sous un autre paradigme technologique sont aujourd’hui obsolètes ? Est-ce que penser les conditions de production, diffusion et réception de l’information aujourd’hui implique nécessairement de développer de nouveaux cadres conceptuels plus à même d’appréhender la nature informatisée des canaux médiatiques actuels ? A travers le prisme du concept de « médias automatisés », cet atelier visera à esquisser les enjeux propres à l’usage de ces dispositifs et à dégager les cadres conceptuels pertinents pour nous donner les clés de lecture nécessaires à l’éducation aux médias de demain.

Serons-nous gouvernés par nos données ? Analyses des résistances à l’exploitation politique des big data

Les résultats montrent que les adolescents ont différents degrés de compréhension des différents mécanismes opérant pour chaque plateforme. Si la plupart perçoivent les mécanismes de filtrage dans une certaine mesure, d'autres ne le pensent pas et estiment qu'ils trouveront des informations plus diverses en parcourant les réseaux sociaux qu'en regardant la télévision ou en écoutant la radio. Le fait que le fonctionnement de ces technologies leur soit relativement connu fait également apparaître des représentations erronées voire fantasmées.

Ca m’a vraiment choqué mais… Analyse de la relation entre fonctionnement des réseaux sociaux et perceptions de l’actualité chez les jeunes bruxellois

La communication propose de rendre compte du design de recherche et des premières analyses découlant de la réalisation d’entretiens semi directifs menés avec des enseignants et des experts de l’éducation aux médias (n=15) ainsi que d’ animations réalisées dans différentes classes (n=5) et d’entretiens individuels approfondis auprès des jeunes. In fine, cette recherche exploratoire contribue à mieux saisir la transformation des usages numériques au 21ème siècle et le potentiel impact sociétal des algorithmes de recommandation sur la formation des opinions.

« Ce qui est filtré, ce qu’on me propose » : Analyse exploratoire de l’influence des algorithmes de recommandation sur la formation des opinions des jeunes bruxellois.

La communication propose de rendre compte du design de recherche et des premières analyses découlant de la réalisation d’entretiens semi directifs menés avec des enseignants et des experts de l’éducation aux médias (n=15) ainsi que d’ animations réalisées dans différentes classes (n=5) et d’entretiens individuels approfondis auprès des jeunes. In fine, cette recherche exploratoire contribue à mieux saisir la transformation des usages numériques au 21ème siècle et le potentiel impact sociétal des algorithmes de recommandation sur la formation des opinions.

Les effets des « bulles de filtres » ou « bulles informationnelles » sur la formation des opinions

Evènement de lancement du projet de recherche Alg-Opinion. La recherche Alg-opinion s’intéresse aux effets des « bulles de filtres » ou « bulles informationnelles » sur la formation des opinions. ​ Cette notion désigne d’un point de vue technique, l’espace informationnel rendu immédiatement accessible à un·e internaute par une plateforme numérique, résultant de nombreux processus algorithmiques de filtrage et de profilage et, d’un point de vue social, l’isolement intellectuel et culturel éprouvé par les internautes, lorsque les informations auxquelles ils et elles accèdent en ligne sont le résultat de processus algorithmiques difficilement intelligibles. ​ Les bulles informationnelles soulèvent une série d’interrogations quant à la vulnérabilité de certains publics (les adolescent·e·s, les jeunes ou les peu instruit·e·s notamment), à leur impact sur la formation des opinions et au peu d’intelligibilité des algorithmes utilisés dans le cadre de la recherche informationnelles (l’actualité notamment).

The Spy Who Loved Me”: A Qualitative Exploratory Analysis of the Relationship Between Youth and Algorithms

Summary: This paper presents the results of a study which aims at understanding how social media platforms influence the formation of opinions of young adults (18–25) through content personalization. To do this, we problematize the so-called “filter bubble” phenomenon. We first go back to the literature and propose to depart from trying to assess the existence of and quantify the presence of filter bubbles on social media. We propose to focus on news use and access to content diversity related to political opinion formation and the impact of algorithms on the presence of said diversity. We then propose a theoretical framework—Activity Theory (AT)—for the understanding modeling the diversity of practices as well as the discourses regarding these practices of youth on social media regarding access to the diversity of content and news. In particular, the division of phenomena in three levels (operations, actions, and activities) is used to build up a canvas for a model that will be tested enriched with the new data. The so-called “pyramidal model” is also discussed and applied to our research topic. The third part of this paper summarizes the methods used to gather the data through a method we call “online in praxis interviews.” We then present the results, which show a relative knowledge of the mechanisms of content recommendations on social media as well as the tactics young people use to increase or mitigate them.

Algorithmes de recommandation et culture technique : penser le dialogue entre éducation et design

Résumé: Pour répondre à la démultiplication de contenus médiatiques accessibles en ligne, de nombreuses plateformes ont aujourd’hui recours à des algorithmes de recommandation pour structurer et hiérarchiser les flux d’information. Ces dispositifs sont critiqués pour l’importance qu’ils accordent à la satisfaction immédiate de l’utilisateur, menaçant la diversité d’opinion accessible au sein d’espaces médiatiques de plus en plus personnalisés. En croisant les résultats de recherches en sciences sociales et en sciences informatiques, cet article examinera la pertinence de la théorie de la « bulle de filtres ». A travers l’analyse de deux cas d’étude portant respectivement sur les modalités d’appropriation de systèmes de recommandation par des jeunes et sur la modélisation de dispositifs alternatifs, nous examinerons en quoi la mise en dialogue de l’éducation aux médias et du design peut contribuer à renégocier nos rapports avec des technologies dites « intelligentes ».

Teens, social media and fake news: A user’s perspective

Summary : How do teens perceive and interact with fake news on social media platforms? To answer this question, this study adopts a user’s perspective to enrich a growing literature on young people and fake news. Drawing on focus groups conducted in Brussels, it contributes to the identification of key elements shaping interactions between teens and fake news. Firstly, this study highlights the importance of recognizing that fake news identification is not an automatic process. It is therefore crucial to understand teens’ ability to detect fake news and to negotiate their meanings in a complex technological and social environment. Secondly, this contribution highlights the importance of teens’ agency on social media, which often takes the form of both small actions and inactions. Teens develop various strategies to influence what news is proposed to them on their newsfeed. Thirdly, this study confirms that users’ emotions are critical in news circulation and that their role should not be seen as intrinsically negative. Overall, this study offers insights on the diverse meanings of fake news for teens and sketches ways of addressing disinformation among them.

Defining a critical data literacy: A media-grounded approach Onglets principaux

Summary: The digital processing of massive data is becoming a central component of our technological infrastructures. While being able to use these tools efficiently is an issue that cannot be ignored, it appears crucial to provide citizens with the means to control their technical environment. Recommender systems and personalization technologies are currently being blamed for the destabilization of users’ informational ecosystems and a growing polarization of opinions. However, a critical review of the current literature on the subject indicates that these recommender systems may also be beneficial to the user in specific circumstances. Building on current critical data literacies approaches, key concepts from the philosophy of technology and a media literacy perspective, this paper suggests a framework defining the competences needed to help users assess these technologies and critically include them in their digital ecosystem.