Le Business de la haine, de Jean-Louis Missika et Henri Verdier

Une étude récente sur notre attrait pour l’information présente un résultat troublant. Exposé à deux informations, un individu cherche dans la plupart des cas à en apprendre davantage sur l’information qui procure le plus un sentiment de danger imminent. Par exemple, si vous ne pouviez cliquez que sur l’une de ces deux informations, laquelle choisiriez-vous ?

  • « Le nouveau vaccin est efficace dans 90% des cas »
  • « Une étude récente révèle des risques cardiaques sur le nouveau vaccin »

Cette simple orientation de notre esprit semble avoir des conséquences immenses sur notre espace numérique et plus largement sur notre démocratie. Henri Verdier et Jean-Louis Missika présente dans leur livre Le business de la haine les mécanismes d’exploitation de ce biais par les puissances numériques, les conséquences sur notre vie de tous les jours et proposent des pistes de réponse.

Notre espace civique numérique est dégradé et menacé

La sélection de contenus par les algorithmes est loin d’être neutre

Un contenu en ligne n’est jamais aussi engageant que lorsqu’il parvient à éveiller une réaction émotionnelle forte. Quoi de mieux pour engager l’utilisateur que d’activer des instincts primaires, tels que le sentiment d’insécurité et de danger imminent. Les algorithmes des réseaux sociaux l’ont bien compris et semblent favoriser ce type de contenu pour booster l’engagement des utilisateurs. A entraîner des intelligences artificielles à nous faire des recommandations de manière optimale, on se prend nous-mêmes au piège de nous exposer à un contenu néfaste.

Le biais en faveur de certains contenus existait cependant avant les plateformes numériques dans les médias de masse. Les chaînes d’information, comme la radio ou d’autres canaux, ne témoignent jamais que d’une partie de la réalité sous un angle précis. Une information idéale pour le journaliste présente généralement certaines caractéristiques : elle se déroule à un endroit précis, elle est limitée dans le temps et si possible se présente de manière binaire : le match sera gagné ou perdu, l’accusé sera déclaré coupable ou non coupable… Même les sujets plus complexes doivent rentrer dans ce prisme : on accroche moins le lecteur avec « les parlementaires débattent le budget du pays » qu’avec « le président risque de voir son projet de budget rejeté par le Parlement ».

Le résultat pour les citoyens est de ne disposer que d’une information parcellaire, clivante. Ce phénomène est exacerbé par les réseaux sociaux où les utilisateurs se retrouvent enfermées dans des « bulles de filtre » où ils ne sont exposés qu’à un certain contenu correspondant à leur profil. Le chercheur David Chavalarias a proposé une visualisation de ces groupes d’opinion sur twitter par son outil, le Politoscope.

Politoscope, par David Chavalarias à l’Institut des systèmes complexes

En favorisant l’engagement, les réseaux sociaux redécoupent les cartographies électorales

Enfermés dans leurs « bulles de filtre », les utilisateurs des plateformes en ligne sont répartis en micro-population homogènes. Disposer d’une information précise sur ces découpages de population est alors une arme de poids pour les politiques en campagne électorale : il suffit d’envoyer un message personnalisé et secret à chaque micro-population en ligne pour satisfaire tout le monde en même temps.

Cela fonctionne particulièrement bien aux Etats-Unis : en 2020, Bloomberg faisant campagne pour l’investiture du parti démocrate, investit 200 millions de dollars dans du matériel informatique et 500 millions de dollars en publicité sur les réseaux sociaux. Et son joker pour la campagne : une base de données extrêmement fournie de plus de 200 informations (revenus, orientation politique, orientation sexuelle, école des enfants titres de propriétés, …) sur les 200 millions d’électeurs. L’électorat était alors informatiquement découpé en 4000 communautés, chacune recevant un message personnalisé. Pourtant très en retard sur les autres candidats dans la chronologie de lancement de campagne, il parvient cependant à se hisser à 6.9% des voix, tout juste en dessous du score d’Elisabeth Warren à 7.8%.

Chronologie des primaires démocrates 2020 aux Etats-Unis

On sait également que la campagne digitale de Trump en 2016 a été très importante. Utilisant une intelligence artificielle pour micro-cibler des messages de campagne et des spin docteurs pour parfaire sa communication en ligne, l’équipe Trump a envoyé plus de 50 000 messages par jour pendant la campagne, principalement sur Facebook.

La liberté d’expression sans confrontation, une conception moderne de la démocratie

Malgré les possibilités infinies de connexion ouvertes par Internet, les études convergent sur le fait que les connexions entre individus se créent généralement par affinités, générant une fragmentation des réseaux en groupes homogènes. Dans ces groupes d’opinion, les individus ne sont que très peu exposés au contradictoire.

Ce constat n’est cependant pas une fatalité. Nous pouvons en effet mobiliser l’histoire pour montrer que l’exigence de contradictoire comme vertu démocratique n’est pas impossible. Entre 1927 et 1987, la fairness doctrine aux Etats-Unis faisait obligation aux stations de radio et de télévision de présenter de façon équitable « des points de vue opposés sur des problèmes d’importance publique faisant l’objet de controverses ». Sur toute question faisant l’objet de controverses publiques, cette exigence imposait à la fois la présence de points de vue opposés, et l’égalité de temps d’antenne entre ces points de vue.

Deux limites ont finalement eu raison de cette fairness doctrine : l’incitation qu’elle procurait aux médias d’éviter les sujets contentieux pour ne pas devoir présenter des points de vue opposés ; la difficulté pour les autorités de régulation à préciser le caractère opposé de différentes opinions dans les contentieux. La véritable question n’est pas celle du rétablissement de la fairness doctrine, mais celle de la vertu du contradictoire comme « priorité bénéfique au gouvernement par le peuple » (Red Lion Broadcasting Co. V. F.C.C., 1969).

Le bilan des premières tentatives pour restaurer l’espace civique numérique

L’impunité des contenus haineux

Sur Internet, et sur les grandes plateformes en particulier, les contenus haineux prolifèrent. Pour quelles raisons ces incivilités récurrentes restent-elles impunies ? En France, la loi condamne l’incitation à la haine dans tout espace, numérique ou non. Les propos racistes ou antisémites sont donc condamnables devant un juge, même si ceux-ci ont simplement été postés sur Twitter. Cette quasi-impunité ne provient pas non plus du pseudo-anonymat des internautes, qui sont en réalité plus faciles à identifier qu’on ne le croit.

C’est une question de moyens. En France, les signalements de contenus haineux en ligne atterrissent à la direction PHAROS, à Paris. Celle-ci est chargée de vérifier le signalement puis d’engager des poursuites. Cependant, la direction ne comprend que 80 agents, responsables à eux-seuls de toute la régulation des contenus haineux en ligne signalés. La tâche est bien trop vaste ! Par conséquent, les agents de PHAROS concentrent leur travail sur les contenus les plus graves comme la pédopornographie.

Pharos – Plateforme de gestion des contenus signalés en ligne

Un écueil à éviter : la régulation par l’Etat seul

Dans ce livre, Henri Verdier et Jean-Louis Missika dressent le constat que les autorités de régulation sont dépassées sur la question de la régulation des contenus sur les grandes plateformes. Les causes en seraient la rupture de ces plateformes avec trois grandes unités :

  • Unité de lieu: les plateformes sont internationales, ce qui rend la régulation nationale difficile
  • Unité de temps: la fonction d’agenda des médias permettait de synchroniser le débat public, ce qui n’est plus le cas dans la désynchronisation du débat par la multiplicité des échanges en parallèle sur les plateformes.
  • Unité d’action: sans forum central identifié, les politiques sont invités à dissocier leur parole publique d’une parole ciblée dissimulée adressée à des micros-cibles.

Le bilan montre que la confrontation des idées par la simple liberté d’expression ne se fait plus. L’espace civique numérique semble avoir besoin d’une nouvelle gouvernance permettant de réorganiser le débat. Cependant, cette gouvernance ne pourrait se construire uniquement au sein d’un Etat.

Le Digital Service Act, texte de l’Union Européenne, a proposé une première réponse. Ce texte entend :

  • Encourager les entreprises à produire elle-même une partie de la réponse en régulant les contenus illégaux sur leur espace en ligne (« illégal » doit s’entendre dans le contexte légal du pays d’application)
  • Créer des instances nationales publiques de contrôle pouvant imposer des sanctions en cas de manquement des entreprises, exiger l’ouverture des bases de données de contenus et des méthodes de régulation, imposer la transparence du fonctionnement des algorithmes.

Les prochains chantiers : bâtir une gouvernance du commun numérique

Première recommandation : acter le caractère commun de cet espace civique numérique

Actuellement, les espaces de discussion créés par des entreprises privés comme Facebook, WhatsApp, Twitter ou TikTok sont uniquement régies par des normes et des règles définies dans les Conditions générales d’utilisation. Ces plateformes constituent par conséquent des îlots juridiques avec leurs propres règles, sans qu’aucun droit garanti par la Constitution française ne s’applique aux utilisateurs français par exemple.

La première réponse aux dérives de cet espace est donc d’acter son caractère commun qui échappe aujourd’hui au contrôle de ses créateurs. Nos vies ne peuvent plus continuer d’être influencées dans de telles proportions par des règles fixées unilatéralement par des acteurs privés internationaux. La fondation Eticas recense par exemple l’ensemble des algorithmes à « impact social sur nos vies », comme Parcours Sup ou l’algorithme de YouTube.[1]

Retrouver notre capacité à confronter les points de vue en ligne

« La démocratie est avant tout affaire de confrontation de points de vue et de résolution des controverses par une synthèse collective et acceptée par tous ou presque tous. » Prenant acte de cette définition, des développeurs indiens ont créé un réseau social dont le fonctionnement favorise la confrontation de points de vue et la production de consensus : PixStory. Et c’est un succès, après seulement quelques mois de fonctionnement, le réseau social comprenait plus de 150 000 utilisateurs.

Une expérience de pensée utopique pourrait même nous emmener plus loin : pourquoi pas imaginer des plateformes dans lesquelles l’utilisateur aurait le choix de l’algorithme de recommandations de contenus. Celui-ci pourrait définir des préférences pour des algorithmes favorisant les contenus liés au travail, à l’actualité ou aux collègues la semaine, et liés aux loisirs, à la famille et aux amis le week-end. Mieux ! Les algorithmes de recommandations pourraient être mis en concurrence sur une sorte d’app store interne aux plateformes où les utilisateurs pourraient venir sélectionner leurs algorithmes préférés.

Bâtir une véritable gouvernance partagée de l’Internet

Enfin, le dernier message de cet excellent livre propose des piste concrète pour bâtir une gouvernance partagée des espaces numériques communs. Cela passerait en particulier par une réforme du Forum de la gouvernance d’Internet pour y rattacher un groupe d’experts semblable au GIEC pour la COP, et d’y inclure une plus grande diversité d’acteurs dont les entreprises, la société civile et des citoyens ordinaires.

Références

[1] Observatoire des algorithmes ayant un impact social : https://eticasfoundation.org/oasi/

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.