« La oiseau est libéré », a tweeté Elon Musk le 27 octobre 2022, en guise de note de fin de célébration de son acquisition de Twitter. Cependant, cela soulève la question, gratuite pour quel type d’oiseaux ? En montrant ses déclarations politiques précédentes, ses faux pas actuels et ses plans futurs pour la plate-forme, cette soi-disant liberté peut simplement galvaniser les extrémistes et exposer davantage les minorités raciales et religieuses aux discours de haine et aux traumatismes. Twitter est désormais une plate-forme majeure pour les partisans du discours de haine.
Twitter a vu une augmentation de près de 500 % de l’utilisation du N-mot dans la fenêtre de 12 heures suivant immédiatement le transfert de propriété à Musk. Au cours de la semaine suivante, les tweets contenant le mot « Juif » avaient quintuplé depuis avant le transfert de propriété. Les tweets avec le plus d’engagement étaient trop antisémite. De même, il y a également eu une augmentation du langage misogyne et transphobe. Cette vague de langage haineux a été accréditée dans diverses campagnes de pêche à la traîne sur des sites comme 4chan et le forum pro-Trump « The Donald ».
En réponse à ces informations, Yoel Roth (ancien responsable de la sécurité et de l’intégrité chez Twitter) a publié un fil de discussion précisant que la majorité de ce langage désobligeant provient d’environ 300 comptes « inauthentiques ». Même si cette conduite haineuse provient d’un petit nombre de comptes de trolls, ce phénomène montre à quel point les réseaux marginaux de droite alternative se sentent non seulement renforcés par la prise de contrôle de Musk, mais également protégés.
Peu de temps après l’acquisition, Musk licencié près de 50 % des employés de Twitter. Il a également licencié plusieurs dirigeants de longue date, notamment: le PDG Parag Argrawal, le directeur financier Ned Segal, le président Bret Taylor, l’avocat général de la société, Sean Edgett, et le responsable de la politique juridique, de la confiance et de la sécurité, Vijaya Gadde. Gadde est particulièrement remarquable car elle a joué un rôle déterminant dans l’interdiction de l’ancien président Donald Trump de Twitter. Après un Sondage Twitter avec plus de 15 millions de votes (dont 52% ont voté oui pour renvoyer Trump sur Twitter), Musk a restauré Trump sur la plateforme. En conséquence, l’équipe qui était auparavant en place pour surveiller et censurer les discours de haine n’est plus sur Twitter.
Comme Musk est maintenant le principal propriétaire de la plate-forme, il pourrait continuer à assouplir les normes de contenu préjudiciable et à dissoudre la soi-disant censure qu’il a critiquée dans le passé. Il prévoit de former un «Conseil de modération de contenu» et a également changé la façon dont les utilisateurs sont vérifiés sur la plate-forme. Il a proposé un processus de vérification de 8 $ / mois pour la coche bleue insaisissable de Twitter, au lieu du processus traditionnel basé sur le mérite qui semblait récompenser les utilisateurs en fonction du nombre d’abonnés et de la notoriété dans un domaine particulier tel que le journalisme, le milieu universitaire ou le divertissement. Ce nouveau processus de vérification a lamentablement échoué et a été retiré car les utilisateurs ont créé de faux comptes pour des entreprises et des dirigeants politiques. Un faux compte a en fait fait chuter les actions d’Ely Lilly de plus de 4 % et coûté des milliards de dollars aux investisseurs.
Bien que le processus de vérification soit dissous pour le moment, nous sommes préoccupés par les modifications potentielles du processus de modération de Twitter. En cas d’acquisition de plateformes de médias sociaux, le ou les nouveaux propriétaires devraient être tenus de veiller à ce que les discours de haine soient modérés. Cela est d’autant plus vital compte tenu de l’environnement politique actuel et de la propagation de la désinformation. Certains décideurs sont d’accord. Dans un effort bipartisan, la sénatrice démocrate Amy Klobuchar (D-MN) et la sénatrice républicaine Cynthia Lummis (D-WY) ont présenté la loi NUDGE (Nudging Users to Drive Good Experiences on Social Media) pour financer la National Science Foundation et le National Science Foundation. Académie des sciences, de l’ingénierie et de la médecine pour mener une étude sur les interventions qui réduiront la dépendance aux médias sociaux et le langage nuisible. En 2021, les démocrates ont réintroduit le Protecting Americans from Dangerous Algorithms Act « pour tenir les grandes plateformes de médias sociaux responsables de leur amplification algorithmique de contenu nuisible et radicalisant qui conduit à la violence hors ligne ».
Deux études de recherche sur Twitter témoignent de l’importance de ces politiques potentielles. Tout d’abord, les chercheurs ont analysé le contenu politique sur Twitter du Canada, de la France, de l’Allemagne, de l’Espagne, du Japon, de la Grande-Bretagne et des États-Unis. Dans six des sept pays (l’Allemagne étant l’exception), le contenu politique de droite a reçu une plus grande amplification algorithmique que le contenu de gauche. Deuxièmement, un rapport de la Brookings Institution a examiné plus de deux millions de tweets et de publications de Twitter et Reddit. Les chercheurs ont découvert que les utilisateurs de Twitter, par rapport aux utilisateurs de Reddit, étaient 2,5 fois moins susceptibles de s’engager dans une intervention de spectateur pour lutter contre le langage raciste. Ils attribuent cette différence aux politiques de modération divergentes sur les deux plateformes. Reddit a une politique de modération beaucoup plus rigoureuse pour vérifier et traiter les discours de haine sur la plateforme. À l’inverse, Twitter est comme le Wild Wild West et semble évoluer dans une direction qui pourrait marginaliser davantage les utilisateurs de la plate-forme. La politique de plus en plus polarisée et la prévalence de la désinformation rendent cette tendance encore plus déconcertante.
Certains peuvent prétendre que la censure sur Internet et la dé-plateforme des personnes n’ont aucun effet, mais ce n’est tout simplement pas le cas. À titre d’exemple, suite à l’interdiction de Trump de Twitter et d’autres sites de médias sociaux, l’engagement en ligne autour de Trump a diminué de 95 %. La présence de désinformation en ligne concernant la fraude électorale a chuté de 73 % à la suite de l’interdiction de Twitter par Trump. L’interdiction d’Andrew Tate pourrait suivre une tendance similaire. Son retrait de TikTok, où l’algorithme le connectait à des millions de jeunes garçons impressionnables, a effectivement siphonné sa portée violente. Il est bien sûr naïf de croire que la dé-plateforme stoppera complètement les efforts de ceux qui sont si attachés au sectarisme. Ils sont souvent poussés vers des parties plus cachées et de niche d’Internet pour diffuser leur message. De Timothy McVeigh à Dylann Roof, nous avons des preuves de ce que peuvent faire les extrémistes d’extrême droite poussés plus loin à la marge.
Collectivement, les récents changements apportés à et sur Twitter perturbent la capacité des personnes marginalisées à trouver une communauté, à produire un discours utile pour partager des moyens de favoriser l’égalité et à se protéger des discours de haine et des traumatismes. L’acquisition de Twitter par Musk et ses plans potentiels pour assouplir les directives de modération continueront d’augmenter l’utilisation du discours de haine et inhiberont probablement les façons dont les groupes marginalisés se sont organisés et mobilisés sur la plate-forme pour résister au langage nuisible et à la discrimination dans leur vie quotidienne. La censure des discours de haine et les utilisateurs qui utilisent une rhétorique haineuse sont les principaux moyens de s’assurer que l’oiseau est vraiment libre.
