Manipulation à grande échelle des tendances Twitter
Smartphone and social media symbols © iStock / 2021 EPFL
Une nouvelle recherche de l’EPFL a révélé qu’en Turquie, près de la moitié des sujets tendance publiés sur Twitter sont faux. Il s’agit d’une manipulation à grande échelle sans précédent. Pour la première fois, c’est aussi la preuve que de nombreuses tendances sont créées uniquement par des robots en raison d’une faille de l’algorithme de tendance de Twitter.
Les réseaux sociaux sont devenus omniprésents dans notre vie quotidienne moderne. Ils nous ont apporté de nouveaux modes d’interaction, qui auraient été auparavant inconcevables. Alors qu’à leurs débuts nos interactions sociales se résumaient à un petit cercle d’amis, aujourd’hui la plupart d’entre nous font partie de communautés beaucoup plus larges qui peuvent influencer nos lectures, nos opinions et nos actes.
Les tendances Twitter, par exemple, sont un mécanisme d’influence. La plateforme utilise un algorithme pour déterminer les sujets avec hashtag qui sont populaires à l’instant T. Elle alerte les utilisateurs de Twitter des mots, phrases, sujets et hashtags les plus répandus mondialement et localement.
Aujourd’hui, une nouvelle recherche de l’EPFL portant sur la Turquie et menée par le Laboratoire des systèmes d’information répartis, qui fait partie de la Faculté informatique et communications, a révélé une faille de l’algorithme qui décide des sujets tendance sur Twitter: il ne prend pas en compte les suppressions. Les hackers peuvent ainsi poster des tweets contenant un mot-clé qui sera indexé dans les tendances, puis supprimer immédiatement leurs tweets.
«Nous avons découvert que les hackers utilisent de faux comptes et des comptes piratés, qui appartiennent à des utilisateurs réguliers dont les identifiants ont été volés, ou qui ont installé une application malveillante sur leur téléphone. En général, ils ne savent pas que leur compte est utilisé comme robot pour manipuler des sujets tendance. Parfois, ils s’en rendent compte, mais ils ne savent pas quoi faire. Dans les deux cas, ils continuent à utiliser Twitter», déclare Tuğrulcan Elmas, l’un des auteurs de la recherche, acceptée par le symposium européen de l’IEEE sur la sécurité et la confidentialité 2021, une conférence de haut niveau sur la cybersécurité.
«Nous avons découvert que 47% des tendances locales en Turquie et 20% des tendances mondiales sont fausses et ont été créées de toutes pièces par des robots. Entre 2015 et septembre 2019, nous avons démasqué 108 000 comptes robot, le plus important ensemble de données robot rapporté dans un seul document. Notre recherche est la première à mettre à jour la manipulation de tendances Twitter de cette envergure», poursuit Tuğrulcan Elmas.
Les fausses tendances qui ont été découvertes comprennent des applications de phishing, des publicités sur des jeux d’argent, des campagnes de désinformation, des slogans politiques, des discours haineux à l’encontre de populations vulnérables et même des demandes en mariage.
«Cette manipulation a de graves conséquences car nous savons que les tendances Twitter attirent l’attention. Les organes médiatiques plus larges rapportent les tendances, qui sont utilisées comme proxy pour informer sur les sujets dont discutent les gens, mais malheureusement c’est un proxy manipulé, trompant le public sur les conversations en cours», explique Rebekah Overdorf, autre auteur du document. «Par exemple, l’un des hashtags manipulés qui ont été indexés dans les tendances de manière factice était #SuriyelilerDefolsun (Syriens dehors). Il a ensuite été repris par plusieurs médias, d’autres plateformes de réseaux sociaux et dans des documents universitaires. En réalité, il a été entièrement fabriqué», poursuit Rebekah Overdorf.
Les chercheurs ont contacté Twitter à deux reprises. L’entreprise a reconnu dans les deux cas la faille de son algorithme de tendance. Dans le premier cas, Twitter a refusé d’apporter des changements, dans le second elle n’a pas répondu aux e-mails de suivi des chercheurs. «Le problème n’est pas résolu. Nous voyons encore des tendances de spam manifestes. Tant que la faille de l’algorithme ne sera pas corrigée, il est clair que des hackers continueront à créer de fausses tendances avec la même méthode d’attaque», conclut Tuğrulcan Elmas.
L'article intitulé "Ephemeral Astroturfing Attacks : The Case of Fake Twitter Trends", vient d'être accepté par l'European Symposium on Security and Privacy, une conférence européenne phare en matière de sécurité informatique et de vie privée électronique qui rassemble des chercheurs et des utilisateurs du monde entier.