Massenhafte Manipulation von Twitter-Trends entdeckt
Smartphone and social media symbols © iStock / 2021 EPFL
Forschende der EPFL haben herausgefunden, dass in der Türkei fast die Hälfte der lokalen Trending Topics bei Twitter gefälscht sind - ein bisher nie gesehenes Ausmass an Manipulation. Damit konnte auch zum ersten Mal belegt werden, dass viele Trends aufgrund einer Schwachstelle im Trends-Algorithmus von Twitter ausschliesslich von Bots erstellt werden.
Soziale Medien sind in unserem modernen Leben allgegenwärtig geworden. Sie haben die täglichen Interaktionen zwischen den Menschen verändert und verbinden uns auf bisher undenkbare Art und Weise. Doch während Social-Media-Netzwerke früher wahrscheinlich aus einem kleinen Kreis von Freunden bestanden, sind die meisten von uns heute Teil von viel grösseren Gemeinschaften, die einen Einfluss auf das haben, was wir lesen, denken und tun.
Einer der Beeinflussungsmechanismen ist zum Beispiel «Twitter-Trends». Die Plattform verwendet einen Algorithmus, um Hashtag-gesteuerte Themen zu bestimmen, die zu einem bestimmten Zeitpunkt populär werden und macht Twitter-Nutzer weltweit und lokal auf Top-Wörter, Phrasen, Themen und beliebte Hashtags aufmerksam.
Jetzt haben neue Forschungen des EPFL-Labors für verteilte Informationssysteme, das zur School of Computer and Communication Sciences gehört, eine Schwachstelle im Algorithmus gefunden, der die Trending Topics von Twitter festlegt - Löschungen werden von ihm nämlich nicht berücksichtigt. Dadurch können Angreifern Tweets posten, die ein Schlüsselwort enthalten, das zu den Trends gepusht werden soll, und ihre Tweets dann sofort löschen.
«Wir haben festgestellt, dass Angreifer sowohl gefälschte als auch kompromittierte Konten verwenden, d.h. Konten von normalen Personen mit gestohlenen Anmeldeinformationen oder die eine Schad-App auf ihrem Telefon installiert haben. Normalerweise haben sie keine Ahnung, dass ihr Konto als Bot zur Manipulation von Trending Topics verwendet wird. Selbst wenn sie sich des Problems bewusst sind, wissen sie oft nicht, was sie dagegen tun können. In beiden Fällen nutzen sie Twitter weiter», so Tuğrulcan Elmas, einer der Autoren der Forschungsarbeit, die vom IEEE European Symposium of Security and Privacy 2021, einer Top-Konferenz für Cybersicherheit, angenommen wurde.
«Wir haben herausgefunden, dass 47 % der lokalen Trends in der Türkei und 20 % der Trends weltweit Fakes sind, die von Bots aus dem Nichts geschaffen werden. Zwischen 2015 und September 2019 haben wir 108’000 beteiligte Bot-Accounts aufgedeckt - der grösste Bot-Datensatz, der je in einer einzigen Publikation erwähnt wurde. Unsere Forschung ist die erste, die diese umfangreiche Manipulation von Twitter-Trends aufdeckt», berichtete Elmas weiter.
Zu den entdeckten Fake-Trends gehören Phishing-Apps, Glücksspiel-Promotionen, Desinformationskampagnen, politische Slogans, Hassreden gegen gefährdete Bevölkerungsgruppen und sogar Heiratsanträge.
«Diese Manipulationen haben schwerwiegende Folgen, denn Twitter-Trends erregen Aufmerksamkeit. Breitere Medien berichten über Trends, die als Proxy für die Gesprächsthemen der Leute dienen, aber leider handelt es sich dabei um manipulierte Stellvertreter, die das Bild der tatsächlichen Gespräche in der Öffentlichkeit verzerren», sagte Rebekah Overdorf, eine weitere Autorin der Studie. «Einer der manipulierten Hashtags, den wir gefunden haben und der künstlich zu Trends gepusht wurde, war zum Beispiel #SuriyelilerDefolsun, was übersetzt 'Syrer raus' bedeutet. Er wurde dann von mehreren Nachrichtensendern, anderen Social-Media-Plattformen und in akademischen Abhandlungen aufgegriffen. In Wirklichkeit war er komplett erfunden», erklärte Overdorf weiter.
Die Forscher kontaktierten Twitter zweimal und in beiden Fällen bestätigte das Unternehme die Schwachstelle in seinem Trends-Algorithmus. Im ersten Fall weigerte sich Twitter, Änderungen vorzunehmen, bei der zweiten Kontaktaufnahme reagierte das Unternehmen nicht mehr auf die E-Mails der Forschenden. «Das Problem ist noch nicht behoben und wir sehen weiterhin offensichtliche Spam-Trends. Es ist klar, dass Widersacher auch in Zukunft mit der gleichen Angriffsmethode gefälschte Trends erstellen werden, solange die Schwachstelle im Algorithmus nicht behoben ist», schloss Elmas.
Der Artikel "Ephemeral Astroturfing Attacks: The Case of Fake Twitter Trends" wurde vom European Symposium on Security and Privacy angenommen, einer europäischen Flaggschiff-Konferenz für Computersicherheit und elektronischen Datenschutz, die Forscher und Praktiker aus der ganzen Welt zusammenbringt.