Je suis un ancien officier des opérations cybernétiques de la CIA qui étudie le trafic de robots. Voici pourquoi il est plausible que plus de 80 % des comptes Twitter soient en réalité faux, et Twitter n’est pas le seul.

À ce stade, vous avez probablement entendu parler de l’acquisition hésitante et du drame juridique émergent entre Twitter, une entreprise qui n’a pas cherché à être achetée, et Elon Musk, qui a annulé son offre d’achat de l’entreprise.

Au centre de ce conflit se trouve le sujet du trafic de robots, un domaine que je connais assez bien. Depuis six ans, mon travail consiste à diriger une équipe de data scientists qui analysent les interactions Web pour identifier les robots, les applications ciblées par les robots et leurs objectifs.

En moyenne, environ 2 milliards de transactions transitent chaque jour par l’infrastructure de défense contre les robots de F5, et nous avons informé des centaines d’entreprises dans pratiquement tous les secteurs d’activité de leur trafic de robots.

Sur la base de cette expérience, le trafic des robots de Twitter est presque certainement bien plus important que ce qu’ils ont exprimé publiquement et même plus important que ce qu’ils croient en interne. En toute honnêteté, ce dernier cas est probablement le cas pour toutes les organisations qui sont ciblées par des robots malveillants ou indésirables mais qui n’utilisent pas la meilleure technologie pour les éliminer.

Voici une partie de ce que nous avons appris sur les robots au cours des dernières années et pourquoi il a été si facile d’arriver à cette conclusion.

Les robots essaient toujours d’accomplir quelque chose.

Une organisation qui permet aux clients de se connecter à des comptes en ligne verra l'automatisation de l'application de connexion tenter de commettre un certain type de fraude. Une organisation qui propose des prix spéciaux en ligne verra l'automatisation utilisée pour extraire les prix, les tarifs et les taux pour la revente. Il existe des dizaines d’exemples comme celui-ci.

Dans le cas de Twitter, l’un des principaux objectifs est de gagner des abonnés. Il existe une idée reçue selon laquelle plus une personne a d’abonnés, plus ses tweets doivent être intéressants, et en effet, les comptes avec plus d’abonnés ont tendance à être plus influents.

C’est dans l’objectif d’amplifier l’influence que ce modèle peut devenir préoccupant. Imaginez l’influence que vous pourriez avoir avec un contrôle automatisé sur des millions de comptes Twitter qui interagissent avec les comptes réels de personnalités publiques et de citoyens privés. Cela est susceptible d’attirer des acteurs étatiques très motivés, dotés de ressources pratiquement illimitées.

S’il y a une motivation et des moyens, il y aura plus de robots.

Sur Twitter, il n’y a pas seulement une énorme incitation, il y a aussi un moyen. Il existe d'innombrables services sur Internet (y compris les marchés du dark/deep web) proposant des comptes Twitter, des abonnés, des likes et des retweets moyennant des frais.

À des fins de recherche, j'ai essayé ces services sur un compte Twitter que j'ai créé. En continuant les tests, pour moins de 1 000 $, le compte compte désormais près de 100 000 abonnés. Un jour, j'ai tweeté un charabia complet et j'ai payé des abonnés pour qu'ils le retweetent. Ils l'ont fait. Ces comptes portent des noms comme TY19038461038, et ils suivent également de nombreux autres comptes.

J’ai commencé à me demander à quel point il serait facile de créer un compte Twitter en utilisant l’automatisation. Je ne suis pas programmeur, mais j'ai fait des recherches sur les frameworks d'automatisation sur YouTube et Stack Overflow. Il s’avère que c’est facile.

Pour passer à l'étape suivante de mes tests, j'ai écrit, au cours d'un week-end, un script qui crée automatiquement des comptes Twitter. Mon script, plutôt peu sophistiqué, n’a été bloqué par aucune contre-mesure. Je n’ai pas essayé de changer mon adresse IP ou mon agent utilisateur, ni de faire quoi que ce soit pour dissimuler mes activités.

Si c’est aussi facile pour une personne aux compétences limitées, imaginez à quel point cela est facile pour une organisation composée d’individus hautement qualifiés et motivés.

Les entreprises sous-estiment souvent l’ampleur de leur problème de robots.

Il y a quelques années, un site de réseautage social américain a déployé la défense anti-bot de F5 et a découvert que 99 % de son trafic de connexion était automatisé. Oui, vous avez bien lu : 99 %.

En fait, nous constatons que 80 à 99 % du trafic est automatisé sur de nombreuses applications. Ces résultats ne sont pas un cas isolé : ils sont communs à de nombreuses organisations (détaillants, institutions financières, opérateurs de télécommunications et restaurants à service rapide, pour n’en citer que quelques-uns).

Ce fut, bien sûr, une nouvelle dévastatrice pour l’entreprise. Ils savaient qu’ils avaient un problème de robot, mais n’auraient jamais imaginé que cela pouvait être si grave. Les implications ont rapidement été comprises. Seule une infime fraction de leurs comptes clients étaient de véritables clients humains. Les autres étaient des robots.

Pour les entreprises de réseaux sociaux, le nombre d'utilisateurs actifs quotidiens (DAU), qui est un sous-ensemble de tous les comptes, joue un rôle important dans la valorisation. Le fait de révéler que leur DAU n’était qu’une fraction de ce qu’ils pensaient a entraîné une baisse significative de leur valeur.

Les entreprises qui profitent des robots ne veulent pas toujours le savoir.

On pourrait soutenir qu’il aurait été préférable pour les actionnaires de cette entreprise que l’organisation n’ait jamais appris la vérité et ait simplement affirmé que leur problème de bots était inférieur à 5 %.

Cette pression ne s’applique pas seulement aux sites de réseaux sociaux dont la valorisation est déterminée par le nombre de DAU. C’est également vrai pour les entreprises qui vendent des produits très demandés avec des stocks limités, comme des billets de concert, des baskets, des sacs de créateurs ou le prochain iPhone.

Lorsque ces produits sont vendus en quelques minutes aux robots, pour être revendus sur le marché secondaire à des prix très gonflés, cela agace les clients. Mais l’entreprise vend toujours rapidement l’intégralité de son stock. 

Dans ces cas-là, une entreprise peut vouloir donner l'impression qu'elle fait tout ce qu'elle peut pour arrêter les robots, tout en faisant très peu en privé .

Ce n’est pas seulement Twitter : le problème des bots concerne tout le monde.

Lorsque je considère le volume et la vitesse de l’automatisation que nous observons aujourd’hui, la sophistication des robots qu’un ensemble donné d’incitations est susceptible d’attirer et le manque relatif de contre-mesures que j’ai constaté dans mes propres recherches, je ne peux arriver qu’à une seule conclusion : Il est fort probable que plus de 80 % des comptes Twitter soient en réalité des robots. Ceci, bien sûr, n'est que mon opinion.

Je suis sûr que Twitter essaie d’empêcher l’automatisation indésirable sur sa plateforme, comme toute entreprise. Mais il s’agit probablement d’une automatisation très sophistiquée réalisée par des acteurs extrêmement motivés. Dans ces circonstances, la correction des robots n’est pas un projet de bricolage. Cela nécessite des outils tout aussi sophistiqués.  

Mais il y a ici quelque chose de bien plus important en jeu. Le problème des robots est plus grave que les revenus publicitaires, le cours des actions ou la valorisation d’une entreprise. Permettre à ce problème de perdurer menace l’ensemble des fondements de notre monde numérique.

Permettre aux robots de proliférer de n’importe où conduit à des fraudes massives qui coûtent des milliards. Cela ruine la vie des gens et fournit des outils aux nations et aux organisations malveillantes pour diffuser de fausses informations, créer des conflits et même influencer les processus politiques. Cela signifie davantage de fraudes, davantage de désinformation et davantage de conflits qui ont un impact sur notre capacité à communiquer et à interagir les uns avec les autres dans le monde entier.

Si nous voulons, en tant que société, bénéficier de toutes les commodités, connaissances, divertissements et autres avantages d’Internet et de notre monde mobile et connecté, nous devons faire quelque chose au sujet du trafic automatisé en ligne. La seule façon de lutter contre les robots est de disposer de nos propres automatisations hautement sophistiquées.

Par Dan Woods, responsable mondial du renseignement chez F5