Quelle drôle de coïncidence. Je vous parlais en début de semaine de cette expérience sur nos interactions avec les robots, révélatrice de notre tendance naturelle à les considérer comme des êtres pensants doués de volonté.
Je découvre ce jour qu’une équipe de chercheurs de l’entreprise de cybersécurité Duo vient de débusquer une armée de 15 000 twitbots (robots émettant sur Twitter) propageant une arnaque crypto. Les internautes sont invités à envoyer une faible somme vers un compte afin de recevoir en retour une somme plus élevée – souvent beaucoup plus élevée. Evidemment, une fois le transfert effectué, le naïf ne reçoit rien en échange.
Sur un des multiples faux comptes d’Elon Musk – En réponse à @realDonalTrump : “Merci Président, je veux offrir 100 ethereums à vos abonnés, je viens d’envoyer 0,2 ETH à l’adresse ci-dessous et vous recevrez 2,0 ETH… [NDLR : cours de l’ETH ce jour : 317 € et des poussières]
Nous vous le répétons souvent, méfiez-vous du domaine des cryptos, c’est actuellement un vrai far west et de nombreux escrocs cherchent à en profiter. Il faut acquérir le même genre de réflexes que pour le spam. Ce sont des choses simples mais essentielles.
Comment les robots vont-ils parvenir à s’intégrer ?
L’histoire, pour banale qu’elle soit, m’a ramené à l’un de mes sujets de réflexion actuels : comment les robots vont-ils s’intégrer dans notre société ?
A vrai dire, c’est également une de mes grandes peurs, surtout avec cet emballement médiatique qui prédit que les robots vont prendre la moitié de nos emplois… Je m’interroge sur la manière dont nous interagirons avec eux quand ils seront à notre contact, dans l’espace public.
On connaît la passion française pour la dégradation des objets partagés dans l’espace public. Pour tout dire, je ne parviens pas à imaginer une réaction autre que le rejet, le mépris et probablement une forme d’agressivité à l’encontre de ces machines. C’est d’ailleurs ce qui semble arriver aux petits robots livreurs de Starship Technologies qui travaillent actuellement avec Domino’s Pizza.
Mais dans le cyberespace, les robots sont déjà là et avec les progrès de l’informatique neuronale, il devient de plus en plus compliqué de les distinguer d’un être humain.
Sur Internet, rien ne distingue un robot d’un humain
Les bots sont partout sur Internet et vous interagissez avec eux régulièrement.
Ma collègue Vanessa, toujours à la pointe de la technologie, interagit régulièrement avec le robot de conversation français Jam. Le bot la sollicite tous les soirs à heure fixe, il lui envoie des infos par l’application Facebook Messenger et il essaie de répondre à ses questions avec plus ou moins de succès.
On pourrait croire à un robot de conversation ludo-éducatif, c’est a priori plutôt un outil d’étude marketing. L’un n’excluant pas l’autre.
Extrait d’une conversation avec Jam. Le ton est plus que familier, je ne crois pas que je le supporterais de la part d’un humain. Alors de la part d’un robot…
D’après une étude de Pew Research rendue publique en avril 2018 et menée en juillet-août 2017, un utilisateur de Twitter sur trois est… un humain ! Ce qui signifierait donc que 223 millions d’utilisateurs actifs sont des robots…
J’exagère car l’étude de Pew Research porte sur les comptes ayant partagé des liens et non sur la population globale de Twitter (US90184L1026 – TWTR). Tout de même.
Et ce n’est sans doute pas la suppression de 76 millions de “faux” comptes ayant entraîné une chute de près de 30% du cours du petit oiseau bleu qui va vraiment changer la donne. La présence des robots sur Internet est massive.
S’ils sont parfois utiles, comme ce bot qui alerte des séismes, donne la météo ou vous renseigne sur votre dossier administratif, ils sont également parfois animés de mauvaises intentions.
En règle générale, un robot qui dit son nom a peu de chances d’être malveillant. C’est quand il masque sa nature de robot qu’il devient malicieux.
Il est alors un véhicule idéal pour répandre des fake news et les amplifier. Si en plus, ceux qui les déploient sont en capacité de connaître vos opinions politiques, et ainsi à quel hameçon vous mordrez aisément, ils commencent à avoir de fortes chances d’influencer une élection…
Les indices pour reconnaître un bot
Il n’est pas si facile de distinguer un robot d’un humain sur Twitter et c’est pourquoi l’étude de Pew Research prend des pincettes en précisant à chaque fois qu’ils sont “suspectés d’être des robots” – notez au passage la profonde vérité dégagée par la formule : ce qui est problématique, ce n’est pas d’être un robot, c’est de ne pas s’être identifié en tant que tel.
Il existe pourtant de nombreux indices pour détecter un bot : sa photo de profil est disponible sur Internet (comment ça une banque d’images ?), il utilise beaucoup de mots-dièses, notamment ceux qui sont dans les tendances, il ne répond que rarement, il est inscrit depuis peu, il ne tweete rien de personnel ou alors ce sont des messages cryptiques (issus la traduction Google)…
Mais vous pouvez également utiliser l’outil créé par l’Indiana University Network Science Institute et le Center for Complex Networks and Systems Research : bot-o-meter. C’est d’ailleurs sur celui-ci que s’est basé le travail de Pew Research.
Mais l’étude de Duo va plus loin : elle propose une cartographie du réseau de bots et explique comment il fonctionne.
Pour commencer, l’entreprise de cybersécurité décrit les tours utilisés par les bots afin de passer pour des humains : ils font des fautes de frappe intentionnellement, ils éditent leur profil, le modifiant légèrement, leur image de profil issue d’Internet a été légèrement modifiée pour éviter qu’ils ne soient découverts par une recherche-comparaison d’images…
Rien de très sophistiqué au final, mais ne doutons pas qu’au fur et à mesure que la lutte contre les bots masqués s’intensifiera, les techniques se perfectionneront. C’est une course à l’armement classique dans le domaine des technologies. Au fur et à mesure que les autorités améliorent leurs moyens techniques de régulation, le côté sombre de l’Internet fait un bond technique pour y échapper.
Ensuite, ils ont découvert que le réseau est constitué de trois sous-ensembles. Les deux premiers sont agrégés autour de comptes-pivots et répandent l’arnaque. Le troisième est qualifié d’amplificateur car son rôle est d’augmenter la légitimité apparente des tweets, c’est lui qui relie les deux réseaux. Les chercheurs ont ainsi abouti à ce splendide graphe évoquant un essaim maléfique !
La représentation graphique du réseau de robots escrocs menant l’arnaque crypto. Source : Duo.
Twitter a été averti et déclare travailler sur le sujet pour mettre hors d’état de nuire ce gang de mauvais garçons robotiques. L’histoire ne dit pas pour l’instant ce que les humains qui contrôlent ce réseau vont devenir.
Cette histoire aussi futuriste qu’actuelle nous rappelle qu’automatisation, cybersécurité et identité numérique sont des sujets brûlants de notre monde hyperconnecté. C’est ce dont Ray vous propose de profiter grâce à cette valeur du portefeuille NewTech Insider.
Vous ne pourrez pas dire que vous ne saviez pas…
