L’un des risques liés à l’essor de l’intelligence artificielle (IA) relève de la manipulation de l’information, notamment sur les réseaux sociaux. Il fait émerger un monde hypothétique au sein duquel la distinction entre être humain et IA n’est plus possible sur les réseaux, les algorithmes sont en capacité d’influencer nos comportements et la formation d’une vérité sur laquelle s’appuyer pour agir est rendue plus compliquée.

Deux mondes évoluent en parallèle: les marchés financiers et les MMORPG (jeux vidéo opérant des mondes virtuels). Les marchés financiers, tout particulièrement les marchés d’actions cotées, possèdent déjà les caractéristiques évoquées précédemment. Ils n’ont pas la possibilité de faire la distinction entre les décisions d’investissement prises par les machines et les êtres humains. De plus, par leur impact considérable sur les volumes, les robots ont la capacité d’influencer les cours de cotation et indirectement la perception de la valeur d’une entreprise ainsi que la rémunération de ses employés et dirigeants. Enfin, il n’est pas avéré que le marché soit devenu plus efficient ; il est sans doute plus chaotique, avec des niveaux de prix qui s’écartent parfois de manière extrême de la véritable valeur d’une entreprise.

En s’inspirant de ce parallèle et de ses limites, nous pouvons nous interroger sur plusieurs points.

Tout d’abord, pouvons-nous revenir en arrière sur les marchés financiers? Probablement pas sur le plan technique. Il n’y aura par ailleurs aucune volonté du régulateur en ce sens sans dégâts significatifs imputables aux machines plutôt qu’à d’autres facteurs de marché.

L’impact des machines est très fort à court terme sur les marchés mais tend à se diluer sur le moyen/long terme, permettant ainsi au marché de «réparer» les anomalies plus ou moins rapidement. Les conséquences sont lourdes pour des investisseurs qui ne tiendraient pas le cap de l’investissement à long terme et verraient ainsi leur épargne pénalisée. Dans le cadre des réseaux sociaux et de notre démocratie, pouvons-nous simplement attendre la régulation «naturelle» de perturbations artificielles les bras croisés?

Enfin, sur les marchés, les acteurs ne sont jamais anonymes. Tous les participants et les positions détenues sont «déclarés», ce qui permet de tracer rétrospectivement les actions de chacun. Outre-Atlantique, le même cheminement s’effectue progressivement concernant les réseaux sociaux: révéler l’identité réelle des participants pour pouvoir mieux déduire leurs éventuelles motivations.

Nous sommes évidemment très loin d’un quelconque scénario dystopique où ces machines comploteraient. Elles ne font qu’exécuter des stratégies avec pour but de maximiser la performance pour leurs détenteurs.

Les êtres humains sont toujours aux commandes des machines. Comme l’a écrit Frank Herbert dans son roman de science-fiction Dune, «autrefois, les Hommes confiaient leur pensée à des machines dans l'espoir qu'elles les libèrent. Mais cela n'a permis qu'à d'autres Hommes équipés de machines de les réduire en esclavage»¹.