ChatGPT: un outil des guerres cognitives de demain edit

Parce qu’ils parviennent de façon convaincante à simuler des conversations humaines, les agents conversationnels comme ChatGPT induisent de nouveaux risques de manipulation de masse, avec viralisation de contenus produits automatiquement, qui pourraient contribuer à la polarisation de nos sociétés. Ils s’insèrent ainsi dans une évolution repérée depuis une quinzaine d’années : l’hybridation des conflits, qui renvoie à plusieurs phénomènes : le débordement de la confrontation physique sur le terrain numérique (cyberattaques, etc.), la déstabilisation des sociétés via de nouveaux outils de propagande incluant fausses informations et avivement des tensions. La montée en puissance de l’intelligence artificielle, dont ChatGPT est l’un des exemples les plus en vue, amène une accélération de ce phénomène.

L’IA, comme toute technologie, n’est pas neutre sur un plan géopolitique. Elle n’est pas un élément extérieur au jeu des rapports de force entre les États (et plus largement entre des acteurs inter- et transnationaux de plus en plus nombreux et concurrentiels dans le champ de ces rapports de force, des armées privées aux flottes de satellites). Des outils les plus visibles comme les robots conversationnels (chatbots), jusqu’aux discrets algorithmes de tri d’aide à la décision, les technologies cyber sont enrôlées dans les conflits et les jeux d’influence.

On ne s’étonnera pas que l’un des principaux protagonistes de la guerre en Ukraine, Vladimir Poutine, déclare à des écoliers russes en septembre 2017 : « celui qui deviendra leader en ce domaine sera le maître du monde ». Sa déclaration n’est pas passée inaperçue. L’entrepreneur de la Tech Elon Musk déclarait de son côté, fin 2017 : « La lutte entre nations pour la supériorité en matière d’IA causera probablement la troisième guerre mondiale. »[1] Musk est à sa façon devenu un acteur de la guerre en Ukraine, via l’utilisation de son réseau Starlink au bénéfice des Ukrainiens, à la proposition controversée de son propre plan de paix en octobre 2022.

Les applications de l’IA évoquées par Poutine ou Musk concernent au premier chef l’optimisation et l’automatisation des missions militaires à partir d’algorithmes intelligents capables de collecter, de prendre en charge et de traiter rapidement de grandes quantités de données. Mais en 2017 une forme de guerre informationnelle était déjà en cours, dans laquelle l’IA allait jouer un rôle de plus en plus significatif.

Il est intéressant de noter que ce développement, s’il n’a produit ses pleins effets que très récemment, a été imaginé il y a plus d’un siècle, dans un ouvrage d’anticipation d’Albert Robida, La Guerre au XXe siècle (1887). On y croise des « Blockhaus roulants ». Mais surtout une reconnaissance de l’influence des masses, et des possibilités techniques d’en jouer à son avantage : Robida imagine ainsi une escouade de médiums de la réserve : « Placés à sa disposition par le ministre de sciences, ces médiums, les plus forts magnétiseurs et suggestionnistes de Paris, d’après les savants, marchaient lentement vers les lignes ennemies en dégageant des torrents de fluide par des passes énergiques (…) Les gardes ennemies allaient-elles tirer, ou bien, domptées par le fluide, laisseraient-elles passer les médiums ?...  » On est ici en présence d’une conception embryonnaire de la guerre informationnelle, voire cognitive puisque ces médiums permettraient de s’assurer de la victoire sur l’adversaire sans – en pratique – avoir eu besoin de combattre de manière frontale. Bien loin de la technicité d’un ChatGPT, et pourtant si proche au niveau de ses effets fonctionnels, les potentialités d’influence de ces « suggestionnistes », comme un usage banalisé des IA conversationnels dans la vie civile, induisent une nouvelle manière de penser la guerre, où la ligne de front et la confrontation armée sont intégrées dans d’autres formes de projection.

Le monde cyber doit ainsi être envisagé à la fois comme un espace de confrontation et comme un arsenal tactique et stratégique. Il faut pour le comprendre revenir à la structure même de cet espace. Comme le rappelait déjà Daniel Ventre dans un article publié en 2012 dans la Revue de la défense nationale, le cyberespace peut se diviser en trois couches : la couche matérielle (câbles sous-marins, datacenters, etc.), la couche logicielle (généralement cible de cyberattaques) et la couche sémantique (le contenu informationnel), chacune renvoyant à des matérialités géopolitiques différentes[2].

Ce point est remarquablement illustré par la guerre entre la Russie et l’Ukraine, qui voit chacun des protagonistes investir cet espace à sa manière. La divergence stratégique traduit ici une rupture profonde au niveau des sociétés.

Laissons de côté la guerre informationnelle désormais bien documentée qui a fait rage avant février 2022, et concentrons-nous sur la phase de haute intensité qui a commencé le 24 février 2022.

Dans cette phase, Kiev a su montrer des qualités de résilience inattendues en raison de l’élargissement du classique théâtre des opérations militaires à l’espace cyber. En fédérant les Etats occidentaux, le secteur privé de la Tech et une armée de « partisans » en ligne, l’Ukraine a su se protéger des attaques cyber massives visant les infrastructures numériques ukrainiennes. Cela va de pair avec les décisions de bloquer sur son territoire l’accès aux réseaux sociaux russes, VK et Yandex, au motif que l’utilisation de ces services par les soldats ukrainiens pouvait fournir à l’ennemi des renseignements tactiques et stratégiques.

Là où les dirigeants ukrainiens exaltent les valeurs originelles d’internet, de liberté et de respect des droits humains, la Russie considère cet espace comme un projet souverain, dans lequel l’acteur public a la capacité de créer et de faire appliquer des règles dans le cyberespace. Grâce à un écosystème original (le Ru.net), l’ambition de constituer un internet authentiquement souverain existe, allant jusqu’à envisager l’existence d’un espace cyber coupé du reste du monde, comme cela a été testé en 2019 et en 2021. L’objectif pour les dirigeants russes consiste à se mettre à l’abri de menaces extérieures, en particulier en provenance des Etats-Unis, mais également de pouvoir agir de manière offensive sur les différentes couches, des navires et sous-marins espionnant les câbles sous la mer aux cyberattaques en passant par les usines à trolls.

Et ChatGPT ? L’application n’est disponible que depuis cinq mois mais elle est déjà mobilisée activement. Certes, ni un camp, ni l’autre n’y ont accès officiellement. Les dirigeants ukrainiens ont pu déplorer que leur Etat tombe dans la même catégorie que la Russie, la Biélorussie ou l’Iran, pays ne disposant d’accès à l’application. Cette situation se retrouve dans les régions de Louhansk, de Donetsk et de Crimée, où elles sont également interdites en raison des sanctions. Mais il existe des stratégies de contournement : en s’inscrivant sur un numéro de téléphone en Europe ou aux Etats-Unis et en se connectant avec un VPN, il est possible d’utiliser l’application en Ukraine. Et en Russie aussi : en dépit d’un accès bloqué à ChatGPT, les hackers russes (tout comme les cybercriminels) testent les capacités de l’application à générer du code malveillant à destination de la couche logicielle. En automatisant le création de ce type de messages, les attaques peuvent être lancées à grande échelle. Les potentielles utilisations de ChatGPT dans la couche sémantique sont également à craindre. En d’autres termes, ChatGPT accélère des tendances et des possibilités qui existaient précédemment. Pour autant, si ChatGPT frappe l’imagination du grand public en réalisant nombre de prouesses, les applications d’IA ne jouent encore qu’un rôle modéré dans un conflit de haute intensité comme celui de l’Ukraine.

Tout comme les infrastructures physiques, les infrastructures numériques ukrainiennes ont été endommagées mais elles ont tenu. L’Internet par satellite ou l’usage du cloud expliquent en partie cette résilience. Mais celle-ci renvoie à un autre facteur, plus fondamental : les Etats occidentaux, le secteur privé de la tech et les partisans en ligne ont pu se fédérer efficacement en raison d’un facteur essentiel, comme l’avance Laurent Célérier : celui de la confiance, fondement de l’esprit de défense.

Mais celle-ci reste fragile, et c’est ici que les IA conversationnelles doivent être surveillées de près. Leur banalisation, leur diffusion dans les différents pans de la vie civile et leur impact sur le marché de l’information ne doivent pas être sous-estimés. Peu importe à cet égard que ChatGPT et ses concurrents n’aient aucune perception phénoménale, ni aucune compréhension des contenus qu’il génère. En effet, la possibilité donnée à des centaines de millions d’utilisateurs d’interagir via des interfaces de dialogue apparemment « intelligentes » et humaines dans leur expression auront sans nul doute un retentissement lourd dans la construction et le maintien de cette confiance, qui est au cœur du lien social et de la paix civile, et qui reste plus que jamais un facteur déterminant du succès.

[1] Nicolas Miailhe, « Géopolitique de l’intelligence artificielle : le retour des empires ? », Politique étrangère, n°3, automne 2018, p.105.

[2]  Daniel Ventre, “Le cyberespace : définitions, représentations », Revue de défense nationale, n°751, juin 2012, pp. 33-38.