Sur la souveraineté

Le mot « souveraineté numérique » est désormais un incontournable du vocable de læ chercheur·euse en informatique en France. Son omniprésence dans les appels à projets ou keynotes d’institutionnels tend à obfusquer son sens. J’essaie ici de détricoter mon rapport avec cette notion, histoire de donner un peu plus de sens à ce qui est bien parti pour remplacer « IA » et « Cloud » dans les mots-clefs à insérer dans une propale pour garantir son acceptation.

Limitation géographique

La notion de souveraineté est liée à celle d’État, ou a minima d’une aire géographique donnée, où le souverain est l’ultime juge sur les décisions et actions qui s’y produisent. On voit donc une difficulté apparente à appliquer cette notion à l’informatique. Les infrastructures matérielles courent sous les océans et relient des continents suivant des traités transnationaux, parfois opérés par des acteurs privés¹. La recherche et l’industrie, si elle est polarisée par un axe Sino-Américain, reste une activité mondiale et distribuée. Les cadres légaux varient, entre une Europe qui se voit protectrice de droits fondamentaux avec le RGPD et l’IA Act, à des états comme l’Iran qui coupent régulièrement les communications avec l’extérieur du pays, ou le flou juridique autours de l’entraînement des IA génératives. La fabrication de semi-conducteurs devient un enjeu mondial, et sa concentration sur quelques points névralgiques comme Taïwann renforcent justement la tension autours de qui décide de quoi.

Une souveraineté partielle

J’ai assisté à une présentation de Stéphane Fermigier présentant les critères LOTEC, qui permettraient d’opérer une qualification du degré de contrôle suivant ces critères:

• Légal - quelles lois régissent les usages, qui est protégé par ces lois (le RGPD européen² sera normalement plus protecteur qu’un fair-use Étasunien)
• Opérationnel - qui a le contrôle effectif des infrastructures (la localisation des centres de routage ou, plus récemment, des centres de calcul obéit à un calcul de contrôle)
• Technologiques - quelle maîtrise technique va avoir une organisation sur ses choix, et quelle réversibilité a-t-elle dans ces choix (un article récent de Thibault Lalut, doctorant à l’EHESS, le dit mieux que moi: l’intégration de l’IA dans les processus de décision administratif implique un basculement d’ampleur. Si le dernier décisionnaire constituait l’agent de terrain face au public, l’intégration de l’IA rebat les cartes. « Désormais, le pouvoir d’apprécier la norme se loge en amont, dans la sélection des données d’entraînement, le calibrage des seuils, le choix des garde-fous, les conditions de mise en production. »
• Économie - quels accords existent dans la fourniture de matériaux et de compétene
• Culturelle - quelles valeurs sont convoyées par le logiciel

Ces critères ont le mérite d’éclairer la nature multiple du numérique: c’est un objet tout à la fois technique, politique, légal et économique, distribué entre acteurs privés et publics, où les gouvernements nationaux n’ont souvent qu’une influence indirecte.

Lalut va plus loin et indique que les ambitions de l’administration publique se heurtent à une réalité simple: le fonctionnaire est tributaire d’une entité extérieure (ici, la startup Mistral) pour opérer un service. Rien de nouveau sous le soleil de la privatisation des compétences de la puissance publique, pourrait-on dire. Le problème prend cependant une ampleur politique inédite avec l’objet IA. L’efficacité d’un système basé sur l’apprentissage automatique est tributaire d’une collecte de donnée basée sur des données historiques et charriant donc un héritage raciste, colonial et sexiste. La remédiation technique de ces défauts - ce désalignement avec les valeurs que souhaite pousser l’État - ne constitue pas une solution. D’une part, la faisabilité de ce projet scientifique reste à démontrer. Et d’autre part, la compétence qui consiste à juger de si cette remédiation colle effectivement aux attentes n’existe à l’heure actuelle tout simplement pas.

En dernier recours, la décision finale revient à qui exploite les dépôts de matériaux.

L’État comme seul acteur de la souveraineté

Ce qui me dérange, c’est que le concept semble se penser à l’échelle d’organisations étatiques ou supranationales. La notion semble pas, ou peu pensée à l’échelle de collectifs plus petits. Il s’agit toujours pour un État de conserver une maîtrise de ce qui se passe sur son territoire. On interroge assez peu les usages effectifs des infrastructures de contrôle, et l’usage de la « souveraineté ». On peut voir les nombreuses offensives contre le chiffrement des communication - toujours sous le prétexte de lutte contre la criminalité - constituer une autre forme de recherche de souveraineté³.

Est-il seulement possible d’assigner en justice un assureur pour demander un droit à l’explication, comme le RGPD et l’AI Act l’autorisent? Peut-on, en tant que citoyens, décider de recourir à un jugement humain pour une décision publique?