Sites Inria

Le 14.12.2017
Par :
Usbek & Rica

En 2067, le gouvernement parfait ?

[Copublication] Dans cinquante ans, Norbert Wiener aurait eu 173 ans. S’il avait pu atteindre cet âge, le fondateur de la cybernétique vivrait alors, peut-être, en cybercratie. Dit autrement, trois générations après sa naissance, la mythique discipline fondée par l’Américain aura peut-être, enfin, adossé son préfixe « cyber- » à la chose politique.
© Inria / Photo G. Scagnelli
Mais quelles formes prendraient alors ce régime cyber ? Un régime qui, peut-être, ne délèguerait pas le pouvoir à d’ambigus androïdes et autres machines, non : un régime qui, plutôt, organiserait l’ensemble de la vie publique par la maîtrise et les usages de l’information numérique.

 

Cybercratie, de l’information, par l’information

Pour le critique de la technique Claude Emeri, la cybercratie « tue la démocratie représentative car elle sort l’action politique du domaine des politiques élus ». Norbert Wiener était un savant qui prêchait une science morale et une machine qui ne dévore ni ne rend obsolète l’homme : si la cybercratie existait enfin, en vanterait-il les mérites ? Cela dépend probablement de ce à quoi elle ressemblerait vraiment…

Qu’est-ce que la cybercratie ? L’expérience réelle qui s’en approcherait le plus se trouve au début des années 1970, lorsque Salvador Allende décide de planifier l’économie de son pays en temps réel et d’anticiper les besoins de ses citoyens chiliens au travers d'une mystérieuse « machine à gouverner ». Entre cybernétique et marxisme, le futuriste projet Cybersyn visait alors à une « économie de la ligne de commande », s’appuyant entre autres sur un « Datafeed », tableau statistique dynamique détectant des signaux faibles dans l’évolution de la production industrielle du pays en vue de mieux la gouverner. Cybersyn inclut aussi Cyberfolk, projet ringardisant par anticipation la démocratie sondagière en plaçant un boîtier « aldogénique » dans chaque foyer du bon peuple, lui permettant ains de faire remonter sa satisfaction.

Pourtant, Cybersyn échoue, la faute, outre le contexte politique, aux machines insuffisamment sophistiquées pour collecter et traiter les données… Pas de cybercratie au Chili. Dans nos livres, alors ? Il faudrait ici évoquer la « Culture » : c’est le nom de la civilisation techniciste et anarchiste, toile de fond du cycle SF du même nom écrit par Iain Banks de 1987 à 2012. Dans cette société d’abondance, les ressources sont gérées par des supercalculateurs, des intelligences artificielles conscientes conçues par l’homme mais qui ont auto-évolué. Nommées « mentaux » (minds, en anglais), elles semblent de facto gouverner : automatisé, leur travail d’optimisation de l’administration de la société, bienveillant envers l’humain, permet à celui-ci de mener une vie oisive.

C’est-à-dire que l’homme, gouverné par une IA sensible, est devenu inutile à son propre destin… Dans la Culture, l’homme en est réduit à n’être plus que quelque part entre « parasite et animal domestique », selon Banks. Le gouvernement parfait, alors c’est le gouvernement sans les humains ? Isaac Asimov, dans sa courte nouvelle A voté, laisse lui, les hommes continuer à élire des hommes, il est vrai grâce à un supercalculateur sous-terrain, Multivac. La fonction de ce dernier, toutefois, se cantonne à deux tâches : la recherche statistique d’un électeur représentatif de l'ensemble du corps électoral, puis la désignation du candidat le plus près de correspondre aux opinions de l'électeur choisi. Le président, élu par supercalculs, est bien humain, et il s’avère finalement tout aussi inefficace et magouilleur que ses prédécesseurs élus au bon vieux suffrage universel… Dans la fiction, l’intelligence artificielle apparaîtrait donc comme la seule bonne réponse à la question du gouvernement des humains.

La cybercratie tue la démocratie représentative car elle sort l’action politique du domaine des politiques élus.

 

Choix humain… trop humain

Dans notre réalité, le « temps des algorithmes » est en fait déjà venu. Comme l’explique Serge Abiteboul, auteur avec Gilles Dowek d’un livre éponyme, « la société est en train de réaliser l’impact que les algorithmes prennent dans la vie quotidienne, alors que ceux-ci étaient jusque-là cantonnés à l’entreprise et aux laboratoires de recherche ». Et nos sociétés, précisément, semblent être à la croisée des chemins, comme le suggèrent Serge Abiteboul et Valérie Peugeot dès le sous-titre de Terra Data, à la fois livre et exposition à la Cité des sciences et de l’industrie : « qu’allons-nous faire de nos données ? ». Le temps des algorithmes, alors, est aussi celui des choix : « Avec les données numériques que l’on génère en permanence, on laisse la possibilité de créer des sociétés de type Big brother qui peuvent nous espionner en permanence. C’est un phénomène qui ne fait que s’accroître. Cela appelle à faire des choix, qui ne sont pas des choix technologiques mais des choix sociétaux. Car la même technologie qui fera qu’on inventera de nouveaux traitements médicaux permet aussi que l’on fiche tous les citoyens en vue de les surveiller de manière permanente »

À rebours d’une pensée magique qui voudrait qu’on puisse tout résoudre avec des algorithmes, c’est à l’Homme, aujourd’hui de décider. Car après tout, c’est lui qui conçoit les programmes informatiques… Certaines avancées sont tentantes, y compris dans les domaines régaliens : les outils dits « d’évaluation du risque », utilisés dans une bonne moitié des États américains, permettent par exemple à la justice locale de quantifier le risque qu'un prévenu a de récidiver voire d'en conclure au maintien en détention ou non dudit prévenu. Dans ce cas paradigmatique, on a construit des algorithmes plus performants que les juges (lesquels, cela a été mesuré, prennent notamment des décisions différentes en fonction de l’heure de la journée où cette décision a été prise !)… Problème : ces mêmes algorithmes peuvent embarquer de dangereux présupposés, par exemple ethniques. « On peut hurler que c’est un désastre », tranche Serge Abiteboul, « mais les algorithmes avaient dans ce cas appris sur des années de choix de juges et ne faisaient que reproduire leurs biais. Je préfère dire que ces algorithmes ont apporté une amélioration, mais que celle-ci est insuffisante et qu’il faut aller plus loin et éliminer les biais ». Les biais, lorsqu’ils résultent d'algorithmes, sont d’ailleurs plus facilement détectables que lorsqu'ils sont « humains »…

 

Qu'envisage la justice prédictive ?

En attendant une démocratie prédictive, le terme de justice prédictive fait lui déjà son chemin. Visant en particulier à désengorger les tribunaux, cette justice algoritmique recouvre en fait une grande variété de réalités, dont le calcul statistique de la propension d'un individu à commettre, à l'avenir, un crime – ce qui pourrait conduire à une inquiétante ère du « soupçon raisonnable » généralisé.  D'autres, plus prosaïquement, proposent de quantifier, en amont, les « aléas judiciaires » : en France, la start-up Case Law Analytics, propose ainsi, sur un contentieux donné, et à l’échelle de l’historique d’une cour donnée, de calculer la probabilité que le juge aura de décider de tel ou tel montant pour une pension alimentaire ou, par exemple, pour des indemnités versées en cas de licenciement injustifié.

Directeur de recherche Inria, Jacques Lévy Véhel, co-fondateur de la start-up, explique qu’il est dangereux de ne fonder des décisions que sur des statistiques. Au lieu de réduire l’incertitude juridique, elles la renforcent en la saupoudrant d’une aura  scientifique. Mais le machine learning permet bel et bien d’aider à la décision un juge. Lorsqu’on lui présente le résultat jurisprudentiel « intelligent » de sa cour d’appel, il dispose alors d’une information supplémentaire pour décider… tout en restant souverain de sa décision.

« Nos algorithmes n’aboutissent pas à un chiffre, à une décision, mais présentent un éventail de possibilités. Cela limite l’argument selon lequel on risquerait de trop se reposer sur la technique pour ce type de décisions », souligne Jacques Lévy Véhel. Selon lui, une démocratie « algorithmisée » requiert de la transparence. Et si l’on ne peut pas toujours rendre public ses algorithmes, une autorité indépendante de certification, à qui il montrerait ses codes, pourrait toujours être créée.

D'ailleurs, si des formes de comité éthique sont déjà naissantes, l’argument du secret commercial demeure en plein débat juridique aux États-Unis, où le code source du logiciel d’analyse d’ADN TrueAllele a fini par être publié (permettant au passage de s’apercevoir qu’il n’était pas qu’un générateur aléatoire de probabilités, comme l'était la méthode statistique jusque-là massivement utilisée !). « Aucune machine ne peut prendre en compte tous les critères aboutissant à une décision juridique. Chaque décision reste un cas particulier : on ne peut pas supprimer totalement l’incertitude », pointe le chercheur.

Le vote électronique n’a aujourd’hui pas atteint la maturité et la sécurité qu’offre un vote à l’urne bien organisé.

 

L'espace privé-public

La cybercratie se dessine dans tous les pans de la vie en société : à l'école (avec la sélection universitaire), dans les politiques sociales (avec le profilage des chômeurs), jusqu’à, évidemment, l’art de la guerre. Une cybercratie qui échapperait au contrôle démocratique ? Pour ce qui est de la guerre, la présence prochaine de robots tueurs et de nano-drones mieux informés que les humains pendant le combat fait en particulier craindre une dangereuse industrialisation.

Pourtant, cela fait longtemps que les indicateurs indiquent, les métriques mesurent, les évaluations évaluent, les classements classent, les audits auditent. Le machine learning, pourtant induit une rupture : il introduit une prise de décision publique assistée par une intelligence extra-humaine. L’espace public peut alors être géré, dans la pure tradition cybernétique, par l’auto-régulation algorithmique, capable de créer des boucles de décision autonomes alimentées par les données. Au vieux rêve d’une democratie.com, collaborative, ouverte et innovante, s’est substitué un nouvel idéal-type, celui de la ville data-drivée. Réalisée dès 2013 avec le Mayor's Office of Data Analytics et ses 50 flux de données en temps réel de la ville de New York, l’utopie n’en est plus une : elle a fait l’objet début 2017 d’un label de politique publique, What Works Cities, qui prend également en compte le degré et la qualité des process d’ouverture des données publiques (open data). Ce label permettra-t-il d'éviter la privatisation de la gouvernance des villes ? C'est que les collectivités publiques sont, en matière de maîtrise des données, toujours plus concurrencées par les grandes entreprises privées. Elles essaient, pourtant : Helsinki a été la première capitale au monde à lancer un service de transport public à la demande, sur le modèle d’Uber – mais elle a échoué. Le privé semble en fait plus à même de faire office de plateforme centralisée de gestion des flux de données. Ville data-pilotée, ville privée ?

L’opacité des règles du jeu, leur inefficacité, la présomption de culpabilité à grande échelle, la stigmatisation sociale voire la discrimination de certaines catégories de population, le risque de privatisation : la « gouvernementalité algorithmique » a ses attributs dystopiques… qui n’en font pas nécessairement son essence. Le tout est d’en faire un sujet de débat public. « Le numérique ne doit pas rester dans une boîte noire, les citoyens ne pourront faire des choix éclairés que s’ils ont le minimum de base technique pour comprendre les enjeux et bien sûr si les logiciels sont ouverts », explique Serge Abiteboul, pour qui tout est d’abord question de choix sociétaux.

 

Le citoyen est un fichier comme un autre

Il n’en reste pas moins que les capteurs et la collecte de données personnelles seront au premier rang de la démocratie de 2067. Des gouvernements qui centralisent les données de leurs citoyens-fichiers, cela existe déjà : dans le fichier TES, mis en œuvre en France, sont ainsi rangés notre état civil, notre couleur des yeux, notre taille, notre adresse, la filiation des parents, l’image numérisée de nos visages, nos empreintes digitales, l’image numérisée de notre signature, notre adresse e-mail et nos coordonnées téléphoniques ou encore les traces d’une interdiction de sortie du territoire.

Inéluctable centralisation ? Un tel « fichier des gens honnêtes » est évitable, ont conclu dans leur rapport Claude Castelluccia et Daniel Le Métayer. Les deux directeurs de recherche Inria, après avoir étudié d’autres architectures, ont conclu qu’il aurait été possible de mieux protéger la vie privée des citoyens tout en offrant les fonctionnalités attendues : on aurait pu notamment éviter les risques d’identification d’une personne à partir d’une donnée biométrique. La centralisation est donc un choix politique plutôt qu’une inéluctabilité technologique : « un travail d’analyse de risque sur la vie privée aurait dû être fait, mais c’est probablement la solution la plus simple techniquement qui a été retenue », expliquent les chercheurs. Ouf ! Même dans une démocratie de citoyens-fichiers, que les start-ups de marketing politique peuvent réduire à des cibles comportementales, y compris dans leur dimension psychologique, la cybersurveillance d’État ne serait pas une fatalité ! Encore faudrait-il introduire dans l’espace public la notion d’accountability, c’est-à-dire de responsabilisation du pouvoir…

Véronique Cortier, directrice de recherche au CNRS et membre de Pesto, une équipe-projet commune avec Inria, place quant à elle la question de l’ouverture et de la vérifiabilité au cœur de la démocratie numérique. La chercheuse travaille sur le vote électronique, un mode déjà utilisé dans quelques élections à enjeu modéré, que ce soit en remplacement du vote par correspondance ou en vue d’un renouveau démocratique lié à des votes plus fréquents ou à l’expérimentation de systèmes électoraux plus complexes. « Le vote électronique n’a aujourd’hui pas atteint la maturité et la sécurité qu’offre un vote à l’urne bien organisé », détaille Véronique Cortier. Elle estime toutefois qu’à moyen terme, une solution proposant un vote confidentiel, chiffré (même votre ordinateur ne saurait pas pour qui vous aviez voté) et vérifiable par soi-même comme par d’autres experts, est trouvable. Belenios, la plateforme de vote en ligne qu’elle a contribué à sécuriser, ouvre la voie. Mais en cybercratie, le vote devra bien, lui aussi, se numériser. Mais après tout, votera-t-on encore ?

Une copublication Inria - Usbek & Rica

Crédits

Photo 1 :  Geralt, CC0 via Pixabay
Photo 2 : © Rawpixel.com / Fotolia

 

Plus d’informations sur le sujet ?

Propulsé par