Vous êtes ici

Quand les algorithmes décident à notre place

Français
Date: 
10.04.2014
Type source: 
Media: 
Libération

Quand les algorithmes décident à notre place

ANTOINETTE ROUVROY CHERCHEUSE AU CENTRE DE RECHERCHE EN INFORMATION, DROIT ET SOCIÉTÉ DU FNRS 10 AVRIL 2014 FORUM DE RENNES

La chercheuse Antoinette Rouvroy s'interroge sur la place que prennent les algorithmes dans notre société et s'inquiète d'une forme de «gouvernementalité algorithmique».

 

> Antoinette Rouvroy participera au Forum «Libé» de Rennes consacré à «2030», qui se déroulera les 11 et 12 avril. Programme et réservations ici

L’Homo numericus, baignant dans les flux contrôlés-personnalisés de la réalité numérique, s’immunise du monde. Ses appareils en réseau transcrivent le monde et ses habitants sous forme de données numériques métabolisables par les systèmes informatiques. De cette transcription systématique résultent des masses gigantesques de données – les big data. Dans ces immenses corps statistiques impersonnels, des algorithmes détectent des corrélations et font surgir des modèles (patterns ou profils) censés permettre d’anticiper, et d’agir par avance sur les comportements humains sans plus avoir à se préoccuper des motivations psychologiques des acteurs. La reconfiguration constante, en temps réel, des environnements informationnels et physiques en fonction de «l’intelligence des données» - que l’on appelle cela «personnalisation» ou «métabolisme de sécurité» -, est donc un mode de gouvernement inédit.

La rationalité algorithmique séduit par son objectivité machinique. Remplaçant la sélectivité et la subjectivité des perceptions, représentations et évaluations humaines par l’immanence, l’objectivité et l’immédiateté des traitements de données automatisés, la nouvelle rationalité algorithmique instaure un régime dans lequel les catégories à travers lesquelles nous percevons le monde n’ont plus besoin d’être construites ni discutées, mais émanent «spontanément» du réel numérisé lui-même.

Déployée dans une multitude de secteurs d’activité (marketing, persuasion électorale, orientation en éducation, finance, gestion des ressources humaines, prévention des fraudes, sécurité, prévention du terrorisme, robotisation des conflits armés…), la gouvernementalité algorithmique est une stratégie de neutralisation de l’incertitude – et, en particulier, de l’incertitude générée par la spontanéité des comportements humains. C’est que, dans ce monde en réseau, c’est l’incertitude comme telle, c’est-à-dire l’excès du possible sur le probable, le mode conditionnel de «ce que peuvent les corps», qui devient la cible du pouvoir.

PROJET COLLECTIF

Le gouvernement algorithmique opère par configuration anticipative des possibles plutôt que par réglementation des conduites, affecte les individus par voie d’alertes ou de stimuli générant des réponses réflexes plutôt qu’en s’appuyant sur leurs capacités d’entendement et de volonté. Il s’agira, en recourant à de nombreux exemples, de rendre sensible ce mode de gouvernement spectral qui, bien qu’il ne semble ni éprouver, ni se laisser éprouver par rien ni personne, se nourrit littéralement de la puissance ou de la spontanéité des individus qu’il affecte en privant d’effets leur capacité à n’être pas toujours déjà là où ils seraient attendus. Il s’agirait aussi, et surtout, de problématiser l’engouement contemporain pour les big data, le datamining et le profilage algorithmique en tentant d’identifier à la fois les aspirations contradictoires présidant à l’engouement pour ce mode de gouvernement et une série de glissements épistémologiques, politiques, existentiels, dont la gouvernementalité algorithmique ne serait en somme que le symptôme technologique.

Un gouvernement algorithmique qui façonne l’advenir, qui affecte sur le mode de l’alerte et du réflexe, mais n’éprouve ni n’est éprouvé par aucun sujet, a de quoi inquiéter ne fût-ce que dans la mesure où il ne se laisse plus provoquer par la liberté humaine, alors même que cette provocation constante est précisément ce qui occasionne du débat, de la délibération autour de la norme, et donc du projet collectif.

Personal info
Contributor: 
Mathieu Despont
Organisation, Media, etc: 
Libération