« Machines prédictives », cordonné par Bilel Benbouzid et Dominique Carbon, in Collection Revue Réseaux n° 211, volume 36, Editions La Découverte, Paris, 2018

Bruno Guiatin

Publié en ligne le 23 septembre 2019

Texte intégral

La sagesse selon laquelle l’avenir n’est qu’une page blanche est peut-être une annonce passée. Nous n’avons plus qu’à « apprendre de nos données pour nous dire quel livre nous aimerons lire, apprendre d’une masse de pixels pour déterminer quel comportement présente une menace à l’intérieur d’un espace surveillé, apprendre des habitudes de vie pour calculer le juste prix d’une assurance de santé, etc. », pense pour sa part, Tyler Reigeluth dans son article sur « La Prédiction algorithmique comme activité sociale » (Reigeluth, 2018 : 39) et Geoffrey Hinton de se demander : « De combien de linguistes a-t-on besoin pour réaliser les progrès actuels en traduction automatique ? » (Hinton, 2018 : 16). Faut-il alors croire à un retour au déterminisme scientifique ? Le discours des machines prédictives, inspiré « des travaux relatifs à la place croissante prise par les décisions algorithmiques en engageant des prédictions » sur lequel cet ouvrage, Machines prédictives, s’appuie pour bâtir la réflexion critique, qui fait l’objet de cette note, le suggère bien. L’avenir est par définition une possibilité et l’homme lui-même, un ensemble de possibilités ; ce qui créerait en lui le désir de se projeter dans l’espace-temps dans un processus d’autodescription qui caractérise son existence.

A travers l’analyse critique de cet ouvrage sur l’ère machinique, ce que nous venons d’évoquer semble tomber dans « la désuétude » ; l’ère machinique enterre le sujet cartésien. Il semble de moins en moins le mieux placé pour dire la société et son avenir. Ce rôle devient graduellement l’apanage des machines dites prédictives. Présentées au départ comme un objet de quête technologique, les machines s’étaient forgé un statut d’adjuvant pour l’homme, capable de calcul, elles étaient rentrées en concurrence avec leur créateur et poursuivaient les mêmes quêtes que celui-ci. Désormais, elles donnent la preuve qu’elles sont « destinatrices » de la quête même de l’homme dans la mesure où elles dictent à l’homme les contenus de sa quête et sanctionnent l’ensemble de son parcours. Selon Tyler Reigeluth, la vie est devenue un simple objet à manipuler par celles-ci en ce sens que les attributs sociaux de vie humaine sont imités et spoliés : « Il n’est plus seulement question, avec le machine learning, d’automatiser le geste du travail manuel, ou le traitement cognitif de l’information, mais d’automatiser le caractère prédictif de tout comportement », ( Reigeluth, 2018 : 40).

L’objectif des auteurs est de montrer comment la démarche des machines à prédire, va du mimétisme des gestes algorithmiques à la manipulation des comportements sociaux. En effet, sans un regard constant du geste machinique, on croirait naïvement que la démarche des technologies numériques consiste en la collecte de nos gestes sur le web puis en leur stratification et formalisation sur la base de nos habitudes d’une part, et d’autre part, en nous proposant en retour des services à même de nourrir notre appétit pour des choix technologiques. Notre confiance aveugle envers les machines permettrait de simplifier nos démarches et nous apporter certaine assistance. C’est dans ce sens d’ailleurs que dès les pages introductives, les coordonnateurs du livre, Bilel Benbouzid et Dominique Carbon soulignent que « la tâche à laquelle ce numéro s’est employé est de ne pas arrêter l’enquête à la frontière des machines, mais d’explorer véritablement leur fonctionnement » (Benbouzid et Carbon, 2018 : 20). De ce fait, face à l’objectivation de l’homme par la machine, on se rend à l’évidence de la motivation et de l’apparent engagement social de celle-ci : la prédiction, d’où « Machines prédictives ». Toutefois, si leur intrusion dans notre intimité n’avait pour objectif que la prédiction, l’on pourrait encore se consoler de l’attitude bien qu’insolite d’un partenaire indiscret qui nous aiderait à prévoir et organiser notre milieu de vie. Mais il s’agit en réalité d’une appropriation de notre être en tant que sujet conscient et libre. Et, l’on ne manque pas de se demander si on peut aujourd’hui affirmer que nos institutions (police, assurance, santé, alimentation…) fonctionnent sur la base de nos choix de société. La problématique de fond posée est, sans équivoque, la fin de l’éthique du génie humain : l’homme se sent-il encore digne en ayant conscience que son statut sexuel n’est plus un secret pour qui le voit en face ? Qu’on l’admette ou qu’on le récuse, les machines prédisent et les hommes sont classés à partir de leurs comportements : ils sont soit potentiellement dangereux, soit gays, lesbiennes ou hétérosexuels…et face à la machine prédictive, chacun des humains est fiché d’une certaine façon. Tous, sont devenus quantifiables, des données qu’on expérimente au laboratoire en vue de construire des méthodologies d’action. Par exemple, selon Fernanda Bruno et alii, « nous remarquons comment, à travers la photographie et le cinéma, les gestes ont été extraits des corps et des individus en vue d’élaborer une connaissance spécifique à leur sujet et surtout en vue de les rendre plus productifs et efficaces » (Bruno et alii, 2018 : 108). Malheureusement, remarque Reigeluth, » il apparait de plus en plus indiscutable que la prédiction, prise aussi bien comme formalisation comportementale et comme formalisation statistique des comportements, est un régime d’information auquel nous participons en permanence » (Reigeluth, 2018 : 63).

Cette manipulation de la vie humaine, faut-il le dire, est le fruit d’un impensé : on ne cherche pas à soigner la société de ses maux ; on cherche plutôt à démasquer davantage ce qu’elle semble ignorer d’elle-même. L’illusion, chercher à éviter le crime, cache d’ailleurs très mal la volonté insidieuse de le programmer. La préoccupation est de prouver que le crime aura lieu à tel endroit, à tel moment, par tel type d’individu, comme le montre bien Nicolas Baya-Laffite et alii : « Grâce à un réseau de neurones, il est possible de produire un modèle capable de prédire l’orientation sexuelle d’un individu à partir d’images faciales issues d’un site de rencontres, avec une très grande précision, toujours supérieure au hasard ». (Baya-Laffite et alii, 2018 : 147). Il va sans dire que nous sommes dans un monde de soupçon avec les machines prédictives où nous assistons à la fin de l’aléatoire, du hasard, du spontané. Finalement, le fait de se sentir sous les projecteurs ou en permanence sur les champs de surveillance de ces machines crée en nous un sentiment de culpabilité, de soupçon, de peur, d’inquiétude… sur soi-même et sur les autres. Cette litanie de malaise est encore imputable à l’homme selon le discours machinique : « c’est parce que nous avons des comportements qui fonctionnent comme des algorithmes que les algorithmes peuvent se comporter de façon à les révéler, peuvent les simuler » (Baya-Laffite et alii, 2018 : 59). En revanche, « chez les machines prédictives, rien n’est inné, tout est acquis. Leur architecture cognitive n’est pas préconfigurée par la nature, mais par des collectifs d’humains qui font société ». (Baya-Laffite et alii, 2018 : 96). Faut-il toutefois occulter du fait que l’intelligence artificielle est d’abord une œuvre humaine ? Et que plutôt que de semer l’illusion d’une machine qui s’oppose à l’homme et à la manière dont il perçoit son milieu, ne faut-il pas plutôt voir en ce siècle machinique un désir d’un retour bestial de l’homme au siècle de la jungle où l’homme, d’après Thomas Hobbes, est un loup pour l’homme ? Somme toute, si l’ensemble de ces articles conservent leur pertinence tout à fait indéniable au regard du caractère sensible des champs investis (sécurité, assurance, santé, alimentation…) et de leur capacité à apporter la preuve, il reste qu’ils sont conçus dans le milieu même de l’informatique prédictive avec son techno-vocabulaire. L’exemple illustratif est la méthodologie d’enquête déployée par Vincent Bullich (page 257). L’investigation se déploie sur des personnes soigneusement ciblées au regard de leur lien avec l’univers sociotechnique des machines prédictives. Elle ne fera par conséquent que donner une vue partielle quant à l’impact des machines sur la société alors même que ce dernier commande tout l’enjeu de cet ouvrage.

Pour citer ce document

Référence papier

Guiatin Bruno, « « Machines prédictives », cordonné par Bilel Benbouzid et Dominique Carbon, in Collection Revue Réseaux n° 211, volume 36, Editions La Découverte, Paris, 2018 », Interfaces numériques, (8)1, XX-XX, 2019

Référence électronique

Guiatin Bruno, « « Machines prédictives », cordonné par Bilel Benbouzid et Dominique Carbon, in Collection Revue Réseaux n° 211, volume 36, Editions La Découverte, Paris, 2018 », Interfaces numériques [En ligne], 8(1), 2019, consulté le 20/10/2019, URL : https://www.unilim.fr/interfaces-numeriques/3818

Auteurs

Bruno Guiatin
Centre de Recherches Sémiotiques
Articles du même auteur

Licence