La Tyrannie des algorithmes : conversation avec Régis Meyran.

« On lit tout et n’importe quoi sur l’IA. En général, elle nous est présentée soit comme la promesse d’un bonheur à venir – voire comme la possibilité de devenir surhumain et d’accéder à l’immortalité, selon le crédo des promoteurs du transhumanisme, de Yuval Harari à Laurent Alexandre – soit on en fait une menace susceptible de mettre fin à l’humanité – comme dans les films de science-fiction du type Terminator, ou chez certains tenants d’un retour intégral à la nature et dans les groupes survivalistes. Mais une réflexion plus sérieuse et moins fantasmatique peut nous amener à comprendre qu’on ne peut pas être pour ou contre la machine ». Pour Miguel Benasayag, philosophe et psychanalyste, notre vie quotidienne est insidieusement prise en charge par les machines : logiciels de surveillance couplés à des caméras, justice prédictive, suivi marketing… Nos choix collectifs sont-ils à la merci des big data ?

 

L’échec de la rationalité occidentale

 

Comme le rapporte Régis Meyran, anthropologue, coordinateur scientifique de la plateforme internationale sur le racisme et l’antisémitisme (PIRA), notre prise de distance et notre contrôle vis à vis des programmes et des logiciels qui facilitent en apparence notre quotidien,  est essentielle, sans quoi nous serons « réduits non plus à exister mais à fonctionner, comme des machines, c’est-à-dire à être dans la pure efficience et la performance ». Miguel Benasayag illustre ce concept par une image: « une publicité dans le métro pour de la musique en ligne, décrivant des individus « en mode pause » quand ils se détendent ou « en mode répétition » quand ils courent sur un tapis roulant, est une bonne métaphore d’un tel danger ». La question du libre arbitre est ici fondamentale, tant il semble que nous sommes condamnés à ne devenir que de simples exécutants de « routines » préfigurées pour nous. De fait, nos véritables moments de conscience disparaissent « (incluant l’ennui, l’erreur, le doute…), nos capacités d’imagination et de concentration, bref notre faculté d’exister », précise Miguel Benasayag.  Ce qu’on appelle « intelligence artificielle » serait en outre un concept bien mal nommé : « le mot « intelligence » n’y est qu’une métaphore. Même si sa capacité calculatoire dépasse celle de l’homme, l’intelligence artificielle est incapable de donner une signification à ses propres calculs. Il est essentiel de distinguer le fonctionnement de la machine de l’intelligence des êtres vivants, puisque l’intelligence vivante n’est pas une machine à calculer », rappelle le philosophe. L’intelligence humaine est donc inscrite dans un corps, où s’expriment les passions, les pulsions, la mémoire de longue durée, « (…) la mémoire de l’évolution des espèces ! ». 

 

La post-démocratie

 

Lorsque Régis Meyran interroge Miguel Benasayag sur l’incapacité d’une humanité à prévoir les conséquences de ses actes, en dépit de l’aide de l’intelligence artificielle, ce dernier dresse le constat d’une humanité déboussolée. Le philosophe avance que la technique et l’innovation, la rationalité, peuvent également engendrer des monstres et de l’horreur. « Pourtant, jusqu’ici, la science et la raison étaient les deux piliers qui guidaient l’humanité vers une supposée « bonne » transformation du monde, vers l’émancipation. Or, cette humanité déçue d’elle-même rencontre le monde digital. Avec cette nouvelle utopie, l’humanité délègue son pouvoir à la machine. Désormais, des hommes proches des centres de pouvoir – économistes, banquiers… – prennent pour acquis la mort de l’Homme, et délèguent consciemment les fonctions de décision à la machine », constate Michel Benasayag. Le philosophe va plus loin, lorsqu’il rappelle que le Groupe des dix, qui rassemblait des intellectuels comme Edgar Morin, Henri Laborit, Jean Petitot, Henri Atlan, proposait, compte-tenu de la complexité technoscientifique de nos sociétés, qu’il n’incombe pas aux élus, mais à des experts scientifiques, d’analyser et d’arbitrer les enjeux contemporains.

 

La théorie de l’agir : quel libre arbitre sous gouvernementalité algorithmique ?

 

Selon Miguel Benasayag, le gouvernement français applique les règles économiques de l’UE, « lesquelles reposent sur des modèles qui partagent tous cette même croyance que le monde est information. Et les données discrètes qu’ils utilisent ne font évidemment que justifier cette croyance et les hypothèses économiques qui l’accompagnent ».

 

Rappelant les travaux du mathématicien René Thom, le philosophe explique que derrière tout modèle quantitatif, il existe une hypothèse qualitative. Mais des millions de françaises et de français, constatant une dégradation de leur niveau de vie, ne se reconnaissent plus dans des institutions qui vont réagir en « implémentant » un nouveau modèle se pliant « aux décisions de la machine, laquelle décrète ce qui est possible et ce qui ne l’est pas sur le plan économique, quelles que soient les conséquences pour les populations. Le technocrate appelle « réalisme » le fait de se plier aux ordres d’une machine, qui décrète par exemple la possibilité de fermer une maternité pour des raisons d’efficacité économique ». L’incidence d’un arbitrage technique sera bien réel : en l’occurrence, la fermeture d’une maternité et l’allongement du temps parcouru pour accéder à des soins.  Cette technicisation de la prise de décision et de l’arbitrage politique aurait également comme conséquence des politiques publiques désincarnées, une déresponsabilisation du personnel politique à la racine de la crise de nos institutions : « dans ce nouveau contexte, les politiques au pouvoir ne sont personne, ils pourraient tout aussi bien être des hologrammes, ça ne changerait rien du tout ».

 

Mais alors, comment agir ?

 

« Comme on l’a vu, la gouvernementalité algorithmique fait que, face à la crise des sociétés et des cultures, on a délégué la rationalité humaine vers la machine. Dans ce nouveau contexte, l’agir est compromis. Nous sommes en outre face à une situation catastrophique sur le plan économique, démographique, écologique ». L’agir des humains est conditionné par de nombreux actifs non-humains. L’action humaine n’est qu’un vecteur, qui s’inscrit dans un ensemble d’autres vecteurs non-dénombrables, imprévisibles et non-régulés. « Il y aura une régulation de la nature par elle-même, si on veut, mais les humains ne seront peut-être plus là pour en témoigner ! », conclut-il.

 

Farid Gueham

 

Pour aller plus loin :

 

-       « Miguel Benassayag : quand les big data décident des orientations du monde », franceculture.fr

-       « La tyrannie des algorithmes », contrepoints.org

-       « La pensée n’est pas dans le cerveau », iatransfumanisme.com

-       « Intelligence artificielle : Aurélie Jean décomplexe les algorithmes », tv5monde.com

 

Photo by Markus Spiske on Unsplash

Qu'en pensez-vous?