Relations mai-juin 2020

Jean-Claude Ravet

Le devenir machine de l’être humain ? 

L’auteur, membre de l’équipe éditoriale de Relations, en a été le rédacteur en chef de 2005 à 2019

Le discours dominant sur l’intelligence artificielle fait croire que la machine est « humaine » pour mieux machiniser l’humain. La résistance est de mise. 

« Aujourd’hui notre survie exige que nous changions nos idées sur le progrès et que nous affrontions les dures réalités que ces idées nous permettent d’ignorer. Nous pourrons alors commencer à remettre en cause les prophètes auto-proclamés de l’automatisation dont l’irresponsabilité n’a d’égale que la folie. » 
David Noble, Le progrès sans le peuple[1]

L’intelligence artificielle (IA) fait rêver. L’essor de cette technologie est porteuse d’immenses promesses. Certains y voient l’annonce d’une véritable révolution sociétale, civilisationnelle même, de l’ordre de celle qu’a représentée l’invention de l’agriculture, de l’écriture ou encore l’avènement de l’ère industrielle à leur époque respective. L’histoire nous le dira. Mais à porter notre attention sur le présent, une chose est frappante et devrait nous inquiéter : le développement de l’IA et ses réalisations apportent un nouveau souffle au capitalisme – à la croissance et au profit à tout prix, à l’accumulation du capital et à la dépossession des populations qui l’accompagne. Ils donnent l’illusion qu’on peut continuer sur la même voie de prédation, de marchandisation du monde, de machinisation de l’humain et d’inégalités sociales croissantes sans en subir les conséquences désastreuses qui pointent déjà à l’horizon. L’IA permet ainsi d’accélérer la course vers l’abîme si on n’y prend garde – alors qu’il faudrait sur-le-champ appliquer les freins d’urgence.

De plus, l’IA représente un outil privilégié, si ce n’est une arme puissante, pour accroître l’emprise et le contrôle qu’exercent sur la société les multinationales techno-financières qui en sont les principales conceptrices, productrices et promotrices. Ces dernières sont établies notamment dans la Silicon Valley, aux États-Unis, et en Chine totalitaire.

Cette double emprise économique et politique repose en partie sur une offensive idéologique à vaste échelle : elle se diffuse et s’impose dans les médias de masse et la publicité, par le recours à une pléthore de créateurs de récits – pensons aux livres à succès de Yuval Noah Harari –, chargés de redorer le mythe passablement terni du progrès technique et son mot d’ordre : « on n’arrête pas le progrès ». Depuis l’ère industrielle, celui-ci a été la voie royale des classes dominantes pour installer, consolider et exercer leur pouvoir au détriment de la majorité. C’est principalement sur ce discours idéologique entourant l’IA que je veux m’attarder ici. Car au-delà de telle ou telle technologie, prise à la pièce – les unes pouvant être bénéfiques, les autres inquiétantes (pensons aux drones tueurs) –, il faut pouvoir penser l’IA dans une perspective politique, en tant que partie intégrante d’un dispositif et de rapports de pouvoir qui conditionnent et orientent les comportements et la direction globale de la société. 

Un réductionnisme victorieux

Le discours dominant des multinationales de l’IA véhicule une vision extrêmement réductrice de l’humain et de la vie. Il tend à assimiler la machine à l’humain et l’humain à une machine comme une autre, selon les perspectives cognitiviste et physicaliste dominantes dans les technosciences. Les idéologies transhumaniste et posthumaniste en sont l’expression délirante et fantasmagorique – et une version revampée de l’eugénisme et de l’hygiénisme social de triste mémoire – ainsi que l’alibi « rationnel » au mépris de la fragilité humaine, de ses limites, de ses « erreurs », de « ses pertes de temps », de ses détours improductifs.

Le discours sur les « robots empathiques », simulant les émotions, est un des nombreux exemples de cet effort de brouillage intéressé des frontières entre le vivant et l’artefact, qui en vient à rabaisser l’existence à un simple fonctionnement. Il le fait en répandant l’idée d’une « intelligence humaine » désincarnée, qui ne serait pas inextricablement liée au corps, aux sensations et aux émotions « réelles », qui ne serait pas pétrie d’expériences vécues, de mémoires et de sens. Or l’intelligence artificielle, malgré ce que ce nom peut laisser entendre, n’est pas l’équivalent « artificiel » de l’intelligence humaine. Essentiellement calculante, l’IA peut simuler un aspect de celle-ci, certes, mais elle ne la remplace pas, tout comme le territoire ne peut être réductible à la carte. De même, la simulation de l’empathie n’équivaut pas à la capacité de se mettre à la place de l’autre, de ressentir ce que l’autre vit, parce que cela résonne dans notre chair et notre histoire. Cela ne veut pas dire que ces robots dits empathiques ne peuvent pas aider à suppléer une carence de relations humaines ou assister la tâche d’un soignant, mais penser qu’ils pourront remplacer cette présence, ce serait promouvoir une ingénierie du vivant. Or, n’est-ce pas ce que cherchent à faire certaines compagnies d’IA en fabriquant des poupées « empathiques » destinées aux enfants ? Ce n’est pourtant pas un cadeau à faire à un enfant que de lui faire croire qu’une relation signifiante n’a pas à passer par l’épreuve de l’autre – avec la peur qu’elle peut générer – et de sa propre vulnérabilité qu’elle fait affleurer, une expérience fondamentale pour grandir en humanité. C’est plutôt une façon de normaliser comme « idéale » une relation policée, moulée à soi, sans accrocs ni conflictualité, en jouant sur l’attachement affectif.

La publicité entourant les assistants vocaux comme Siri et Alexa, ciblant particulièrement les enfants – on peut la voir dans les abribus, par exemple –, contribue à intérioriser un rapport technique au monde et à soi, tout en encourageant une addiction technologique en bas âge.

Une vie branchée au marché

L’illustration de ce réductionnisme euphorique, on la trouve aussi d’une manière éclairante dans l’éloge d’une vie connectée à l’IA grâce à l’Internet des objets et au réseau planétaire 5G – exemples types de progrès planifiés par les élites économiques et imposés à la population comme des fatalités. Par eux, on vante une existence quadrillée par la technologie, disciplinée et surveillée par elle jour et nuit. Un monde sans altérité, où tout devrait se mouvoir sans heurts et sans conflits, au service d’un être humain quantifié, paramétré, cherchant à optimiser en tout temps ses « performances », et se montrant essentiellement « cérébral ». En déléguant aux machines les tâches de la vie quotidienne, toute personne devient une sorte de pdg de son univers machinisé. Voilà autant de fantasmes que pousse à ses limites déshumanisantes le dualisme moderne – opposant esprit/corps, humain/vivant – qui a accompagné étroitement le développement du capitalisme et fait tant de dégâts.

Les technologies de l’IA rendent ainsi possible le rêve le plus fou du capitalisme : brancher directement chaque individu au marché. Plus besoin de chercher à le cibler, à le rejoindre, à le séduire. Avec la personnalisation algorithmique de la publicité, la distance entre la marchandise et le consommateur est abolie et la manipulation psychologique, décuplée. Chacun est suivi à la trace, voit ses émotions sondées, ses comportements radiographiés. Ainsi, grâce à l’IA, la « fabrique du consentement » (Lippmann), qui sert, dans la société capitaliste, à discipliner la population aux règles du marché et à façonner un régime « démocratique » constitué essentiellement de consommateurs, est portée à sa perfection.

Résistance

Pour s’affranchir de la tutelle des maîtres actuels du jeu qui dictent la marche à suivre, il est nécessaire de déconstruire le « mythe » qui s’élabore en appui à leur domination. Mais ce contre-discours ne suffit évidemment pas ; il doit s’accompagner d’actions collectives et de luttes contestant la « fatalité » du progrès qui aboutit à toujours plus de profits pour quelques-uns et à une dépossession toujours plus grande pour les autres. Il importe donc de se réapproprier le pouvoir de décider collectivement des normes et des orientations de la société – confisqué par une infime élite –, de telle sorte que les innovations technologiques n’aillent plus dans le sens de la destruction du tissu social et de l’appauvrissement des travailleurs et des travailleuses, mais favorisent plutôt l’enrichissement de la vie, la préservation du bien commun, le souci de la nature et l’humanisation de l’humain. Tout outil, fut-il une machine capable d’apprentissage, doit servir l’humain et la vie. Les critères d’efficacité, de productivité, de profit ou d’utilité strictement individuelle ne suffisent pas à valider l’implantation de telle ou telle technologie. À cet égard, le chômage, la perte d’emplois, la dégradation du tissu social, la destruction de la nature et de la société ne peuvent continuer d’être considérés comme des questions marginales. La question technique est avant tout une question politique et doit faire à ce titre l’objet de débats citoyens. Pour cela, les luttes sociales contre la dépolitisation programmée de la société sont centrales.

Norbert Wiener, l’inventeur de la cybernétique, pressentait déjà dans les années 1950 que si on ne repensait pas les principes directeurs de la société actuelle et les motifs qui la fondent, son invention deviendrait une « machine à gouverner » (selon le terme que lui avait donné le philosophe français Dominique Dubarle, dominicain[2]) aux mains de pouvoirs autoritaires. Le savoir-faire ne suffit pas, disait-il, il faut pouvoir développer ce qu’il appelait le « savoir-quoi » « grâce auquel nous déterminons non seulement les moyens d’atteindre nos buts, mais aussi ce que doivent être nos buts », car « transférer sa responsabilité à la machine qu’elle soit ou non capable d’apprendre, c’est lancer sa responsabilité au vent et la voir revenir portée par la tempête[3] ».

[1] D. Noble, Le progrès sans le peuple, Montréal, Rue Dorion, 2016.
[2] D. Dubarle, « Une nouvelle science : la cybernétique – Vers la machine à gouverner ? », Le Monde, 28 décembre 1948.
[3] N. Wiener, Cybernétique et société, Paris, 10/18, 1954, p. 455 et 459.

Restez à l’affut de nos parutions !
abonnez-vous à notre infolettre

Share via
Send this to a friend