« Le cerveau c’est comme une machine » (poncif n°5)

Comparaison n’est pas raison, et la raison scientifique voudrait nous persuader du contraire.

I – Robotiser l’humain, humaniser la machine

Au grand dam des scientifiques, l’être humain est inséparable d’une fâcheuse tendance à l’irrationalité. Face à cette imperfection humaine, le système technologique s’est adapté au moyen de la standardisation des modes de vie et des pensées. Mais ce prêt-à-penser ne sort pas de nulle part : il découle directement de l’organisation matérielle de l’existence. La consommation de masse, le divertissement de masse et le travail aliénant produisent le type d’individu dont ils ont besoin pour continuer à exister, un type d’individu assez désensibilisé pour endurer cette somme d’outrages que l’on nomme « vie quotidienne ». Tout individu dont les aspirations différeraient un tant soit peu des impératifs de la société industrielle est donc marginalisé, et son problème doit être traité.

« 155. Notre société tend à taxer de « maladie » toute pensée ou comportement gênant pour le système, ce qui s’entend car tout individu inadapté en souffre lui-même et pose problème au système. Toute manipulation d’un individu en vue de l’ajuster au système est donc perçue comme « traitement » d’une « maladie », et par conséquent comme bénéfique. »

« 162. Le système est actuellement engagé dans une lutte désespérée pour surmonter certains problèmes qui menacent sa survie — les plus importants étant ceux qui découlent du comportement humain. Si le système parvient à contrôler ce dernier assez vite, il survivra sans doute. […] »^[1]

Puisque les changements les plus brusques suscitent les réactions les plus fortes, considérons l’humanité comme cette grenouille dans une marmite d’eau tiède, et dont la température monte assez progressivement pour qu’elle ne fasse rien pour tenter de s’évader. Plus lentement s’opère le changement, moins la réaction est à craindre.

L’accommodation progressive à notre propre robotisation, voilà ce dont il est question. Cela passe notamment par le fait d’imposer le robot « intelligent » dans l’espace public et privé comme contact récurrent, privilégié et même amical. Le service poliment demandé à l’assistant vocal Alexa et la réponse docile qui s’ensuit, la petite blague faite à Siri, le fait de se délivrer de la tâche d’accomplir des recherches en préférant interroger le divin ChatGPT, etc. Peut-être cela vous semble-t-il anodin, mais en même temps que le robot « intelligent » devient indispensable, nous nous rendons inférieurs à lui.

Là encore, les écrits de Günther Anders sur la honte prométhéenne et le devenir-machine sont d’une clairvoyance rare. La honte prométhéenne désigne cet état de l’être humain réduit à imiter le fonctionnement des machines faute de pouvoir rivaliser avec. Or, se conformer à la machine c’est accepter notre déshumanisation mais aussi la possibilité de devoir être « améliorés » pour répondre aux impératifs du système techno-industriel. Par le human engineering, c’est-à-dire par la modification technologique de l’humain, le travailleur qui ne rivalise plus avec la machine retrouvera sa compétitivité, et le terrien sur une planète invivable pourra survivre sans avoir besoin d’air pur.

II - La confusion du réel et de l’artificiel

Ainsi que Francis Bacon le déplorait dans son Novum Organum (1620), l’esprit humain qui observe la nature ne peut s’empêcher de produire des « anticipations », c’est-à-dire de plaquer sur elle ses propres constructions pour lui donner du sens. L’objectivité du scientifique se condamne donc à l’erreur par ce biais qui déforme la réalité. Aussi, corriger ce « défaut de fabrication » a pu sembler à certains un objectif digne de grands efforts. Il en est ainsi ressorti que le comportement humain pouvait être influencé au moyen de stimulations électriques dans certaines zones du cerveau. De là à espérer pouvoir recréer une structure complexe semblable à celle du cerveau, il n’y avait qu’un pas à faire, celui des cybernéticiens.

C’est Norbert Wiener qui fut le premier à théoriser cela, en fondant la cybernétique (cette science pluridisciplinaire s’intéressant à la transmission des informations dans la machine et l’être vivant). Le postulat de base de Wiener fut le suivant : le système nerveux humain ne reproduit pas la réalité, mais la calcule ; l’homme est un système qui assimile l’information, la pensée est son moyen de traiter des données, et son cerveau est une machine constituée de chair. La naissance de la cybernétique signe la fin de la vision naturelle de l’humain. C’en est fini de la psychologie complexe, de la mémoire et de la conscience ; l’humain n’est plus que circuit, boucles de rétroaction et nœuds de communication. Adieu la nature imparfaite, place à la logique incontestable des mathématiques.

En réduisant le cerveau à l’état de système de communication et de traitement des informations, il était aisé de le placer au même niveau théorique que la machine. En somme, puisque l’humain n’est que le fruit d’influx nerveux, le perfectionnement des machines permettra une meilleure compréhension de l’humain, et du vivant. De même, la Terre a elle aussi été ramenée à ce strict cadre interprétatif, en étant décrite par Lovelock comme un « système cybernétique biologique » dont l’humain serait un simple rouage. Rationaliser pour contrôler, Bacon n’aurait pu espérer mieux. Les êtres vivants se retrouvent donc confrontés à un arsenal toujours grandissant de machines, de capteurs, de signaux — interconnectés. Les mots du cybernéticien-théologien Bruno Latour résument assez bien la chose :

« Avec la multiplication du numérique, l’on est enfin face à un dispositif qui commence sérieusement à ressembler à un système nerveux planétaire. Nous avons enfin les moyens de rendre concret, visible et matériel l’ensemble des connexions qui étaient auparavant invisibles, ou qui se faisaient dans la tête des gens. […] Nous ne sommes qu’au tout début de cette expansion d’un système nerveux un peu sérieux, qui remplace des systèmes d’information ‘‘papiers’’, qui pour leur part étaient lents. »^[2]

Cependant, même si l’idée s’éclaircit quelque peu, des exemples concrets seront certainement d’une plus grande aide qu’un propos lunaire. Ainsi que le résume l’Atelier Paysan dans son manifeste :

« Ces dernières années, une nouvelle étape de l’industrialisation de l’agriculture se dessine : développement des biotechnologies, promotion des fermes hors-sol, viande artificielle, accélération de la robotique et lancement d’un nouveau fleuron national : la French Tech agricole. C’est l’agriculture « 4.0 », celle qui veut accompagner la quatrième phase du développement d’Internet, l’Internet des objets — les machines et les produits de l’industrie sont de plus en plus souvent en mesure de communiquer entre eux. En matière agricole, il s’agit donc de mettre des capteurs électroniques partout dans les fermes, d’utiliser des logiciels et des algorithmes d’intelligence artificielle pour automatiser tout un ensemble de tâches (nourrir et soigner les animaux, par exemple), de recourir à des drones pour semer et pulvériser des produits phytosanitaires ou pour évaluer l’état d’un sol et ses besoins en engrais, de piloter des tracteurs à distance avec l’aide des satellites. Tout cela est entièrement conforme à l’orientation générale actuelle des milieux d’affaires : accélérer le développement technologique, si possible au nom de l’écologie.

De même que la smart city se veut une ville plus rationnelle qui limite gaspillages et pollutions urbaines, un grand nombre d’innovations robotiques en agriculture sont présentées comme des solutions pour rationaliser l’usage des ressources rares ou d’intrants nuisibles pour l’environnement. […]

La contradiction est totale, l’imposture immense. La dépendance des exploitants agricoles qui se lancent dans cette direction risque de s’accroître encore vis-à-vis du complexe agro-industriel : non contents d’être tenus par les banques, les géants de la chimie et des semences, les fabricants de machines, les mastodontes de l’agroalimentaire et de la distribution, ils seraient en prime tenus par les tycoons du numérique (Google, Amazon, Microsoft, voire Ali Baba et Huawei…) et la myriade d’acteurs capitalistes plus petits qui gravitent dans leur orbite. »^[3]

III – Quelques clés contre le mensonge technophile

La science jointe à l’industrie prétend avancer pour le salut de tous, quand elle ne se préoccupe en réalité que d’accroître sa mainmise sur tout ce qui l’entoure. La technologie prétend apporter des solutions aux problèmes qu’elle a générés, ce faisant, elle en suscitera toujours de nouveaux. Aussi, pour que les lecteurs ne se laissent pas flouer par les boniments des écolos amoureux de la technologie, voici une triple grille de lecture presque infaillible :

• Tout écologiste qui ramène le problème aux émissions de CO₂ (vision statistique du problème), prétend qu’il faut « écouter la science » et que les solutions aux problèmes environnementaux seront trouvées par l’innovation scientifique et technologique est une arnaque contre-révolutionnaire (Jancovici, Greta Thunberg, etc).
• Tout écologiste prétendant qu’il faut « changer de récit » sans remettre en cause la civilisation industrielle et le système technologique est une arnaque contre-révolutionnaire (Cyril Dion, Aurélien Barrau, etc.).
• Toute écologie qui vend la Terre comme un système intelligent auquel les machines donnent un sens est une arnaque contre-révolutionnaire New Age jouant sur le besoin d’un sens spirituel (la Gaïa de Lovelock et les « terrestres » de Bruno Latour, la noosphère de Teilhard de Chardin, etc.).

Qu’ils soient sciemment menteurs ou non n’est pas la question. Tous les partis procèdent du même refus de chercher autre chose qu’une vérité toute prête à être avalée, et le parti technologique ne fait pas exception.

« — Ce que j’appelle mensonge : refuser de voir quelque chose que l’on voit, refuser de voir quelque chose comme on le voit : que le mensonge ait lieu devant témoins ou sans témoins ne fait rien à l’affaire. Le mensonge le plus courant est celui par lequel on se ment à soi-même : mentir aux autres est, relativement, l’exception. — Mais ce refus de voir ce que l’on voit, ou de le voir comme on le voit, c’est aussi pour ainsi dire la condition première à remplir pour tous ceux qui sont d’un parti, dans tous les sens du terme : l’homme de parti devient nécessairement un menteur. »^[4]

La technologie n’est pas une abstraction mais une chose tout à fait tangible. Voilant sa nature parasitaire, elle parvient presque à nous faire croire que nous sommes les indésirables ; c’est pourtant par nous qu’elle compte survivre. Le problème ne saurait être la solution : la résistance anti-tech est une nécessité vitale.