Dangers de l’IA : les 10 principales menaces pour l'humanité et la vie

« Celui qui réussira à s’imposer comme leader dans l’intelligence artificielle deviendra le maître du monde. »

– Vladimir Poutine

La course à l'intelligence artificielle (IA) est lancée. Superpuissances étatiques, entreprises de haute technologie, start-ups dédiées et autres milliardaires technolâtres, tous les acteurs dominants de l’économie mondiale investissent massivement dans cette nouvelle technologie dans l’espoir d’écraser la concurrence. Le marché de l’IA se développe rapidement. Il représentait 241 milliards de dollars en 2023 et pourrait atteindre 511,3 milliards de dollars d’ici 2027. Les appels d’experts et d’associations demandant un arrêt ou a minima une régulation de la recherche et des usages sont ignorés, ce malgré les menaces existentielles que l'IA fait peser sur les sociétés humaines et la vie sur Terre. Nous avons regroupé ici une liste non exhaustive des dangers de l'IA.

1) Chômage technologique de masse

La mécanisation puis la robotisation du travail ont déjà détruit de nombreux emplois (ou les a profondément transformés, l'homme étant réduit à un appendice ou un rouage de la machine). Couplées à l'IA, les machines remplaceront encore davantage d'humains. La nouveauté avec l’IA, c’est que non seulement la machine est vouée à changer, mais cette fois elle n'aura plus besoin de l'opérateur humain pour savoir quelle tâche accomplir.

Ce remplacement de l'humain est possible pour des postes très techniques de construction, d’assemblage ou de maintenance, mais les médecins, comptables et avocats sont en sursis également. Dans les domaines créatifs et artistiques, les rédacteurs, scénaristes, auteurs, dessinateurs sont eux aussi menacés. C’est plus particulièrement l'IA générative qui menace les artistes. En effet, le premier tableau peint par une IA vient d'être vendu aux enchères.

2) Baisse de créativité, appauvrissement des rapports sociaux et abrutissement généralisé

Parmi les services incluant une IA proposés à la population, les agents conversationnels (par exemple ChatGPT) et d’autres applications se multiplient, se diversifient et leurs performances augmentent constamment. De plus en plus utilisés pour de la rédaction, des recherches, la conversation, la création d'images ou de vidéos, ces applications sont vendues comme étant des assistants dans le loisir ou le travail permettant un gain de temps et de qualité.

En plus de la perte évidente de diversité et d'originalité des contenus (puisque les résultats fournis sont basés sur l'existant), cette utilisation au quotidien peut entraîner de graves troubles chez les utilisateurs : perte de confiance en soi, appauvrissement de l'expression, problèmes d'apprentissage, isolement social lorsque l'agent conversationnel vient remplacer des interactions humaines (dans les relations amicales, parents-enfants, etc.). Ceci est d'autant plus vrai lorsque l'agent conversationnel utilisé donne des réponses simplifiées, erronées ou inventées de toutes pièces. Le manque de recul sur cette technologique rend difficile une évaluation complète de ses effets à long terme, notamment chez les plus jeunes. Cependant, les travaux de l’anthropologue et psychologue du MIT Sherry Turkle nous donnent déjà une bonne vision générale de la dégénérescence mentale de l’espèce accélérée par le développement de l’informatique.

3) Manipulation de l'opinion : amplification des biais et fausses informations

L'IA donne aux fausses informations une toute nouvelle dimension. Il est désormais à la portée de n’importe qui de créer ou de modifier des images, des documents, et de les partager au plus grand nombre en un temps record sur les réseaux sociaux. Massivement utilisées lors de la campagne électorale américaine de 2024, les fausses informations, appuyées par des falsifications quasiment indétectables, permettent de manipuler l'opinion et de tordre la réalité à souhait. En cas de guerre, cet outil permet une propagande ciblée en temps réel. Utilisés dans un cadre plus personnel, ces faux peuvent servir à du chantage ou du harcèlement en ligne.

L'IA n'est pas objective. Elle comporte des biais. Un biais peut être dû à un mauvais fonctionnement ou aux informations que l'IA recoupe pour fournir une réponse et apprendre. Un agent conversationnel peut donc fournir des informations fausses ou non objectives ; une IA avec pouvoir décisionnaire peut choisir l'option qui n'est pas la meilleure pour ce qui lui est demandé (ce qui est plus ou moins dangereux selon le domaine d'utilisation).

4) Technosurveillance de masse et propagande

Vidéosurveillance algorithmique (VSA), QR codes, traçage GPS, mise sur écoute des téléphones intelligents, etc. L'IA couplée aux innombrables objets connectés publics ou privés, ainsi qu’aux réseaux satellitaires, permettent d'écouter, de suivre et de ficher n'importe qui, n'importe quand et n'importe où.

L’expérimentation à grande échelle la plus avancée est le système de surveillance et de crédit social chinois. L’intégration de l'IA dans un tel système permet d’optimiser la surveillance, mais aussi d'établir un système prédictif se basant sur les antécédents de chaque individu. Un outil de choix pour un contrôle total de la société et la neutralisation dans l’œuf d'une quelconque remise en cause du régime en place ; un contrôle permis par des technologies invasives qui anéantissent la vie privée, et par extension la possibilité même de résister.

5) Hausse de la cybervulnérabilité 

Les cyberattaques font partie des nouvelles tactiques dans la guerre 2.0, mais elles sont loin de toucher seulement les États et les grandes entreprises. La numérisation de la société et des rapports humains a fait croître la « surface d’attaque ». Désormais, tous les acteurs de l’économie – individus, TPE-PME, mairies, associations, collectivités – connectés au réseau Internet sont exposés à cette menace qui était inexistante il y a seulement 20 ans. Mais les technocrates nous expliquent que grâce au progrès technologique, le monde est plus sûr aujourd’hui...

Avec le développement de l’IA, les attaques dans le cyberespace vont se multiplier et devenir plus destructrices, avec comme résultat une hausse probable de l’instabilité localement et au niveau international. La menace pour le système technologique mondialisé et interconnecté est d'autant plus grande que l'IA permet des attaques de grande envergure sur les cibles jusque là à l'abri dans des guerres dites « hybrides ». L'IA permet également d'affiner et d'étendre les escroqueries, notamment par la réalisation de faux parfaits et un traitement des données optimisé et automatisé.

6) Développement d’armes autonomes

Même si les armes totalement autonomes ne sont pas encore en service, l’effacement de la décision humaine au profit d'une automatisation des armements est déjà une réalité. L'État d’Israël fait déjà usage de logiciels d'intelligence artificielle pour proposer des listes de cibles à abattre et des armes autonomes non pilotées par l’humain. Même si dans la chaîne de décision le maillon humain n'a pas encore disparu, l'affaiblissement de la décision morale engendre nécessairement un détachement menant à des guerres toujours plus sanglantes, où la responsabilité repose de plus en plus sur la machine.

En cas de généralisation de systèmes d'armement autonomes, toute convention ou traité sur la guerre ou les armes deviendrait obsolète. En effet, le droit qui encadre les conflits pourra être ignoré puisque la machine sera tenue pour responsable et plus l'humain. L’automatisation des systèmes d’armement pourrait également mener à des guerres éclair voire à une escalade incontrôlable qui mènerait à des frappes nucléaires jusqu’à l’anéantissement mutuel.

7) Destruction de la biosphère et du climat

Le développement massif de l'IA s'accompagne d'un usage accru de certaines ressources : les métaux pour les appareils connectés, l’électricité et l'eau pour les data centers de plus en plus nombreux et puissants. La pollution électronique associée au développement de l’infrastructure numérique est aussi problématique. L'IA engendre par ailleurs des effets rebonds sur de nombreux autres secteurs et contribue à accroître leur empreinte environnementale (robotique, aérospatiale, ville « intelligente » ou smart city, réseaux sociaux, etc.).

8) Concentration du pouvoir

Le développement de l’IA touche tous les domaines des sociétés techno-industrielles : médecine, transports, sécurité, communications, défense, arts, etc. La course à l'IA voit une poignée de firmes de haute technologie dominer le secteur. Ces firmes (et leurs dirigeants, actionnaires ou associés) ont donc un pouvoir d'influence démesuré sur la politique d'un État ainsi que sur la vie quotidienne de ses sujets. Le risque de dérive autoritaire est donc conséquent, d'autant plus important si l'État en question est déjà autoritaire ou en passe de le devenir. L’IA est un outil puissant pour préserver et renforcer l'ordre établi, comme on l’observe déjà en Chine, en Inde ou en Russie.

9) Fuite en avant et techno-solutionnisme

Dans les discours actuels, firmes et chercheurs justifient les efforts de développement de l'IA en mettant en avant les solutions que cette nouvelle technologie pourrait apporter aux problèmes contemporains. La propagande techno-solutionniste, ou technocratique, consiste à faire croire aux masses que des solutions techniques sont efficaces pour résoudre des problèmes créés à l’origine par le progrès technique. Il faut cependant garder en tête les points suivants.

Premièrement, les grandes menaces qui pèsent sur les sociétés humaines ont toutes la même origine : le système techno-industriel (pollution généralisée, maladies de civilisation, guerres, destruction de la biosphère, chaos climatique, etc.). L’IA en est la dernière excroissance cancéreuse, elle dépend pour son existence de tout un enchevêtrement de systèmes et de réseaux d’infrastructures (datacenters, câbles sous-marins, centrales énergétiques, réseaux électriques, mines, décharges de déchets électroniques, etc.) qui sont eux-mêmes problématiques pour la survie de l’espèce humaine.

Deuxièmement, le techno-solutionnisme propose seulement quelques ajustements et optimisations dans des domaines précis. Il prend les problèmes un par un et ignore leur cause commune. Résultat, les gains d’efficacité au niveau local contribuent à accroître la consommation d’énergie et de matière au niveau global. L’économiste du XIXe siècle Stanley Jevons a mis en évidence ce paradoxe aujourd’hui bien documenté, un paradoxe nommé « effet rebond ».

Troisièmement, les techno-prophètes ont beau promettre que les bonds technologiques bénéficieront à tout le monde, dans les faits, ces prétendus progrès ne bénéficieront en réalité qu'à une infime partie de la population mondiale déjà largement favorisée. Le reste de l'humanité non seulement ne profitera pas des « bienfaits » vantés par les promoteurs de l’IA, mais en plus il lui faudra supporter les effets néfastes du développement de l'IA (esclavage technologique pour entrainer les IA, climat, biosphère, pollution, exploitation des ressources, politiques néocoloniales, guerres, etc.), aggravant encore davantage les inégalités déjà béantes (à toutes les échelles).

Enfin l'IA est et restera toujours une machine insensible, se contentant d’ingurgiter, de trier puis de vomir des données sans rien y comprendre. On peut douter de sa valeur ajoutée, d’autant que la fiabilité des résultats est souvent remise en cause.

Une vidéo de vulgarisation de la menace existentielle que représente l'IA très bien réalisée par le Youtubeur EGO.

‍

10) Risque de dérapage incontrôlable 

Si les risques cités précédemment peuvent être à ce jour plus ou moins identifiés, quantifiés et étudiés, il reste cependant une possibilité de dérapage imprévisible avec une technologie de ce type. Ce risque de perte de contrôle est d’autant plus important avec la course folle des acteurs étatiques et privés pour être les premiers à créer une Intelligence Artificielle Générale (IAG), autrement dit une superintelligence qui dépasserait l’humain dans tous les domaines. Il nous est impossible d’imaginer les conséquences de l’avènement d’une superintelligence globale. Sa logique de fonctionnement échapperait à tout opérateur humain et ses capacités de calcul seraient considérablement supérieures à celles de l'humain, même assisté de puissants ordinateurs.

Conclusion 

Dans le meilleur des cas, l'IA offre quelques progrès dans des domaines très précis. Mais ils s’obtiennent au prix du renforcement et de la continuation de l’ordre techno-industriel en place (inégalités sociales, destruction du vivant, surveillance de masse, propagande agressive, inégalités, etc.). Dans le pire des cas, l'IA représente une menace existentielle pour l’avenir de notre espèce et l’ensemble de la vie sur Terre. C’est pourquoi il est de notre devoir en tant qu’être humain de faire ce qui est en notre pouvoir pour stopper dès maintenant le développement de cette technologie mortifère.