Depuis le lancement en 2022 de ChatGPT, le sujet de l’intelligence artificielle a envahi magazines et émissions télé, souvent avec une analyse superficielle de ses dangers. Ce développement technologique n’est pourtant pas si récent et est déjà utilisé par les États et les entreprises pour contrôler les populations. Petit tour d’horizon d’un monde bien réel digne d’un roman de Georges Orwell.
Intelligence artificielle et manipulation du peuple
Commençons en Inde, où le parti ultra nationaliste de Narendra Modi utilise l’application secrète Tek Fog pour assoir son pouvoir et faire taire ses ennemis. Cette appli, dont l’utilisation a été dénoncée par la lanceuse d’alerte Aarthi Sharma, est une machine de guerre capable d’automatiser à une échelle monumentale toutes les armes de la guerre de désinformation.
L’IA Tek Fog permet de contrôler les trends (la liste de sujets les plus discutés sur les réseaux sociaux), de pirater des comptes inactifs, par exemple sur Whatsapp, d’envoyer des messages automatiques aux contacts, etc. Grâce à cette appli, le parti indien BJP peut utiliser des données privées pour faire pression sur des dirigeants, fabriquer des informations et publier à la chaine un très grand nombre d’informations fausses, ou encore faire monter artificiellement des tendances entraînant une augmentation des tensions entre communautés[1]. Tek Fog a assurément aidé Narendra Modi et son parti à transformer l’Inde en l’une des plus grandes dictatures de notre siècle.
L’IA française au service des dictatures
En Egypte, c’est la France qui fournit les outils informatiques que le régime utilise pour contrôler et terroriser son peuple. Le groupe Dassault, la société Nexa Technologies et une filiale de Thales ont aidé la dictature d’Abdel Fattah Al-Sissi pour la mise en place d’un système de cybersurveillance massif : logiciel de surveillance d’Internet appelé « Cerebro », dispositif d’écoute téléphonique et de géolocalisation en temps réel répondant au doux nom de « Cortex Vortex » et moteur de recherche permettant de relier les différentes bases de données entre elles au profit des services de renseignements militaires du régime, tout ça sous l’oeil bienveillant du gouvernement français toujours très fier du noble savoir-faire de la « French Tech ».
Par exemple, l’IA Cerebro serait capable « d’analyser les données pour comprendre les relations et le comportement des personnes suspectées, remonter dans le passé pour trouver des informations pertinentes dans plusieurs milliards de conversations enregistrées », selon un document confidentiel de Nexa Technologies[2]. Parfait pour repérer les opposants politiques, les journalistes trop critiques, les homosexuels et tous ceux qui ne pensent pas selon les principes promus par la dictature militaire. A l’heure actuelle, près de 65 000 opposants politiques seraient enfermés dans les geôles égyptiennes, tout cela avec l’aide d’une IA made in france.
Un panoptique à l’échelle d’un pays
Dirigeons-nous maintenant vers la Chine. Avec la mise en place d’un cybercontrôle et d’une surveillance totale, l’Empire du Milieu est passé maître dans l’utilisation de l’IA à des fins de contrôle et de répression de masse, à tel point que certains chercheurs n’hésitent pas à parler d’IA-tocratie[3].
Concrètement, pour réprimer les manifestations, le régime chinois déploie la reconnaissance faciale boostée à l’IA lui permettant de retrouver facilement ses opposants. Quant à l’association du Big data avec l’intelligence artificielle, elle a permis le déploiement d’un internet fermé entièrement contrôlé par le Parti communiste chinois[4]. Cette cybersurveillance globale est nommée « Bouclier d’or », un nom presque poétique qui englobe 170 millions de caméras intelligentes interconnectées, des bases de données avec accès immédiat aux dossiers d’identification de chaque citoyen, un blocage de certains site web, un filtrage par mots-clés, une surveillance des courriels ou des forums de discussion[5].
IA et massacres de masse
Dans la guerre au Moyen-Orient, l’intelligence artificielle est utilisée à grande échelle par l’armée israélienne pour tuer. Dans un premier temps, l’IA appelée « Lavender » désigne automatiquement des cibles censées être des militants du Hamas (jusqu’à 37 000 Palestiniens marqués comme militants présumés), et l’armée ne s’embarrasse pas d’un contrôle humain pour pallier les erreurs de la machine. Certains militaires avouent même ne consacrer qu’environ 20 secondes à la vérification de chaque cible avant d’autoriser un bombardement. L’étape suivante est de déterminer où habitent les personnes ciblées. L’IA « Where’s Daddy ? » (Où est papa ?, un nom bien cynique) identifie le moment où la « cible » rentre à son domicile, et il ne reste plus qu’à l’armée israélienne de déclencher le bombardement, généralement avec des bombes peu précises qui entraînent d’énormes « dégâts collatéraux[6] ».
Israël a donc massacré des milliers de familles, des femmes, des enfants, des hommes n’ayant parfois aucun lien avec le Hamas, avec l’aide de l’intelligence artificielle. Les meurtres sont automatisés, et les meurtriers sont des opérateurs derrière leurs écrans.
Flicage partout
La France n’est pas en reste. La Caisse nationale d’allocations familiales (CAF) ou France Travail (nouveau nom de Pôle Emploi) utilisent l’intelligence artificielle pour passer au crible les données des allocataires, à commencer par les plus pauvres, pour traquer les éventuels fraudeurs. Ces algorithmes fouillent dans la vie de millions de personnes (près d’un français sur deux serait concerné), de l’état civil aux habitudes de consommation, avec un vaste croisement des données qui fleure bon le système chinois et déshumanise complètement les individus[7].
Dans la ville d’Orléans, la mairie expérimente de nouvelles caméras de « surveillance optimale » qui associent capteurs d’images et capteurs de sons. Grâce à l’IA, tout bruit suspect entraîne automatiquement l’orientation de la caméra vers la source : une engueulade, un bris de verre, une musique trop forte, tous ces sons de la vie quotidienne peuvent vous désigner, aux yeux de l’IA, comme un potentiel fauteur de troubles[8]. On le sait déjà, ces dispositifs ultra-intrusifs vont être multipliés à l’occasion des JO de Paris, nos dirigeants profitant de l’événement pour faire sauter les derniers verrous au déploiement généralisé de la surveillance des citoyens par l’IA.
Ces quelques exemples ne sont malheureusement qu’une goutte d’eau dans l’océan du flicage généralisé rendu possible par l’IA, et nous n’abordons pas tous les autres problèmes liés à l’intelligence artificielle. Il faudrait un livre entier pour relater le déploiement massif en cours de l’IA. Elle colonise tous les secteurs de l’emploi à l’environnement. Pour conclure, il n’existe pas d’IA neutre socialement et politiquement. Son déploiement ne peut enfanter autre chose qu’une société totalitaire. Notre seule solution est de stopper au plus vite ce monstre technologique en ciblant l’infrastructure qui lui permet d’exister et de croître.
W.N.
1 https://www.lemonde.fr/pixels/article/2022/01/06/tek-fog-un-vaste-systeme-pour-manipuler-l-opinion-sur-les-reseaux-sociaux-en-inde_6108420_4408996.html ↑
2 https://egypt-papers.disclose.ngo/fr/chapter/surveillance-dassault ↑
3 https://www.futura-sciences.com/tech/actualites/securite-ia-tocratie-chine-intelligence-artificielle-renforce-repression-106567/ ↑
4 https://larevuedesmedias.ina.fr/cybercontrole-en-chine-lomni-surveillance-lere-du-numerique ↑
5 https://www.lalibre.be/debats/opinions/2005/06/04/le-bouclier-dor-dictature-de-linternet-BYJWENHBCFFNHOZ3VMAPEJSJVA/ ↑
6 https://www.humanite.fr/monde/armee-israelienne/lavender-lintelligence-artificielle-qui-dirige-les-bombardements-israeliens-a-gaza ↑
7 https://www.telerama.fr/debats-reportages/comment-lintelligence-artificielle-cible-les-plus-precaires-6984905.php ↑
8 https://www.humanite.fr/politique/videosurveillance/a-orleans-une-experimentation-de-surveillance-optimale-qui-suscite-bien-des-craintes-799004 ↑
