2034:Thriller technologique .Réfléchir sur le monde d'aprés.

Écrit en pleine pandémie du coronavirus, ce thriller technologique nous projette quatorze ans après la crise, sur une planète qui a privilégié la sécurité à la liberté, l'économique à l'humain, l'individualisme à l'intérêt commun.
L'univers qu'il crée s'appuie sur des usages, des organisations, des projets ou des technologies qui existent déjà tous aujourd'hui.
Hommage à 1984 et à Farenheit 451, il est une dystopie qui permet de s'interroger sur le sens profond de notions comme le libre-arbitre, la sécurité, la vérité, la démocratie ou le progrès, et se demander, à l'heure où beaucoup de choses sont à rebâtir, quel monde nous souhaitons réellement pour demain.

1/8 : la volonté de domination de la Silicon Valley

  

Fiction : Dans 2034, Steve, le patron de Phebe, l’un des trois géants de la Tech qui a imposé son ordre économique sur une partie de la planète, a pour obsession de rendre le monde plus ouvert, plus connecté et plus sûr. Pour cela, il n’hésite pas à utiliser de façon immodérée les données personnelles des individus. Son objectif est de maîtriser le hasard et de faire passer l’homme de la chance au choix.

Extrait de 2034 :

« Nous avons le pouvoir et le devoir de rendre le monde meilleur. (…) Nous pouvons le réparer et faire progresser le potentiel humain. (…) Bientôt, nous toucherons au but. Nous ferons passer l’homme de la chance au choix. Nous ne connaitrons plus la fatalité. Chacun contrôlera son destin. Domination ! »

Steve voue une admiration sans borne à l’Empire romain, jusqu’à avoir appelé ses deux fils Maxime (« le très grand ») et César (du nom des empereurs romains de l’Antiquité qui ont cherché à imposer leur puissance sur le monde). Il ponctue chacun de ses discours par « domination », repris par le chœur de ses collaborateurs.

​

Réalité : Dans un article de Vox d’avril 2018, l’ancienne rédactrice des discours de Mark Zuckerberg raconte comment, en début de carrière, celui-ci clôturait chaque réunion hebdomadaire du vendredi avec ses collaborateurs d’un « domination », en levant le poing en l’air. Dès cette époque, il lui confiait que son objectif était : « les entreprises au-dessus des pays », en ajoutant que « pour changer le monde, la meilleure des choses à faire est de créer une entreprise".

Cet esprit entrepreneurial s’accompagne néanmoins d’une vision particulière de la concurrence, partagée par bon nombre des dirigeants de la Silicon Valley, et résumée avec cynisme par Peter Thiel, cofondateur de Paypal et administrateur de Facebook dans son livre De zéro à un : « Si vous voulez créer et capturer une valeur durable, cherchez à construire un monopole. » Et il ajoute : « la concurrence est pour les perdants ! »

Mark Zuckerberg est fasciné par l’empereur Auguste (Octave de son vrai nom), qui a imposé son hégémonie sur de vastes régions de l’Antiquité et su instaurer deux cents ans de paix au sein de l’Empire romain. Jusqu’à en appeler sa première fille Maxima (« la très grande ») et sa seconde August.

Cette vision d’un monde entièrement contrôlé, sur lequel l’homme pourrait asseoir une domination sur le cours des choses, s’appuie sur une maîtrise absolue de la donnée personnelle des individus. Dans un billet publié sur son réseau social en 2016, voilà comment le dirigeant de Facebook entendait utiliser son intelligence artificielle :

« Je lui apprendrai à comprendre ma voix pour contrôler toute la maison – musique, lumières, températures et autres. Je lui apprendrai à laisser les amis entrer en regardant leur visage quand ils sonnent à la porte. Je lui apprendrai à me signaler s’il se passe quelque chose dans la chambre de Max [sa fille] quand je ne suis pas avec elle. (…) Je pourrai interagir avec [elle] comme une personne : je lui parlerai, [elle] pourra me voir et analyser mes expressions, et sera capable de prédire à l’avance ce dont j’ai besoin ».

2/8 : manipulation du cerveau et casques transcrâniens

  
Fiction : Dans 2034, Julia, l’héroïne du roman, entraîne Pierre dans une expérience peu commune qui vise à lui donner confiance en lui. Après une séance d’entrainement de deux heures au tir, muni d’un casque transcrânien, il est plongé dans une salle d’entrainement militaire où il doit descendre avec la jeune femme une quarantaine d’ennemis virtuels lourdement armés.
« Quand il revient devant la porte de l’espace d’entraînement, deux heures après l’avoir quittée, une partie de son appréhension a disparu. Mais le bruit infernal des fusillades le replonge rapidement dans l’angoisse. (…) Ses mains sont moites. Il arrive à peine à tenir son fusil. Il renoncerait volontiers, mais il n’en a plus la force. (…)
Quand Julia a augmenté l’intensité du courant électrique qui lui traverse le cerveau, il a perçu un léger picotement, puis comme un goût de métal dans la bouche. Mais il a surtout ressenti immédiatement une très grande paix. Pour la première fois de sa vie, toutes ses voix intérieures se sont tues. Il est maintenant calme, concentré sur son objectif. Sans crainte et sans doute. (…)
Ils progressent ensemble. Ils sont à l’unisson dans leurs gestes, dans leurs réactions, décimant l’ennemi méthodiquement. (…) Pierre en tire un sentiment d’invulnérabilité. Quand la lumière se rallume pour indiquer que la séance est terminée, il est déçu. Il aurait aimé continuer. »
​
Réalité : Des progrès considérables ont été obtenues depuis quelques années en neuro-technologies, grâce aux recherches menées sur les maladies neurodégénératives : Alzheimer, Parkinson, Huntington… Certains traitements de la maladie de Parkinson consistent aujourd’hui à implanter de minuscules électrodes dans le cerveau, reliées à un boîtier qui génère un courant électrique faible et envoie des ondes de haute fréquence dans le noyau sous-thalamique. Les résultats sont saisissants. Dans un reportage de France Télévision de 2015, on voit un patient parkinsonien, avant l’intervention, incapable de marcher normalement ou de saisir un objet. Après l’opération, le déclenchement du stimulateur arrête instantanément ses tremblements ; il arrive même à esquisser des pas de valse.
Ces électrodes sont également utilisées pour soigner les syndromes de stress post traumatique de soldats après le combat, en paralysant la zone du cerveau responsable de la dépression. Moins invasifs, des casques de stimulation crânienne, produisant de faibles champs électromagnétiques, sont également utilisés par l’armée américaine pour stimuler ou inhiber certaines activités cérébrales. Grâce à eux, il serait possible de renforcer la concentration d’un individu ou de supprimer ses angoisses.
Le passage de 2034 ci-dessus est directement inspiré d’une expérience racontée en 2012 par Sally Adee, journaliste au New Scientist, qui a été autorisée à tester ce type d’outil. Elle raconte d’abord comment elle a été terrassée par la peur quand elle est entrée dans une salle d’entrainement pour snipers de l’armée américaine, sans le stimulateur transcrânien, puis comment elle s’est mise à abattre froidement et méthodiquement ses adversaires virtuels quand celui-ci a été branché.
Elle concluait :
« A quoi ressemblerait un monde dans lequel nous porterions tous ces petits casques qui nous garderaient confiants, libres de tout doute et de toute peur ? J’en porterais un tout le temps et j’en aurais deux dans mon sac à dos au cas où quelque chose arriverait au premier. »
​
Alors, 2034 : fiction ou réalité ?

4/8 : crédit social et contrôle de la population

 

Dans une série de billets, je vous explique comment l’univers dystopique de 2034 est déjà en germe aujourd’hui.

 

Fiction : Dans 2034, les Titans ont mis en place un revenu minimum garanti de 1000 USD par mois pour chaque individu, avec pour seule contrepartie l’utilisation de leurs données personnelles. Ce système permet un étroit contrôle, qui peut apparaître comme « volontaire », de la population.

« - Pour ceux qui ne se laisseraient pas convaincre, nous avons deux manières de les faire rentrer dans le rang : la perte du revenu minimum et notre police privée. Au moindre écart de conduite, leurs allocations sont coupées. Cela les fait réfléchir. Et si ce n’est pas suffisant, notre régime d’incarcération préventive est là pour les dissuader de prendre le risque d’une peine plus longue. Notre maitrise de la data est telle, que nous pouvons même anticiper leurs actions. (…) »

 

Réalité : Ce mécanisme est directement inspiré du « crédit social » déjà en œuvre en Chine et du « revenu minimum garanti » proposé par de nombreux acteurs de la Silicon Valley.

Certaines provinces chinoises ont mis en place, avec l’appui du gouvernement, un système de notation de la population appelé « crédit social ». Celui-ci vise à créer un « climat de confiance grâce auquel les transactions avec les citoyens pourront être honorées plus facilement ». Chaque habitant est doté initialement de 1000 points qui vont être appelés à fluctuer en fonction de ses bonnes ou mauvaises actions : participer à une œuvre de charité, aider un parent, rendre service à un voisin fait augmenter le nombre de points ; en revanche, conduire en état d’ivresse, ne pas rembourser une dette, ne pas respecter une interdiction, le dégrade. A chaque score correspond une catégorie : de D pour la plus faible à AAA pour la plus forte. Devenir un citoyen modèle donne accès à de nombreux avantages : accords et conditions de crédit facilités, remises sur certaines factures, possibilité d’emprunt d’objets sans caution… et peut-être, pour les meilleurs, l’affichage de son portrait en grand format sur les murs de l’hôtel de ville. En revanche, pour les plus mal notés, il devient impossible d’emprunter de l’argent, de prétendre à un poste de fonctionnaire, voire même de prendre l’avion ou un train à grande vitesse. Leur identité et leur photo sont publiées sur le site internet de la ville et une application permet de repérer sur son téléphone la localisation des mauvais payeurs dans un rayon de 500 mètres. Le système a ainsi vocation à améliorer le marché du crédit bancaire, déficient, et l’exécution des décisions de justice, souvent mal appliquées. Il est aussi un puissant outil de contrôle des populations. Il est alimenté en données par de nombreuses bases de la police, de la justice, de banques, d’associations ou d’entreprises qui sont régulièrement croisées. Ce qui a été conçu au départ comme une expérimentation dans une quarantaine de municipalités a maintenant vocation à se généraliser à partir de 2020 dans tout le pays, parce que « le sentiment de sécurité est le meilleur cadeau qu’un gouvernement puisse offrir à son peuple » (Xi Jiping, 2017).

De l’autre côté du Pacifique, de nombreuses voix de la Silicon Valley, plaident pour la mise en place d’un revenu minimum garanti. La crainte d’une explosion rapide du chômage, sous l’effet de l’accélération technologique, suivie d’une potentielle révolution populiste, conduit beaucoup de patrons d’entreprise (Zuckerberg, Thiel, Musk, Gates…) à prendre parti pour ce filet de survie social, qui leur permettrait de poursuivre leur développement sans entrave. Certains ont même proposé d’abonder le système, d’autres de rémunérer l’achat des données personnelles. 

 

Alors, 2034 : fiction ou réalité ?

5/8 : la data connait tout de vous

Fiction : Dans 2034, les données personnelles des individus sont collectées de nombreuses façons, via les nombreuses caméras de surveillance qui traquent leurs déplacements, via les réseaux sociaux qui tracent leur comportement ou leurs opinions. Elles font également l’objet d’un échange marchand contre l’obtention du revenu minimum garanti. Les Titans les exploitent ensuite pour construire un capitalisme de surveillance redoutablement efficace, qui leur garantit leurs profits économiques et un contrôle absolu des choses.

C’est ce que Symes, l’ancien professeur de philosophie dénonce à Pierre, en lui reprochant de participer par son travail d’analyste data, à ce système.

« - Ils sont partout. Ils contrôlent tout. Ils nous surveillent. Ils nous connaissent mieux que nous ne nous connaissons nous-mêmes. Ils sont capables de nous influencer, de nous manipuler. Vous qui venez du pays des Libertés et des Lumières, qu’est-ce qui vous a pris de vendre ainsi votre âme au Diable ? »

​

Réalité : En 2015, Facebook menait une étude pour démontrer la puissance de ses algorithmes. Celle-ci était réalisée auprès de 86.220 volontaires, ayant chacun un compte Facebook, et ayant accepté de répondre à un questionnaire de personnalité. L’algorithme cherchait à prédire les réponses des utilisateurs du réseau social en fonction de leurs « J’aime » sur leurs pages web. Ces prédictions étaient comparées à celles de leurs collègues, amis, parents ou conjoints. Les résultats ont été édifiants : il suffisait de dix Like à la machine pour donner de meilleures réponses que les collègues de travail, soixante-dix pour surpasser les amis, cent cinquante pour faire mieux que les membres de la famille, et trois cents pour dépasser le conjoint. L’algorithme se révélait même plus précis que l’individu lui-même dans certains domaines comme ses addictions ou l’étendue de son réseau social. Facebook connait donc quasiment tout de nous. Il est notamment capable d’identifier nos envies d’achat, nos préférences, nos opinions politiques, et même les indécis capables de faire basculer une élection (cf l’affaire Cambridge Analytica). 

Car les données, extraites de nos conversations, sont en train de créer un historique trahissant nos fréquentations, nos sentiments, nos actions. Mais les algorithmes qu’elles alimentent sont capables de révéler, eux, ce que nous pourrions faire sans que nous en ayons conscience. Yuval Hariri, dans son livre « Homo Deus », résume la situation ainsi : « au XXIème siècle, nos données personnelles sont probablement la ressource la plus précieuse que la plupart des humains puissent encore offrir, et nous les donnons aux géants de la technologie en échange de services de messageries et de vidéos de chats ».

​

Alors, 2034 : fiction ou réalité ?

6/8 : Le pouvoir économique des GAFAM

 

Fiction : Dans 2034, trois oligopoles - Phébé (« celui qui éclaire le monde »), Cronos (« celui qui maîtrise le temps »), Atlas (« celui qui porte le monde ») - se partagent une part croissante de l’économie occidentale. Ils sont nés des anciens géants du net et ont pris le nom, à la faveur de leurs opérations de regroupement, des premières divinités de la mythologie grecque : les Titans. En 2034, leur capitalisation boursière cumulée dépassera pour la première fois le PIB des USA, une situation impensable il y a trente ans, alors qu’ils étaient à peine nés. Il faut dire que la crise du coronavirus de 2020 et ses différentes répliques les auront bien aidés en privilégiant les relations et les transactions sur internet et en légitimant leur utilisation effrénée des données personnelles pour répondre aux problèmes humains, notamment dans le domaine de la santé.

​

Réalité : La crise sanitaire puis économique du covid19 aura accéléré la domination des GAFAM et des BATX (leur équivalent en Chine) de façon spectaculaire. Quelques exemples :

- Le confinement a permis à Facebook de franchir la barre des 3 milliards d'utilisateurs mensuels avec Instagram et Whatsapp et de recruter 1 million de nouveaux fans rien qu'en France.

- Les ventes d’Amazon dans le monde se sont envolées au deuxième trimestre 2020 de 40% par-rapport au deuxième trimestre 2019.

- Les GAFAM affichent désormais tous une progression de leur cours de bourse en 2020. La capitalisation du Club des cinq atteint les 6800 milliards de dollars, soit plus de 25% de l'indice S&P500.

- A elles seules, les capitalisations boursières d’Apple, d’Amazon et de Microsoft dépassent début août 2020 la capitalisation boursière du CAC 40.

- Plusieurs pays européens dont l’Allemagne, l’Autriche, l’Italie, la Suisse et pour partie le Royaume Uni, ont cédé aux sirènes de Google et d’Apple, qui proposent une solution clés en main aux gouvernements pour traquer les personnes ayant côtoyé des malades du covid19. 

- Le service de visioconférence Microsoft Teams compte désormais 75 millions d'utilisateurs actifs par jour contre 44 millions à la mi-mars… 

Les critiques sur l’usage des données personnelles par ces géants se sont progressivement tues depuis le début de la crise. Il s’est même trouvé des médias pour saluer « l’efficacité de la Chine et de certains pays asiatiques » pour enrayer l’épidémie du covid19 grâce à leur système de vidéo et de surveillance technologique.

Consommation, travail, santé, finance, divertissement… les GAFAM et les BATX contrôlent déjà de larges pans de nos vies. La crise actuelle leur donne une formidable opportunité de se renforcer encore si on les laisse faire… jusqu’à devenir totalement hégémonique ?

 

Alors, 2034 : fiction ou réalité ?