Nous avons besoin d’acrobates, pas de bulldozers
Nous avons besoin d’acrobates, pas de bulldozers
Il faudrait dégager la route des tenants actuels de la technologie, pour mieux apprendre d’eux. C'est surestimer leur sens des responsabilités - et les biais qu'ils portent.
« Nous n’avons rien à faire : la technologie nous est apportée sur un plateau. La question n’est donc plus « pourra-t-on ? », mais « voudra-t-on ? ». Les mots sont de Robin Rivaton, essayiste qui porte haut la parole libérale et s’exprime très largement et fréquemment dans les media - gagnant l’écoute des politiques ces dernières années. Il prévient : « l’écart entre l’équipement de l’État et celui de la société civile ne fait que se creuser. [...] On peut déterminer par des lois ce qui est légal, mais on ne peut pas interdire la technologie. »
La coïncidence est troublante : ce sont les mots exacts de Cédric O, secrétaire d'État chargé du Numérique au gouvernement d’Emmanuel Macron, lors d’un débat avec le député François Ruffin quelques jours plus tôt. Il faudrait donc rendre les armes face à une technologie qui va définitivement plus vite que nous, et tenter d’y raccrocher les wagons de notre société. Nuance de taille : à la technologie, mais aussi à ses tenants, tant l’appréhension que nous avons du progrès technique est profondément marquée par les entreprises privées qui l’organisent. Un tel échange a tous les attributs d’un pacte faustien.
Que reste-t-il de l’ « innovation » ?
Au cœur de ces propos se retrouve toujours l’« innovation », qui a peu à peu remplacé dans la bouche des décideurs la notion de progrès. Au centre de l’économie, de la vie publique, de la santé, de l’organisation des villes, elle serait le moteur absolu de l’évolution de la société.
« Puisque l’on entre dans un monde très schumpétérien, il est important de libérer le processus de destruction créatrice » : les mots sont d’Emmanuel Macron. Il fait directement référence aux travaux de Joseph Aloïs Schumpeter, qui a théorisé l’innovation comme moteur de la dynamique capitaliste. Il explique en 1942 comment les innovations majeures interviennent en rupture des phases de croissance pour enclencher de nouveaux cycles. Les entreprises tenantes de ces innovations, une fois la nouveauté passée, voient dans un marché parfait leur nouveau pouvoir s’affaiblir peu à peu au fur et à mesure que des concurrence les rattrape. Une sorte de mécanisme auto-régulé grâce à la « destruction créatrice » : une vague d’innovations chasse l’autre, maintient le système sain, brise les rentes.
Un mécanisme idéal qui semble pourtant s’être sérieusement grippé selon Philippe Delmas, auteur d’ « Un pouvoir implacable et doux - La Tech ou l'efficacité pour seule valeur ». Les leaders technologiques d’aujourd’hui consolident leurs innovations à une telle vitesse qu’elles en deviennent cumulatives, encourageant les oligopoles. Intel, qui a commercialisé sa première puce informatique en 1969, détient toujours 50% du marché mondial. Google, Apple achètent en moyenne 1 start-up par mois depuis 10 ans. Et Facebook est désormais connu pour avaler ses concurrents encore plus vite que les données de ses utilisateurs.
En cause notamment : le ralentissement de la diffusion technologique, confisquée par les « entreprises superstars » ces dernières décennies. Plus efficaces, mais aussi capables grâce à la domination de leur marché d’augmenter de façon constante leurs revenus sans avoir à dépenser plus pour leur force de travail. L’économiste Dany Bahar a mis en évidence une « trappe à la productivité » dans laquelle tombent puis stagnent de nombreuses entreprises, y compris jeunes et innovantes. Elles se retrouvent confrontées à la surprotection des actifs intellectuels mise en place par les géants déjà en place, et aux données massives dont ils disposent - les rendant quasi impossibles à rattraper sans surcoûts exorbitants. Ce « ventre mou » est visible quel que soit le secteur, en bas de courbes en forme de U :
La start-up, modèle prêt à digérer
La destruction créatrice ne joue plus son rôle. Et il est assez édifiant de voir les tenants du libéralisme politique ériger en exemple des entreprises qui prétendent adorer la concurrence - quand elles font tout pour l’éviter : Google a racheté bon nombre d'intervenants sur le marché publicitaire, et Facebook s’est empressé d’absorber Instagram et Whatsapp.
Ces histoires de rachat nous apprennent autre chose. Érigée en modèle économique, la start-up est en passe de devenir aussi un modèle de société. La « start-up nation » française introduit dans les institutions les codes, les outils, le langage et l’idéologie des géants du numériques. Avec pour résultat de déplacer le débat sur leur propre terrain. Evgueny Morosov, grand pourfendeur du « solutionisme technologique » (qui voudrait que la tech soit la réponse à tout), qualifie les récents succès des défenseurs de la vie privée de « victoires à la Pyrrhus ». En jouant avec les codes de ce que nous dénonçons, nous nous interdisons de penser en-dehors du cadre soigneusement préparé pour nous.
Les ogres technologiques font tout pour s’assurer qu’un concurrent ou même une institution prenne la forme la plus digeste possible - pour eux. En s’assurant qu’elle naisse sous la forme d’une « start-up » (ou au moins d’une app), elle devient toute prête à être insérée et monétisée dans leurs plates-formes. Un des premiers pré-requis au lancement d’une activité est désormais le « scenario de sortie », qui dans la plupart des cas consiste à se demander par qui une entreprise pourra être rachetée après quelques années de croissance. La digestion comme horizon, est-ce tout ce qu’a à nous promettre la start-up nation ?
Evgueny Morosov décrit ce « moule » mortifère dans laquelle toute nouvelle idée devrait rentrer : les utilisateurs doivent être « monétisés », la donnée collectée, le modèle d’affaire tourner sous forme d’abonnement ou de location (voir l’essor du « as-a-service », initié par les logiciels puis largement répandu dans toutes les formes de produits voire même à la main d’œuvre). « Le modèle d’innovation des start-ups [devient] le plus indiqué pour régler d’un clic tous les problèmes de notre société » résume Antoine Gouritin, qui a soigneusement déshabillé le mythe du start-upisme.
Toujours plus
En pensant dans les limites de ce que nous dessinent des entreprises technologiques, il devient dès lors logique que la technologie apparaisse comme l’alpha et l’omega de notre futur. Quand on a un marteau, on voit des clous partout... Dans La Perfection de la technique (1944), Friedrich Georg Jünger écrit que « toute organisation de type technique amplifie le mécanisme ; toute mécanisation amplifie l’organisation rationnelle. Tant que l’organisation technique s’accroît, l’appareillage le doit également, et inversement ». À quoi peut-on s’attendre quand la technicisation des esprits déborde de l’ingénierie pour gagner l’économie puis la politique ?
La crise écologique nous apporte déjà une réponse. « Ainsi s’étend l’apparence que tout ce que l’on rencontre ne subsiste qu’en tant qu’il est le fait de l’homme » (Heidegger, La question de la technique), et que les externalités doivent être soumises à son bon vouloir - la nature en tête : ce qui est désigné comme une ressource finit forcément par être exploité. Une étude publiée dans la revue Nature souligne à quel point nos esprits sont conditionnés à résoudre un problème en ajoutant plutôt qu’en soustrayant - y compris avec un medium aussi trivial que des pièces de lego...
On retrouve là les germes de la croyance en une croissance infinie : peu importe les dégâts (humains, écologiques) causés à l’instant t, la technologie, d’une façon ou d’une autre, trouvera demain comme par magie les moyens de nous sauver. La société est divisée par les réseaux sociaux ? Nous aurons bientôt de meilleures intelligences artificielles capables de repérer et d’invisibiliser automatiquement les discours de haine. L’accélération technologique dévore nos ressources naturelles et accélère la pollution ? Demain, elle nettoiera elle-même derrière elle.
Ainsi se propage une espèce de croyance joyeuse envers laquelle Hélène Tordjman, maîtresse de conférences à l’Université Sorbonne Paris-Nord, se montre particulièrement critique : « tous ces plans misent sur les hautes technologies, qui sont censées nous sauver sans nous demander de remettre en cause nos modes de consommation et de production. » Encore une fois : ajouter, plutôt que soustraire.
Jusqu’à quand allons-nous faire crédit à la technologie ?
« La croissance est un des objectifs les plus stupides jamais inventés ; nous devons avoir un « assez ». Nous devrions toujours nous demander : une croissance de quoi ? Et pourquoi ? Et pour qui ? Et qui en paie le prix, et combien de temps elle peut durer, et quel en est le coût pour la planète, et à partir de combien est-ce suffisant ? »
Voilà ce qu’écrivait Donella Meadows dans Les limites de la croissance en 1972. Au moment où elle et son équipe du MIT concevaient le fameux modèle mathématique « World3 » destiné à indiquer à quel moment l’humanité toucherait aux limites de la planète.
Malheureusement, il semble que nous vivions toujours à crédit. C’est ce que Shannon Vallor appelle la « dette morale » de la technologie : telle qu’elle est utilisée, la technologie emprunte de notre temps, de notre environnement, de notre attention, voire de nos libertés, avec la promesse de jours meilleurs. Mais quand arriveront-ils ? Philosophe, chercheuse à l’Université d’Edinburgh, elle liste les usages impropres, irresponsable et même injuste des données et de l’intelligence artificielle. Ceux qui nous promettent la sécurité, l’éducation pour tous ou la révolution du travail, et n’ont finalement à nous proposer que la surveillance généralisée, le renforcement des biais sociaux et le tâcheronnage augmenté.
Le concept de « dette technique » est bien connu en développement informatique. Cette analogie a été mise en mots par Ward Cunningham, un des pères du Manifeste Agile. Elle apparaît à chaque fois que l’on renonce à garantir la stabilité, l’opérabilité ou la sécurité du code d’un logiciel (par erreur, pour aller plus vite, par manque de tests...). Ses intérêts se paient dans le futur à la fois en perte de productivité et en temps passé à corriger les choix initiaux. Et, sans « nettoyages » réguliers, ils augmentent très vite.
En parlant de « dette morale », Shannon Vallor va bien plus loin. La pression mise à déployer des systèmes et des applications rapidement (souvenez-vous, le « modèle start-up ») supprime toute possibilité de réflexion éthique et sociétale. Exemple dans les mots de Robin Rivaton, cité au début de cet article : « que [peut-on] faire contre la surveillance moderne - et notamment la reconnaissance faciale, qui est immatérielle ? [...] Elle ne se refuse pas. » Et de parler de « course à l’armement », d’État qui ne pourrait décider de « se mettre lui-même sur la touche » sous peine d’être « discrédité » et « en position de faiblesse ». Il y aurait beaucoup à dire sur le vocabulaire tour à tour guerrier et culpabilisant, ou sur la création d’un sentiment d’urgence (pensez aussi insécurité..) qui justifie tout. Le message : nous devons à tout prix accélérer plus vite que la voiture d’à côté. Le meilleur moyen de finir dans le mur.
Retrouver l’équilibre
Au nom de quoi devrions-nous nous rendre au modèle monopolistique des géants de la technologie ? Leur emprise sur notre imaginaire est-il si forte que nous devrions mouler notre vision du monde dans la leur, et accepter de calquer nos institutions sur leur gouvernance ? Si le mimétisme est une stratégie de survie dans la nature, vouloir transformer notre société en start-up fait plutôt de nous des victimes consentantes. La technologie devait nous donner plus de pouvoirs, ses tenants nous en enlèvent.
Kate Raworth est une économiste anglaise qui travaille pour les universités d’Oxford et de Cambridge. Pour elle, le succès de nos sociétés ne se mesure pas à la sacro-sainte croissance mais à l’équilibre collectif que nous sommes capables d’atteindre. Prenez le corps humain. Nous passons notre temps à nous ajuster continuellement : trop froid, trop chaud, affamés, rassasiés ; à la recherche d’oxygène - mais pas trop. Il en va de même pour la planète, en perpétuel ajustement. Nous avons besoin d’acrobates, pas de bulldozers. Et dans un organisme vivant, cette obsession pour la croissance effrénée aux dépens de son hôte porte un nom : le cancer.
Kate Raworth est l’auteur de la « théorie du doughnut », qui s’efforce de modéliser les limites extérieures et intérieures de notre développement. De sorte que chacun puisse subvenir à ses besoins, tout en s’assurant qu’ensemble, nous ne soumettions pas la planète à une pression trop intense. Entre ce « plancher » et ce « plafond » se dessine un chemin étroit, qui prend la forme caractéristique dans sa modélisation du fameux beignet en forme d’anneau. Une forme qui n’a rien d’un hasard : à l’opposé de la courbe sans horizon de la croissance du PIB, cette vision d’un cercle fermé illustre très nettement les limites dans lesquelles nous devons nous inscrire.
C’est un changement de paradigme auquel nous sommes invités : ne plus tirer des plans l’infini à crédit sur l’avenir, mais s’efforcer d’ajuster soigneusement un édifice à l’équilibre instable. Déconstruire le mythe des acteurs individuels et rationnels du marché, au profit d’une humanité partagée. Reconnaître la nuance, la complexité. En voulant faire rentrer la morale dans l’intelligence artificielle, Shannon Vallor s’inscrit dans le même mouvement : admettre la « dette morale » de la technologie, c’est l’inscrire dans le présent et le futur d’une société - et lui donner une responsabilité, que certains technophiles politiques éludent. Elle dresse quelques garde-fous que tout porteur de projet impliquant un outil technologique devrait garder en tête :
Prendre en compte les externalités et les enjeux publiques.
Anticiper les inévitables usages déviants.
Reconnaître et aborder de front les potentiels dangers.
Tester l’absence de biais et de diversité.
Éduquer et accompagner les utilisateurs.
Suivre ce qui se passe « dans la vraie vie » après un lancement.
Des recommandations de bon sens. Qui déclencheront certainement des cris d’orfraie : car quels « Amishs » ou « luddistes » voudraient ainsi ralentir la marche en avant de l’humanité ? À celles et ceux qui manifesteront leur mépris d’entendre ainsi « se plaindre » les rétrogrades anti-progrès, nous pourrons répondre que la complainte est - de loin - préférable à la complaisance.