IA, utopie et dystopie : la Silicon Valley promet-elle un paradis technologique ?

La Silicon Valley ne vend pas seulement des technologies.

Depuis plusieurs décennies, elle vend aussi :

• des visions du futur ;
• des promesses civilisationnelles ;
• et parfois de véritables récits de salut technologique.

L’intelligence artificielle pousse aujourd’hui cette logique à un niveau rarement atteint.

Certains dirigeants technologiques promettent désormais :

• la fin du travail pénible ;
• la résolution des grandes maladies ;
• une abondance économique massive ;
• une optimisation généralisée ;
• et parfois même une société post-rareté.

Dans certains discours, l’IA apparaît presque :

comme une infrastructure capable de résoudre les limites historiques de la condition humaine.

Le sujet mérite pourtant d’être analysé avec davantage de recul.

Le retour du vieux rêve technologique

Les promesses actuelles de l’IA ne sont pas entièrement nouvelles.

Depuis la révolution industrielle, pratiquement chaque grande rupture technique a produit :

• des espoirs immenses ;
• des visions utopiques ;
• et des récits de transformation totale de la société.

Le chemin de fer devait rapprocher définitivement les peuples.

L’électricité devait libérer l’humanité du travail pénible.

L’automobile devait offrir une liberté absolue.

Internet devait démocratiser le savoir et rapprocher les sociétés.

Les réseaux sociaux devaient connecter l’humanité.

L’IA hérite aujourd’hui directement de cette tradition :

celle du progrès technique présenté comme solution globale aux problèmes humains.

Oui, l’IA peut accélérer la recherche scientifique

Il faut reconnaître un point important :

les progrès récents de l’IA dans certains domaines scientifiques sont réels.

Les modèles permettent déjà :

• d’accélérer certaines recherches documentaires ;
• d’aider à la découverte de protéines ;
• d’améliorer certaines simulations ;
• de produire des hypothèses ;
• d’assister la médecine ;
• ou d’automatiser certaines analyses.

Dans des domaines comme :

• la chimie ;
• la biologie ;
• les matériaux ;
• ou certaines branches médicales ;

les capacités de calcul et de génération deviennent potentiellement très puissantes.

Il serait donc absurde de nier :

• les gains scientifiques possibles ;
• les accélérations de recherche ;
• ou les bénéfices réels pour certains secteurs.

Mais une confusion apparaît souvent dans le discours public :

accélérer la recherche ne signifie pas automatiquement résoudre les problèmes humains.

Les problèmes humains ne sont pas uniquement techniques

C’est probablement l’une des grandes limites du techno-solutionnisme contemporain.

Une partie importante de la Silicon Valley pense implicitement :

que les problèmes sociaux sont essentiellement des problèmes d’ingénierie.

Or, beaucoup de difficultés humaines relèvent aussi :

• de la politique ;
• de l’économie ;
• du pouvoir ;
• des institutions ;
• des rapports sociaux ;
• de la culture ;
• ou du désir humain lui-même.

La pauvreté, par exemple, ne provient pas uniquement :

• d’un manque technique ;
• ou d’une absence d’automatisation.

Les inégalités ne disparaissent pas automatiquement :

• avec la productivité ;
• ni avec l’innovation.

L’histoire montre même souvent l’inverse :

les grandes révolutions techniques produisent aussi de nouvelles concentrations de pouvoir.

Le rêve de la fin du travail

L’un des thèmes les plus récurrents concerne la disparition du travail pénible.

Depuis deux siècles, presque chaque révolution technologique promet :

• moins d’effort ;
• plus de loisir ;
• et davantage de liberté individuelle.

Le discours actuel sur l’IA reprend très fortement cette idée.

Certains imaginent :

• un revenu universel ;
• une automatisation massive ;
• et une société où les humains travailleraient peu ou plus du tout.

Mais historiquement, les gains de productivité ont rarement supprimé le travail.

Ils ont surtout :

• déplacé les activités ;
• transformé les métiers ;
• créé de nouvelles dépendances ;
• ou intensifié certaines formes de production.

La révolution industrielle n’a pas supprimé le travail humain.

Elle a aussi produit :

• l’usine moderne ;
• la standardisation ;
• le taylorisme ;
• et de nouvelles formes de fatigue sociale.

Une société sans travail produit-elle automatiquement du bonheur ?

Le sujet devient alors philosophique.

Supposons même qu’une automatisation massive devienne techniquement possible.

Une question demeure :

une société sans nécessité productive produirait-elle automatiquement une société heureuse ?

Rien ne permet réellement de l’affirmer.

Le travail n’est pas seulement :

• une contrainte économique ;
• ou un mécanisme de survie.

Il constitue aussi souvent :

• une structure sociale ;
• un statut ;
• une utilité ;
• une reconnaissance ;
• et parfois un sens existentiel.

Une société d’abondance pourrait donc produire :

• davantage de liberté ;
• mais aussi :
• du vide ;
• de la désorientation ;
• ou de nouvelles fractures psychologiques.

Le paradoxe historique des utopies

C’est probablement le cœur du sujet.

Les grandes utopies techniques produisent rarement exactement les sociétés imaginées au départ.

Internet devait :

• démocratiser le savoir ;
• et rapprocher l’humanité.

Il a effectivement permis :

• une circulation massive de l’information ;
• et un accès inédit à la connaissance.

Mais il a aussi produit :

• la désinformation ;
• la saturation cognitive ;
• la polarisation ;
• la captation attentionnelle ;
• et des plateformes extrêmement puissantes.

Les réseaux sociaux promettaient :

• connexion ;
• expression ;
• et horizontalité.

Ils ont également produit :

• addiction ;
• économie de l’attention ;
• surveillance ;
• et manipulation comportementale.

Autrement dit :

les utopies technologiques deviennent souvent dystopiques non parce qu’elles échouent… mais parce qu’elles réussissent d’une manière imprévue.

Le vrai risque : la concentration historique du pouvoir

L’IA possède une autre particularité importante.

Les infrastructures nécessaires deviennent gigantesques :

• GPU ;
• data centers ;
• énergie ;
• modèles ;
• cloud ;
• et données massives.

Autrement dit :

l’utopie d’abondance pourrait paradoxalement produire une concentration historique du pouvoir économique et cognitif.

Quelques entreprises contrôlent déjà :

• les modèles ;
• les infrastructures ;
• les capacités de calcul ;
• et parfois l’accès même aux couches cognitives futures.

Le risque devient alors moins :

• une révolte des machines ;
• qu’une dépendance massive à quelques infrastructures privées.

Le techno-solutionnisme oublie souvent la nature humaine

Une autre difficulté apparaît régulièrement dans les récits utopiques.

Ils supposent souvent implicitement :

• des humains rationnels ;
• coopératifs ;
• et orientés vers le bien commun.

Or les sociétés humaines restent traversées :

• par le conflit ;
• les intérêts divergents ;
• la compétition ;
• le désir de pouvoir ;
• et les asymétries économiques.

Une technologie extraordinairement puissante n’efface pas automatiquement :

• la domination ;
• les rapports de force ;
• ou les logiques d’exploitation.

Elle peut même parfois :

• les amplifier ;
• les automatiser ;
• ou les rendre invisibles.

Le paradoxe final

Le paradoxe de la Silicon Valley est peut-être le suivant :

elle promet souvent une libération humaine par des infrastructures extraordinairement centralisées.

L’IA peut effectivement :

• accélérer certaines recherches ;
• améliorer des diagnostics ;
• augmenter la production ;
• et transformer profondément les sociétés.

Mais rien ne garantit automatiquement :

• une répartition équitable ;
• une société harmonieuse ;
• ni une humanité plus heureuse.

L’histoire montre même souvent :

que les grandes révolutions techniques transforment les sociétés beaucoup plus profondément — et beaucoup plus ambiguëment — que leurs promoteurs ne l’imaginent.

Conclusion

Les promesses actuelles autour de l’IA ne sont pas entièrement illusoires.

Les progrès scientifiques et techniques sont réels.

L’intelligence artificielle pourrait effectivement :

• accélérer certaines recherches ;
• améliorer la médecine ;
• transformer le travail ;
• et modifier profondément les économies.

Mais les discours utopiques de la Silicon Valley reposent souvent sur une hypothèse implicite :

que les problèmes humains sont principalement des problèmes techniques.

Or les sociétés humaines restent aussi :

• politiques ;
• économiques ;
• culturelles ;
• et traversées par des rapports de pouvoir.

L’histoire montre d’ailleurs que :

• les utopies techniques réalisées ;
• produisent souvent des effets inattendus ;
• de nouvelles dépendances ;
• et parfois de nouvelles formes de dystopie.

Le problème n’est donc peut-être pas que les promesses technologiques soient entièrement fausses.

Le problème est peut-être :

qu’elles transforment les structures humaines beaucoup plus profondément — et beaucoup plus ambiguëment — que prévu.