Yuval Harari : L'IA, un 'plus-gros expérimental psychologique et social', et un risque de centralisation du pouvoir
Yuval Noah Harari définit l’intelligence artificielle comme « le plus grand expérimentation psychologique et sociale » de l’histoire de l’humanité. Dans une longue interview accordée à Zanny Minton Beddoes, directrice éditoriale de The Economist, l’historien et essayiste a réévalué le sujet qui domine son esprit ces dernières années : le pouvoir croissant de cette technologie et la fenêtre de temps étroite dont dispose l’humanité pour décider de son avenir.
Une décision cruciale avant 2026
Le point de départ a été une comparaison inévitable. Quelques semaines auparavant, Minton Beddoes avait interviewé Elon Musk, qui avait prédit qu’en dix ans l’IA dépasserait largement l’intelligence humaine, générerait une ère d’abondance matérielle et cesserait d’être sous contrôle humain. Harari est d’accord sur deux de ces trois points, mais introduit une nuance distincte. « Nous avons encore le contrôle en 2026, et il est de notre responsabilité de décider ce que nous devons faire maintenant, et c’est crucial », a-t-il affirmé.
Pour Harari, la différence entre ce qui est probable et ce qui est inévitable n’est pas un simple nuance sémantique, mais l’axe de tout le débat. Il a accusé directement ceux qui dirigent la course à l’IA d’utiliser le discours de l’inevitabilité comme une façon d’éviter la responsabilité : « La narration de l’inevitabilité est une narration de non-responsabilité », a-t-il déclaré lors de son interview.
La confiance, un actif plus précieux que l’argent
Une bonne partie de l’avertissement de Harari tourne autour d’un concept qu’il étudie depuis des années : celui de la confiance. Selon lui, « l’actif le plus important au monde » n’est pas le pétrole, ni les puces, ni même l’argent, mais la confiance elle-même, et celle-ci se déplace silencieusement des institutions humaines vers les systèmes algorithmiques.
Il cite l’exemple du système financier. À mesure que les instruments financiers deviennent plus sophistiqués, ils deviennent également plus incompréhensibles pour le cerveau humain, ce qui pousse les sociétés à déléguer des décisions de plus en plus complexes à l’IA. Le résultat, il prévient, pourrait être un monde où même les conseillers les plus qualifiés n’auront pas d’idée de pourquoi un système recommande une action particulière – « l’IA a dit de faire X. Nous n’avons aucune idée de pourquoi l’IA a dit de faire X, mais nous devons y croire ».
Un transfert de confiance et une concentration du pouvoir
Ce transfert de confiance se produit également dans d’autres domaines, comme le souligne Harari, citant l’exemple de personnes qui méfient profondément des journalistes et des rédacteurs humains, mais font confiance sans hésitation à l’algorithme qui curat leur contenu sur les réseaux sociaux. « La confiance ne s’est pas simplement évaporée, elle s’est déplacée des humains vers l’IA », et il souligne qu’il ne s’agit pas d’une prédiction future mais d’un phénomène présent. Il ajoute que l’IA centralisera le pouvoir comme jamais auparavant.