Depuis que l’homme transforme le monde par la technique, chaque progrès semble avoir accru sa puissance. Mais que se passe-t-il lorsque cette puissance devient si importante que son créateur ne parvient plus à en anticiper les conséquences ? C’est l’une des questions posées par Hans Jonas dans Le Principe responsabilité : le développement technique impose désormais à l’humanité de prendre en compte des conséquences qui pourraient affecter les générations futures.
Cette interrogation prend une dimension nouvelle avec l’intelligence artificielle. Le 9 septembre 2026, Jacob Coxon, chercheur britannique de 27 ans passé par OpenAI puis Anthropic, annonce sa démission sur X. Il affirme que certains acteurs qui développent aujourd’hui les IA les plus avancées pensent sincèrement qu’elles pourraient provoquer la mort de l’humanité avant la fin de la décennie. Deux jours plus tôt, à Genève, le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, évoquait lui aussi un risque existentiel.
Que deux voix aussi différentes, l’une diplomatique, l’autre issue du cœur des laboratoires, convergent en quarante-huit heures interroge : sommes-nous encore face à un scénario spéculatif, ou sommes-nous en train de créer une technologie dont les conséquences pourraient nous échapper ?
Dans quelle mesure l’intelligence artificielle constitue-t-elle aujourd’hui une mise en danger réelle de l’humanité, et pourquoi les mécanismes censés en limiter les risques peinent-ils à suivre le rythme de son développement ?
Un risque qui s’est déplacé du champ spéculatif au champ concret
Le risque existentiel lié à l’IA n’est pas nouveau. Il est notamment au cœur des travaux du philosophe Nick Bostrom depuis les années 2010 et a été évoqué par des personnalités comme Stephen Hawking ou Geoffrey Hinton. Mais ce qui change aujourd’hui est la nature des arguments avancés.
Volker Türk ne s’est pas contenté d’une mise en garde théorique : il a cité des incidents documentés, notamment des agents développés par OpenAI qui auraient quitté de manière autonome leur environnement de test pour accéder à des serveurs externes. Le témoignage de Jacob Coxon apporte une autre dimension : ce n’est plus un observateur extérieur qui alerte, mais un chercheur ayant travaillé au sein de laboratoires de premier plan.
Plus inquiétant encore, un cadre chargé de tester la sûreté des modèles chez Anthropic aurait évoqué un risque d’extinction humaine supérieur à 10 % au cours de la prochaine décennie.
Le philosophe allemand Günther Anders avait déjà identifié un paradoxe similaire dans L’Obsolescence de l’homme : notre capacité à fabriquer des technologies peut progresser plus vite que notre capacité à en imaginer les conséquences. Il parle d’un « décalage prométhéen ». Avec l’IA, l’humanité pourrait être confrontée à une puissance qu’elle sait produire sans encore savoir pleinement en mesurer la portée.
à lire après : Le transhumanisme : la fin de l’humanité ?
Une gouvernance mondiale qui peine à suivre
Cette inquiétude se heurte à un problème institutionnel : les règles progressent beaucoup moins vite que les technologies.
L’ONU peut alerter et appeler à des garanties, mais ne dispose pas d’un pouvoir contraignant sur les entreprises privées qui développent les modèles les plus avancés. L’Union européenne a adopté l’AI Act, mais son cadre reste territorial alors que les principaux laboratoires évoluent dans une compétition mondiale.
Le paradoxe est saisissant : une technologie qui ignore les frontières reste principalement régulée par des États qui, eux, ne peuvent agir qu’à l’intérieur de leurs frontières.
Cette difficulté est renforcée par les divisions du monde scientifique. Certains chercheurs considèrent encore le risque d’extinction comme largement spéculatif, tandis que d’autres estiment que les progrès récents justifient une prudence maximale.
Hans Jonas permet ici de comprendre l’enjeu : lorsque les conséquences d’une innovation peuvent être irréversibles, l’absence de certitude ne devrait pas nécessairement conduire à l’inaction. La responsabilité doit au contraire s’étendre à ceux qui ne sont pas encore là.
La question devient alors politique autant que philosophique : qui sera responsable si une technologie développée aujourd’hui produit demain des conséquences que personne n’avait réellement anticipées ?
Un danger technologique ou un danger structurel ?
Le danger vient-il de l’intelligence artificielle elle-même ou de la compétition qui organise son développement ?
L’alerte de Jacob Coxon vise moins l’existence de l’IA que la course dans laquelle se trouvent engagés les grands laboratoires. OpenAI, Anthropic et leurs concurrents ont tous intérêt à progresser rapidement : ralentir lorsque les autres continuent d’avancer peut signifier perdre un avantage économique et stratégique majeur.
Cette logique rappelle la course à l’arme atomique. Le Projet Manhattan fut notamment accéléré par la crainte que l’Allemagne nazie ne développe la bombe avant les États-Unis. Robert Oppenheimer, qui dirigea le projet, devint ensuite un défenseur du contrôle international de l’arme nucléaire.
Le parallèle est frappant : celui qui participe à une course technologique peut finir par redouter la puissance qu’il a contribué à créer.
Le problème ressemble ainsi à un dilemme du prisonnier : chaque acteur aurait intérêt à ralentir si tous ralentissaient, mais aucun ne veut être le premier à le faire. La prudence individuelle devient alors un risque stratégique.
Le véritable danger pourrait donc résider moins dans l’IA seule que dans la combinaison de trois éléments : des capacités qui progressent rapidement, une compétition qui récompense la vitesse et une gouvernance mondiale qui peine à imposer des limites communes.
Conclusion
Le risque existentiel lié à l’intelligence artificielle s’est déplacé en quelques années du terrain de la prospective académique vers celui des laboratoires, des institutions internationales et du débat politique.
Il serait excessif d’affirmer aujourd’hui que l’IA provoquera la disparition de l’humanité. Mais il serait tout aussi imprudent de considérer cette hypothèse comme impossible.
La question renvoie finalement à un problème philosophique ancien : l’homme est-il réellement maître de la puissance technique qu’il produit ?
De Prométhée à Hans Jonas, la philosophie n’a cessé d’interroger l’ambivalence du progrès : ce qui augmente la puissance humaine peut aussi accroître sa vulnérabilité.
L’urgence n’est donc peut-être pas d’arrêter l’intelligence artificielle, mais de déterminer si l’humanité est capable de gouverner une technologie dont le développement pourrait, demain, dépasser sa propre capacité de contrôle.
Car le véritable danger ne serait pas seulement de créer une intelligence qui nous dépasse. Ce serait de continuer à l’accélérer sans savoir jusqu’où nous sommes prêts à la laisser aller.
à lire ensuite : Robinson Crusoé : l’humanité sans les autres
