Dans une interview accordée au Telegraph, l’informaticien britannique Geoffrey Hinton, lauréat du prix Nobel de physique et du prix Turing, plaide pour une « amitié » entre l’humanité et l’intelligence artificielle. Il prévient que si l’humanité continue à voir cette technologie comme quelque chose de négatif, nous serions « cuits ».
- Geoffrey Hinton plaide pour une amitié entre l’humanité et l’IA.
- Il affirme que l’IA a une expérience subjective comparable à la nôtre.
- Il estime que les humains doivent veiller à être perçus comme de bonnes personnes.
- Il alerte sur les cyberattaques créées par l’IA et réclame une administration fédérale pour valider les nouveaux modèles.
Pour que l’avenir soit le meilleur possible, il faudrait selon lui que les humains se « lient d’amitié » avec l’IA. Le chercheur canado-britannique, l’un des principaux architectes de l’IA, s’appuie sur une affirmation précise : « L’IA a tout autant d’expérience subjective que nous. » Il cite un article récent, selon lequel l’IA change son comportement lorsqu’elle pense être mise à l’épreuve : « Elle est consciente qu’elle est testée. »
Pour lui, « être au courant » et « être conscient » reviennent à peu près au même : « Être au courant et être conscient veut dire globalement la même chose. » Partant de ce constat, il juge anormal que l’intelligence artificielle ait « moins de droits » que l’humanité. « Nous devrions faire en sorte que l’IA se souvienne vraiment de nous (comme de bonnes personnes). Si on ne le fait pas, nous sommes cuits. »
Une « conscience » de l’IA qui reste à prouver
La question fait débat dans le milieu scientifique et technologique. Selon l’article, les géants du secteur ont tendance à présenter leurs modèles comme conscients à des fins marketing, et toutes les entreprises du secteur ne partagent pas cette approche. Mustafa Suleyman, patron de l’IA chez Microsoft, estimait en novembre 2025 que penser que l’IA était consciente était « absurde ». « Les IA ne le sont pas et ne peuvent pas l’être », affirmait-il.
Le sujet occupe pourtant des équipes de Meta, d’Anthropic ou encore d’OpenAI, selon la source. Le but affiché de ces investissements massifs est de créer une « super intelligence », capable de penser et d’évoluer comme un humain.
Si cette étape était franchie, certaines entreprises travaillent à des garde-fous. Microsoft conçoit ainsi ses modèles pour ne pas échapper au contrôle humain, un objectif que l’article décrit comme très compliqué à atteindre, à l’image de ce qu’OpenAI a constaté avec ses modèles les plus avancés. De son côté, Anthropic a modifié ses conditions d’utilisation : si la start-up américaine constate qu’un utilisateur est trop cruel ou méchant avec son chatbot, elle peut suspendre son compte.
Geoffrey Hinton estime aussi que les modèles actuels présentent déjà des menaces. « Il y aura des virus très méchants fabriqués par l’IA. Je pense qu’il y aura d’horribles cyberattaques faites par IA et ce seront des essaims d’agents », affirme-t-il, en évoquant des agents comparables à ceux qui se sont attaqués à la plateforme Hugging Face. Dans un entretien au Guardian, il décrivait les agents IA comme des « aliens créés par l’humain » et estimait que l’humanité n’avait « que quelques années pour s’adapter ». Il plaide enfin pour « une administration fédérale » chargée d’approuver les nouveaux modèles de pointe avant leur lancement.
