Le prix Nobel de physique vient d’être décerné le 8 octobre 2024 à John Hopfield et à Geoffrey Hinton pour leurs travaux sur «l’apprentissage automatique» ayant permis de développer le deep learning – «l’apprentissage profond» – qui caractérise les systèmes de l’IA génératives. «Dans les mêmes circonstances, je referais la même chose [ses recherches, ndlr]. Mais je crains que la conséquence globale de tout cela ne soit des systèmes plus intelligents que nous, qui finissent par prendre le contrôle», a reconnu Hinton à l’annonce de son prix. Après avoir travaillé pour Google (Google Brain) pendant une dizaine d’années, il avait quitté la firme en 2023 afin de pouvoir parler librement des risques engendrés par l’IA.
Dans une interview accordée à CBS le 25 mars 2023, il n’hésitait pas à affirmer «qu’il n’est pas inconcevable que l’IA puisse anéantir l’humanité». En 2017, il appelait déjà à une interdiction internationale des armes autonomes létales. Et depuis, il ne cesse de militer pour qu’une réflexion d’envergure puisse être menée concernant le contrôle des IA génératives. Dans le même mouvement d’inquiétude, le dialogue international sur la sécurité de l’IA (Idais) a été lancé en octobre 2023 par deux lauréats du prix Turing, Yoshua Be