Dans un texte adressé aux Nations unies et publié dimanche sur le site du Future of Life Institute, près d'une centaine d'entrepreneurs du secteur de l'intelligence artificielle s'alarment du retard pris à l'ONU dans les discussions sur les systèmes d'armes létales autonomes, plus communément appelées «robots tueurs». La première réunion du groupe d'experts gouvernementaux censé proposer un cadre réglementaire à leur utilisation devait avoir lieu ce lundi, mais elle a été reportée au mois de novembre. Les signataires demandent aux participants de «redoubler d'efforts» lors de ce prochain rendez-vous.

Car pour eux, il y a urgence : «Une fois développées, ces armes permettront aux conflits armés d'avoir lieu à une échelle plus grande que jamais, et dans un temps trop rapide pour que les humains puissent l'appréhender. Elles peuvent devenir des armes de terreur, des armes que les dictateurs et les terroristes pourront utiliser contre des populations innocentes, et il sera possible de les pirater pour qu'elles se comportent de manière indésirable. Nous n'avons pas beaucoup de temps pour agir. Une fois cette boîte de Pandore ouverte, elle sera difficile à refermer.»

Le Future of Life Institute, créé en 2014 entre autre par le cosmologiste Max Tegmark et le cofondateur de Skype Jaan Tallinn, cherche à prévenir les risques de dérives des technologies considérées comme des «risques existentiels» pour l'humanité (IA, armes nucléaires, biotechnologies, etc.). Conseillé par des personnalités comme Elon Musk ou Stephen Hawking, l'institut s'est fait connaître en janvier 2015 pour une autre lettre ouverte, au sujet des axes de recherche indispensables pour que les progrès de l'IA restent bénéfiques. «Nos systèmes d'IA doivent faire ce que nous voulons qu'ils fassent», expliquaient-ils alors. Cette fois, le cadre est différent. Dans le cas des robots tueurs, le problème vient justement de ce que veulent les concepteurs.